マイクロソフトはTayチャットボットについて「深くお詫び」、脆弱性が修正され次第復活させる予定

マイクロソフトの幹部は金曜日、同社のチャットボット「テイ」が今週初めに「意図せずして不快で傷つける」ツイートを投稿したことについて「深くお詫びする」と述べた。

「Tayは現在オフラインであり、当社の理念や価値観に反する悪意のある意図をより正確に予測できると確信できた場合にのみ、Tayを復活させる予定です」と、マイクロソフトリサーチ担当のコーポレートバイスプレジデント、ピーター・リー氏はブログ投稿に記した。 

これはマイクロソフトが以前伝えたメッセージと重なるが、リー氏はTayが何の準備もなくインターネット上に放たれたわけではないことを示そうとした。Tayは、既に中国で4000万人を「喜ばせている」XiaoIceというマイクロソフトの類似チャットボットから派生したものだとリー氏は説明した。

「XiaoIceでの素晴らしい経験から、私たちはこう考えるようになりました。『このようなAIは、全く異なる文化環境でも同じように人々を魅了するだろうか？』と」とリー氏は記している。「アメリカの18歳から24歳を対象にエンターテイメント目的で開発されたチャットボット、Tayは、この疑問に答えるための最初の試みです。」

これがなぜ重要なのか： マイクロソフトが既に4000万人の中国人が礼儀正しく利用しているチャットボットをリリースしたことをリー氏が明らかにしたことで、Tayの失態は西側諸国にとってさらに屈辱的なものとなった。マイクロソフトとリー氏は明らかに恥じているが、彼らが恥じているのは自社の失敗なのか、それともTayのアルゴリズムを悪用したユーザーなのかは判断が難しい。おそらく、ここには何らかの教訓があるのだろう。ソフトウェアがセキュリティ上の脆弱性を考慮して構築されなければならないのと同様に、社会的な構成概念も社会的な脆弱性という観点から考える必要があるのだ。

テイの波乱に満ちた過去

リー氏は、Tayはフィルタリング機能を組み込んで開発され、「多様な」ユーザーグループでテストされたと記している。「Tayとのインタラクションをポジティブな体験にするために、様々な条件下でTayのストレステストを実施しました」とリー氏は述べている。

TayのプラットフォームにはQikとTwitterが含まれていましたが、TwitterはTayの成熟度を測る真の試金石となりました。リー氏は、Tayがオンラインになってから24時間以内に「一部の人々による組織的な攻撃」を受けたと書いています。

「システムの様々な悪用を想定して準備を整えていましたが、今回の攻撃に関しては重大な見落としがありました」とリー氏は述べた。「その結果、Tayは極めて不適切で非難されるべき言葉や画像をツイートしました。この可能性を事前に予見できなかったことについて、私たちは全面的に責任を負います。」

リー氏は攻撃の仕組みについては具体的には語らなかったが、多くの人は、Tayボットに「私の後に続けて言って」と指示することで、Tayは単にフレーズを繰り返すだけでなく「学習」し、自分の語彙に取り入れると考えている。

リー氏は、マイクロソフトはTayを研究活動と捉えており、AIシステムは人間との肯定的なやり取り と否定的なやり取りの両方から利益を得ていると記している。もちろん問題は、マイクロソフトがTayをどのように一般公開するかであり、同じ脆弱性、あるいは別の脆弱性が他者を不快にさせるリスクがある。 

「AIを正しく活用するには、多くの人々と、そして多くの場合は公開フォーラムで繰り返し議論を重ねる必要があります」とリー氏は記している。「一つ一つの議論に細心の注意を払い、最終的には一歩一歩学び、改善していく必要があります。その過程で人々を不快にさせることのないよう、常に心がけなければなりません。」

そして今のところ、マイクロソフトにはすぐに答えられる答えがないようだ。