マイクロソフトは、AIを搭載した新しいBing Chatに問題を抱えています。それは、奇妙で、常軌を逸していて、際どいコンテンツが表示されることです。しかし、Bing Searchでも同様の問題が発生することがあります。そして、マイクロソフトは数年前にセーフサーチで既にこの問題を解決しています。では、なぜAIチャットボットにはセーフサーチを適用できないのでしょうか？
Bing Chatやその他のチャットボットの独創的な要素は、時折奇妙な点もあるものの、明らかに魅力的な特徴の一つです。科学者たちは、チャットボットの応答は、ユーザーの入力に何の意図もなく反応する大規模言語モデル（LLM）に過ぎないと声高に主張しますが、ユーザーはそんなこと気にしません。チューリングテストなんて忘れろ、重要なのはそれが面白いかどうかだけだ、と彼らは言います。
Bingに民族名を尋ねて検索しようとしたところ、人種差別的なスラングが返ってきたという報告を受けて、数時間にわたってユーザーとオンラインで議論しました。これは重要なことですが、以前は同じ質問に対して回答を拒否されたり、一般的な回答しか返ってこなかったものです。これは、ニューヨーク・タイムズの記者との長々とした（奇妙な）会話や、他の初期テスターが経験した奇妙なやり取りとは違います。不快なことと、単に奇妙であることの間には違いがあります。
これを抑制するため、マイクロソフトは2つの対策を講じました。Bing Chatの創造性を抑制し、会話に制限を設けたのです。そして、最初の制限を「クリエイティブ」「バランス」「正確」の3つの選択肢に進化させました。3つ目の選択肢を選択すると、検索エンジンのような結果が表示されます。1つ目の選択肢を選択すると、Bingは「シドニー」というペルソナで初めて発揮した創造性を垣間見せ、一部のユーザーが活用したようです。
Microsoftの反射的な対応で私が本当に問題視しているのは、Bingの会話の限界です。事実を検索する会話であれば、Bingの現在の限界である6つ（あるいは8つ）のクエリで完結できるかもしれません。しかし、どんな創造的な応答も、長いやり取りから生まれる恩恵を受けます。ChatGPTで人々が楽しむゲームの一つは、自分で冒険を選ぶタイプの会話や、ダンジョンズ＆ドラゴンズのような体験を模倣した、より奥深いロールプレイングです。6つのクエリでは、冒険が始まるのがやっとです。
Bing チャットの AI がホークマン対キャプテン・アメリカについて意見を述べています。
マーク・ハッハマン / IDG
しかし、検索エンジンは既にこの問題を解決しています。GoogleとBingはどちらも、不適切なコンテンツをすべて、一部、あるいは全くブロックしないコンテンツフィルターを実装しています。（ここで言う「不適切な」とは、通常、成人向けのテキストや画像を指しますが、暴力や露骨な表現も含まれる場合があります。）簡単に言うと、セーフサーチは常に「中程度」のレベルで提供されていますが、「強」から「オフ」に切り替えるオプションがあります。そうすると、その選択による結果について、簡単な説明や警告が表示されます。
Microsoft は、Bing Searchに適用されている SafeSearch フィルターのようなものをBing Chatに実装し、会話の制限も解除できるようです (ただし、大規模な言語モデルに SafeSearch を適用するのは、検索結果をサニタイズするよりも難しい可能性があります)。
マイクロソフトは、Bing ChatをTayチャットボットのクローンにしたくないだろうと推測するのは妥当でしょう。Tayは右翼の荒らしによってプロパガンダと憎悪の温床と化しました。もしマイクロソフトがそのような事態を防ぐためのガードレールを未だに設置できないのであれば、仕方ありません。Bing検索も反ユダヤ主義的な検索結果で問題を抱えており、Bing Chatで「ハイル・ヒトラー」と言わせるよう誘導したという報道もありました。
しかし、記者への愛を告白するチャットボットは、特にユーザーが明示的にオプトインした場合は、より受け入れられる可能性もあると言えるでしょう。Bingは既に「BingはAIを搭載しているため、予期せぬ出来事や間違いが起こる可能性があります」と述べ、「事実関係を必ずご確認ください」と警告しています。ユーザーが成人であり、奇妙なコンテンツや露骨なコンテンツにオプトインできる場合、Bing、Google、その他の検索エンジンは、その選択を認め、尊重しています。
Bing Chat、Google Bard、ChatGPTは依然として制限を課す可能性があります。社会は、チャットボットを使って人種差別、憎悪、虐待が蔓延する小さな世界を人々が作り上げることを望んでいません。しかし、私たちは選択肢と斬新さの両方を重視する世界に生きています。私が育った世界では、映画はテレビ放送で放送されることはほとんどなく、一時停止や巻き戻し機能もずっと後になってから実現しました。今では、既存のテレビ番組のほとんどをオンデマンドでストリーミングできます。しかも、「エンターテイメント」の限界は、Bingがこれまで提供してきたものをはるかに超えています。
確かに、人間の心は恐ろしい汚物を想像することができます。しかし、マイクロソフトは、ユーザーがこうしたトピックを検索できるようにし、そして拒否するものをフィルタリングするのであれば、同じガイドラインをBing Chatにも適用すべきだと認識すべきです。
著者: マーク・ハッハマン、PCWorld シニア編集者
マークは過去10年間、PCWorldに寄稿しており、テクノロジー分野で30年の経験があります。PCWorldだけでも3,500本以上の記事を執筆しており、PCマイクロプロセッサ、周辺機器、Microsoft Windowsなど、幅広いトピックを扱っています。PC Magazine、Byte、eWEEK、Popular Science、Electronic Buyers' Newsなどの出版物にも寄稿しており、Electronic Buyers' Newsでは速報ニュースでジェシー・H・ニール賞を受賞しました。最近、オフィスのスペースが足りなくなったため、数十台のThunderboltドックとUSB-Cハブを寄贈しました。
