AIチャットボットは検索エンジンではない。暗号通貨の仲間だ

ここ数ヶ月、AIチャットボットの人気は爆発的に高まっています。OpenAIの革新的なChatGPTの成功がきっかけです。驚くべきことに、ChatGPTは昨年12月頃に登場したばかりでした。しかし、Microsoftは100億ドルという巨額の資金でOpenAIの急成長株に参入する機会を掴み、自社の検索エンジンBingを装い、GPT-4ベースのチャットボットを導入しました。Bingは、Googleの検索における優位性を覆すための強力なツールです。Googleもすぐに自社開発のBard AIで追随し、従来の検索結果よりもAIの回答を優先させる計画を発表しました。これは、インターネット上で最も重要な場所の一つに、全くもって画期的な変化をもたらすものでした。

どちらも実験段階と謳われています。そして、これらの「AIチャットボット」はまさに驚異的な進歩です。私は子供たちと何晩も、Bing ChatのDall-E統合機能を使って夢のような素敵なアート作品を作り、トカゲがすべての魔法の源だと考える魔法使いについて痛烈なラップを繰り広げ、これらの素晴らしいツールによってトカゲが瞬く間に動き出すのを見てきました。本当に大好きです。

しかし、MicrosoftとGoogleのマーケティングは間違っていた。ChatGPT、Bing Chat、Google BardといったAIチャットボットは、検索エンジンと一緒くたにされるべきではないし、ましてや検索エンジンのエンジンとして使われるべきでもない。彼らはむしろ、イーロン・マスクのひどい新しいTwitterのコメント欄を埋め尽くし、真実らしく聞こえる発言を大声で自信満々に叫んでいる暗号通貨愛好家たちのようだ。しかし実際には、全くのデタラメであることが多い。

これらのいわゆる「AIチャットボット」は、ユーザーが質問するあらゆる情報を分析し、面白く、多くの場合正確な詳細情報を提供するという素晴らしい仕事をします。しかし、実際には、数十億、あるいは数兆ものデータポイント（テキスト）でトレーニングされた大規模言語モデル（LLM）であり、ユーザーの質問に基づいて次にどの単語が続くべきかを予測するために学習します。AIチャットボットは全く知的なものではありません。単語の連想パターンを利用して、ユーザーの質問に対してもっともらしい結果を生成し、それらをつなぎ合わせた単語が実際に真実であるかどうかは考慮せずに、断定的に述べます。実際、GoogleのAIはGoogle製品に関する事実さえ正しく理解できません。

この用語を最初に誰が作ったのかは分かりませんが、ミームは正しいです。これらのチャットボットは、本質的にはステロイドを使ったオートコレクト機能であり、関連性がもたらす信頼の暗示にもかかわらず、それらが利用されている検索エンジンのような信頼できる情報源ではありません。

彼らはデタラメを生み出す連中だ。彼らは暗号通貨の仲間だ。

さらに詳しく: ChatGPT vs. Bing vs. Bard: どの AI が最適か?

AIチャットボットはとんでもないことを言う

マーク・ハックマン/IDG

兆候はすぐに現れた。実験的な話ばかりでなく、マイクロソフトとグーグルは両社とも、これらのLLMが時として不正確な結果（AI技術用語で「幻覚」）を生み出すことを強調していた。「BingはAIを搭載しているため、予期せぬ結果や間違いが生じる可能性があります」とマイクロソフトの免責事項には記されている。「必ず事実を確認し、フィードバックを共有していただき、学びと改善に役立ててください！」 ジャーナリストがBardとBing Chatの華やかな発表プレゼンテーションに恥ずかしいほどの不正確な点を発見したことで、この事実は改めて認識された。

世界最大の検索エンジンであるBingとGoogleを使っているなら、こうした虚偽は最悪です。しかし、検索エンジンと大規模言語モデルを混同することは、さらに深刻な意味合いを孕んでいます。これは、ワシントン・ポスト紙が最近報じた記事で、OpenAIのChatGPTが「セクハラスキャンダルを捏造し、実在の法学教授を被告として名指しした」という見出しが的確に要約している通り、より深く心に突き刺さるものです。

まさにその通りです。しかし、この幻覚的な「スキャンダル」が発覚した経緯のせいで、事態はさらに悪化しています。

ブラッド・チャコス/IDG

記事を読んでみてください。素晴らしい内容であると同時に、恐ろしい内容でもあります。要するに、法学教授のジョン・ターリーは、ある弁護士から連絡を受け、ChatGPTを使ってセクハラで有罪判決を受けた法学者のリストを作成するよう依頼されたのです。ターリーの名前はリストに載っており、ワシントン・ポスト紙の記事も引用されていました。しかし、ターリーはセクハラで告発されておらず、そのワシントン・ポスト紙の記事は存在しません。大規模言語モデルがそれを幻覚的に作り出したのでしょう。おそらくターリーがワシントン・ポスト紙などの出版物に法律関連の記者インタビューを提供してきた実績からヒントを得たのでしょう。

「本当にぞっとしました」とターリー氏はワシントン・ポスト紙に語った。「この種の告発は信じられないほど有害です。」

まさにその通りです。そのような疑惑は、誰かのキャリアを台無しにする可能性があります。特に、マイクロソフトのBingチャットAIがターリー氏の名前をニュースで取り上げ、同様の疑惑を次々と吐き出し始めたのですから。「Bingは今、ターリー氏が2018年の修学旅行で学生に性的嫌がらせをしたと訴えていると主張しています」と、ワシントン・ポストのウィル・オレマス氏はツイートしました。「この主張の根拠として、ターリー氏自身のUSA Todayへの寄稿（ChatGPTによる虚偽の主張に関するもの）と、彼の寄稿記事をまとめた他のいくつかの記事を挙げています。」

私なら激怒するだろう。そして、OpenAIとMicrosoftという企業名を冠した中傷的な主張に関与したすべての企業を、猛烈に訴えるだろう。皮肉なことに、ワシントン・ポスト紙の報道とほぼ同時期に、オーストラリアのある市長がまさにそのように警告していた。「オーストラリアの地方市長（ブライアン・フッド氏）は、ChatGPTが贈賄罪で服役したという虚偽の主張をOpenAIが訂正しない場合、OpenAIを訴える可能性があると述べた。これは、自動テキストサービスに対する初の名誉毀損訴訟となるだろう」とロイター通信は報じた。

OpenAIのChatGPTは、こうした訴訟の矢面に立たされている。おそらく、これが「AIチャットボット」の最先端であり、史上最速で導入された技術だからだろう。（中傷的で妄想的な主張を吐き出しても無駄だ。）しかし、MicrosoftとGoogleもチャットボットを検索エンジンと結びつけることで、同じくらいの害を及ぼしている。少なくとも現段階では、彼らの主張はあまりにも不正確だ。

ターリー氏とフッド氏の例は極端かもしれませんが、これらのチャットボットを少しでもいじくり回せば、もっと陰険な不正確さに陥る可能性は否めません。それでもなお、彼らは自信を持ってそう述べています。例えば、Bingは私が娘について尋ねた際に性別を間違えました。また、LinkedInのプロフィールから個人用の履歴書を作成させたところ、多くの部分は正しく表示されましたが、スキルや過去の勤務先については全くの作り話でした。注意深く見ていないと、就職活動に壊滅的な打撃を与える可能性があります。また、バード氏の公開デモンストレーションには、天文学者が即座に見破ったジェイムズ・ウェッブ宇宙望遠鏡に関する明らかな虚偽が含まれていました。これらの検索エンジンに近いツールを研究に使うと、子供の成績が台無しになる可能性があります。

こうなる必要はなかった

Bingチャット / ブラッド・チャコス / IDG

これらのAIツールが時折吐き出す幻覚は、よりクリエイティブな取り組みにおいてはそれほど苦痛ではありません。AIアートジェネレーターは素晴らしいですし、MicrosoftのOffice AI拡張機能（引用した参考資料から完全なPowerPointプレゼンテーションを作成できるなど）は、私のようなデスクワークの人間にとって劇的な改善をもたらしてくれそうです。しかし、これらのタスクには検索エンジンのような厳格な精度は求められません。

こうなる必要はなかった。MicrosoftとGoogleのマーケティングは、大規模な言語モデルを検索エンジンと結びつけて世間の注目を集めたことで、まさに失敗に終わった。このことが、人々の認識に永久に悪影響を与えないことを願う。これらは素晴らしいツールだ。

最後に、スティーブン・シノフスキー氏のツイートを引用してこの記事を締めくくりたいと思います。彼は、ChatGPTの重大な誤りが、不正確に引用された研究者に頭痛の種となっているというコメントに返信していました。シノフスキー氏はかつてMicrosoft OfficeとWindows 7を成功に導いた投資家なので、自分が何を言っているのかよく分かっています。

「もしこれが『検索』や『世界について何でも質問』ではなく、『クリエイティブライター』という名前だったらどうなるか想像してみてください」と彼は言った。「今のところは、これは単なるブランディングの失敗に過ぎません。もしかしたら、10年ほど進歩して、より多くのテクノロジーレイヤーが加われば、検索という名前になるかもしれません。」

しかし今のところ、AIチャットボットは暗号通貨の仲間です。これらの素晴らしいツールが解き放つ可能性を楽しみ、満喫してください。ただし、彼らの情報を鵜呑みにしないでください。それは真実であり、信頼できるものではありません。

編集者注: この記事はもともと 2023 年 4 月 7 日に公開されましたが、Google が AI による回答を検索結果の上位に表示する計画を発表した後、5 月 12 日に更新されました。