マイクロソフトは水曜日、会場に集まった記者らに対し、ビングでは「オルタナティブファクト」が ワシントンポストと同等とみなされるだろうと語った。
もちろん、これはあくまで私の意見です。しかし、これはBingが来週展開する新しいアプローチでもあります。事実だけにとどまらず、意見も重視される素晴らしい新世界へと踏み出すのです。最終的には、Bingは特定の質問に対して、検索結果の一覧だけでなく、問題の双方の立場を反映した回答で回答するようになります。その新しい声の一つが、数百万人の投稿者を擁する人気オンラインコミュニティ、Redditです。
賛成と反対の2つの意見が、どちらにとっても有益なシナリオを想像できるでしょう。例えば、「スター・ウォーズの新作は面白い？」「AndroidとiOS、どちらが優れている？」といった質問です。さらに、コレステロールは体に良いのかといった、より事実に基づいた質問であれば、どちらの側にも有益な議論があるかもしれません。しかし、それ以上先は水が深く暗く、Bingは慎重に行動しなければなりません。
マーク・ハッハマン / IDGマイクロソフトのAI責任者、ハリー・シャム氏が、マイクロソフトとRedditの提携を発表。
オバマはイスラム教徒か？ Bing: 双方の意見を聞いてみよう
マイクロソフトの AI 部門のパートナー デザインおよびプランニング マネージャーであるクリスティーナ ベア氏は、Bing の新しいアプローチを説明する際に、おそらく最も無害な検索クエリを選択しました。「ケールって体にいいの？」「ケールに関するすべてが素晴らしいという幻想にとらわれずに済むようにするためです」と、彼女はその選択を説明されました。
残念ながら、彼女はBingが「神は実在するのか？」といった根源的な難問にどのように対処するかを説明していませんでした（Bingの現在の検索結果では「神は存在する」と表示されています）。今回のケースでは、Microsoft側にはおそらく根拠があるでしょう。無神論者は神の存在を否定し、キリスト教徒は神の存在を確信しています。誰も真に神の存在を知らないため、両方の見解を提示することでMicrosoftは責任を逃れることができるのです。
IDGBingの賛成派と反対派の意見は、今後1週間で公開されますが、今すぐプレビューを見ることができます。反対意見の出所は、ある研究者化学者で、Quoraに回答を投稿したところ、なんと2件もの賛成票を獲得しました。しかし、その答えはサイトを詳しく調べるまでわかりません。
しかし、全能の神の存在を仮定することは、科学と宗教を対立させる聖戦に比べれば、子供の遊びに過ぎません。世界が7日間で創造されたと信じている人はいるでしょうか？気候変動は現実のものではなく、人為的なものでもないと信じている人はいるでしょうか？確かに、何千人（何百万人？）もの原理主義的なキリスト教徒は信じています。しかし、だからといって彼らが間違っているという事実は変わりません。紛れもなく間違っています。絶対に間違っています。しかし、両方の「視点」を提供する検索エンジンの目には、そうは映らないのです。
マイクロソフト社内で AI 製品部門 (Bing や Cortana を含む) を率いるコーポレートバイスプレジデントのジョルディ リバス氏は、この問題は「検索エンジンが今後抱える根本的な問題」だと認めている。
データは非常に明確な場合もある。例えば、ジョージ・ワシントンがいつ生まれたのかを知りたいなら、答えは一つだと、リバス氏はインタビューで述べた。「しかし、他にも様々な視点から考察すべき疑問はたくさんある」と彼は付け加えた。「そして、ある疑問の中には、他の疑問よりも視点を重視した方が良い疑問もある」
「これは挑戦です」とリバス氏は付け加えた。「私たちや競合エンジンが最初に考えたのは、最も関連性の高い答えを見つけることでした。しかし、多くの場合、それは正しいアプローチではないと思います。ですから、私たちが目指しているのは…少なくとも様々な視点を表面化させること、そして、それらが全て信頼できるものである場合に、それらを表面化させることです。」
権威の問題、特にRedditにおいて
「権威がキーワードだが、それを見つけるのは必ずしも簡単ではない」とリバス氏は語った。
Microsoftは権威性を判断するための一定の基準を設けています。例えば、ポップアップ広告だらけのサイトは、Microsoftの検索アルゴリズムによってスパムサイトと判断され、ランキングが下がります。しかし、他の権威あるサイトから参照されているサイトはランキングが上がり、どちらかの立場を支持するサイトとして掲載される可能性が高くなります。
マーク・ハッハマン / IDGReddit の共同設立者である Alexis Ohanian 氏が、Reddit と Microsoft Bing の提携が何を意味するのかを説明します。
「私たちは、Reddit自体の技術の一部と、コミュニティ自身のモデレーションを活用するつもりです」とリバス氏は語った。
一見、一つの計画のように聞こえるが、Redditの現状を考えると、実際にどのように機能するのかは想像しにくい。「インターネットのフロントページ」を自称するRedditは、3億3000万人のアクティブユーザーを誇り、共同創設者のアレクシス・オハニアン氏によると、彼らは毎月合計1070万件の新規投稿を作成し、さらに毎日280万件のコメントが付けられているという。これらのコメントはすべてMicrosoftのBingアルゴリズムに取り込まれ、「トレンド」のコメントがBingユーザーの検索ページの上部に表示されることになる。同様に、Redditによると、Bingユーザーにとって、関連するRedditの会話が最も適切な回答となる質問には、それらの会話がページ上部に表示されるという。
Redditの投稿やコメントには、ユーザーから「upvote（賛成票）」または「downvote（反対票）」が寄せられ、コメントや投稿の相対的な重要度が上がったり下がったりします。しかし、ユーザーはどんな理由であれupvoteやdownvoteをすることができます。返信の内容が真に洞察に富んでいる場合もあれば、話題から外れているけれど面白いものだったり、サイトに数多く存在するミームや内輪ネタの延長だったりする場合もあります。投稿者による返信も、内容の関連性に関わらずupvoteされる傾向があります。また、Redditユーザーが実名で情報を公開することはほとんどないため、誰が特定のテーマの権威であるかを判断するのはさらに困難です。
サブレディットもそれぞれ独自の基準に基づき、独立して管理されています。例えば、「r/science」サブレディットでは、各リンクに引用元を明記し、トピックに沿ったコメントを投稿することが求められています。「r/eyebleach」サブレディットでは、職場で閲覧できない画像は除外し、「幸せそうで、愛らしく、あるいは上品にセクシーな」画像を推奨しています。
言い換えれば、何が人気の投稿やコメントを生み出すのか、そしてその結果、どのような投稿やコメントがBingに送られるのかに、何の根拠も理由もないということです。マイクロソフトのリバス氏は、アップボートが権威性を判断する上で重要な指標の一つになると認めています。おそらく、ユーザーが積極的に情報提供しているのか、それとも単にユーザーを困らせているだけなのかを見分けるのが簡単ではないからでしょう。言い換えれば、マイクロソフトの戦略は、人気と正確性を混同することであり、Bingが事実を提供しているのか、それとも意見を提供しているのかを実際に判断する方法がないようです。
それでも、Redditのオハニアン氏は、生身の人間がコメントやニュースに投票し、拡散しているという事実こそが、FacebookとRedditを区別するものだと考えている。Facebookはアルゴリズム（場合によっては有料プロモーション）を使って投稿を拡散している。「Redditでニュースが広がるには、より多くの人々が『これはOKだ』と言う必要がある」とオハニアン氏はインタビューで語った。
レディットレディットの南アフリカのサブレディットにいたずら好きな投稿者がこの写真を投稿し、「外国人が南アフリカをグーグルで検索したときにこの写真が見える」ようにした。
たとえコメント投稿者が誤った情報を投稿し、コミュニティがそれを宣伝するために誤ってアップボートしたとしても、「Redditのコンテンツ全体から見れば、それほど目立たない」とオハニアン氏は述べた。オハニアン氏によると、Redditには「反悪」チームがあり、オバマ大統領のイスラム教徒としての血統といった虚偽を広めるr/the_donaldのような悪名高いサブレディットと積極的に戦っているという。さらに、オハニアン氏とRedditの広報担当者アリー・マック氏は、質問を適切なサブレディットに絞り込むための一種の編集プロセスが存在すると付け加えた。「どのNFLチームのファンが最も多いか」といった質問は、シアトル・シーホークス専用のサブレディットでは絞り込まれない。
「コミュニティ内のあらゆるもののランキングに影響を与える、ホットさのアルゴリズムについて、私たちは真剣に検討しています。コメントのアルゴリズムにも影響します」とオハニアン氏は述べた。「Redditのスレッド内の会話の質は、インターネット上の他のどの場所と比べてもトップクラスなので、現状は良い状態にあると考えていますが、さらに改善の余地があることは間違いありません。」
アルゴリズムが支配すると、ユーザーは損をする可能性がある
しかし、マイクロソフト側には編集上の監督体制は整っていない。「すべてはアルゴリズムによって制御されています。そうでなければスケールしないからです」とリバス氏はBingの手法について述べた。
ただし、マイクロソフトはフィルターを適用するので、ユーザーがR指定のコンテンツを除外するために「成人向け」フィルターをオンにすると、Bingもそのフィルターを結果に適用するとリバス氏は付け加えた。
テイ.aiマイクロソフトの最大のAI失敗は、人種差別的な憎悪の道具に変貌したチャットボット「Tay.ai」だった。
それでも、たとえマイクロソフトとRedditがコンテンツを監視できたとしても、自動化されたプロセスが悪用されるのを防ぐことはできないだろう。例えば2016年には、マイクロソフトのチャットボットTay.aiは事実上、極右の道具と化すよう洗脳された（後継のZoとXiaoIceは今のところこの罠を回避している）。Redditは、The_Donaldなどの極右サイトの投稿を、より多くの人の目に触れるトップページに押し上げようとするボットやその他のユーザーの大群を阻止するのに苦戦している。
しかし、さらに厄介なのは、Redditの様々なサブレディットが意図的に検索エンジンを操作しようとしてきた歴史だ。「外国人が南アフリカをGoogle検索した時にこの画像が表示されるように、これに賛成票を投じよう」といった投稿は無害かもしれないが、ヒラリー・クリントンの写真と検索語「嘘つき」を結びつけようとするような投稿は、選挙に影響を与える可能性がある。（Bingならこんな投稿をフィルタリングするのではないか？「映画全編」で検索してもYouTubeの海賊版動画が出てくるなら、そうしないかもしれない。）Facebookの「フェイクニュース」が2016年の大統領選挙に影響を与えたと既に非難されていることを考えると、来たる中間選挙でも同じ仕組みがBingに適用される可能性がある。
しかしリバス氏は、過去の過ちを繰り返さないために、マイクロソフト独自のアルゴリズムを信頼する傾向があると述べた。「言論の自由を尊重し、様々な意見を尊重したい一方で、信頼性と権威のある情報源にもっと価値を与えたいとも考えています」と彼は述べた。「そして、それが根本的な課題だと思います。どうやってそれを判断できるのでしょうか？」
一体どうやって？MicrosoftとBingが新しい検索エクスペリエンスを展開する中で、Microsoftはそれを実現できるかもしれない。しかし、「フェイクニュース」によって事実と意見が既に曖昧になっている世界で、私たちは本当に両者を混同する検索エンジンを望むだろうか？
