ChatGPTは10代の自殺後、大人に身分証明書の提示を求める可能性がある

「AI精神病」の症例が増加していることが明らかになっており、ChatGPT大規模言語モデルとの会話後に自殺した人が複数いる。これは実に恐ろしい事態だ。ChatGPTの開発元であるOpenAIの代表者は、この事態を受けて米国議会で証言し、同社はユーザーの年齢を検知する新たな手法を発表した。CEOによると、これにはID認証も含まれる可能性があるという。

ChatGPTには新たな年齢検出システムが実装されており、自動システムが（少なくともシステム自身では）ユーザーが成人であることを確認できない場合、性的なコンテンツをブロックし、「安全確保のために法執行機関が介入する可能性がある」、より制限の厳しい「18歳未満」向けのエクスペリエンスがデフォルトで設定されます。Ars Technicaが発見した別のブログ投稿で、OpenAIのCEOであるサム・アルトマン氏は、一部の国ではシステムがユーザーの年齢確認のためにIDの提示を求める可能性があると述べています。

「これは大人にとってプライバシーの妥協であることは承知していますが、価値のあるトレードオフだと考えています」とアルトマン氏は述べている。ChatGPTの公式ポリシーでは13歳未満のユーザーは利用できないとされているが、OpenAIは13歳から17歳の子供に適した体験を構築していると主張している。

アルトマン氏はプライバシーの問題にも言及した。これは、成人がポルノやその他の物議を醸すコンテンツにアクセスする前にID確認を義務付けている国や州において深刻な懸念事項となっている。「OpenAIの従業員からであっても、ユーザーのデータのプライバシーを確​​保するための高度なセキュリティ機能を開発しています」とアルトマン氏は述べている。しかし、ChatGPTのシステムとOpenAIの裁量により、例外が設けられるようだ。「生命への脅威や他者への危害計画などの重大な悪用の可能性」、あるいは「大規模なサイバーセキュリティインシデントの可能性」は、人間のモデレーターによって確認・審査される可能性がある。

ChatGPTをはじめとする大規模言語モデルサービスが普及するにつれ、その利用はあらゆる角度から精査されるようになりました。「AI精神病」とは、ユーザーがLLMとまるで人間であるかのようにコミュニケーションをとる現象のようです。LLMの設計が一般的に従順なため、ユーザーは妄想と潜在的な危害の繰り返し、脱線するサイクルに陥ります。先月、カリフォルニア州で自殺した16歳の少年の両親が、OpenAIを相手取り不法死亡訴訟を起こしました。少年はChatGPTと会話しており、本物であることが確認された会話ログには、絞首縄の結び方の説明や、自殺の決意を奨励し、支持するような内容が含まれていました。

これは、ChatGPTやCharacter.AIといった「人工知能」製品とのチャットが直接的に原因となったり、悪化させたりしていると思われる、精神疾患や自殺が相次いでいる中での最新の事例に過ぎません。上記のケースの両親とOpenAIの代表者は、今週初めに米国上院で行われたチャットシステムに関する調査で証言しました。また、連邦取引委員会は、AIチャットボットの潜在的な危険性について、OpenAI、Character.AI、Meta、Google、そしてxAI（現在はイーロン・マスク氏が率いるTwitterのXを正式に所有）を調査しています。

1兆米ドル以上が様々なAI産業に投資され、各国がそのパイの一部を確保しようと躍起になる中、LLMシステムの危険性に関する疑問が絶えず浮上しています。しかし、これだけの資金が飛び交う中で、「迅速に行動し、物事を壊す」というアプローチが、これまでのデフォルトの姿勢となってきたようです。安全策は現れつつありますが、ユーザーのプライバシーとのバランスを取るのは容易ではありません。「これらの原則は矛盾しており、その解決方法に誰もが同意するわけではないことを認識しています」とアルトマン氏は記しています。

著者: Michael Crider、PCWorld スタッフライター