Google、Meta、Microsoft、OpenAIなどがAIの安全対策に合意

ホワイトハウスは金曜日、AIを開発する米国の大手企業数社が米国政府と協力し、AIに対する国民の信頼を確保するためいくつかの原則を遵守することに合意したと発表した。

Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAIは、AIを安全、安心、そして信頼できるものにするためのコミットメントに署名しました。5月、バイデン政権は主要なAI開発者と会合を開き、米国の政策との整合性を確認すると述べていました。

これらのコミットメントは拘束力がなく、遵守しなかった場合の罰則もありません。また、これらのポリシーは、既に導入されているAIシステムに遡及的に影響を及ぼすことはありません。条項の一つには、企業がAIをリリースする前に、社内外でセキュリティ上の脆弱性がないかテストすることを約束することが定められています。

それでも、新たなコミットメントは、AIが責任ある形で活用可能であることを国民（そしてある程度は議員）に安心させることを目的としている。バイデン政権は既に、政府内での業務効率化のためにAIを活用することを提案していた。

おそらく最も直接的な影響はAIアートに現れるでしょう。なぜなら、全ての関係者が、アート作品がAIによって生成されたものであることを示すデジタル透かしの導入に合意したからです。BingのImage Creatorなど、一部のサービスでは既にこの技術が採用されています。署名企業は全て、がん研究などの公共の利益のためにAIを活用すること、そして適切な利用分野と不適切な利用分野の特定にも尽力することを約束しました。具体的な内容は明確にされていませんが、例えばChatGPTがテロ攻撃の計画に利用されるのを防ぐための既存の安全対策が含まれる可能性があります。AI企業はまた、データプライバシーの保護についても誓約しました。これは、マイクロソフトがBing ChatとMicrosoft 365 Copilotのエンタープライズ版で重視している優先事項です。

各社は、AIシステムのリリース前に社内および社外でのセキュリティテストを実施し、AIリスク管理に関する情報を産業界、政府、一般市民、学界と共有することを約束しました。また、第三者研究者が脆弱性を発見・報告できるようアクセスを許可することも約束しました。

マイクロソフト社長のブラッド・スミス氏は、新たな取り組みを支持し、マイクロソフトは高リスクAIシステムの国家登録簿の設立を提唱してきたと述べた（カリフォルニア州のある下院議員は、AIを監督する連邦機関の設置を求めている）。また、グーグルは、プロンプト攻撃やデータ汚染などの攻撃を用いてAIを破ろうとするハッカー集団「レッドチーム」の存在を明らかにした。

OpenAIは声明で、「安全で有益なAGIを構築するという使命の一環として、私たちが開発しているような高度な機能を持つ基盤モデルに特化した具体的なガバナンス慣行の試験運用と改良を継続していきます」と述べています。「また、AIモデルの潜在的に危険な機能を評価する技術など、規制の策定に役立つ分野の研究にも引き続き投資していきます。」

著者: マーク・ハッハマン、PCWorld シニア編集者