画像: Microsoft Designer
新しいAIシステムには新たなAI脆弱性が伴いますが、先日、重大な脆弱性が発見されました。これは、エージェントがユーザーに代わってウェブサイトとやり取りできるようにするMicrosoftの手法に欠陥があるというものです。
マイクロソフトはこの技術をNLWebと呼んでいます。これはAIエージェント向けのHTMLの一種です。同社は今春のBuildカンファレンスでこれを発表し、その後、Edgeブラウザの実験的なコパイロットモードによってこのビジョンを実現してきました。（マイクロソフトは、この技術にNLWebを使用しているかどうかは明らかにしていません。）
しかし、研究者のアオナン・グアン氏は、NLWeb に脆弱性を発見しました。これは、パス トラバーサル バグであり、これによりリモート ユーザーは不正な URL を介してシステム構成やクラウド認証情報などの機密ファイルを読み取ることができます。
Guan氏はMediumへの投稿で、システムパスワードのリストとGoogle GeminiおよびOpenAIのキーをダウンロードする方法を示しました。これにより、攻撃者はOpenAIから料金を請求されることなく、サーバー依存のAIアプリケーションを「無料で」実行できるようになります。
Guan氏によると、Microsoftのセキュリティレスポンスセンターは6月にGitHubリポジトリにパッチをプッシュし、問題が修正されたことを確認したとのことです。Microsoftは公式のパッチレポートを発行していませんが、ユーザーは何らかの対応をする必要はありません。
AI開発は猛スピードで進んでいると言っても過言ではありません。しかし、Guan氏が指摘するように、AIと会話することと命令を出すことの境界線は曖昧になりがちです。
「NLWebの本質は自然言語を解釈することです」とGuan氏は述べた。「これにより、ユーザー入力とシステムコマンドの境界が曖昧になります。将来の攻撃ベクトルとしては、エージェントによって解析された際に悪意のあるファイルパスやアクションに変換されるような文を作成することが考えられます。」
ChatGPTのやり取りがGoogleの検索結果に漏れているのはすでに確認されています。（ChatGPTは現在、ChatGPTチャットを検出可能にするフラグをオフにしたと報じられています。）Guan氏（およびこの件を報じたThe Verge）が指摘するように、AIエージェントにおけるこのような大規模な漏洩は、関係者全員にとって壊滅的な被害をもたらす可能性があります。
著者: マーク・ハッハマン、PCWorld シニア編集者
マークは過去10年間、PCWorldに寄稿しており、テクノロジー分野で30年の経験があります。PCWorldだけでも3,500本以上の記事を執筆しており、PCマイクロプロセッサ、周辺機器、Microsoft Windowsなど、幅広いトピックを扱っています。PC Magazine、Byte、eWEEK、Popular Science、Electronic Buyers' Newsなどの出版物にも寄稿しており、Electronic Buyers' Newsでは速報ニュースでジェシー・H・ニール賞を受賞しました。最近、オフィスのスペースが足りなくなったため、数十台のThunderboltドックとUSB-Cハブを寄贈しました。
