Ars Technicaは、Nepenthesというソフトウェアの匿名の開発者に話を聞いた。Nepenthesは、彼自身も攻撃的で悪意のあるソフトウェアだと認めている。食虫植物のウツボカズラにちなんで名付けられたこのツールは、AIスクレーパーにウェブサイト内の別のリンクへと誘導するリンクを狙わせる。無駄なリンクの循環的なパターンが繰り返され、ボットは同じ無価値なデータを何度も追いかけ続けるため、停止させるには人間の介入が必要となる。
設計者によると、このパターンは発見されなければ「数ヶ月」も繰り返される可能性があり、AI企業の膨大なリソースを無駄にする可能性があるとのことです。そして公平を期すために言うと、クロール対象のウェブサイトをホストしているサービスのリソースも無駄にしてしまうことになります。設計者によると、ほぼすべてのAIクローラーが彼の意図的な「タールピット」の罠に陥っているとのことですが、注目すべき例外が一つあります。ChatGPTの開発元であるOpenAIです。
匿名の設計者は、このツールでAI企業とモデルの両方に損害を与える意図を隠そうとはしていない（おそらくこれがArsが実名を公表しなかった理由だろう）。また、Nepenthesツールは実装者に実質的な利益をもたらさないとも述べている。しかし、AIスクレイパーを無限ループに陥らせるだけでなく、AIモデルに「毒」を注入して結果を大幅に悪化させるという無駄なデータを与えることもできる。
「警告」とNepenthesのダウンロードサイトには大文字で書かれています。「これは有害な活動を引き起こすことを意図した悪意のあるソフトウェアです。操作に十分ご納得いただけない場合は、インストールしないでください。」
Nepenthesがソーシャルメディアで初めて注目を集めた後、同じ原理に基づいたIocaineと呼ばれる類似ツールが少なくとも1つ登場しました。Quixotic（意図的に偽のコンテンツを提供する）やPoison the WeLLMs（既知のAIボットによるサイトスクレイピングを検知すると意味不明な情報を返すリバースプロキシシステム）など、こうしたツールは増え続けています。
Ars Technicaの記事全文は技術的な詳細を知る価値があるが、私はむしろその動機に興味がある。デザイナーは、ウェブがAI生成コンテンツで溢れかえりつつある現状への不満からこのツールを作ったと語っている。そして、そのコンテンツ自体が、他のAI生成コンテンツから再利用されていることも少なくない。「もううんざりだ。だから、どうだ？たとえ成功しなくても、反撃しよう。消化不良に陥らないように、スパイクを成長させよう」と彼は言う。
この点において、Nepenthesの作者だけが孤立しているわけではない。Facebookユーザーは、プラットフォーム全体が自動生成された「AIのゴミ」で溢れていると不満を漏らしている一方で、Facebook自身もAIコンテンツに傾倒しているようだ。Google検索はAIとターゲティング広告で溢れかえっており、新たに導入された簡素化された「Webビュー」は一夜にして人気を博した。AIの組み込みは、誰も実際に求めていないにもかかわらず、製品に無理やり組み込まれることが多く、「エンシッティ化」と呼ばれるより広範なトレンドの一部である。これは、サービスの質が低下し、利便性が低下する一方で、料金が上昇する現象である。
OpenAIが、ChatGPTのコストのほんの一部で訓練されたとされる中国のAIモデルDeepSeekを自社の独自技術を盗んだと非難したというニュースに、ウェブユーザーが少しばかりの喜びを感じたとしても、それは許されるかもしれない。ChatGPTさん、AIが生成した小さなバイオリンで悲しい歌を弾いてください。
著者: Michael Crider、PCWorld スタッフライター
マイケルはテクノロジージャーナリズムのベテランとして10年のキャリアを持ち、AppleからZTEまであらゆるテクノロジーをカバーしています。PCWorldではキーボードマニアとして活躍し、常に新しいキーボードをレビューに使用し、仕事以外では新しいメカニカルキーボードを組み立てたり、デスクトップの「バトルステーション」を拡張したりしています。これまでにAndroid Police、Digital Trends、Wired、Lifehacker、How-To Geekなどで記事を執筆し、CESやMobile World Congressなどのイベントをライブで取材してきました。ペンシルベニア州在住のマイケルは、次のカヤック旅行を心待ちにしています。
