FTCは誤解を招く「AI」製品の宣伝や詐欺を摘発中

「AI」という言葉は今や避けられない存在となり、あらゆる市場のあらゆる側面に浸透しています。それが実際に意味を持つかどうかはさておき。そして、米国連邦取引委員会（FTC）も、他の企業と同様に、こうしたAI関連のブランド化にうんざりしているようです。

「Operation AI Comply」と名付けられた最近の規制強化により、FTCは、少なくとも3件の詐欺とされるものを含む、注目度の高いAI実装の一部を取り締まるようになりました。

先週のプレスリリースでは、FTCが新たに5件の訴訟を提起していることが詳述されており、特にAI関連の主張を事業に散りばめている企業を対象としている。2021年の就任以来、特に積極的な姿勢を見せているリナ・M・カーン委員長の発言が引用されている。

AIツールを用いて人々を騙したり、誤解させたり、詐欺行為を働いたりすることは違法です。FTCの執行措置は、AIが現行法の適用除外とならないことを明確に示しています。FTCは、これらの市場における不公正または欺瞞的な行為を取り締まることで、誠実な企業やイノベーターが公平な機会を得られるよう努め、消費者を保護しています。

プレスリリースによると、1社はすでに和解しているが、他の4社は引き続き調査中である。

• DoNotPay：米国で駐車違反切符やその他の罰金の異議申し立てを半自動で行う支援サービスを提供する有名企業。FTC（連邦取引委員会）は、同社の最新製品を「世界初のロボット弁護士」と称し、その機能を誇張しすぎていると批判している。DoNotPayは既に19万3000ドルの罰金を支払っており、影響を受けた顧客に通知することに同意している。
• Rytr：レビューや推薦文の作成に特化したAIによるテキスト生成サービスを提供していた企業。FTCは、このサービスが、実際の人間の入力とは一致しない製品に関する数千件もの「レビュー」を生成するために利用されたと主張している。
• Ecommerce Empire Builders、Ascend Ecom、FBA Machine:これら 3 つの企業はすべて、初期投資に対して法外な利益を約束して消費者に自社のプログラムを購入させるための口実として、さまざまな受動的収入創出スキームを運営していました。

最後の3つは、AIとはあまり関係がないと言えるでしょう。「不労所得」という夢は、 2007年に『週4時間労働』が出版されて以来、オンラインで頻繁に話題になっています。そして、これら3つは、この考え方が「コース」や既成のオンラインストアの販売促進に応用されている例です。（もし誰かがあなたに金儲けの方法を売り込んできたら、なぜその方法をもっと稼ごうとしないのか、そしてなぜその秘密を明かそうとするのか、自問自答してみてください。）

しかし、これら3社は、使い古された売り文句に新しいAI生成ツールの謳い文句を散りばめ、よりトレンディで説得力のあるものに見せかけました。3社とも、オンラインストアの「トレーニング」と導入費用として、顧客に数千ドル、あるいは数万ドルを請求しました。しかも、莫大で終わりのない利益を生み出すためにほとんど労力はかからないと謳っていました。これらのサービスはすべて、さらなる調査と法的措置を待つ間、連邦裁判所によって差し止められています。

このニュースは、AI生成の製品レビューと偽のソーシャルメディア影響力を違法化する動きに続くものです。FTC（連邦取引委員会）は、大規模言語モデルがアメリカの消費者と企業に及ぼしている影響に断固として反対しています。委員会はこれらの措置すべてについて全会一致ではありませんが、ほぼ一致しています。共和党が任命した2人の委員は、Rytr事件についてのみ反対票を投じましたが、他の4つの事件はすべて5対0の賛成多数でした。

誤解のないよう明確に述べれば、FTCはAIの使用自体を禁止しているわけではありません。むしろ、AI関連の主張を誤解を招く形で製品に利用し、商品を美化することを禁止しているのです。最新技術への対応に苦慮する規制当局としては、驚くほど迅速な対応と言えるでしょう。しかし、AI技術の普及に伴い、AI詐欺やその他の不正行為が急増しており、それに対抗するには相当の努力が必要になるでしょう。

著者: Michael Crider、PCWorld スタッフライター