マイクロソフトやNVIDIAといった企業が次世代機械学習アルゴリズムの力に全力で取り組んでいる一方で、一部の規制当局は、既に逼迫している通信ネットワークにそれがどのような影響を与えるかを懸念しています。例えば、米国連邦通信委員会（FCC）の委員長は、「AI」がスパム通話やスパムテキストメッセージの増加にどのような影響を与えるかについて調査を提案しました。FCCは11月に多層的な対策を採択する予定です。
2012年から委員会委員を務め、2021年後半に承認されてからは執行委員を務めているローゼンクワーセル委員長は、新たに強化されたAIツールが高齢者にどのような影響を与えるかを特に懸念している。FCCの最初のプレスリリース（PDFリンク）には、4つの主要な目標が挙げられている。1991年制定の電話消費者保護法に基づき、AI技術が委員会の管轄権に該当するかどうかを判断すること、将来のAI技術が同様の管轄権を持つ可能性がある場合、またその時期はいつかを判断すること、AIが既存の規制枠組みにどのような影響を与えるか、そしてFCCが「信頼できる情報源」からの自動生成AI音声とテキストの真正性を検証する方法を検討すべきかどうかである。
最後の箇条書きに、最も多くの問題が発生する可能性があるように思われます。自動生成テキストや自然な音声アルゴリズムは、電話通話におけるリアルタイムのやり取りに必要な速度には及ばないものの、既にかなり使いやすいツールとなっています。これに、大量の通話やテキストメッセージのために作られたものであろうと、AmazonやMicrosoftのような企業から借りているだけのものであろうと、巨大なデータセンターを組み合わせれば、大惨事を招くことになります。
インドやカンボジアのような詐欺の温床となっている世界中の有人コールセンターを、完全自動化されたAIシステムに置き換えると、詐欺の件数と効果は飛躍的に増加する可能性があります。詐欺は既に年間数千億回も発生しています。フィルターやブロック機能は存在しますが、米国だけでも毎年数十億ドルもの損失が発生していると推定されており、その多くは高齢者を狙ったものです。
FCCの報告書では、AI技術はスパムや詐欺対策にも活用できる可能性があると言及されており、おそらくは、ユーザーがコンピューターと会話していることを警告するリアルタイムスキャンシステムのようなものが用いられるだろう。しかし、その詳細、そしてAIツールがもたらす脅威の潜在的な進化については、11月15日の委員会会合を待つ必要があるだろう。
著者: Michael Crider、PCWorld スタッフライター
マイケルはテクノロジージャーナリズムのベテランとして10年のキャリアを持ち、AppleからZTEまであらゆるテクノロジーをカバーしています。PCWorldではキーボードマニアとして活躍し、常に新しいキーボードをレビューに使用し、仕事以外では新しいメカニカルキーボードを組み立てたり、デスクトップの「バトルステーション」を拡張したりしています。これまでにAndroid Police、Digital Trends、Wired、Lifehacker、How-To Geekなどで記事を執筆し、CESやMobile World Congressなどのイベントをライブで取材してきました。ペンシルベニア州在住のマイケルは、次のカヤック旅行を心待ちにしています。
