想像してみてください。妹から音声メッセージが届きます。彼女は財布をなくしたと言って、請求書を期日までに支払うために現金を送ってほしいと頼んできます。
ソーシャルメディアをスクロールしていると、フォローしている有名人の動画が流れてきました。動画の中で、彼らは最新のプロジェクトへの寄付を募っていました。
肉体的に親密な状況にあるあなた自身のビデオを受け取ります。
ほんの数年前なら、こうした状況は本物だったかもしれません。しかし今では、人工知能のおかげで詐欺師があなたに連絡してくる可能性があり、本物と偽物を見分ける能力がなければ、金銭を要求する脅迫や恐喝の脅迫に簡単に騙されてしまうかもしれません。
2025年に向けて、専門家たちはAIとそのオンラインセキュリティへの影響について警鐘を鳴らしています。AI技術は攻撃のスピードと巧妙さを飛躍的に向上させており、特に有名人や一般人の肖像を使って他人を騙すことがはるかに容易になっています。さらに悪いことに、セキュリティ団体は、この傾向は今後も加速すると予測しています。
さらに読む： 2024年に注意すべきフィッシング詐欺トップ9
ここでは、注意すべき点、状況が変化している理由、そしてさらなる支援が到着するまで自分自身を守る方法について説明します。
AIが人間になりすます方法
ジョン・マーティンデール / IDG
デジタルでのなりすましはかつては困難でした。詐欺師は、たとえそれなりにうまくやり遂げるだけでも、高度なスキルや膨大な計算リソースを必要としたため、このような詐欺に遭遇する可能性は低かったのです。
AIは状況を一変させました。人の書き方、話し方、外見を模倣するモデルが特別に開発され、メールや音声メッセージ、あるいはレンダリングされた外見を通して、あなたや他人を模倣できるようになりました。オンライン詐欺といえば、外国の王子様が金銭を要求する、あるいはリンクをクリックして誤った宛先に届いた荷物を転送するといったイメージを思い浮かべるでしょうが、AIの技術は、多くの人が想像する以上に複雑で洗練されています。
- メッセージ:サンプルを入力すると、AI は書面でのコミュニケーションを模倣した電子メール、テキスト、その他のメッセージを作成できます。
- オーディオ:あなたの声をわずか 3 秒間聞くだけで、AI はあなたの声のようなスピーチや会話を作成できます。
- ビデオ: AI は、ポルノを含むさまざまなシナリオでユーザーを描写できるリアルな画像やビデオを作成できます。
このタイプの模倣はディープフェイクとして知られていますが、この用語は主に動画や画像のバリエーションを指すのに使われます。著名人や人気者がこうした攻撃の被害者になったという話は既に耳にしたことがあるかもしれませんが、現在ではその範囲は拡大しています。
「Elon Musk」の AI ジェネレータ ビデオと暗号化されたビデオ
誰もがターゲットになり得ます。ディープフェイクは、詐欺や不正行為の説得力を格段に高めます。あなたがディープフェイクに遭遇したとしても、あるいは知らず知らずのうちに詐欺に自分の姿を提供してしまったとしても。AIが生成したメッセージ、音声クリップ、画像、動画は、以下のような一般的な手口で利用される可能性があります。
- ソーシャルエンジニアリング
- フィッシング
- 恋愛詐欺や慈善詐欺
- 権威を騙る詐欺（例：IRS、法執行機関、訴訟に関する問題など）
- 偽の販促資料やウェブサイト
- 誤情報キャンペーン（特に政治に関して）
- 金融詐欺
- 恐喝
その結果、オンラインの世界では、見たものを簡単に信じることができなくなり、安全を保つために、情報に基づいてすぐに行動することができなくなりました。
AIによるなりすましから身を守る方法
今後数か月間、サイバーセキュリティの専門家たちは互いに「信頼はもっとゆっくり」というアドバイスを繰り返す。
あるいは、言い換えれば、Gen Digital (Norton、Avast、その他のウイルス対策ソフトウェアの親会社) のサイバー セーフティ CTO、Siggi Stefnission 氏が言うように、遭遇するメッセージやメディアの意図を疑うべきだということです。
これは、画像がフォトショップで加工されているかどうかを気にしていた状態から進化したものと考えてください。今度は、画像が完全に生成されたものかどうか、そして何の目的で生成されたものなのかを自問すべきです。テキストベースのコミュニケーションにも同じことが言えます。ステフニション氏の言葉を借りれば、「無害なものなのか、それとも操作しようとしているのか？」ということです。
マカフィー
しかし、オンライン コンテンツに対して全般的に警戒するだけでなく、詐欺の既存の指標を使用して状況を評価することもできます。
- 時間的プレッシャー:状況に対応する時間は限られていますか?
- 緊急性:明確な時間的プレッシャーがない場合でも、今すぐ行動しなければならないと感じますか? (例: 愛する人に関する緊急事態)
- 信じられないほど良い話です。
- 個人情報の要求:クレジットカード番号、銀行口座情報、社会保障番号などの情報を求められていますか?
- トピックの焦点:相手は、（直接的または間接的な要求を通じて）あなたの財務情報、個人情報、またはその他の機密情報を共有するように誘導し続けますか?
- 通常とは異なる連絡方法:これは、相手方または組織から連絡を受ける通常の方法ですか?
- 不明な連絡先:あなたに連絡してきた個人または組織を知っていますか?
- 感情操作: メッセージやメディアは、恥、興奮、恐怖などの強い感情を利用して、あなたに反応を強要しようとしていますか?
- 通常とは異なる支払い方法:送金に別の方法を使用するように求められたことがありますか?
- 秘密保持:連絡を受けた内容について、誰にも言わないように言われていますか?
結局のところ、信頼する前に確認しましょう。詐欺師があなたの肖像（ましてや他人の肖像）を利用するかどうかは、自分ではコントロールできないかもしれません。しかし、冷静さを保つことで、プレッシャーのかかる状況でも巧みに乗り切ることができるでしょう。
PCワールド
それは具体的にはどのようなものでしょうか？相手ではなく、自分の条件でやり取りを続ける覚悟と決意を持つこと。例えば：
- ストレスや感情が高まったときに、信頼できる人に外部の視点を頼り、物事の見方を変えましょう。
- 通話を終えたら、相手または組織が会話を続けられるように、自分が知っている（または検索した）電話番号に直接電話をかける準備をしておきましょう。相手がわからない場合は、発信者の詳細をメモしておき、別途オンラインで検索することもできます。
- オンラインで検索して、視聴したオーディオ クリップ、画像、またはビデオが正当なものであることを裏付けるレポートが見つかるかどうかを確認します。
- テキスト通信（電話と同様に偽装される可能性があります）から、すでに持っている連絡先情報または自分で取得した連絡先情報を使用して開始する電話通話に切り替えます。
- 自分の肖像が印刷されたポルノ画像に対する脅迫料の支払いを拒否する。
これをうまく行うこともできます。さらに一歩進んで、積極的な対策を講じることもできます。AI電話詐欺の標的となったある家族が経験したように、そうすることでパニックや頭痛の種から逃れられるかもしれません。これは特に、自分の動画、写真、さらには音声クリップを積極的に投稿している場合、あるいは逆に、あなたが頻繁にやり取りしている人が以下のことをしている場合に当てはまります。
- 身元を証明するための特別なパスフレーズまたはコードワードを作成する
- パスキーでアカウントを保護する
- パスキーが利用できない場合は、強力で固有のパスワードと2要素認証を組み合わせて使用する
- 固有のパスワードまたはパスキーを固有のユーザーIDまたはメールマスクと組み合わせる
- PCでセキュリティソフトウェアを実行する
- ビジネスを遂行するために必要最低限の情報のみを提供する
- AIチャットボットと個人情報を共有しない
- どのような話題、原因、人物が感情に流されて理性が無視される可能性があるかを知る
マイクロソフト
これらの推奨手順は、認証（コードワード）を要求し、アカウントへの容易なアクセスに対してより強力な障壁を設け（パスキー、パスワード + 2FA、電子メールマスク）、通信とメディアの評価に外部からの支援を得る（ウイルス対策アプリ）ことにより、なりすまし詐欺に対する防御に役立ちます。
また、Gen DigitalのSteffnission氏が「ハイパーパーソナル」詐欺と呼ぶ、攻撃者がますます大量の漏洩または盗難データを入手し、それをAIに入力して高度にパーソナライズされた詐欺キャンペーンを仕掛けるという状況への備えも万全になります。他人があなたについて持つデータを最小限に抑えることで、あなたをこれほど精密に標的にされる可能性を減らすことができます。たとえそれが失敗したとしても、盲点が何であるかを知っていれば、より簡単に防御することができます。
AIから期待できる今後の支援
AIによるなりすましは、今後1年以降に予想される唯一のオンライン脅威ではありません。AIは組織への攻撃も増加させており、私たち個人では、備えのできていない集団によるデータ漏洩や侵害を防ぐことはできません。
同様に、悪意のある行為者が AI を操作して悪意のある動作（マルウェアの自律的な拡散など）を実行したり、不正なデータを AI に送り込んでセキュリティ防御を弱めたりするかどうかについても、私たちは影響を与えることはできません。
マカフィー
しかし、AIには二つの側面があります。他のツールと同様に、AIは役立つこともあれば、害を及ぼすこともあります。セキュリティソフトウェア開発者も、特に増加する攻撃に対抗するためにAIを活用しています。例えば、ニューラル・プロセッシング・ユニット（NPU）を活用して、消費者が音声ディープフェイクを検出できるようにしています。
一方、企業レベルでは、AIは企業のIT部門やセキュリティ部門が脅威を特定するのを支援するために活用されています（例えば、Gmailアドレスに送信される詐欺メールが年末年始に増加するなど）。消費者は、例えばウイルス対策ソフトウェアによるフィッシング検出の向上といった成果を得られるかもしれません。
こうしたより直接的な対応以外にも、業界幹部は2025年（そしてそれ以降）を見据え、ダークウェブ上に流出した数百万件もの社会保障番号といった問題への取り組みを構想しています。エクスペリアンは2025年のデータ漏洩予測において、運転免許証や社会保障カードといった固定的なIDに代わる動的な個人識別情報の利用を提案しています。（この予測は、データ漏洩に見舞われた企業に被害軽減サービスを提供するエクスペリアン・データ漏洩グループによるものです。）AIは、こうした解決策の一翼を担う可能性が高いでしょう。
しかし、ご覧の通り、こうした支援はまだ初期段階にあります。例えば、音声ディープフェイクの検出はまだ途中段階です。そして、ソフトウェアが全ての作業を行うことは不可能でしょう。常に警戒を怠らないようにする必要があります。特に、善良な人々が悪者とより良く戦うようになるまでの間はなおさらです。
