科学技術

【25-019】AIによる「顔交換」詐欺に対抗する鑑定技術

洪恒飛、江　耘（科技日報記者）　2025年02月26日

　現在、生成AI（AIGC）を利用した偽造技術による特殊詐欺が高度化し続けている。影響範囲が拡大し、手口が多様化し、手法が巧妙化しているという特徴があり、社会の安全が脅かされている。研究者は今、AIを悪用した行為を見抜き、詐欺を阻止するために、より先進的なAIツールや技術の開発に取り組んでいる。

「従来のPhotoshopなどによる画像改ざんの検出や、現在のAIGCによる偽造の検出も、いずれもAIを用いた受動的な偽造検出方法に属する」。第13回中国イノベーション・起業コンテストイノベーションチャレンジ（浙江）および2024年浙江省技術ニーズ「揭榜挂帥（イノベーションプロジェクトのリーダーの年齢・職位にとらわれない自薦による公募）」コンテストの決勝戦で、杭州電子科技大学サイバーセキュリティ学院副教授で浙江－フランスデジタルメディアフォレンジック共同実験室の責任者である喬通氏は、自身のチームが研究開発した「特殊詐欺対策向けの音声・映像鑑定追跡技術」を紹介した。この技術は、受動的検出から能動的防御へと進化しており、AI鑑定に新たなアプローチを提供している。

特殊なウォーターマークで「事前防御」を実現

　ネット上で「AI顔交換（フェイススワップ）」と検索すると、関連するアプリや映像・画像作品が数多く見つかる。同時に、ディープフェイク技術による顔の偽造がもたらす安全上の脅威も明らかになってきている。

　香港特別行政区警察は以前、ディープフェイク技術を使って、某多国籍企業のソーシャルメディア情報をもとに、複数の幹部の顔や声を偽造するというフェイススワップ詐欺が発生したことを公表した。詐欺グループは、ビデオ会議で幹部になりすまし、会計担当者に香港支社の資金を他の口座に送金するよう指示した。その被害額は2億香港ドル（1香港ドル＝約19円）に達した。

　これまでのフェイススワップの偽造対策は、事後検出という受動的な検出・証拠収集方法が用いられてきた。しかし、このような方法では、偽造された顔画像の拡散を迅速かつ効果的に抑えることが難しい。一方、能動的な防御方法は、事前防御という特性から、ますます多くの研究者の関心を集めている。

　しかし、現在では、大半の能動的防御の方法は、単一または特定の数種類の偽造モデルに対してのみ有効であり、日々多様化し、高度化する顔偽造技術への対応には限界がある。

　そこで、喬氏のチームは、拡張可能なユニバーサル敵対的（SUA）ウォーターマークを開発した。これを保護する必要のある映像や画像、音声などに埋め込んでおくことで、AIによる加工が行われた際に、SUAウォーターマークの「起爆装置」が作動し、生成されたコンテンツが自動で破壊されるようになっている。

　この技術アプローチは以前から存在していたが、その適用には大きな制約があった。喬氏によると、これまで、一つのウォーターマークは単一の偽造モデルにしか対応できず、一つの素材に複数のウォーターマークを埋め込まなければ効果を発揮しない可能性があった。それに対し、SUAウォーターマークは、全ての偽造モデルごとにトレーニングし直す必要はない。大量の実験結果から、SUAウォーターマークは、計算コストを抑えるだけでなく、能動的防御の範囲を効果的に拡大し、防御効果を大きく高め、鑑定効率を大幅に高めることが証明されている。

優れた洞察力による顔認識

　2024年9月、杭州市公安局は、AI技術を悪用した個人情報侵害事件が発生したことを公表した。犯人はフェイススワップの大規模AIモデルを使い、大手プラットフォーマーの顔認識システムを突破し、ユーザーの個人情報を盗み出していた。

　銀行などのアプリにログインする際、顔を上下左右に動かしたり、まばたきをするよう求められるのは、顔の生体認証を行うためだ。しかし喬氏によると、犯人はブラック産業チェーンを通じて、ターゲットの顔写真や音声を入手し、マルチモーダルなメディアコンテンツを偽造した後、詐欺を実行するという。

　プラットフォームの安全性を確保するために、喬氏は「顔認証を行う前に、もう一つの見えない検証プロセスを追加すべきだ」と提案する。現在、市場で主流となっているAI偽造ツールに対応するために、喬氏のチームが開発したAI鑑定システムなら、AI生成の画像や動画を瞬時に識別し、対応する分析レポートを提供することが可能であり、その識別精度は95％以上に達している。

　喬氏は「大手銀行と比べると、地方の中小銀行は偽造防止対策への投資が不十分だ。チームは現在、地方の公安局や小規模金融機関と連携し、生体認証段階で関連するプラットフォームに優れた洞察力を備えたシステムを導入し、画面の向こう側にいるのが『人間なのかどうか』を判定して詐欺を見極めるカスタマイズ技術を開発している」と説明した。

　そして「AI鑑定とディープフェイクはいたちごっこのような状態だ。さらに多くの機関や企業が参加し、AI鑑定技術のブレークスルーを果たし、その応用を推進して、AI時代におけるサイバーセキュリティのファイアウォールを共に築き上げなければならない。われわれのチームは現在、企業と積極的に連携し、商業化モデルを模索している。AIのセキュリティ基盤をしっかりと築き、より柔軟な詐欺対策を講じる必要がある」と語った。

※本稿は、科技日報「AI鉴伪技术开始反制AI"换脸"诈骗」（2025年1月27日付6面）を科技日報の許諾を得て日本語訳／転載したものである。