人工知能（AI）を使って他人の顔を生成し、430万元（約8483万円）をだまし取る事件が中国で発生した。メディアやインターネットでは「AIを使った史上最大の詐欺」と話題となっている。

中国東部・福建省（Fujian）福州市（Fuzhou）の警察によると、福州市のテクノロジー企業経営者の郭（Guo）さんは4月20日、友人から「微信（ウィーチャット、WeChat）」でビデオ通話を受けた。微信は日本でいえばLINEにあたるアプリ。その友人は「入札に参加していて、すぐに銀行に入金しないといけない」と話したため、郭さんは指定された銀行口座にすぐ430万元を入金した。郭さんがその後、友人に「金は振り込んだ」と微信にメッセージを送ると、友人から帰ってきたメッセージは「？」。そこで初めて詐欺に気づいた。通報を受けた警察が銀行口座に残っていた預金を保護したが、100万元（約1973万円）以上は回収されていない。

テレビ電話をする河北省雄安新区に住む夫婦（2022年7月6日撮影、資料写真）。（(c)CNS/韓氷）

警察によると、詐欺師は郭さんの友人の微信アカウントを盗み、アプリの連絡先から郭さんにビデオ通話したとみられる。

しかし、どうやって友人になりすますことまで可能なのか。警察関係者は「微信のモーメンツからアカウント所有者の写真、ビデオ、音声をチェックし、本人の顔や声を特定し、AIで生成した可能性がある。アプリのやりとりの内容から、親しい友人で資金のある郭さんをターゲットにしたのでは」とみる。

インターネット上ではAI顔変換ソフトが499元（約9844円）から2888元（約5万6975円）程度で販売されており、AIで生成した顔は小さな画面では肉眼で見ても違和感はないという。なりすまししたい相手の音声情報が不足している場合、セールスなどのふりをして相手に電話をかけ、声質や口調の情報を手に入れることもできる。

中国ではユーチューバーのようなネット中継や商品のオンライン販売が花盛りだが、有名女優の楊冪（Yang Mi）さんや迪麗熱巴（ディリラバ、Dilraba）さん、アンジェラベイビー（Angelababy）さんなどに顔画像をAIで変換した配信が登場しており、「ユーザーにニセ情報を与えている」「著作権や人格権の侵害だ」と論議を呼んでいる。

SNSのプラットフォームは「AIを使用した画像は、それが分かる表示をすること」「AIを使い他人の著作権などを侵害した場合はアカウントを削除する」などと通知しているが、規制はできていないのが実情。急速なAIの進歩に人間が追いつけていないような状況が続いている。(c)東方新報/AFPBB News

※「東方新報」は、1995年に日本で創刊された中国語の新聞です。