精巧な画像や動画をつくれる生成AIの普及が偽情報の氾濫を助長しています。米インテルなどがAI製であることを見抜く技術開発に力を入れる一方、検出を回避する手法も次々と生まれます。イスラエルなどでは偽情報で世論誘導を狙う動きが広がり、国際社会は警戒感を強めています。
2022年に、生成AIが話題になり始めた当初、AIが描く画像には人物の指の形が不自然といった一目で分かる違和感が残るケースがありました。その後の急速な技術の進歩によって、目視でAI製を判別するのは難しくなりつつあります。
見た目には表れない生体情報も、真偽を判定する手掛かりになります。インテルが2022年に開発した技術は、動画の中の人物の血流に着目しています。静脈付近の皮膚の色の変化から脈動を読み取り、ディープフェイクを見抜きます。生成物にAI製であることが分かるラベルを加える手法の開発も進んでいます。米メタは、AIで生成する段階で画像に目に見えない信号を埋め込む技術を公表しています。
生成AIの倫理的で安全な使用を促すには、国際的な協調が欠かせません。G7は、高度なAIを開発する企業などに対する指針を定めるとともに、具体的な行動規範をまとめることを目指しています。しかし、罰則規定などを伴う規制づくりの方向性は、国・地域によって大きく異なります。欧州連合（EU）がAI開発企業に厳格な情報開示を求める法律を作ろうとしているのに対し、米国や日本は開発企業の自主的な規律に委ねる道を模索しています。
（2023年10月24日 日本経済新聞）
（吉村 やすのり）
