AI偽情報、見破れる？政府の対策とディープフェイク検知の限界

最近、SNSを見ていると、生成AIで作られためちゃくちゃリアルな画像や動画が流れてくることが増えましたよね。「すごい時代になったなぁ」と感心する一方で、「これ、悪用されたら本気でヤバくない？」と不安になることもあります。

実際、ニュースでもディープフェイクを使った詐欺や、選挙に関する偽情報の話題を耳にする機会が増えました。そんな中、日本政府もこの問題を深刻に捉えて、本格的な対策に乗り出しているようです。一体どんな対策が進んでいるのか、そして現在の技術でどこまで偽物を見破れるのか、素人なりに気になったので調べてまとめてみました。

脅威が現実に！38億円の被害と政府の動き

生成AIの進化は素晴らしいですが、その裏でリスクも具体的になってきています。僕が特に衝撃を受けたのは、2024年初頭に香港で起きた事件です。

ある多国籍企業の財務担当者が、Web会議でCFO（最高財務責任者）や同僚たちから送金を指示されたのですが、実はその会議の参加者は全員、ディープフェイクで作られた偽物だったそうです。結果、なんと約38億円（2億香港ドル）もの大金を騙し取られてしまったとか。まるでスパイ映画の世界の話が現実に起きているんですね。

こうした状況を受けて、日本政府も総務省や経済産業省を中心に、本腰を入れて対策を強化しています。日本が主導したG7の枠組み「広島AIプロセス」でも、偽情報対策は主要な柱の一つとして、国際的なルール作りを進めているらしいですね。

「見破る」技術の現在地と、どうしても超えられない壁

偽情報対策と聞いてまず思いつくのが、「AIで作られた偽物をテクノロジーで見破る」ことではないでしょうか。これを「検知技術（Detection）」と呼びます。

仕組みとしては、AIが生成した画像や動画に特有の「不自然さ（アーティファクト）」を分析するようです。例えば、まばたきのパターンが人間と微妙に違ったり、背景の歪みがあったり。面白いところでは、人間の顔は心臓の拍動に合わせてごくわずかに色が変化しているのですが（肉眼では見えません）、ディープフェイク映像にはそれがないため、血流の変化を分析して見破る技術もあるみたいです。Intelの「FakeCatcher」などが有名ですね。

「すごい！これで安心だ」と思いきや、現実はそう甘くないようです。この検知技術には大きな課題があります。それが、生成AIとの「いたちごっこ」です。

特定のデータで学習させた検知ツールは、実験環境では高い精度を出せても、未知の新しい生成AIで作られたディープフェイクに対しては精度がガクッと落ちてしまうことがあるそうです。AIの進化スピードが速すぎて、検知側の対応が追いつかないのが現状なんですね。国立研究開発法人の情報通信研究機構（NICT）なども研究を進めていますが、汎用的な検知は依然として難しいようです。

「本物」を証明する技術へのシフト

「偽物を見破る」だけでは限界がある。そこで今、政府や業界が大きく舵を切っているのが、「何が本物か」を証明する技術の社会実装です。これは「来歴証明」や「真正性証明」と呼ばれます。

要するに、デジタルコンテンツが「いつ、誰によって作られ、どう編集されたか」という履歴を記録し、改ざんされていないことを証明する仕組みです。偽物を追いかけるのではなく、本物に確かな「お墨付き」を与えるアプローチですね。

具体的な動きとしては、AdobeやMicrosoftなどが主導する国際的な技術標準規格「C2PA」があります。Photoshopなどには、すでにこの規格に基づいて制作者情報やAI使用の有無を記録する「コンテンツクレデンシャル機能」が搭載され始めています。

また、日本国内でも、読売新聞や日本テレビなどのメディア企業が中心となって「Originator Profile (OP)」という技術の開発が進んでいます。これは、コンテンツの発信者が誰であるかを検証可能にする、いわば「ネット上の身元証明」のようなものらしいです。政府は今、こちらの「証明する技術」の普及に特に力を入れているようです。

この先どうなる？将来展望

今後、AI偽情報とその対策はどうなっていくのでしょうか。

おそらく、「作るAI」と「見破るAI」のいたちごっこは、セキュリティソフトとウイルスの関係のように、これからも続いていくでしょう。完全に偽物を撲滅するのは難しいかもしれません。

その一方で、「証明されたコンテンツ」がネット上のスタンダードになっていくと考えられます。将来的には、WebブラウザやSNSのアプリで画像や動画を見たときに、「このコンテンツは来歴が確認されています（本物です）」とか、逆に「AIによって生成された可能性があります」といった表示が、当たり前に出るようになるのではないでしょうか。

僕たちユーザー側としても、流れてきた情報をただ鵜呑みにするのではなく、そういった「証明マーク」を確認するデジタルリテラシーが求められる時代になりそうですね。

他分野への応用アイデア

今回調べた「真正性証明」の技術は、AI偽情報対策以外にも色々な分野で応用できそうです。僕なりに考えてみました。

1. Web制作：企業の信頼性を可視化する

企業のWebサイト制作において、信頼性は非常に重要です。例えば、上場企業のIR情報や、メーカーの製品スペック表、公式サイトで発表するプレスリリースなどに、C2PAやOriginator Profileのような技術で「真正性証明」を付与します。

これにより、投資家や顧客は「これは間違いなくこの企業が発信した公式の、改ざんされていない情報だ」と確信を持って閲覧できるようになります。なりすましサイトによる偽情報の拡散を防ぎ、ブランドの信頼を守る強力な武器になるはずです。

2. ライブ配信：配信者の「本人証明」

ライブ配信の分野でも応用が期待できます。リアルタイムの映像であっても、高度なディープフェイク技術を使えば、有名人になりすまして配信を行うことが技術的に可能になりつつあります。

そこで、配信プラットフォーム側が、配信元のカメラ機材やエンコーダーソフトと連携し、「この映像は登録された本人がリアルタイムで撮影・配信しているものです」という電子的な証明をストリーミングデータに埋め込む仕組みが考えられます。視聴者は安心して投げ銭やコメントができるようになり、配信者側もなりすまし被害から身を守ることができます。

まとめ

AIの進化はワクワクする未来を見せてくれますが、同時に「偽情報」という影の部分もしっかり直視して対策していく必要があるんだなと痛感しました。

ディープフェイク検知技術は万能ではなく、「検知率〇〇%」といった数字を過信するのは禁物みたいです。今後は「本物を証明する」技術が普及していく流れなので、僕たちもそういった新しい仕組みを理解して、賢く情報と付き合っていく必要がありそうです。

とりあえず僕は、怪しい儲け話や刺激的すぎるニュースを見かけたら、一度立ち止まって「これ、本物かな？」と疑う癖をつけようと思います。