認知戦の脅威！生成AIとディープフェイクが変える情報戦争の最前線を調べてみた

最近、ニュースやネットで「ディープフェイク」とか「認知戦」っていう言葉、よく聞きませんか？AIがすごいスピードで進化して、便利な世の中になっていくのは嬉しいんですけど、その一方で、なんだかちょっと怖い側面も見えてきた気がします。

特に、本物そっくりの偽動画が作れる「ディープフェイク」の技術は、単なるいたずらレベルを超えて、深刻な問題を引き起こしているみたいなんです。気になったので、この「認知戦」と呼ばれる新しい脅威と、僕たちに何ができるのかを調べてみました。正直、調べていくうちに「ここまで進んでいるのか…」と背筋が寒くなりました。

もはやSFじゃない？「認知戦」という新しい戦い

脳が主戦場になるってどういうこと？

まず「認知戦（Cognitive Warfare）」って何？というところからなんですが、これは人間の脳、つまり「認知領域」を主戦場とする戦いのことらしいです。陸・海・空・宇宙・サイバーに次ぐ「第6の戦場」なんて位置付けもされているそうで、ちょっとSF映画の設定みたいですよね。

具体的には、偽情報やプロパガンダ、心理操作なんかを使って、ターゲットの認識や意思決定を意図的に操作しようとするものです。物理的な攻撃をしなくても、相手を混乱させたり、自分たちに有利な状況を作り出したりできる。それが認知戦の怖いところですね。

生成AIとディープフェイクが火に油を注ぐ

この認知戦を、これまでとは比較にならないほど強力にしているのが、最近話題の「生成AI」と「ディープフェイク」技術です。

ChatGPTのようなテキスト生成AI、Midjourneyのような画像生成AI、そして最近ではOpenAIの「Sora」のように高品質な動画を生成できるAIも登場しています。これらの技術を使えば、専門知識がなくても、誰でも簡単に、しかも大量に説得力のある偽情報が作れてしまうんです。

特に深層学習を使った「ディープフェイク」は厄介です。実在の人物が、実際には言っていないことを言っているように見せる動画や音声。これを見せられたら、何が真実で何が嘘なのか、パッと見では判断できなくなってしまいます。これが認知戦の強力な武器として使われ始めているんですね。

数字で見る衝撃！ディープフェイクのリアルな脅威

「そうは言っても、まだ一部の話でしょ？」なんて思っていたんですが、調べてみると具体的な被害データが出てきて驚きました。

詐欺の試行件数が10倍に急増

本人確認プラットフォームを提供しているSumsubという企業のレポートによると、2023年の全世界でのディープフェイク詐欺の試行件数は、なんと前年比で10倍に増加したそうです。10倍って、尋常じゃない増え方ですよね。特に北米で大幅に増えているみたいですが、日本も対岸の火事ではなさそうです。

たった一度の会議で37億円が消えた事件

個人的に一番衝撃を受けたのが、香港で起きた事件です。2024年の初め頃、ある多国籍企業の財務担当者が、ディープフェイクを使ったビデオ会議に騙されてしまったんです。

その会議には、CFO（最高財務責任者）を含む複数の同僚が出席しているように見えたそうですが、実は全員がAIで作られた偽物。結果として、約2億香港ドル、当時のレートで約37億円もの大金が詐取されてしまいました。ビデオ会議で相手の顔が見えていても信じられないなんて、ビジネスの現場は大混乱ですよね。

選挙もターゲットに。世界中で起きていること

お金だけでなく、政治の世界でも悪用が進んでいます。2024年のアメリカ大統領予備選では、バイデン大統領の声にそっくりなAI音声によるロボコール（自動電話）がかかってきて、有権者に投票に行かないよう呼びかけるという事件がありました。

他にも、日本の岸田首相の偽動画や、ウクライナのゼレンスキー大統領が降伏を呼びかける偽動画など、世界中で政治家や著名人が標的になっています。世界経済フォーラムも「誤情報・偽情報」を最大のリスクの一つに挙げているくらいで、民主主義の根幹を揺るがす事態になっているんですね。

なぜ今、こんなに危険な状態なのか

ここまで脅威が拡大した背景には、いくつかの理由があるようです。

一つは、技術の「民主化」です。昔ならハリウッド映画並みの予算が必要だった合成映像が、今や個人のスマホやPCで簡単に作れてしまう。特に動画生成AIの進化は目覚ましく、肉眼での真偽判定はほぼ不可能なレベルになりつつあります。

もう一つは、SNSの拡散力です。SNSのアルゴリズムは、真実かどうかよりも、感情を刺激するセンセーショナルな情報を拡散しやすい傾向があります。嘘の情報の方が広まりやすい環境ができているわけです。

こうして「何が真実かわからない」状況が続くと、メディアや公的機関に対する信頼も揺らいでしまいます。これが認知戦を仕掛ける側の狙いでもあるんでしょうね。

僕たちにできる対策は？「AIでAIに対抗」の視点も

怖い話ばかりしてしまいましたが、指をくわえて見ているわけにはいきません。僕たち個人や企業ができる対策も調べてみました。

個人の防御：拡散前の「ひと呼吸」が大事

まず個人レベルでできる一番の対策は、新しいメディアリテラシーを身につけることです。特に重要なのが「拡散前のひと呼吸」。感情を揺さぶるような情報を見たときほど、すぐにシェアボタンを押さず、一旦冷静になる習慣をつけることが大切みたいです。

「誰が、何の目的で発信したのか？」を確認し、信頼できる一次ソースにあたる。そして常に「これはAIが作った偽物かもしれない」というクリティカルシンキング（批判的思考）を持つことが、自分を守る盾になります。

企業の防御：多重チェックと最新技術の導入

企業にとっては、37億円の事件のような被害を防ぐため、組織的な防御体制が必要です。従業員教育はもちろんですが、重要な送金や意思決定の際には、ビデオ通話だけでなく、電話で本人確認をするなど、確認プロセスを多重化するルール作りが効果的だそうです。

また、技術的な対策として、コンテンツの来歴（誰がいつ作ったか）を証明する「C2PA」という国際規格や、日本で推進されている「オリジネーター・プロファイル（OP）」といった技術の導入も検討が進んでいるようです。

AIを味方につける考え方

AIは脅威を生む一方で、強力な味方にもなり得ます。Intelの「FakeCatcher」のように、ディープフェイクを検知するツールも開発されています。いたちごっこではありますが、AIでAIに対抗するという視点も重要ですね。

この先どうなる？将来展望

この「認知戦」とAI技術の進化、今後はどうなっていくのでしょうか。僕なりに未来を想像してみました。

「真偽不明」が前提の社会へ

残念ながら、生成AIの技術はさらに進化し、肉眼や耳で本物と偽物を区別することは完全に不可能になるでしょう。そうなると、社会は「目の前の情報は基本的に疑ってかかる」という前提で動かざるを得なくなります。これは人間関係やビジネスにおいて、大きなストレスになるかもしれません。

「信頼の証明」が新たなインフラに

その一方で、C2PAのような「デジタルコンテンツの来歴証明」技術が、インターネットの標準的なインフラになっていくはずです。WebブラウザやSNSアプリに、その情報が検証済みかどうかを一目で示すマークが表示されるようになるでしょう。「誰も信じられない」世界から、「検証されたものだけを信じる」世界へのシフトが進むんじゃないかと思います。

他分野への応用アイデア

今回のリサーチで知った技術や考え方は、他の分野でも応用できそうです。mogucaのカテゴリに関連付けて考えてみました。

【Web制作/ライブ配信】コンテンツの信頼性を可視化するサービス

Webサイト制作やライブ配信の分野で、発信者の信頼性を担保する仕組みがビジネスになるかもしれません。例えば、WordPressのプラグインで簡単にC2PAやオリジネーター・プロファイルに対応できるツールを開発するとか。ライブ配信プラットフォーム側が、配信者の本人確認レベルに応じて「認証バッジ」をリアルタイムで表示する機能なども、視聴者の安心感につながりそうです。

【ガジェット/AI活用】リアルタイム・ファクトチェック・グラス

将来的なガジェットのアイデアとして、スマートグラスに「リアルタイム・ファクトチェック機能」が搭載されたら面白いですね。グラス越しに見ているニュース映像や、目の前の人の発言をAIがリアルタイムで分析して、信憑性のスコアを視界の隅に表示してくれる。そんな「対認知戦用ウェアラブルデバイス」が登場する日も近いかもしれません。

まとめ

今回は、生成AIとディープフェイクによる「認知戦」の脅威について調べてみました。

AIは僕たちの生活を豊かにしてくれる素晴らしい技術ですが、使い方次第でとんでもない凶器にもなるということを改めて痛感しました。37億円の詐欺事件は、決して他人事ではありません。

大切なのは、技術を怖がるだけじゃなく、正しく恐れて、必要な対策を知ることだと思います。僕自身、これからはネットの情報を見るとき、今まで以上に「一旦立ち止まって考える」癖をつけようと強く思いました。皆さんも、ぜひ意識してみてくださいね。