10月7日にハマスがイスラエルを奇襲して以来、包囲されたガザ地区で暮らすイスラエル人とパレスチナ人の身にふりかかる災難や惨状をとらえた画像を目にしない日はない。すでにインターネット上では誤情報や過去の戦争を再利用した映像、現地の実情とは矛盾する情報が大量に出回り、選別するのもままならない――さらに人工知能の技術の登場で、問題はより一層複雑化している。【動画を見る】環境活動家グレタ・トゥンベリさんがミサイル使用を呼びかけるフェイク動画ソーシャルメディアは現在進行中の戦争がらみのAI生成画像や動画であふれ返っている。こうした大量のコンテンツには、扇動的なプロパガンダ目的で素人が作ったもの、ユダヤ人を標的にしたヘイトミーム、大衆を欺くために故意に加工されたものなどがある。
「選別されていない情報源からの情報を人々が鵜呑みにし続けています。これほどまでに（AIは）従来の問題を悪化させています」。AI安全センターの研究員を務める香港大学のナサニエル・シャラディン教授は、ローリングストーン誌の取材でこう語った。「信憑性の高い偽コンテンツの生成が以前より容易になったことで、より高品質のフェイク画像・音声・動画の数が増え、目にする機会もずっと増えるでしょう。その結果どうなるのかはわかりません」と教授は続け、野放し同然の状態でAIツールが出てきた状態を「自らを実験台にした自己実験」とたとえた。
そうした実験はすでに現実で起きている。AI生成メディアで拡散された誤情報の中でもっともよく知られているのが、アメリカのジョー・バイデン大統領が徴兵義務の対象を女性に拡大するというものだ。もともとは今年2月にディープフェイクで作成された動画だが、イスラエルとハマスの戦争を背景に再び表に出てきた。ディープフェイク動画では偽バイデンが徴兵義務の再開を宣言し、「忘れないでください、大事な息子や娘を戦争に送り出すわけではありません。自由に送り出すのです」と発言している。
動画の他にも、女性徴兵という根も葉もない噂が拡散し、TikTokでは女性たちが兵役した場合の様子を想像する風刺動画を投稿した。数千件にも上るこうした動画に#WomenDraftといったハッシュタグがつけられ、数百万回も閲覧されたケースも多い。
AIが生成したディープフェイク動画のもうひとつの例は、環境活動家グレタ・トゥンベリさんが持続可能な軍事技術と「生分解するミサイル」の使用を呼びかけるという動画だ。ピザゲートで知られる陰謀論者ジャック・ポソビエク氏などの著名人がシェアしたこの動画は、Twitterで数百万件のインプレッションを獲得した。小さな透かしから、デジタル加工された「風刺」動画であることが伺えるものの、コメントを寄せた大勢のユーザーは本気にし、現実か判断がつきかねているユーザーもいた。
