殺された我が子がディープフェイク動画で語り出す 過激化する実録犯罪コンテンツ 米

虐待された子どもの画像をもとに、AIが作成した動画がTikTokで話題沸騰中(実在の人物に類似していても、あくまでも偶然です)@TOUCHINGSTORY4U/TIKTOK

「生後21カ月のとき、おばあちゃんから230度のオーブンの中に閉じ込められた」。花柄のヘッドバンドをした大きな青い瞳のぽっちゃりした赤ちゃんが、TikTokの動画でこう語る。

悲しげなディラン・マシューの「Love Is Gone」のメロディをバックに、愛くるしい子どもらしい声で語る赤ちゃんは、ロディ・メアリー・フロイドと名乗った。ミシシッピー州で母親と祖母の3人で暮らしていたという。ある日お腹がすいて泣き続けていると、祖母にオーブンに入れられて死んだそうだ。「もっと多くの人に真実を知ってもらえるよう、フォローしてください」と、赤ちゃんは動画を締めくくった。

【写真を見る】ディープフェイクポルノに取り込まれる女子大生

当然ながら、動画の赤ちゃんは実在しない。AIで作成した動画だ。動画が掲載されていた@truestorynowというアカウントは5万人近いフォロワーを抱え、実在の犯罪被害者が事件を語る動画がいくつも投稿されていた。赤ちゃんの話は、ある部分までは真実だ。実際の名前はロディ・メアリーではなくロイヤルティ・メアリーちゃんで、2018年に刃物で刺された後、ミシシッピー州にある祖母の家のオーブンで焼かれた。祖母のキャロリン・ジョーンズ被告(48歳)は、今年になってから第1級殺人で起訴された。だがロイヤルティちゃんが死んだのは生後20カ月で、21月ではなかった。またTikTok動画の赤ちゃんとは違い、白人ではなく黒人だった。

こうした不一致は、裾野の広い実録犯罪もののサブジャンル「犯罪被害者AI動画」というグロテスクな世界では日常茶飯事だ。ここではAIを利用して、主に子どもの殺人事件の被害者を死の床からよみがえらせている。被害者が一人称で死に至るまでの惨状を詳しく語り、場合によっては数百万回も閲覧されている。ほとんどの場合、コンテンツについて事前の警告は一切ない。

「実に奇妙で、気味が悪い」と言うのは、ニューヘイヴン大学で刑事司法を教えるポール・ブリークリー助教授だ。「強烈なリアクションを引き起こすのが目的のようです。確実にクリックやいいねを稼ぐ手っ取り早い方法ですからね。見ていて落ち着きませんが、おそらくそれが狙いでしょう」。

多くのアカウントは、「遺族への配慮」から本物の被害者の写真は使っていません、という旨の但し書きをしている。17万5000人のフォロワーを抱える犯罪被害者AI動画専用アカウントNostalgia Narrativeも、動画のキャプションにこうした文言を添えている。このアカウントには、1995年に母親から虐待された末に殺された6歳のエリザ・イスキエルドちゃんや、2020年に母親の女友達から殺された1歳のスター・オブソンちゃんといった幼児の被害者だけでなく、ジョージ・フロイドさんやジョン・F・ケネディなど成人被害者のストーリーも投稿されている。ローリングストーン誌は様々なアカウントにコメントを求めたが、いずれも返答はなかった。だが被害者の外見に手を加えているのは、おそらくTikTokのコミュニティガイドラインが理由だろう。TikTokは3月に、一般市民や未成年者のディープフェイク画像を禁じるガイドラインを発表した(TikTokの広報担当者は、コミュニティガイドライン違反を理由に@truestorynowのアカウントを閉鎖したことをローリングストーン誌に認めた)。

Akiko Kato

RECOMMENDEDおすすめの記事


RELATED関連する記事

MOST VIEWED人気の記事

Current ISSUE