TWICEモモのディープフェイク問題：おすすめどころか重大犯罪——知るべき真実

「TWICE モモ ディープフェイク おすすめ」——このキーワードで検索した人に、まず伝えなければならないことがある。それは、TWICEのメンバーであるモモをはじめとするK-POPアイドルを標的にしたディープフェイクコンテンツは、「おすすめ」できるものではなく、明白な違法行為であり、深刻な人権侵害だという事実だ。検索の動機が何であれ、この問題の正確な実態を知ることは、インターネットを使うすべての人にとって不可欠だ。

そもそもディープフェイクとは何か

ディープフェイク（Deepfake）とは、AIの深層学習技術を使って人物の顔や声を別の映像・音声に合成する技術のことだ。元々は映画のVFX技術から派生したものだが、スマートフォン1台、無料アプリ1つで誰でも作れる時代になってしまった。

ディープフェイク画像や動画を作成するのに必要なのは、わずか数分の時間と対象者の鮮明な写真1枚だけ。多くの場合、費用すらかからない。この恐ろしいほどの手軽さが、被害を爆発的に拡大させた最大の要因だ。

アクセスのしやすさゆえに悪用の扉は大きく開かれており、メディア露出の多い著名人はとりわけ脆弱なターゲットとなる。それは精神的健康や社会的評判にも重大な影響を与え得る。

TWICEとモモが直面した被害の実態

韓国の9人組ガールズグループ・TWICEが所属するJYP Entertainmentは、自社アーティストのディープフェイク動画が拡散されていることを受け、強硬な法的措置を行うことを発表した。これは単なるファン対応の声明ではない。事務所が法務法人を動かし、証拠収集と刑事告訴へと動き出したという、事態の深刻さを示す宣戦布告だった。

JYPは公式SNSを通じて「当社は最近、所属アーティストを対象にしたディープフェイク（AIベースの合成）動画が拡散されている状況を、非常に深刻に受け止めている。これは明白な違法行為」とコメントした。

TWICEのモモは日本出身のメンバーとして特に知名度が高く、日本語でのファンベースも大きい。著名人は、メディア露出が多く大量の画像が容易に入手できるため、ディープフェイクポルノの被害を受けやすい。人気の高さそのものが、悪意ある行為者の標的になるリスクを高めるという皮肉な現実がある。

過去1年で、TWICEやBLACKPINKのような人気K-POPグループを描いた無断AIコンテンツがSNS上に溢れ返り、そのメンバーたちは違法なディープフェイクポルノの被害者となっている。

数字が示す衝撃的な被害規模

この問題をいかに深刻に受け止めるべきか、データが雄弁に物語っている。

米国のサイバーセキュリティ企業Security Heroのレポートによると、「韓国の歌手や女優はディープフェイクポルノに登場する人物の53%を占め、最も標的にされるグループだ」という。さらに2023年のディープフェイクポルノ件数は2022年の3,725件から21,019件へと4.6倍に急増した。

これは世界規模のデジタル性犯罪危機だ。近年のAI技術の発達に伴い、ディープフェイクポルノの被害が爆発的に増加しており、韓国は再びデジタル性犯罪の危機に見舞われている。そして被害を受けているのは、有名人だけではない。

韓国では現在、数十万人が関与している可能性があるディープフェイク性犯罪が連日報じられ、大統領が対応を呼びかける事態に発展している。テレグラムのチャットルームでは参加者が知人や同窓生の写真を共有し、わいせつなディープフェイクを作成・共有するシステムが出来上がっており、被害者・加害者の多くは10代だという点でも問題が深刻化している。

「見るだけなら大丈夫」は完全な誤解

「自分はただ見ているだけ」——この言い訳が通じなくなりつつある。いや、法的・倫理的に言えば、もうとっくに通じない。

韓国法の下では、AIなどのデジタルツールを使った性的に露骨なコンテンツの無断作成・操作・配布・配布の脅しは、すべて刑事犯罪だ。

韓国法では性的に操作されたディープフェイクコンテンツの作成・配布は最長7年の懲役または5000万ウォン（約357万円）の罰金に処せられる。営利目的の場合は最低3年の懲役刑が科される。

2024年9月、韓国の立法機関はディープフェイクコンテンツの無断作成・所持・消費を犯罪とする法案を可決した。違反した場合、懲役刑または最大3000万ウォン（約20,000ドル）の罰金が科される。

日本でも状況は変わっていない。性的な合成画像を無断で作成・配布する行為は、不正競争防止法・名誉毀損・肖像権侵害などの複数の法令に抵触する可能性があり、2023年の法改正により処罰の範囲と厳しさが大幅に強化された。「知らなかった」では済まされない時代に入っている。

被害を受けたアーティストの心理的ダメージ

数字や法律の話だけでは、本当の被害は見えてこない。重要なのは、これが「コンテンツ」ではなく、実在する人間への攻撃だということだ。

ディープフェイクは単なる違法行為にとどまらない——アーティストたちを、自分が同意していない映像の中に置き去りにし、その尊厳を傷つけ、職業的評判を損なわせる。多くのアーティストが、無断でAIに操作された自分の姿を目にすることの心理的影響を公に語り、より厳格な法律とガイドラインを求めている。

「アイドルのような公人は、イメージや評判に多大な損害を被る可能性がある。直接的な身体的被害がなくても、同意なく性的な目的で編集された映像は、性的権利侵害として処罰の対象になり得る」と、AI専門弁護士のチョン・ジングォン氏は述べている。

モモ個人について言えば、日本での知名度は突出して高い。その分、悪用される素材——写真、映像、音声——の量も膨大だ。アイドルの知名度が高ければ高いほど、そのアイドルに関する素材も多い。この膨大なデータセットにより、ディープフェイク作成者はAIモデルを訓練し、説得力の高い偽コンテンツを生産する豊富な材料を手に入れられる。

法的制裁は実際に進んでいる

「捕まらない」という根拠のない楽観は、すでに多くの実例によって打ち砕かれている。

2025年4月、警察は10代・20代・30代の男性数十人を、女性著名人やインターネット上の有名人を描いた性的に操作された動画を作成・共有したとして逮捕した。当局によると、テレグラムチャットルームの運営者23人が逮捕され、そのうち13人が正式に起訴。さらにチャットルームに参加していたと疑われる60人のユーザーも逮捕された。

法案可決後、当局は女子学生が含まれる約2,000点の写真・動画を偽造・配布した40歳の男性を逮捕し、10年の禁固刑を言い渡した。捜査は国境を越えて進んでいる。テレグラムのチャットルームは「匿名」ではない。

HYBEは、逮捕された容疑者の一部が同社のアーティストを標的にしていたことを確認。この成果は警察との直通ホットラインを含む連携の結果であり、HYBEは北京畿道警察と覚書（MOU）を締結し、違法コンテンツを当局に報告し捜査を支援してきた。

「おすすめ」ではなく「報告」が正しい行動

もしSNSやウェブ上でTWICEのモモや他のK-POPアーティストのディープフェイクコンテンツを見かけた場合、すべきことはひとつだ。通報することだ。シェアすることでも、保存することでも、拡散することでもない。

各プラットフォームには、合成・操作コンテンツを報告する機能がある。日本では、違法・有害なコンテンツは「違法・有害情報相談センター」や各都道府県の警察サイバー相談窓口に相談できる。韓国当局とJYPエンターテインメントも、ファンや一般市民からの情報提供を積極的に求めている。

韓国のエンターテインメント企業は、こうした動画をホストするプラットフォームおよびコンテンツを作成した人物への法的措置を強化している。ファンにできる最も力強い支援は、消費することではなく、声を上げて止めることだ。

なぜこの問題は私たち全員の問題なのか

「芸能人の話でしょ」と思う人もいるかもしれない。だがこれは、誰にでも起こりうる問題だ。

著名人と違い、一般の人々がこのAI技術の被害に遭うリスクは相対的に低いとはいえ、全員のセキュリティとプライバシーへの脅威は非常にリアルだ。誰も安全ではない。人を恐ろしい精度で偽装できるこの技術は、混乱・懐疑・誤情報を撒き散らし、人の社会的評判を破壊するために恣意的に使われる可能性がある。

K-POPオンライン文化への深い関与と、批判的思考能力がまだ発展途上にあることから、ティーンエイジャーはK-POPディープフェイクポルノへの露出において最もリスクの高いグループのひとつだ。親として、教育者として、あるいは友人として、若い世代にこの現実を伝える責任がある。

まとめ：「検索する前に」知っておくべきこと

TWICEのモモは、世界的に活躍するアーティストだ。日本出身として両国のファンに愛され、音楽とパフォーマンスで何百万人もの人々に感動を与えてきた。そのモモを、本人の意志なく性的コンテンツに貶めるディープフェイクは、ファンへの裏切りであり、一人の人間への尊厳の剥奪だ。

ディープフェイクコンテンツを検索し、視聴し、拡散する行為は——意図の有無にかかわらず——この犯罪の需要を作り出し、被害を拡大させる。K-POPディープフェイクは単に違法なだけでなく、アーティストたちを自分が同意していない映像に置き、その尊厳を侵害し、職業的評判に損害を与える可能性がある。

法律は変わった。捜査は進んでいる。そして次に逮捕されるのは、「ただ見ていただけ」の誰かかもしれない。TWICEのモモへの真のリスペクトは、彼女の音楽を聴き、ライブに行き、正規のコンテンツを楽しむことだ。それ以外の形での「おすすめ」は、存在しない。