学校を襲うディープフェイク裸画像の危機、被害は世界で約90校600人に及ぶ

WIREDと調査団体Indicatorの分析によれば、AI生成のディープフェイク裸画像が世界で約90校、600人の生徒に影響を及ぼしており、問題は収束の兆しを見せていません。報告は被害件数の把握に基づくもので、実際の被害は報告されない分も含めてさらに多い可能性があります。
被害はプライバシー侵害や名誉毀損、心理的負担を伴い、学校や家族の対応負担を増大させます。加害画像がAIで生成されることにより、検出や発信源特定が従来より難しく、法的対応や被害救済の仕組みが追いついていないという課題が示唆されています。
AI業界への示唆としては、生成モデルの悪用を前提にした検出技術や合成コンテンツの由来を示すプロヴェナンス技術（ウォーターマーク等）、プラットフォーム運用の強化、学校や保護者との連携強化が求められます。ただし、単一の技術解決で根本解決できるとは限らず、政策・法整備と教育啓発を併用する必要がある点も重要です。