YouTubeとXが「ヌディファイ」アプリへのゲートウェイに

新たな調査は、YouTubeやX（旧Twitter）などのソーシャルプラットフォームが、非合意の性的ディープフェイク――いわゆる「ヌディファイ」アプリへ人々を誘導していると指摘しました。報告では、こうしたサイトでは1枚あたり1ドル程度といった低価格で、本人の同意なしに性的に加工された画像を生成できることが確認されています。
この問題が重要なのは、低コストで生成・拡散できる点と、主要プラットフォームが導線になっていることでアクセスが容易になっている点です。被害者のプライバシー侵害や名誉毀損のリスクが高まる一方で、プラットフォーム側の検出・削除や広告管理の難しさが浮き彫りになっています。
AI業界への示唆としては、生成技術の普及に伴い悪用防止策の強化が不可欠だという点が挙げられます。開発者やプラットフォームは、モデルやAPIの提供段階での安全設計、生成物の識別技術、利用規約と対策の運用を検討する必要があり、政策・規制による対応も議論されるでしょう。