サンフランシスコ市、Metaに対して「AIによる児童虐待広告」を容認しないよう要求

サンフランシスコ市の市弁護士事務所が、FacebookとInstagram上で繰り返し表示された「AIによる児童虐待」広告について、Metaに対して表示がなぜ継続したのか説明を求め、同様の広告を許容しないよう求めています。市側は問題の広告が繰り返し流れた経緯やMetaの対応を明確にするよう要求しています。一方でMetaは、この種の対応は市の管轄外であると主張しており、責任範囲をめぐる対立が生じています。

この事例は、生成技術を使った有害コンテンツの広告配信がプラットフォーム上でどのように管理されるべきかという重要な論点を提示します。地方当局が企業に説明と是正を求める一方で、プラットフォーム側が管轄権や技術的限界を理由に対応の境界を主張する構図は今後も増える可能性があります。

AI業界への示唆としては、広告配信とコンテンツ生成の境界を明確にし、検出・排除の技術や運用の透明性を高める必要性が浮き彫りになりました。規制当局とプラットフォームの間で責任範囲や協力体制が整備されない限り、同様の問題は継続的な法的・社会的論争を引き起こす可能性があります。