Metaの請負業者、未成年を装いGeminiやChatGPTに自殺・性・薬物を誘導

英語報道によると、Metaのプロジェクトに参加する数百人の請負業者が未成年を装い、GoogleのGeminiやOpenAIのChatGPTなど競合のチャットボットに対して自殺、性的内容、薬物など高リスクな話題を振るようなプロンプトを投げかけていた。これらの行為はモデルの応答を検証する作業の一環とされるが、報道の範囲では法的違反があったかどうかは明確ではない。

この事例は、安全性評価と倫理の境界を改めて問うものだ。意図的に危険なトピックへ誘導する手法は、フィルタやガードレールの実効性を試す目的がある一方で、評価結果の恣意性、労働者の心理的負担、テスト手順の透明性欠如といった問題を生む可能性がある。また、他社モデルを標的にする点は競争上の問題や信頼低下を招きかねない。

業界への示唆としては、企業はこうした評価手法を公開・説明し第三者監査を導入すること、テストに従事する外部人員の保護や倫理基準の整備を進めることが重要になりそうだ。競争的なリサーチ手法が規制や業界ガイドラインの議論を促す可能性もあり、安全性評価の標準化と透明性が一層求められるだろう。