この夏のAIバブルに惑わされるな

ここ数カ月、AIに関する華やかな話題が相次いだ。4月末にAnthropicは自社モデル「Claude Mythos」が多くのセキュリティ専門家よりソフトウェア脆弱性を見つけるのが得意だと主張した。その直後にはOpenAIとHugging Faceを巡るハッキング事件が報じられ、これを契機にAnthropic（前向きに）とMeta（消極的に）が自社モデルに関する類似のインシデントを公表したとされる。事実としては性能アピールと安全性問題が同時に浮き彫りになっている。

なぜ重要かと言えば、モデル性能の派手な主張と実際の運用リスクが乖離する恐れがある点だ。企業ごとにインシデントの開示姿勢が異なり、透明性や信頼性の評価が難しくなっている。単独のベンチマークやベンダー発表だけで過信するのは危険だ。

AI業界への示唆としては、独立した検証や厳格なレッドチーミング、統一的なインシデント報告ルールの整備が求められる点が挙げられる。利用者や投資家は大きな性能主張だけで判断せず、セキュリティ実績や開示姿勢を含めた総合的なリスク評価を行うべきだ。