AIが生物兵器で人類を絶滅させる可能性が低い理由

英語記事は、制御不能な人工知能による脅威のなかで「疫病で人類が絶滅する」可能性は相対的に低いと専門家が評価していると伝えます。主な理由として、生物兵器の実用化には遺伝子設計だけでなく、濃度・伝播経路の調整、実験の暗黙知（タクト知）、専用設備や供給網といった物理的・運用的ハードルが大きく、単に生成モデルが配列を出力するだけでは人為的な破滅的影響を導くのは困難だとされています。また、検知・対応体制や既存の公衆衛生インフラが事故や流出を抑える役割を果たす点も指摘されています。

ただし「可能性がゼロ」という主張ではなく、AIが生物学的知識へのアクセスを容易にし得るため、リスクは全く無視できません。専門家らは、モデルの公開方針や合成DNAの審査などのガバナンス強化、バイオとAI分野の協調による早期警戒や被害軽減策の整備を求めています。

AI業界への示唆としては、生成モデルの取り扱いで安全性評価・レッドチーミングを徹底し、バイオセキュリティの観点を設計段階から組み込むことが重要です。加えて、絶滅級シナリオに注目するよりも、現実的かつ短中期に起こり得るリスク（誤用・誤情報・社会的影響など）への対策に資源を配分する必要があると示唆されています。