企業AIの本当のリスクは自律エージェントではなく、エージェント間の複雑性

VentureBeat寄稿（Gravitee CEO Rory Blundell）では、企業が抱えるリスクは単一の自律エージェントではなく、複数エージェントが相互に呼び出し合うことで生まれる「経路の複雑性」にあると指摘する。少数のエージェントなら接続は管理できても、十や百と増えると経路は爆発的に増え、どのエージェントがどのシステムに到達するか、どの呼び出しが連鎖を引き起こしたかを把握できなくなるという。

問題の典型例は権限の広がり（permissions creep）と所有責任の希薄化だ。導入時にスコープを緩く設定したエージェントが後に決済系など重要システムにアクセス経路を獲得してしまったり、チェーンの途中で障害が起きても誰が責任を取るかが組織図に残らないケースが起きている。単発の承認やログだけでは連鎖を統制できないと著者は警鐘を鳴らす。

解決策としては、エージェントごとの固有IDと細かく限定された権限、明確な人間のスポンサー、チェーン全体を追える可視化、そして事前にポリシー違反を遮断する実効的な実行制御（enforcement）が必要だと主張する。多くの企業は可視化やログ収集は進めているが、実行前の阻止能力を持てていないという。

示唆として、エージェントの自律性を問題視して速度を落とすのではなく、可視性と説明責任を同期的に整備することでスケールとガバナンスを両立させ、生産運用への移行を進めるべきだという点が強調される。