WhatsAppのヘルプページにMetaチャットボット向けの隠し指示が露出、Metaは不具合が原因と説明

WhatsAppのウェブサイト上にある約80ページで、同サービスのチャットボット向けに設計された指示文が外部から見える状態になっていたと報じられた。その中には「WHAT NOT TO SAY(言ってはいけないこと)」といった項目も含まれていたという。本来はユーザーに見せる想定ではない、AIの振る舞いを定めるための内部的な指示が、ヘルプページに表れてしまった形だ。Metaはこの問題について、不具合(バグ)が原因で起きたと説明している。原文から確認できるのは、露出したページ数のおおよその規模、指示に禁止事項の記載が含まれていたこと、そしてMetaが原因をバグだとしている点である。

チャットボットには、回答のトーンや話題の範囲、避けるべき表現などを指定する「システムプロンプト」や運用ルールと呼ばれる指示が与えられるのが一般的だ。これらは通常ユーザーには非公開で、企業がAIの安全性やブランドイメージを保つための重要な設計要素となっている。今回のように指示文が公開ページに混入すると、企業がAIに何を禁じ、どのような応答を避けさせようとしているのかが外部に知られることになる。また、指示の内容が知られれば、AIの制限を回避しようとする試みの手がかりになり得るという懸念もある。WhatsAppは世界で非常に多くの人が使うメッセージングサービスであり、そこに組み込まれるAIの運用方針は注目を集めやすい。ただし、露出した指示の具体的な中身や影響範囲については、原文の情報だけでは詳細が確認できない。

AIをヘルプ機能や既存サービスに組み込む企業が増えるなか、AI向けの指示文やコンテンツ生成の管理体制が新たな運用リスクになり得ることを示す事例といえる。内部指示と公開コンテンツの分離、公開前の検証、設定ミスや不具合の検知といった基本的なガバナンスの重要性が改めて浮き彫りになった。一方で、こうした指示文が見えたことで、AIの安全対策がどのように設計されているかへの関心や、透明性をめぐる議論が高まる可能性もある。今後はMetaが再発防止にどう取り組むかが注目される。