AIチャットボットが実在の電話番号を公開、Google AIによる個人連絡先の表出が報告

最近、GoogleのAIチャットボットが利用者の実在する電話番号を回答として提示したと報告されている。あるRedditユーザーは「助けを求めている」と投稿し、約1か月にわたり弁護士やプロダクトデザイナーを探す“見知らぬ人”からの着信が相次いだと述べている。この記事では、この種の事象に対して利用者側で簡単に防げる手段がないと指摘されている。

現時点で報告の詳細や影響範囲は限定的だが、AIの出力が実際の個人情報を露出し得ることは明確なリスクだ。出力の根拠（プロビナンス）や学習データの取り扱い、個人情報の削除・遮断の仕組みが不十分だと示唆される。被害に遭った利用者には着信被害やプライバシー侵害といった直接的な影響が出ている。

この事例は生成AIプロダクトにおける安全対策の必要性を浮き彫りにする。提供事業者はトレーニングデータ管理、個人情報を検出して出力をブロックするフィルタリング、削除や異議申し立ての手続き整備を検討する必要がある。また、利用者側でも公開連絡先の管理やプライバシー設定の見直しが求められるだろう。