AIで詐欺師を欺く：サイバー犯罪対策でAIボットが「被害者役」を担う動きが拡大

詐欺対策に取り組む団体やプロジェクトの間で、AIを使って詐欺師を逆にだます取り組みが広がっていると報じられている。精巧に作られた会話ボットを用意し、詐欺師に本物の被害者だと思い込ませて会話を続けさせる手法である。原文が伝えているのは、こうした取り組みが増えているという大枠の事実であり、個別の組織名や具体的な成果の数字などは示されていない。

フィッシングやロマンス詐欺、投資詐欺などのオンライン詐欺は、人間が一対一でメッセージをやり取りして信用を築く場面が多く、犯罪者側の「時間」が重要な資源になっている。生成AIによって自然な文章や応答を作れるようになったことで、被害者役のボットに長時間やり取りさせ、詐欺師の作業時間を浪費させるという発想が現実的になった。詐欺師が本物の被害者に接触する機会を減らせれば、被害の抑止につながる可能性がある。また、会話の内容から手口や使われる口座、スクリプトなどの情報を集められれば、捜査や注意喚起にも役立つと考えられる。一方で、AIが犯罪者側にも悪用されてきた経緯を踏まえると、同じ技術が防御側の武器にもなる点が注目される。

生成AIは攻撃側だけでなく防御側にも使えるデュアルユース技術であり、詐欺対策は「AI対AI」の攻防へ移りつつあることがうかがえる。今後は、ボットの精度向上だけでなく、収集した情報の扱い、プライバシー、だます行為の倫理や法的な位置づけといった論点も重要になるだろう。詐欺師側がボットを見抜く手法を磨く可能性もあり、効果が長続きするかは慎重に見極める必要がある。それでも、AI企業やセキュリティ業界にとって、詐欺対策は新たな活用領域になり得る。