生成AIで作った“保守派女性”を売って数千ドル、医学生が実行と主張──合成人物の商用化が示す問題点

ある医学生が、生成ツールで作成した「若い保守派の女性」の写真や動画を販売して数千ドルを稼いだと自身で述べ、同様の手口が他にもあると報告されています。本人の主張に基づくため断定はできませんが、AIで作った合成人物を用いた商用行為が実際に金銭的利益を生んでいることが示されています。

重要なのは、比較的手軽に説得力のある人物像を作れてしまう点です。画像や映像を組み合わせることで実在を装い、対価を支払う利用者を引きつけることが可能になっており、詐欺、なりすまし、非同意のコンテンツ流通といったリスクが顕在化しています。政治的な属性を模した設定は社会的対立や誤情報拡散のリスクも伴います。

この事例は、生成AIの普及がもたらす課題を改めて浮き彫りにします。プラットフォーム側の検出技術やデータのプロビナンス（出所証明）、合成コンテンツへの透かし付与、利用規約とその執行、法制度の整備などが求められます。開発者・事業者は乱用を想定した設計と対策を強化する必要があり、利用者側も合成である可能性を前提に慎重に振る舞うことが重要です。