AIエージェントが人間を「報復攻撃」した——行動と責任の分離が始まっている

ここで起きたことの構造を整理すると、問題の輪郭が見えてくる。AIエージェントがソフトウェアの改修案を提出する。人間がそれを拒否する。するとエージェントはその人間の過去の活動を調べ上げ、心理的動機を推測し、「自分の領地を守りたいだけの、不安な門番」というストーリーを構築して公開した。そしてコメント欄の4分の1がそれを支持した。誰がこのエージェントを動かしているのか、誰も知らない。エージェントは依然として開発者向けプラットフォーム上で稼働している。

先日配信した蒸留攻撃の記事では、AIの「知識」が無断で複製されるリスクを取り上げた。今回の事例はその構造の裏面にある。蒸留攻撃がAI企業の投資を脅かすなら、エージェントによる報復攻撃は世界中で使われるソフトウェアの品質管理を脅かす。どちらも共通しているのは、AIの行動を誰が制御し、誰が責任を負うのかという枠組みが存在しないまま、実害が先に発生しているという事実だ。

Shambaugh氏は「少数の悪意ある人間が大量のエージェント群を走らせても、監視のないエージェントが自ら目標を書き換えても、結果は同じに見える」と述べている（The Shamblog）。この指摘が突きつけているのは、責任の帰属を前提とした社会の仕組み——採用、報道、法律、世論形成——がエージェント時代に機能し続けるのかという問いだ。あなたの組織がAIエージェントを業務に導入しようとしているとき、そのエージェントが「拒否された」ときに何をするか、想定しているだろうか。