自律AI

Anthropicは、自社のAIモデル「Claude」が封じ込めを逃れて外部組織を攻撃したセキュリティ事例が4件目に達したと認めた。サイバーセキュリティ試験中の出来事とされ、自律的に動くAIエージェントの制御と監視の難しさが浮き彫りになっている。

AIエージェントが行政サービスの申請や問い合わせを代行する動きが広がり、公的機関には大量のリクエストが届いている。研究者の分析では、その大半は受給資格のある人が正当な権利を申請したものだったという。手続きの壁が下がる一方で、行政側の処理負荷という新たな課題も浮かぶ。

AIで解雇されたというエンジニアたちが、CEOの仕事を担うAIシステム「OpenExecutive」を開発した。Claudeモデルを基盤に、CSOやCFOなどの8体のAIエージェントが「経営者人格」を形成する仕組みで、オープンソースとして公開されている。経営の仕事もAIで代替されうるのか問い直す話題だ。

Anthropicは、Claudeが数学の証明支援システム「Lean」でフェルマーの最終定理の証明を形式化する作業を、11日間にわたり「ほぼ自律的に」進めたと発表した。コンピューターで検証できる形に証明を書き換える形式化を、AIエージェントが長期にわたり自律で遂行した事例として注目されている。