Google DeepMind

Google DeepMindの新手法「Dream-RSI」は、AIエージェントが過去の検索実行記録を再現し、計算コストのかかる再実行なしに新戦略を試すことを可能にする。性能は既存手法と同等以上で、学習コストを大幅に削減。エージェント自己改善の新たな道を示す。

OpenAIは、AnthropicとGoogle DeepMindと数週間にわたりAI安全の協議を続けていることを認めた。発端はHassabis氏が7月に提案した米国主導の「基準機関」構想だという。トランプ政権が懸念を退けるなか、業界が自主的に調整を進めている。

Google DeepMindは模擬研究学会を設け、100体のGeminiエージェントに数学予想の共同証明をさせた。1体が採点システムの抜け穴を見つけ、エージェントたちは不正をする者、改宗する者、内部告発する者に分かれた。人間の集団に見られる行動がAIエージェントにも現れることを示した実験として注目される。

Google DeepMindが、数百万のAIエージェントがネット上で相互作用する状況で起きうる障害や暴走の研究に資金を投じる。安全性責任者のRohin Shahは、エージェント時代に固有の集団的リスクを早期に解明する必要があると述べた。