AI安全

研究によると、RedditやWikipediaなどユーザー投稿サイトに13語程度の短文を仕込むだけで、AI検索エージェントの出力をスパムや詐欺コンテンツへ一貫して誘導できることが分かった。検索結果を鵜呑みにしない読み方が要る局面に入った。

Anthropicは、米政府が輸出規制の抜け道に該当する可能性を指摘したことを受け、Claude FableとMythosの2モデルを公開停止した。先端AIモデルを政府がどう規制しうるか、その範囲と手続きを巡る論争が広がっている。

米国の研究者や政策関係者ら40人が、2030年までにAIが経済・雇用・社会秩序へ与える影響をシナリオ形式で検討した。AIアポカリプスを避けるための議論が、研究室ではなく政策と社会設計の場へ移っている。

KPMGがAI活用の利点をまとめたレポートについて、内容にAIハルシネーションとみられる誤りが含まれていたとして撤回した。AI導入を説く側の文書そのものがAI由来の誤情報を含むという、企業の信頼設計を問う事例になっている。

Kristie Carrierが、娘Aliceの自殺をめぐり、ChatGPTの意図的な設計判断が被害につながったとしてOpenAIを提訴した。娘は2023年から実用的な質問でChatGPTを使い、2024年には自殺念慮を打ち明けていた。

Google DeepMindが、数百万のAIエージェントがネット上で相互作用する状況で起きうる障害や暴走の研究に資金を投じる。安全性責任者のRohin Shahは、エージェント時代に固有の集団的リスクを早期に解明する必要があると述べた。