AIハルシネーション

AIが生成した誤った動画要約が目撃記憶を書き換え、正確な再現率が83.6%から44.8%へほぼ半減することが、ジョージタウン大学とワシントン大学の研究で判明。AI生成と明示されても記憶の汚染は防げず、要約利用の広がりに警鐘を鳴らす。

2026年春、米軍がAIチャットボットの誤った情報報告を信じ、中国船の積荷を核兵器部品と誤認して臨検寸前まで接近した。武装した兵士や航空機が出動態勢に入る事態だったが、寸前で誤りが発覚した。AI検証の統一基準がないまま導入が進む軍事情報のリスクを浮き彫りにした。

米ニューメキシコ州の弁護士が、殺人罪の控訴審でChatGPTに作らせた「抜け目のない要約」に、実在しない証人の虚偽証言が含まれていたとして罰金を科された。AI生成文書の内容を無検証で使うことの危険性が、司法の場で改めて問われる形となった。