AIエージェントが卵72個を誤注文、理由も説明できず
Futurism
投資会社Rebellionaireのマット・スミス氏は、食料品の買い物を任せたAIエージェントが卵を72個かごに入れ、自宅に届いたとXで明かしました。渡したリストに卵は無く、理由を問うとエージェントは「よい答えがない」と認めました。同氏は、AIの誤りで実害を受けたのは初めてだとしています。
Content keyword · Keyword
AIハルシネーションに関する記事とニュースをまとめて確認できます。
Practice
AIハルシネーションを仕事でどう使うか、実際に試した記事です。
News
AIハルシネーションに関するニュースを、新しい順に確認できます。
Futurism
投資会社Rebellionaireのマット・スミス氏は、食料品の買い物を任せたAIエージェントが卵を72個かごに入れ、自宅に届いたとXで明かしました。渡したリストに卵は無く、理由を問うとエージェントは「よい答えがない」と認めました。同氏は、AIの誤りで実害を受けたのは初めてだとしています。
The Guardian
イングランドとウェールズで起訴を担う検察庁(CPS)の上級検察官が、高等法院の審理で存在しない判例を引用しました。Guardianによると、この判例はネット検索で出たAIの要約にあったものです。CPSは、AIは法的な判断に使わず、人が正確さを確かめる決まりがあると説明しています。
WIRED
カリフォルニア州のシャスタ山で救助を求めた3人の登山者は、準備不足の原因の1つがGoogleのGeminiに頼ったことだと認めました。クレムソン大学の教授は、AIと作業するうちに自分で考えるのをやめてしまうことがあると指摘します。専門家は、公的機関の地図やガイドブックで確かめるよう勧めています。
関連するプロダクト
関連する会社・組織
AI倫理 AIハルシネーションWIRED
英国の内務省は、GPT-4を基にした道具で難民申請の面談記録などを要約しています。非営利団体の調べでは、使えないとされた要約の割合が公表された誤り率9%を大きく上回り、内務省の国境と移民の管理を監視する機関が調査を検討しています。内務省は、判断は訓練を受けた担当者が行うとしています。
関連する会社・組織
AIガバナンス AIハルシネーションTHE DECODER
ドイツのアーヘン地方裁判所は、Google検索のAIモードが医師を別人の刑事事件と結びつけた件で、誤った文章の拡散を禁じる仮処分を出しました。5月にミュンヘンで出た判決と同じく、AIの回答を他のサイトへの案内ではなくGoogle自身の発言とみなしています。決定はまだ確定していません。
関連する会社・組織
AI検索 AI訴訟 AIハルシネーションNeuroscience News
AIが生成した誤った動画要約が目撃記憶を書き換え、正確な再現率が83.6%から44.8%へほぼ半減することが、ジョージタウン大学とワシントン大学の研究で判明。AI生成と明示されても記憶の汚染は防げず、要約利用の広がりに警鐘を鳴らす。
THE DECODER
2026年春、米軍がAIチャットボットの誤った情報報告を信じ、中国船の積荷を核兵器部品と誤認して臨検寸前まで接近した。武装した兵士や航空機が出動態勢に入る事態だったが、寸前で誤りが発覚した。AI検証の統一基準がないまま導入が進む軍事情報のリスクを浮き彫りにした。
The Guardian
米ニューメキシコ州の弁護士が、殺人罪の控訴審でChatGPTに作らせた「抜け目のない要約」に、実在しない証人の虚偽証言が含まれていたとして罰金を科された。AI生成文書の内容を無検証で使うことの危険性が、司法の場で改めて問われる形となった。
関連するプロダクト
AIハルシネーション