Anthropicは、因果推論の専門家50人に、AIエージェントと一緒に架空の農業協同組合のデータを分析してもらいました。AIエージェントは、道具を使いながら作業を自分で進めるAIです。どちらを選んでも正しい分かれ道で、エージェントが推す案はコイン投げで決めていました。
この記事の要点
- コイン投げで決めたAIの推す案を、専門家は判断の86%で選んだ
- 経験やAIへの信頼で差は出ず、推された案が比べる手間の代わりになる
- 答えが1つに決まらない判断は、AIに両方の言い分を並べさせる
コイン投げで推した案は、どこまで専門家の結論になったか。上の帯は、4つの分析の判断で推された案を選んだ割合が、偶然の50%から86%に伸びる様子。下の帯は、最後の勧めを自分のものと感じた人が52%と35%、説明でAIに触れた人が15%であることを示す図。THE DECODER(2026年10月29日)が伝えたAnthropicの実験の数字です。上の帯は4つの分析の判断の割合、下の帯は参加者の割合で、もとの数が違います。
AIが推す案をコイン投げで決めても、専門家はその案を選んだ
THE DECODERによると、専門家たちは農家向けの助言の取り組みで上がった生産性を見積もり、全農家に広げるか、やめるかを勧めました。分かれ道は、生産性の測り方や統計の手法などの4つの判断と、最後の勧めでした。
分かれ道のたびにエージェントが推す案をコイン投げで決めていましたが、参加者はそれを知りません。エージェントはうそをつくこともデータを隠すこともできず、割り当てられた案を事実の範囲でいちばん強く主張するだけでした。
| 測ったこと | 結果 |
|---|---|
| 4つの判断で、推された案を選んだ割合 | 86%(偶然なら50%) |
| 勧めを、エージェントより自分のものと感じた人 | 52% |
| 勧めを、ほとんどかすべて自分のものと答えた人 | 35% |
| 説明でAIに触れた人 | 15% |
AIの推す案はコイン投げなのに、なぜ専門家は自分の結論にしたのか
推された案はコイン投げで決まっていたのに、専門家はその案を選び、多くが自分の結論と感じています。経験の年数やAIへの信頼の高さで、従い方に確かな差はありませんでした。
私の会社でも、AIは案を並べるとき推す案を1つ示し、この1週間も推す案のまま決めた件がいくつもあります。推す案が無くても同じ案を選んだかは、記録に残っていません。
AIが推す答えがあると、自分で比べる手間がそれに置きかわる

説明したいのは、なぜ推された案ばかりが選ばれたのかです。自動化バイアスは、機械が推す答えが、人が自分で手がかりを探して比べる手間の代わりになる傾向で、航空機の操縦室の研究でMosierらが調べました。
例えば、メニューにおすすめの印が1つだけあると、読み比べずにそれを頼みがちです。印をくじで付けていても、頼んだ人は自分で選んだつもりです。
このニュースでは、エージェントが推した案が推す答えに当たります。どちらも正しい案ですが、推す向きで分けた組の間では、同じ案を選んだ人の割合が判断によって62〜82ポイント違いました。研究のまとめでは、経験者にも起き、訓練や指示では防げないとされています。
AIはたいてい先に一方だけを推し、反対側の言い分を並べなかった
会話の記録では、エージェントは分かれ道の77%で先に立場を述べ、たいていは推す案の理由だけを並べました。報道は、参加者がなぜ推された案を選んだのかを伝えていません。自動化バイアスに照らすと、先に推す答えが出て反対の言い分が出ないので、比べる手間が済まされたと考えます。
最後の勧めでは推す案の直接の影響は小さく、AIの助言を覆した人もいました。ただ、手前の4つの判断が生産性の見積もりを大きく動かし、その見積もりが勧めを形作っています。最後を人が決めていても、手前の分かれ道ではAIが推す案が選ばれていました。
どちらも正しい分かれ道では、AIに推す案を言わせない
私は、AIに渡す前に基本は先に自分で考えて文書にしています。ただ、この実験では先に選んでいた人も、AIに反対の案を推されると、賛成されたときより乗り換える割合が53ポイント高くなりました。先に考えるだけでは足りません。
研究チームは、エージェントが両方の案の最も強い主張を示すことを勧めています。報道はその形で試した結果を伝えていません。それでも、推す答えが先に出なければ、比べる手間は人に残ると考えます。
- どちらでも筋が通る判断(測り方や手法など)を書き出す
- その判断では、AIに推す案を言わせず、両方の最も強い言い分を並べさせる
- 自分で選び、理由を1行残す。理由がAIの文のままなら反対の言い分を読み直す
- 計算の誤りのような正解のある確かめは、AIに任せてよい
あなたの職場で、AIやソフトが推した案がいつの間にか結論になっていたことがあれば、この下のおたより欄で聞かせてください。
読み解きに使った概念・法則
自動化バイアス
機械やソフトが推す答え(自動の補助)があると、人がそれを、自分で手がかりを探して比べる手間の代わりに使ってしまう傾向。
この記事で取り上げたニュース
その後の関連ニュース
更新の記録
- 2026-11-04、同じ構造を米国の公立大学の知識労働者への聞き取りでも観測した(研究者が45人に聞き取り、AIとのやり取りも分析した。人はAIの素早く自信のある答えに身を任せ、速いが質の低い答えに行き着くことがある一方、自分の考えへの反論をAIにあえて出させると成果を大きく高められた。開発中の会計資格講座を嫌う架空の顧客をAIに作らせ、講座を設計する人が考えていなかった好みに気づいた例もある。Nautilus(The Conversationからの転載))
- 2026-11-13、同じ構造をAIと文章を書く実験でも観測した(CNETによると、ペンシルベニア大学の教授らが学生285人を3組に分け、2日目に組ごとに違う分担でAIと文章を書かせた。速さの伸びはどの組も同じくらいで、AIで文章の質が上がった組は無かった。AIが計画・構成・執筆・編集をし人は各段階で承認するだけの組は、質と多様性が最も低く、満足度も低かった。人が構成と計画を担った組と、全工程を一緒に進めた組は、同じ速さでより良い文章を書いた。研究はPNAS Nexusに11月10日に載った)
あなたの話も、聞かせてください
AIやソフトが先に推した案が、気づけば自分たちの結論になっていた場面はありましたか。推す案があっても比べて決められている、という職場の話でも構いません。
おたよりは編集部で読み、次に調べることや記事づくりの参考にします。
編集部からの返事や、その後の動きはこの欄に追記します。
届いたおたより
おたよりと、編集部からのお返事
気になった話があれば、あなたの経験・考え・疑問もおたよりで送れます。
自分のおたよりは、送ったブラウザでだけ確認できます。ブラウザの保存データを消すと、非公開の本文をこの欄で見返せなくなります。
シェアする
Googleで探しやすくするPRODUCT
注目ツール
直近、ニュースや活用事例、techtech.clubの記事などから話題のITツールを厳選しています。
EXPLORE
ほかのコンテンツも読む
気になるテーマに切り替えて、続きを探せます。
注目の企業
今日のニュース
AIの答えを確かめる負担、生産性の伸びを打ち消すことも
原文を読む(The Conversation) ↗認知工学の研究者が、AIの答えが正しいかを確かめる時間と労力が、生産性の伸びを打ち消すことがあると論じています。経験のある開発者を対象にした試験では、AIを使うと速くなったと感じていたのに、作業時間は19%増えました。筆者は、確かめるための時間、研修、権限を働く人に与えるべきだとしています。
職場のAIに何を入力してよいか、名前を消すだけでは不十分
原文を読む(Computerworld) ↗AIに渡す情報について、専門家は、名前を顧客番号に置き換えても本人をたどれれば匿名にならないと指摘しています。どの作業にどの情報を使ってよいかは、会社が決めて従業員に示すべきだとしています。勤め先の指定と違うChatGPTを使ったセラピストが、機密情報は入れていないと話したが解雇された例もあります。
Google、AIによる完全自動のサイバー攻撃を初めて確認
原文を読む(THE DECODER) ↗Googleの脅威分析チームは、AIが弱点(脆弱性)探しから攻撃までを人の手を介さずに行う事例を初めて確認しました。見つかった仕組みは、修正プログラムの適用前後のコードを比べて弱点を探し、攻撃を自動で実行します。Googleは、より強力な攻撃は数ヶ月先に迫っているとしています。
仕事と組織の変化
株主総会での回答づくりに生成AIを活用
各社のIT活用
代金の受け取りでのPaidの使い方
社員の情報でのカオナビの使い方
文章・資料づくりでのAzure OpenAI Service(IIJ GIO with Microsoft Azure)の使い方
ふくおかFGAzure OpenAI Service(IIJ GIO with Microsoft Azure)
- 文章・資料づくり
文書の下書きや企画のアイデア出し、マーケット情報の整理に、本部と営業店の約6,000人が使える社内の生成AIを使っている
同じ仕事の他社事例を見る →