自動化バイアス

機械やソフトが推す答え(自動の補助)があると、人がそれを、自分で手がかりを探して比べる手間の代わりに使ってしまう傾向。
補助の答えがほかの手がかりと食い違っていても従う誤り(実行の誤り)と、補助が知らせなかった問題を見落とす誤り(見落としの誤り)の2つに現れる。
航空機の操縦室の自動化の研究で、Kathleen MosierとLinda Skitkaらが調べた。
研究のまとめでは、初心者にも経験者にも起き、訓練や指示では防げないとされている。
3つの例で見る
3つとも同じ骨組みです。機械が推す答えが出ると、人は手がかりを比べる前にその答えへ寄り、答えが外れていても手がかりと食い違ったまま従います。
仕組み
機械が推す答えが無いとき、人は手がかりを集めて比べてから決めます。推す答えが出ると、手がかりを比べる前にその答えへ寄ります。答えが外れていても、手がかりと食い違ったまま従うのが、自動化バイアスの形です。
機械が推す答えが出ると、人は何で決めるか。左に3つの手がかり、右に人の判断を置いた概念図。推す答えが無いときは手がかりから判断へ線が伸び、推す答えが出ると判断はその答えに頼り、答えが外れても手がかりと食い違ったまま従う。概念図で、数値ではありません。Mosier ほか(1998年)とParasuraman・Manzey(2010年)が扱った自動化バイアスを、手がかりと推す答えで描いた模型です。
仕事の例え
仕事に置きかえた例えです。経費を登録するとき、会計ソフトが勘定科目を推すと、領収書の中身や使い道を見比べずに、そのまま登録しがちです。推す科目が外れていても、中身と食い違ったまま登録が進みます。
会計ソフトが科目を推すと、何を見て登録するか。左に領収書の中身・使い道・前の登録、右に登録する科目を置いた例えの図。会計ソフトが科目を推すと見比べずに登録し、推す科目が外れても中身と食い違ったまま登録する。例えの概念図で、実在のソフトや数値ではありません。自動化バイアスを、経費の登録に置きかえた模型です。
暮らしの例え
暮らしの例えです。スマホで文字を打つと、変換の候補が先に出ます。前後の文や言いたい意味を読み返さずに最初の候補で確定しがちで、候補が違う字でも、そのまま送ってしまいます。
変換の候補が先に出ると、何を見て字を決めるか。左に前後の文・言いたい意味・読み返し、右に確定する字を置いた例えの図。最初の候補が先に出ると読み比べずに確定し、候補が違う字でも前後の文と食い違ったまま送る。例えの概念図で、数値ではありません。自動化バイアスを、スマホの文字の変換に置きかえた模型です。
今の AI の例は、下の「この概念・法則でニュースを読む」の記事で読めます。
この概念・法則でニュースを読む
答えが1つに決まらない判断では、AIが推す案が人の結論になる
なぜ?AIエージェントが推す案はコイン投げで決めていたのに、なぜ因果推論の専門家は分析の判断の86%でその案を選び、多くが結論を自分のものと感じたのか
この記事からわかることAIに頼む仕事から、どちらを選んでも筋が通る判断を書き出し、その判断ではAIに推す案を言わせず両方の案の最も強い言い分を並べさせ、自分で選んで理由を1行残し、理由がAIの文のままなら反対の言い分を読み直し、正解のある確かめはAIに任せる
どんなときに当てはまるか
人が判断するときに、機械が推す答えや知らせを出す仕組み(判断の補助)があると起きる。補助の答えが外れたときや、補助が問題を知らせなかったときに、誤りとして表に出る。1人で決めるときにも、チームで決めるときにも起きる。
見分ける手がかり
補助が推した答えと、人が選んだ答えがほとんど同じになる。補助が外れたときに人も一緒に外れ、判断の理由をたずねると、補助が示した手がかりや言い分ばかりが挙がる。
使うときに気をつけたいこと
自動化への過信とは引き金が違う。過信は信頼が実際の能力を超えたずれで、こちらは推す答えがあること自体が、比べる手間の代わりになる。補助に従うこと自体は誤りではなく、補助が人より正確な場面では、従うほうが結果は良くなりうる。問われるのは、補助の答えを自分の手がかりと突き合わせる手順が残っているか。
関連する概念・法則
自動化への過信 に似ている
どちらも、機械の答えに人が頼りすぎる場面を扱う。自動化への過信は、システムへの信頼が実際の能力を超えたずれが引き金で、信頼が能力を超えた分だけ確かめずに従う。自動化バイアスは、機械が推す答えや知らせがあること自体が、人が自分で手がかりを探して比べる手間の代わりになることが引き金で、初心者にも経験者にも起き、訓練や指示では防げないとされる。信頼の高さで従うか、推す答えがそこにあることで従うかで2つが分かれる
この概念・法則の出典と記録
- 最初に観測した日
- 2026-10-30
- 出典
- Kathleen L. Mosier・Linda J. Skitka・Susan Heers・Mark Burdick「Automation Bias: Decision Making and Performance in High-Tech Cockpits」(The International Journal of Aviation Psychology、第8巻第1号、1998年)/Raja Parasuraman・Dietrich H. Manzey「Complacency and Bias in Human Use of Automation: An Attentional Integration」(Human Factors、第52巻第3号、2010年)