自動化の皮肉

機械が決まった仕事を引き受けると、人に残るのは、機械では扱えない難しい場面への対応と、機械の見張りになる。
ところが人の技能と知識は、使い続けて結果を知ることで保たれ、育つ。
そのため、決まった仕事から離れた人ほど、残された難しい場面に弱くなる。
手作業を経験した世代の技能に頼っている仕組みは、次の世代が同じ技能を持つとは期待できない。
3つの例で見る
3つとも同じ骨組みです。機械が決まった仕事を引き受けるほど、人に残るのは難しい場面になります。ところが技能は使うことで保たれるので、人はその難しい場面にこそ弱くなります。
仕組み
機械は決まった仕事から引き受け、人に残るのは、機械では扱えない難しい場面になります。ところが技能は使い続けることで保たれるので、決まった仕事から離れた人ほど、その難しい場面に対応できなくなります。Bainbridge(1983年)が勧めたのは自動化をやめることではなく、勤務ごとに少し手で操作する時間や、模擬の練習で技能を保つことでした。
決まった仕事を機械に任せると、人には何が残るか。仕事を難しさの順に縦に並べた柱の図。機械に任せるほど、下の決まった仕事から機械の受け持ちがせり上がり、人に残る仕事は上の難しい場面だけになる。同時に、使う機会を失った技能では対応できない部分が上から広がる。。概念図で、数値ではありません。Lisanne Bainbridge「Ironies of Automation」(Automatica、1983年)の考え方を図にしたものです。
身近な例え
例え話です。毎日の道案内をカーナビに任せると、自分で道を選ぶ機会がなくなります。工事の迂回など、ナビが案内できない日だけは自分で道を探しますが、そのころには土地勘が育っていません。
道案内をナビに任せると、自分には何が残るか。道探しを難しさの順に縦に並べた柱の例えの図。ナビが毎日の道案内を引き受けるほど、自分で探す道はナビが案内できない迂回だけになり、土地勘が育たず迷う部分が上から広がる。。身近な場面に置きかえた例えの概念図です。調べた結果ではなく、数値もありません。
研究の例
Casner ほか(Human Factors、2014年)は、旅客機のパイロット16人にシミュレーターで飛んでもらいました。計器を見て手で操る技能はほぼ保たれていた一方、地図の表示なしで位置をつかむ、計器の故障に気づくといった頭を使う作業では、問題がより多く、より深刻に出ました。この衰えは、自動化に任せている間の、飛行と関係のない考えごとの多さと結びついていました。
自動化に慣れたパイロットは、何が落ちていたか。飛行の仕事を難しさの順に縦に並べた柱の図。自動操縦がいつもの飛行を引き受け、パイロットに残るのは上の難しい場面になる。手で操る技能はほぼ保たれ、故障に気づく・位置をつかむ作業で問題が多く出たことを示す。。Casner ほか「The Retention of Manual Flying Skills in the Automated Cockpit」(Human Factors、2014年)の結果の向きを示す概念図です。動きは測った変化ではありません。
今の AI の例は、下の「この概念・法則でニュースを読む」の記事で読めます。
この概念・法則でニュースを読む
AIが当たり続けるほど、人が引き継げるかは見えなくなる
なぜ?AIの案を覆す権限と結果の責任は人に残るのに、AIがうまく動くほど、なぜ人の衰えを確かめる手がかりまで消えていくのか
この記事からわかることAIの案を覆す回数で人の判断力を測らず、AIが外れたら人が決め直す前提の判断だけ、ときどきAIの案を見る前に人が先に決めて突き合わせる
下書きはAIで速くなっても、確かめる力は速く育たない
なぜ?AIの出力を確かめる力がもっと必要なのに、なぜその力を育ててきた反復作業からAIに渡っていくのか
この記事からわかることAIに渡した作業が新人の練習を兼ねていたなら、AIの出力と原本の突き合わせを若手に回し、先輩が見落としを返して確かめる力を育てる場を残す
どんなときに当てはまるか
決まった仕事が機械に移り、人の役割が見張りと例外への対応に変わったときに起きる。人が手を動かして覚える機会が、仕事の流れから消えているほど強く出る。
見分ける手がかり
新人が担っていた反復作業が自動化され、確かめ役が手作業の経験がある人に偏っている。例外が起きたときに対応できる人が限られる。
使うときに気をつけたいこと
自動化をやめる根拠に使わない。Bainbridgeが求めたのは、自動化したあとも人の技能を保つ対策(ときどき手で操作する時間や、模擬の練習)で、自動化の否定ではない。
この概念・法則に関係するニュース
関連する概念・法則
スイスチーズモデル と重ねると
機械に任せて使わなくなった人の技能の衰え(自動化の皮肉)が、機械が外れる日まで試されない守りの弱さ(スイスチーズモデルの、長く気づかれない穴)になり、機械がよく当たるほど衰えが見えなくなる
この概念・法則の出典と記録
- 最初に観測した日
- 2026-10-11
- 出典
- Lisanne Bainbridge「Ironies of Automation」(Automatica、第19巻第6号、1983年)