AIが分析や判断を担い、人はその案を確かめて通す。そんな仕事の分け方が広がり始めています。人はAIの案を覆すことができ、AIが誤ったり止まったりしたときは引き継いで判断し、結果の責任も負います。ドレクセル大学の教授はThe Conversationへの寄稿で、この人たちが自分で判断する力を失っていくおそれを指摘しました。
この記事の要点
- AIの案を確かめるだけの人は、自分で判断する力が落ちることがある
- AIの案を覆す回数が減っても、AIの上達か人の衰えかは分からない
- AIが当たるあいだ、引き継ぐ人の判断力は試されないまま残る
- 人が引き継ぐ前提の判断だけ、AIの案を見ずに決めて突き合わせる
覆す回数が減っても、人の判断力が残っているかは分からない。職場AとBで、AIの案を覆す回数の棒が同じように短くなる。引き継ぐ判断力の棒は灰色の覆いに隠れて見えず、AIの案を見ずに決めると、職場Bだけ判断力の棒が縮みオレンジの欠けが出る模型。模型です。寄稿の、覆す回数が減っても依存が進んだのかAIが正確になったのかは回数だけでは分からない、という指摘を仮の職場AとBに置きかえた図で、棒の長さは数値ではありません。
AIの案を見張るだけの人の衰えを、研究者が潜在リスクと呼ぶ
The Conversationに、ドレクセル大学で経営情報システムを教える教授が寄稿しました。寄稿が描くのは、何ヶ月も提案がほぼいつも正しいAIと、それを確かめる社員という仮の場面です。
そこへAIが誤るか、先へ進めなくなる場面が来ます。社員は代わりに入ることを求められ、結果の責任も負ったままです。
教授は、組織がまだ頼っている力を人が失っていくおそれを、潜在リスクと呼びます。危険が隠れるのは、組織がその力に頼ったまま、弱っている可能性に気づくきっかけが少ないときだとしています。寄稿は、ほかにも次の問題を挙げています。
| 論点 | 中身 |
|---|---|
| 成功の逆説 | 自分で判断する回数は減り、残る判断は難しくなりうる |
| 測り方 | 覆す回数の減りが、依存かAIの上達かは、回数ではほとんど分からない |
AIがよく当たるほど、なぜ人の判断力の衰えは見えなくなるのか
運転免許があっても、何年もハンドルを握らない人がいます。免許も立場も残りますが、うまく運転できるかは運転する日まで分かりません。
寄稿の社員も、AIの案を覆す権限と結果の責任は持ったままです。それでもAIの案が当たり続けると、自分で決める日は来ません。AIがうまく動くほど、なぜ衰えを確かめる手がかりまで消えるのか。
決める仕事をAIに渡すと、見張りと難しい場面が人に残る
このニュースで説明したいのは、社員の仕事が、自分で決めることからAIの案の見張りへ移った点です。認知心理学者のLisanne Bainbridgeは1983年に、この移り方を自動化の皮肉として論じました。
機械が仕事を引き受けても、人は楽になるとは限りません。見張りと、機械が扱えない珍しい場面が残り、使わない技能は衰えるという考え方です。
このニュースでも、社員に残ったのは見張りと、AIが誤るか止まった場面です。判断力がいちばん求められる場面が残るのに、それを使う機会は減っていきます。
事故を防ぐ守りの弱さは、別の守りが破れる日まで表に出ない
このニュースで説明したいのは、判断力が落ちても組織が気づくきっかけが少ない点です。James Reasonのスイスチーズモデルは、事故を防ぐ守りを、穴のあいたチーズの薄切りの重なりに見立てます。
穴が一列にそろったときだけ、事故の通り道ができます。Reasonは、設計や管理の判断が残す穴は長く気づかれないことがあり、事故の前に見つけて直せるとしました。
このニュースでは、AIの判断が最初の守り、引き継ぐ人が次の守りです。AIが当たるあいだは最初の守りで済むので、判断力の衰えは試されないまま残ると考えます。
AIが当たるほど、人の判断力は使われず、しかも試されない
自動化の皮肉だけなら、判断力が落ちる話で終わります。スイスチーズモデルを重ねると、落ちた判断力は、AIが外れる日まで試されない守りになります。AIがよく当たるほど、判断力を使う機会も試す機会も減ります。
覆す回数の減りは、AIの上達とも、人の衰えとも読める
私の会社では10月8日から、このサイトのニュース8本を私が毎朝承認して公開していました。10月9日から12日まで、直したり見送ったりしたのは0回です。
返事が無いとニュースが出ない形だったので、12日に承認をやめると決めました。あの0回は、AIの選び方が良かったしるしとも、私が通すだけだったしるしとも読めます。
寄稿は、判断力がどれだけ落ちるかの数字は伝えていません。正確さや生産性の数字は、人の役割が変わっても良く見えうるとしています。覆す回数も正確さも、人がまだ引き継げるかは測っていません。
人が引き継ぐ前提の判断だけ、AIの案を見ずに決めてみる
寄稿は、AIが上手にこなせる仕事なら、人が同じ仕事を続ける理由は薄いとしています。AIの案を確かめて通す仕事ごとに、次の順で決めます。
- AIが外れたら、人が決め直す前提かを問う
- 前提でなければ、その判断力は残さなくてよい
- 前提なら、ときどきAIの案を見る前に先に決める
- 人の答えとAIの案を突き合わせる
- 外れ続けるなら、練習で判断力を戻すか、人に頼る前提を見直す
読み解きに使った概念・法則
この記事で取り上げたニュース
同じ概念・法則で読める記事
慣れた人が補ってきたデータの食い違いは、AIで表に出る
なぜ？仕組みごとの台数の食い違いは前からあり、慣れた担当者が補ってきたのに、なぜAIを入れると、その食い違いがすぐに表に出るのか
この記事からわかることAIに任せる仕事を1つ選んで読むデータの置き場を並べ、慣れた人がどれを信じて何を補っているかを聞き、補っていればAIに渡す前にデータを直すか正とする置き場を決め、AIが見つけた食い違いは直すか残すかを人が決める
消したのがAIか人かより、戻せるかが損の大きさを決める
なぜ？消したのがAIか人かで説明が分かれる中で、なぜ1年分の仕事が丸ごと戻らず、一から作り直すことになったのか
この記事からわかることAIに触らせる場所ごとに、バックアップから昨日の状態に戻せるかを試し、戻せないかバックアップがAIの触れられる所にあるなら、写しを渡すか消す操作を人に残す
下書きはAIで速くなっても、確かめる力は速く育たない
なぜ？AIの出力を確かめる力がもっと必要なのに、なぜその力を育ててきた反復作業からAIに渡っていくのか
この記事からわかることAIに渡した作業が新人の練習を兼ねていたなら、AIの出力と原本の突き合わせを若手に回し、先輩が見落としを返して確かめる力を育てる場を残す
シェアする
Googleで探しやすくする
関連記事
PRODUCT
注目ツール
直近、ニュースや活用事例、techtech.clubの記事などから話題のITツールを厳選しています。
