AIが分析や判断を担い、人はその案を確かめて通す。そんな仕事の分け方が広がり始めています。人はAIの案を覆すことができ、AIが誤ったり止まったりしたときは引き継いで判断し、結果の責任も負います。ドレクセル大学の教授はThe Conversationへの寄稿で、この人たちが自分で判断する力を失っていくおそれを指摘しました。

この記事の要点

  • AIの案を確かめるだけの人は、自分で判断する力が落ちることがある
  • AIの案を覆す回数が減っても、AIの上達か人の衰えかは分からない
  • AIが当たるあいだ、引き継ぐ人の判断力は試されないまま残る
  • 人が引き継ぐ前提の判断だけ、AIの案を見ずに決めて突き合わせる

覆す回数が減っても、人の判断力が残っているかは分からない。職場AとBで、AIの案を覆す回数の棒が同じように短くなる。引き継ぐ判断力の棒は灰色の覆いに隠れて見えず、AIの案を見ずに決めると、職場Bだけ判断力の棒が縮みオレンジの欠けが出る模型。模型です。寄稿の、覆す回数が減っても依存が進んだのかAIが正確になったのかは回数だけでは分からない、という指摘を仮の職場AとBに置きかえた図で、棒の長さは数値ではありません。

AIの案を見張るだけの人の衰えを、研究者が潜在リスクと呼ぶ

The Conversationに、ドレクセル大学で経営情報システムを教える教授が寄稿しました。寄稿が描くのは、何ヶ月も提案がほぼいつも正しいAIと、それを確かめる社員という仮の場面です。

そこへAIが誤るか、先へ進めなくなる場面が来ます。社員は代わりに入ることを求められ、結果の責任も負ったままです。

教授は、組織がまだ頼っている力を人が失っていくおそれを、潜在リスクと呼びます。危険が隠れるのは、組織がその力に頼ったまま、弱っている可能性に気づくきっかけが少ないときだとしています。寄稿は、ほかにも次の問題を挙げています。

論点 中身
成功の逆説 自分で判断する回数は減り、残る判断は難しくなりうる
測り方 覆す回数の減りが、依存かAIの上達かは、回数ではほとんど分からない

AIがよく当たるほど、なぜ人の判断力の衰えは見えなくなるのか

運転免許があっても、何年もハンドルを握らない人がいます。免許も立場も残りますが、うまく運転できるかは運転する日まで分かりません。

寄稿の社員も、AIの案を覆す権限と結果の責任は持ったままです。それでもAIの案が当たり続けると、自分で決める日は来ません。AIがうまく動くほど、なぜ衰えを確かめる手がかりまで消えるのか。

決める仕事をAIに渡すと、見張りと難しい場面が人に残る

決まった仕事は機械が流れ作業でこなし、人には難しい場面だけが回ってくる。見張るだけの人の技能は衰えていく絵
自動化の皮肉のイメージ

このニュースで説明したいのは、社員の仕事が、自分で決めることからAIの案の見張りへ移った点です。認知心理学者のLisanne Bainbridgeは1983年に、この移り方を自動化の皮肉として論じました。

機械が仕事を引き受けても、人は楽になるとは限りません。見張りと、機械が扱えない珍しい場面が残り、使わない技能は衰えるという考え方です。

このニュースでも、社員に残ったのは見張りと、AIが誤るか止まった場面です。判断力がいちばん求められる場面が残るのに、それを使う機会は減っていきます。

事故を防ぐ守りの弱さは、別の守りが破れる日まで表に出ない

穴のあいた守りの薄切りが何枚も並び、穴が一列にそろった線だけが事故まで届く絵
スイスチーズモデルのイメージ

このニュースで説明したいのは、判断力が落ちても組織が気づくきっかけが少ない点です。James Reasonのスイスチーズモデルは、事故を防ぐ守りを、穴のあいたチーズの薄切りの重なりに見立てます。

穴が一列にそろったときだけ、事故の通り道ができます。Reasonは、設計や管理の判断が残す穴は長く気づかれないことがあり、事故の前に見つけて直せるとしました。

このニュースでは、AIの判断が最初の守り、引き継ぐ人が次の守りです。AIが当たるあいだは最初の守りで済むので、判断力の衰えは試されないまま残ると考えます。

AIが当たるほど、人の判断力は使われず、しかも試されない

自動化の皮肉だけなら、判断力が落ちる話で終わります。スイスチーズモデルを重ねると、落ちた判断力は、AIが外れる日まで試されない守りになります。AIがよく当たるほど、判断力を使う機会も試す機会も減ります。

覆す回数の減りは、AIの上達とも、人の衰えとも読める

私の会社では10月8日から、このサイトのニュース8本を私が毎朝承認して公開していました。10月9日から12日まで、直したり見送ったりしたのは0回です。

返事が無いとニュースが出ない形だったので、12日に承認をやめると決めました。あの0回は、AIの選び方が良かったしるしとも、私が通すだけだったしるしとも読めます。

寄稿は、判断力がどれだけ落ちるかの数字は伝えていません。正確さや生産性の数字は、人の役割が変わっても良く見えうるとしています。覆す回数も正確さも、人がまだ引き継げるかは測っていません。

人が引き継ぐ前提の判断だけ、AIの案を見ずに決めてみる

寄稿は、AIが上手にこなせる仕事なら、人が同じ仕事を続ける理由は薄いとしています。AIの案を確かめて通す仕事ごとに、次の順で決めます。

  1. AIが外れたら、人が決め直す前提かを問う
  2. 前提でなければ、その判断力は残さなくてよい
  3. 前提なら、ときどきAIの案を見る前に先に決める
  4. 人の答えとAIの案を突き合わせる
  5. 外れ続けるなら、練習で判断力を戻すか、人に頼る前提を見直す

読み解きに使った概念・法則

この記事の中心となる概念・法則

自動化の皮肉

機械が決まった仕事を引き受けると、人に残るのは、機械では扱えない難しい場面への対応と、機械の見張りになる。

理解を補う概念・法則

スイスチーズモデル

事故を防ぐ守りを、穴のあいたスイスチーズの薄切りを何枚も重ねたものに見立てる考え方。

この記事で取り上げたニュース

同じ概念・法則で読める記事

AIエージェントに任せても、電話と確かめは人に回ってくる

なぜ?AIエージェントを作る新興企業が、なぜソフトが失敗したときに作業をこなす人の役割を強調し、ほかの会社が人の作業者に作業を回せる仕組みまで公開するのか

この記事からわかることAIに任せたい仕事を作業ごとに書き出し、電話や予約など外の相手とのやり取りとAIの答えの確かめに印を付け、担当する人と見てよい情報を先に決め、AIのサービスはどの作業を人がこなすかを聞いて、答えが無ければ個人の情報を入れない

慣れた人が補ってきたデータの食い違いは、AIで表に出る

なぜ?仕組みごとの台数の食い違いは前からあり、慣れた担当者が補ってきたのに、なぜAIを入れると、その食い違いがすぐに表に出るのか

この記事からわかることAIに任せる仕事を1つ選んで読むデータの置き場を並べ、慣れた人がどれを信じて何を補っているかを聞き、補っていればAIに渡す前にデータを直すか正とする置き場を決め、AIが見つけた食い違いは直すか残すかを人が決める

消したのがAIか人かより、戻せるかが損の大きさを決める

なぜ?消したのがAIか人かで説明が分かれる中で、なぜ1年分の仕事が丸ごと戻らず、一から作り直すことになったのか

この記事からわかることAIに触らせる場所ごとに、バックアップから昨日の状態に戻せるかを試し、戻せないかバックアップがAIの触れられる所にあるなら、写しを渡すか消す操作を人に残す

下書きはAIで速くなっても、確かめる力は速く育たない

なぜ?AIの出力を確かめる力がもっと必要なのに、なぜその力を育ててきた反復作業からAIに渡っていくのか

この記事からわかることAIに渡した作業が新人の練習を兼ねていたなら、AIの出力と原本の突き合わせを若手に回し、先輩が見落としを返して確かめる力を育てる場を残す

シェアする

Googleで探しやすくする
なべ

Author

なべ

テクノロジーは好きですが、そのものを作る側ではありません。かといって、新しい道具を集めて満足するほうでもない。

何か新しいものが出てきたとき、私が考えるのは「これで何ができるか」より「今のやり方このままでいいんだっけ」のほう。道具が増えるより、やり方ごと作り変えたり、無くしたりするほうが好きです。

AIが来て、人の考え方も、仕事の進め方も変わっています。その変わり方に興味があって自分の仕事で先に試しています。techtech.clubは、そのやってみた結果を置いておく場所です。

PRODUCT

注目ツール

直近、ニュースや活用事例、techtech.clubの記事などから話題のITツールを厳選しています。

EXPLORE

ほかのコンテンツも読む

気になるテーマに切り替えて、続きを探せます。

注目の企業

今日のニュース

  • 身代金要求型の攻撃が増加、AIで詐欺メールも巧妙に

    身代金を要求するサイバー攻撃(ランサムウェア)が、ここ数ヶ月で急に増えたと研究者はみています。犯罪者はAIを巧妙な詐欺メールの作成や交渉に使っています。日本では、AIで海外の攻撃者が説得力のある日本語の文面を作れるようになり、詐欺の被害が大きく増えています。完全に自動の攻撃はまだ現れていません。

    原文を読む(WIRED) ↗
  • Claude Opus 5.5、古い頼み方で応答が遅くなる

    ClaudeAnthropic

    Anthropicは、有料プランの標準になったClaude Opus 5.5の頼み方の指針を公開しました。「よく考えて」などの指示を削ると、品質を落とさず応答が早く始まるとしています。推論にかける手間の設定は標準の「Medium」から始め、目的と出力の形を1回でまとめて伝えるよう勧めています。

    原文を読む(THE DECODER) ↗
  • AIチャットボット、買い物の質問に詐欺サイトを案内

    ChatGPTGeminiPerplexity

    Podqiの調査で、AIチャットボットが買い物の質問に、実在の店を装うサイトや偽物を売るサイトを示すことがありました。回答に占める割合はPerplexityが15%、ChatGPTが8%、Geminiが4%です。同社のCEOは、個人情報やカード情報を入れる前に出どころを確かめるよう勧めています。

    原文を読む(Futurism) ↗

仕事と組織の変化

  • 職員約2万人の申請を紙からスマホへ

    上尾中央医科グループ

    詳しく見る
  • 回線契約と通信費の請求を1つの窓口にまとめる

    バローHD

    インボイスが公開した導入事例によると、バローホールディングスは回線契約と通信費の請求の窓口を、インボイスに一本化しました。通信料金の請求を1本にまとめる「Gi通信」は2006年から使い、光回線サービス「インボイス光」は2017年から導入を順次広げました。事例では、情報システム部の3名で1,500店舗超の回線を管理し、経理部では店舗から届いていた紙の請求書がなくなって、担当者1名の月3〜4時間程度の作業でグループ全体の通信費の精算が終わるとしています。中部薬品やアクトスなどグループ会社への展開も進めています。

    詳しく見る
  • 行内の問い合わせ対応や書類確認にAIを活用

    ふくおかFG

    詳しく見る

各社のIT活用

  • 社員の情報でのカオナビの使い方

    日本ハムカオナビ

    • 社員の情報

    組織全体を見渡した人材の配置と、育成を見据えた計画的な異動・配置ができる基盤をつくるために入れた

    同じ仕事の他社事例を見る →
  • 文章・資料づくりでのAzure OpenAI Service(IIJ GIO with Microsoft Azure)の使い方

    ふくおかFGAzure OpenAI Service(IIJ GIO with Microsoft Azure)

    • 文章・資料づくり

    文書の下書きや企画のアイデア出し、マーケット情報の整理に、本部と営業店の約6,000人が使える社内の生成AIを使っている

    同じ仕事の他社事例を見る →
  • クラウド基盤でのAWSの使い方

    バローHDAWS

    • クラウド基盤

    グループ5社の基幹システムを AWS の上に移し、システムどうしをつなぐデータHUBも AWS の上に作り、移行費用の償却後で従来より40%のコスト削減を見込む

    同じ仕事の他社事例を見る →

情報流出・サイバー被害