IT部門でAIを試しても、期待ほどの成果が出ないことがあります。Computerworldの記事は、多くの組織で原因は技術ではなく、ばらばらのデータにあると指摘しました。同じ組織の機器の台数も仕組みごとに違い、慣れた担当者が、どの仕組みを信じればよいかを覚えて補ってきました。
この記事の要点
- 機器の台数が、仕組みごとに9,400台・8,700台・10,200台と違う
- 慣れた担当者が補ってきた食い違いが、AIの答えにそのまま出る
- AIに渡す前に、人がどこを補っているかを聞いて直す
人が補ってきた台数の食い違いは、AIの答えに出る。3つの仕組みが数えた機器の台数（9,400台・8,700台・10,200台）は食い違う。慣れた担当者は信じる仕組みを選んで残りを記憶で補うが、AIは担当者を通らずにデータを読み、食い違いが答えに出る図。台数はComputerworld（2026年10月20日）の記事が挙げた例です。担当者とAIの線と答えの四角は、記事の説明をもとに描いた概念図で、実際に数え違えた件数は伝えられていません。
同じ組織の機器の台数が、3つの仕組みで食い違っている
Computerworldの記事によると、IT運用でAIを試して期待を下回ると、まず技術が疑われます。ところが多くの組織で、原因は2年間照合していない構成管理の台帳（CMDB）や、表計算ソフトの資産のデータにあります。
記事は、AIはこうした問題を作らず、すぐに、人目につく形で表に出すと書いています。IT環境の多くは道具を1つずつ足して育ち、互いにデータを分け合うように作られたものはほとんどありません。機器の台数は、仕組みごとに次のように違います。
| 仕組み | 台数 |
|---|---|
| 端末の管理の道具 | 9,400台 |
| セキュリティの検査の道具 | 8,700台 |
| 構成管理の台帳（CMDB） | 10,200台（使い終えた数百台を含む） |
人はこの食い違いをよけることを覚え、慣れた担当者は、どの問いにどの仕組みを信じるかを知っていて、残りを記憶で埋めます。その知恵は貴重ですが、AIには見えません。
AIが食い違いに出会うと、答えにもそれが出ます。重要な更新が抜けたノートパソコンの一覧をAIに頼むと、端末の管理と検査の道具で機器の名前が違えば、一部を2回数え、ほかをまったく拾わないことがあります。
食い違いは前からあったのに、なぜAIを入れると表に出るのか
コピー機の紙詰まりを、近くの席の人がいつも直している職場では、修理は頼まれません。その人が帰ったあと、自動で流した印刷が止まって、初めて修理の話になります。
同じデータを読んでいるのに、なぜAIを入れると、すぐに食い違いが表に出るのか。
慣れた人が補う間は、データの食い違いは悪い結果にならない
説明したいのは、前からあった食い違いが、なぜAIで初めて問題になるのかです。James Reasonのスイスチーズモデルは、事故を防ぐ守りを、穴のあいたチーズの薄切りを何枚も重ねたものに見立てます。
1枚に穴があってもふつう悪い結果にはならず、穴が一列にそろったときに通り抜けます。Reasonは、設計や管理の判断が残す弱さは長く気づかれないことがあり、悪い結果の前に見つけて直せるとしました。
このニュースでは、機器を数える道具が1枚目の守りで、名前や台数の食い違いがその穴です。どの仕組みを信じるかを知る担当者は2枚目の守りで、担当者が補う間、食い違いは悪い結果にならず、照合されずに残ります。
AIは担当者の知恵を持たずにデータを読むので、答えはこの守りを通りません。
AIは担当者を通らずに、ばらばらのデータをそのまま読んでいる
記事は、台数がどの組織のものか、AIが実際にどれだけ数え違えたかを伝えていません。スイスチーズモデルに照らすと、次の順で起きていると考えます。
- 部署ごとに道具を入れ、数え方がそろわない
- 慣れた担当者が、どれを信じるかを覚えて補う
- 仕事は進むので、食い違いは照合されずに残る
- AIは担当者を通らずに読み、答えに食い違いが出る
AIが失敗を作ったのではなく、担当者が補ってきた食い違いが表に出ています。
AIに渡す前に、慣れた人がどこを補っているかを聞く
記事は、AIに任せる仕事を1つ選び、使うデータの出どころをすべてたどるよう勧めています。顧客の一覧や在庫の表が2か所以上にあるなら、人がどこで補っているかも見ます。
- 任せる仕事を1つ選び、読むデータの置き場を並べる
- 置き場ごとに、慣れた人にどれを信じて何を補うかを聞く
- 補っていなければ、そのままAIに渡す
- 補っていれば、渡す前にデータを直すか、正とする置き場を決める
- AIが食い違いを見つけたら、直すか残すかを人が決める
私の会社でも10月19日、機器の台帳に過去の機種を22件足す作業をAIに任せると、前からあった食い違いが2件見つかりました。1件は、前の世代のページを書き換えたときに古いまま残った欄で、直しました。もう1件は確かめきれず、直さないと決めています。
読み解きに使った概念・法則
スイスチーズモデル
事故を防ぐ守りを、穴のあいたスイスチーズの薄切りを何枚も重ねたものに見立てる考え方。
この記事で取り上げたニュース
同じ概念・法則で読める記事
AIが当たり続けるほど、人が引き継げるかは見えなくなる
なぜ？AIの案を覆す権限と結果の責任は人に残るのに、AIがうまく動くほど、なぜ人の衰えを確かめる手がかりまで消えていくのか
この記事からわかることAIの案を覆す回数で人の判断力を測らず、AIが外れたら人が決め直す前提の判断だけ、ときどきAIの案を見る前に人が先に決めて突き合わせる
消したのがAIか人かより、戻せるかが損の大きさを決める
なぜ？消したのがAIか人かで説明が分かれる中で、なぜ1年分の仕事が丸ごと戻らず、一から作り直すことになったのか
この記事からわかることAIに触らせる場所ごとに、バックアップから昨日の状態に戻せるかを試し、戻せないかバックアップがAIの触れられる所にあるなら、写しを渡すか消す操作を人に残す
シェアする
Googleで探しやすくする
関連記事
PRODUCT
注目ツール
直近、ニュースや活用事例、techtech.clubの記事などから話題のITツールを厳選しています。
