Computerworldの記事で、データ保護の専門家が、ある医療IT企業の例を挙げました。社員が、患者の名前の無い治療記録の表を、会社が認めていないAIのサービスに上げていたのです。表には診療所の顧客番号が入っていて、診療所の記録を見られる人なら、誰の記録かを突き止められます。
この記事の要点
- 名前の無い治療記録も、顧客番号から誰のものか分かる
- 1つずつは無害な手がかりも、重なると本人を指す(モザイク効果)
- 何が本人を指すかは組み合わせ次第で、消す一覧に収まらない
- AIに渡す前に、作り話のデータで問いを組み立て直す
名前の列を消しても、番号から誰か分かるか。名前の列を消した治療記録の表が、診療所の記録と番号で照らし合わされ、本人に戻る様子を表した概念図。概念図。Computerworldが伝えたゲージ氏の話(名前を顧客番号に置き換えても匿名にならず、診療所の記録を見られる人なら誰の治療メモか突き止められる)を表にしたもので、実際の表の中身ではありません。
名前の無い治療記録でも、顧客番号から誰のものか突き止められる
Computerworldによると、データ保護の専門家ジュリアン・ゲージ氏が助言した医療IT企業で、社員が治療のメモと診療所の顧客番号の入った表を、会社が認めていないAIのサービスに上げました。記録に患者の名前はありませんでしたが、顧客番号の1つ1つが、特定できる人へつながっていました。
ゲージ氏は「名前を顧客番号に置き換えても、情報は匿名にならない。診療所の記録を見られる人なら、それでも誰の治療メモかを突き止められる」と話します。会議の文字起こしでも、休みや治療のように本人と分かる事情が話されていれば、同僚の名前を消してもあまり役に立たないことがあると、記事は書いています。
名前は表に無いのに、なぜ誰の記録か分かってしまうのか
記事も書くとおり、名前は誰のことかがすぐ分かる手がかりです。その名前が無い表から、なぜ本人にたどり着けてしまうのでしょうか。
1つずつは誰も指さない手がかりも、重なると本人を指す

説明したいのは、名前の無い記録が、なぜ本人につながったのかです。モザイク効果は、1つずつでは誰のことか分からない情報も、ほかに手に入る情報と組み合わさると、個人や守りたい中身を明かしてしまう、という考え方です。
ここでのモザイクは顔をぼかす処理ではなく、小さなタイルを並べて描く絵のことです。タイル1枚では何の絵か分からなくても、何枚か並ぶと絵が浮かびます。
このニュースでは、顧客番号が1枚のタイルで、診療所の記録が、それと組み合わさる情報に当たります。記事の別の場面でも、名前とは違う手がかりが残っています。
| AIに渡しうるもの | 名前のほかに残る手がかり | 重なると分かること |
|---|---|---|
| 治療メモの表 | 診療所の顧客番号 | 誰の治療メモか |
| 会議の文字起こし | 休みや治療の話 | どの同僚の話か |
| エラーの記録 | メソッド名やファイルの場所 | 仕組みや仕事の回し方 |
身近な場面では、社内の無記名のアンケートがそうです。名前を書かなくても、「経理」「入社2年目」と書き添えれば、社内の人には誰の回答か見当がつきます。
何を消せば足りるかの見極めが、資料を貼る1人に任されている
何が本人を指すかは組み合わせで決まるので、消すものの一覧に前もって全部は書けません。それなのに記事によると、AIに秘密を入れないという注意を実際の仕事の判断に置きかえるのは働く人で、しばしば締め切りに追われながらです。報道は、表を上げた社員がなぜそうしたのかを伝えていません。
私の会社でもつい先日、文章を書く役のAIに何が渡るかを確かめると、外す設定を付けたあとも、作業中のファイルの名前のように、渡すつもりの無かったものが届いていました。消すものを数える守りは、数え漏れた手がかりを通してしまいます。
AIに渡す資料は、名前を消すより先に、作り話で組み立て直せるかを見る
記事に出てくる技術者のバスカー・バーラト・サワント氏は、作り話のデータで同じ不具合を起こす小さな例を作り、社外の人がそこから会社の秘密をつなぎ合わせられるなら、さらに削るかAIに入れません。報道はこれで漏れがどれだけ減ったかを伝えていませんが、渡すものを先に決めるので、数え漏れは起きにくいと考えます。
- 名前を消した文を、その人を知る同僚の目で読み、誰の話か分かるかを見る
- 分かるなら消すのをやめ、作り話のデータで同じ問いを組み立て直して渡す
- 本物の中身が無いと相談できないなら、会社が認めたアカウントで扱えるか確かめる
- 扱えるか分からなければ、AIを使わずに進める
名前は伏せたのに、読んだ人には誰の話か分かってしまう。AIに限らず、職場でよくある場面です。あなたの職場で名前のほかに残っていた手がかりと、それを防げた工夫を、この下のおたより欄で聞かせてください。
読み解きに使った概念・法則
モザイク効果
1つずつでは誰のことか、何のことか分からない情報も、ほかに手に入る情報と組み合わさると、個人や守りたい中身を明かしてしまう、という考え方。
この記事で取り上げたニュース
あなたの話も、聞かせてください
名前を消したのに、残った手がかりから誰の話か分かってしまったのは、どんな場面でしたか。そうならずに済んだ職場の工夫や、自分の職場では起きにくいと思う理由でも構いません。
おたよりは編集部で読み、次に調べることや記事づくりの参考にします。
編集部からの返事や、その後の動きはこの欄に追記します。
届いたおたより
おたよりと、編集部からのお返事
気になった話があれば、あなたの経験・考え・疑問もおたよりで送れます。
自分のおたよりは、送ったブラウザでだけ確認できます。ブラウザの保存データを消すと、非公開の本文をこの欄で見返せなくなります。
シェアする
Googleで探しやすくするPRODUCT
注目ツール
直近、ニュースや活用事例、techtech.clubの記事などから話題のITツールを厳選しています。
EXPLORE
ほかのコンテンツも読む
気になるテーマに切り替えて、続きを探せます。
注目の企業
今日のニュース
AIエージェントの操作は利用者の責任、米銀大手が規約に明記
原文を読む(TechCrunch) ↗米国3位の銀行Citiが規約を改め、外部のAIエージェントに口座へのアクセスを認めた利用者は、エージェントの操作に責任を負うと明記しました。AIのツールがログイン情報を漏らしたり、乗っ取られたりして、攻撃者が口座を操作した場合も利用者の責任です。米国最大手の2行も先月、同様の方針を発表しています。
買い物客の74%がAIの勧めを信頼、購入はまだ任せず
原文を読む(ZDNet) ↗Salesforceが買い物客2,500人以上を調べたところ、74%がAIエージェントの勧めを信頼していました。年末商戦の買い物客では20%が、調べものや相談でまずAIエージェントを使っています。一方で、73%は支払い情報をエージェントに渡すことに抵抗があります。
Optimizelyの欠陥で178サイトに情報を盗むコード
原文を読む(Computerworld) ↗マーケティング用のAI基盤Optimizelyの欠陥が悪用され、Salesforce、IKEAなど少なくとも178のサイトに不正なコードが仕込まれました。攻撃者はサイトが読み込むOptimizelyのプログラムにコードを足し、サイト自身のフォームに入力されたカード番号などを盗むようにしていました。
仕事と組織の変化
各社のIT活用
受発注でのAI-Order Foresight(BIPROGY)の使い方
ヤマザワAI-Order Foresight(BIPROGY)
- 受発注
担当者の経験と勘で手作業していた日配品の発注を、AIの需要予測が選んだ商品を確かめるだけで済む形にし、全店で始めた
同じ仕事の他社事例を見る →データの見える化でのAWSの使い方
代金の受け取りでのPaidの使い方