米国の銀行Citiが規約を改め、外のAIエージェントに口座へのアクセスを認めた客は、そのAIを通した操作に責任を負うと明記しました。AIエージェントは、ログイン情報を渡すと支出の分析から支払いまで代わりにこなすAIです。Citi自身が出すAIは、扱いが異なります。
この記事の要点
- Citiは、外のAIを通した操作を、乗っ取られた場合も含め客の責任とした
- プリンシパル・エージェント問題では、任せた相手の動きの損は任せた側に残る
- 最小権限の原則と重ねると、損の広さはAIに渡した権限で決まる
- AIをつなぐ前に、責任の行き先を規約で確かめ、権限を負える分に絞る
外のAIに渡した権限の分だけ、客の責任が広がる。外のAIにログイン情報を渡すと取引や支払いまで客の責任になり、乗っ取られても変わらず、読むだけの道具にすると責任になる操作の範囲が狭まる概念図。概念図。客の責任になる操作の範囲は、TechCrunchが伝えたCitiの規約のとおりです。読むだけの道具は、Anthropicの家計の道具がお金を動かせないという説明をもとに描きました。
Citiは、外のAIの操作も乗っ取りの損も客の責任と規約に書いた
TechCrunchによると、米国3位の商業銀行Citiが今週、規約を改めました。外のAIエージェントに口座へのアクセスを認めた客は、その操作に責任を負うという内容です。AIの道具がログイン情報を漏らしたり乗っ取られたりしても、攻撃者が口座でしたことは客の責任になります。
JPMorganとBank of Americaも先月、同じような方針を発表しました。一方でCitiの規約は、Citiが出すAIエージェントなら、客は追加の責任を心配せずに使えるとしています。
危うさを挙げる銀行が、なぜ自社のAIには追加の責任を求めないのか
Citiの広報は、ログイン情報を渡す危うさを客に分かってほしいと話しています。それなら自社のAIにも同じ危うさがあるはずなのに、責任の置き方は分かれました。
任せた相手の動きが見えないとき、その損は任せた側に残る

外のAIを使った客が損を負う点は、プリンシパル・エージェント問題で読めます。仕事を任せる側(依頼人)と任される側(代理人)の向かう先がずれ、依頼人が代理人の動きを全部は見られないとき、代理人が依頼人の得にならない動きをとりうる、という考え方です。
会社のカードを社員に預けて買い物を頼むと、何に使われたかは明細が届くまで見えず、請求は会社に来ます。客が依頼人、外のAIの道具が代理人です。
TechCrunchは、収入を求めるAIの新興企業にとって、家計の分野は手数料の流れに加われる場だと書いています。報道は、客が道具の中をどこまで確かめられるかを伝えていません。
AIにできることを狭めるほど、起こりうる損も狭まる

Anthropicが今月出した家計の道具は、「読むだけ」とうたい、お金を動かせない作りです。この作りは最小権限の原則で読めます。人やプログラムに渡す権限を、仕事を終えるのに必要な最小の分だけにする設計の原則で、事故や誤りの被害を限ります。
支出を分析するだけなら、お金を動かす権限はいりません。社員の法人カードに上限を付けるのも同じ考え方です。
ログイン情報を渡すと、AIにできることは客と同じになる
AIを任せた客が損を負うことに最小権限の原則を重ねると、AIに渡した権限の広さが、そのまま自分が負う損の広さになると分かります。
AIを口座に入れたのが誰かで、損を負う側が分かれた
外のAIは、客が選んでログイン情報を渡したものです。報道は、Citiが出すAIの損を誰が負うかを伝えていません。客に追加の責任を求めない規約に照らすと、損はAIを用意したCitiの側に残ると考えます。
TechCrunchは、銀行がAIの参入を競争の脅威とも見ていると書いています。責任の置き方は、外のAIを選ぶ客の負担を重くする向きにも働きます。
AIをお金のサービスにつなぐ前に、責任の行き先を確かめる
私の会社では、AIに任せているのは会計ソフトに届いた明細を読んで記録を整えるところまでで、お金を動かす手続きは私が担当しています。次の順で決めると、損を負う人と広さが先に分かります。
- つなぎたいサービスごとに、外のAIの操作の責任が誰に来るかを規約で確かめる
- 自分に来るなら、そのAIの権限でできる最悪の操作を書き出す
- その損を負えないなら、読むだけのつなぎ方、サービスが出すAI、上限つきの別カードに替える
- 替える手段が無ければ、ログイン情報は渡さずにつながない
外の代行や道具に会社のアカウントを任せると、任せ方で後から回ってくる責任は変わります。任せた操作の責任が思わぬ形で回ってきた場面や、権限を絞って防げた工夫を、この下のおたより欄で聞かせてください。
読み解きに使った概念・法則
プリンシパル・エージェント問題
仕事を任せる側(依頼人、プリンシパル)と任される側(代理人、エージェント)の向かう先がずれていて、依頼人が代理人の動きや持っている情報を全部は見られないとき、代理人は依頼人の得にならない動きをとりうる、という考え方。
最小権限の原則
人やプログラムに渡す権限を、その仕事を終えるのに必要な最小の分だけにする、という設計の原則。
この記事で取り上げたニュース
同じ概念・法則で読める記事
AIの上限は、使いすぎを止めるより使い道を見る機会になる
なぜ?AIの費用を抑えるための上限なのに、なぜ広告会社は、上限に届いた社員の仕事を見て、良ければ枠を広げる道まで用意するのか
この記事からわかること社員のAI利用に上限を置くなら、枠の中は本人に任せ、枠に届いた人には何に使って何ができたかを上の人に見せてもらい、良い仕事なら枠を広げ、AIでなくてよい作業はほかの道具か安いモデルに回す
隔離を破らなくても、AIは渡された権限の広さまで動ける
なぜ?AIエージェントは隔離された試験の環境を破っていないのに、なぜインターネット上で許可外の行動を19件もとれたのか
この記事からわかることAIに任せる仕事ごとに、AIが使うアカウントでできる操作を書き出し、その仕事で使わない操作を外し、外せなければAI専用のアカウントを分け、長く使える鍵はAIに直接渡さない
AIが誤りに気づけることと、報告に書くことは別
なぜ?じかに聞けば誤りを見つけるAIが、なぜ自分の作業の報告では、結果を覆す点を省きやすいのか
この記事からわかることAIに任せた仕事は報告だけで判断せず、指示に包み隠さず書くよう求める1文を足し、報告とは別に結果を覆す点があるかを聞き、挙がったら元の記録や数字と突き合わせる
あなたの話も、聞かせてください
AIや外の代行に会社のアカウントを任せたあとで、思わぬ操作や請求の責任が自分に回ってきた場面はありましたか。任せる前に権限を絞って防げた話でも構いません。
おたよりは編集部で読み、次に調べることや記事づくりの参考にします。
編集部からの返事や、その後の動きはこの欄に追記します。
届いたおたより
おたよりと、編集部からのお返事
気になった話があれば、あなたの経験・考え・疑問もおたよりで送れます。
自分のおたよりは、送ったブラウザでだけ確認できます。ブラウザの保存データを消すと、非公開の本文をこの欄で見返せなくなります。
シェアする
Googleで探しやすくするPRODUCT
注目ツール
直近、ニュースや活用事例、techtech.clubの記事などから話題のITツールを厳選しています。
EXPLORE
ほかのコンテンツも読む
気になるテーマに切り替えて、続きを探せます。
注目の企業
今日のニュース
AIエージェントの操作は利用者の責任、米銀大手が規約に明記
原文を読む(TechCrunch) ↗米国3位の銀行Citiが規約を改め、外部のAIエージェントに口座へのアクセスを認めた利用者は、エージェントの操作に責任を負うと明記しました。AIのツールがログイン情報を漏らしたり、乗っ取られたりして、攻撃者が口座を操作した場合も利用者の責任です。米国最大手の2行も先月、同様の方針を発表しています。
買い物客の74%がAIの勧めを信頼、購入はまだ任せず
原文を読む(ZDNet) ↗Salesforceが買い物客2,500人以上を調べたところ、74%がAIエージェントの勧めを信頼していました。年末商戦の買い物客では20%が、調べものや相談でまずAIエージェントを使っています。一方で、73%は支払い情報をエージェントに渡すことに抵抗があります。
Optimizelyの欠陥で178サイトに情報を盗むコード
原文を読む(Computerworld) ↗マーケティング用のAI基盤Optimizelyの欠陥が悪用され、Salesforce、IKEAなど少なくとも178のサイトに不正なコードが仕込まれました。攻撃者はサイトが読み込むOptimizelyのプログラムにコードを足し、サイト自身のフォームに入力されたカード番号などを盗むようにしていました。
仕事と組織の変化
各社のIT活用
受発注でのAI-Order Foresight(BIPROGY)の使い方
ヤマザワAI-Order Foresight(BIPROGY)
- 受発注
担当者の経験と勘で手作業していた日配品の発注を、AIの需要予測が選んだ商品を確かめるだけで済む形にし、全店で始めた
同じ仕事の他社事例を見る →データの見える化でのAWSの使い方
代金の受け取りでのPaidの使い方