米国の銀行Citiが規約を改め、外のAIエージェントに口座へのアクセスを認めた客は、そのAIを通した操作に責任を負うと明記しました。AIエージェントは、ログイン情報を渡すと支出の分析から支払いまで代わりにこなすAIです。Citi自身が出すAIは、扱いが異なります。

この記事の要点

  • Citiは、外のAIを通した操作を、乗っ取られた場合も含め客の責任とした
  • プリンシパル・エージェント問題では、任せた相手の動きの損は任せた側に残る
  • 最小権限の原則と重ねると、損の広さはAIに渡した権限で決まる
  • AIをつなぐ前に、責任の行き先を規約で確かめ、権限を負える分に絞る

外のAIに渡した権限の分だけ、客の責任が広がる。外のAIにログイン情報を渡すと取引や支払いまで客の責任になり、乗っ取られても変わらず、読むだけの道具にすると責任になる操作の範囲が狭まる概念図。概念図。客の責任になる操作の範囲は、TechCrunchが伝えたCitiの規約のとおりです。読むだけの道具は、Anthropicの家計の道具がお金を動かせないという説明をもとに描きました。

Citiは、外のAIの操作も乗っ取りの損も客の責任と規約に書いた

TechCrunchによると、米国3位の商業銀行Citiが今週、規約を改めました。外のAIエージェントに口座へのアクセスを認めた客は、その操作に責任を負うという内容です。AIの道具がログイン情報を漏らしたり乗っ取られたりしても、攻撃者が口座でしたことは客の責任になります。

JPMorganとBank of Americaも先月、同じような方針を発表しました。一方でCitiの規約は、Citiが出すAIエージェントなら、客は追加の責任を心配せずに使えるとしています。

危うさを挙げる銀行が、なぜ自社のAIには追加の責任を求めないのか

Citiの広報は、ログイン情報を渡す危うさを客に分かってほしいと話しています。それなら自社のAIにも同じ危うさがあるはずなのに、責任の置き方は分かれました。

任せた相手の動きが見えないとき、その損は任せた側に残る

壁の向こうで代理人が仕事をし、依頼人には壁の口から出る報告だけが届く絵。黒い箱は、依頼人から見えない悪い結果
プリンシパル・エージェント問題のイメージ

外のAIを使った客が損を負う点は、プリンシパル・エージェント問題で読めます。仕事を任せる側(依頼人)と任される側(代理人)の向かう先がずれ、依頼人が代理人の動きを全部は見られないとき、代理人が依頼人の得にならない動きをとりうる、という考え方です。

会社のカードを社員に預けて買い物を頼むと、何に使われたかは明細が届くまで見えず、請求は会社に来ます。客が依頼人、外のAIの道具が代理人です。

TechCrunchは、収入を求めるAIの新興企業にとって、家計の分野は手数料の流れに加われる場だと書いています。報道は、客が道具の中をどこまで確かめられるかを伝えていません。

AIにできることを狭めるほど、起こりうる損も狭まる

扉が並ぶ廊下で、仕事に使う扉だけが鍵で開き、ほかの扉は閉じたまま。権限を仕事の分に絞る見立ての絵
最小権限の原則のイメージ

Anthropicが今月出した家計の道具は、「読むだけ」とうたい、お金を動かせない作りです。この作りは最小権限の原則で読めます。人やプログラムに渡す権限を、仕事を終えるのに必要な最小の分だけにする設計の原則で、事故や誤りの被害を限ります。

支出を分析するだけなら、お金を動かす権限はいりません。社員の法人カードに上限を付けるのも同じ考え方です。

ログイン情報を渡すと、AIにできることは客と同じになる

AIを任せた客が損を負うことに最小権限の原則を重ねると、AIに渡した権限の広さが、そのまま自分が負う損の広さになると分かります。

AIを口座に入れたのが誰かで、損を負う側が分かれた

外のAIは、客が選んでログイン情報を渡したものです。報道は、Citiが出すAIの損を誰が負うかを伝えていません。客に追加の責任を求めない規約に照らすと、損はAIを用意したCitiの側に残ると考えます。

TechCrunchは、銀行がAIの参入を競争の脅威とも見ていると書いています。責任の置き方は、外のAIを選ぶ客の負担を重くする向きにも働きます。

AIをお金のサービスにつなぐ前に、責任の行き先を確かめる

私の会社では、AIに任せているのは会計ソフトに届いた明細を読んで記録を整えるところまでで、お金を動かす手続きは私が担当しています。次の順で決めると、損を負う人と広さが先に分かります。

  1. つなぎたいサービスごとに、外のAIの操作の責任が誰に来るかを規約で確かめる
  2. 自分に来るなら、そのAIの権限でできる最悪の操作を書き出す
  3. その損を負えないなら、読むだけのつなぎ方、サービスが出すAI、上限つきの別カードに替える
  4. 替える手段が無ければ、ログイン情報は渡さずにつながない

外の代行や道具に会社のアカウントを任せると、任せ方で後から回ってくる責任は変わります。任せた操作の責任が思わぬ形で回ってきた場面や、権限を絞って防げた工夫を、この下のおたより欄で聞かせてください。

読み解きに使った概念・法則

この記事の中心となる概念・法則

プリンシパル・エージェント問題

仕事を任せる側(依頼人、プリンシパル)と任される側(代理人、エージェント)の向かう先がずれていて、依頼人が代理人の動きや持っている情報を全部は見られないとき、代理人は依頼人の得にならない動きをとりうる、という考え方。

理解を補う概念・法則

最小権限の原則

人やプログラムに渡す権限を、その仕事を終えるのに必要な最小の分だけにする、という設計の原則。

この記事で取り上げたニュース

同じ概念・法則で読める記事

AIの上限は、使いすぎを止めるより使い道を見る機会になる

なぜ?AIの費用を抑えるための上限なのに、なぜ広告会社は、上限に届いた社員の仕事を見て、良ければ枠を広げる道まで用意するのか

この記事からわかること社員のAI利用に上限を置くなら、枠の中は本人に任せ、枠に届いた人には何に使って何ができたかを上の人に見せてもらい、良い仕事なら枠を広げ、AIでなくてよい作業はほかの道具か安いモデルに回す

隔離を破らなくても、AIは渡された権限の広さまで動ける

なぜ?AIエージェントは隔離された試験の環境を破っていないのに、なぜインターネット上で許可外の行動を19件もとれたのか

この記事からわかることAIに任せる仕事ごとに、AIが使うアカウントでできる操作を書き出し、その仕事で使わない操作を外し、外せなければAI専用のアカウントを分け、長く使える鍵はAIに直接渡さない

AIが誤りに気づけることと、報告に書くことは別

なぜ?じかに聞けば誤りを見つけるAIが、なぜ自分の作業の報告では、結果を覆す点を省きやすいのか

この記事からわかることAIに任せた仕事は報告だけで判断せず、指示に包み隠さず書くよう求める1文を足し、報告とは別に結果を覆す点があるかを聞き、挙がったら元の記録や数字と突き合わせる

あなたの話も、聞かせてください

AIや外の代行に会社のアカウントを任せたあとで、思わぬ操作や請求の責任が自分に回ってきた場面はありましたか。任せる前に権限を絞って防げた話でも構いません。

おたよりは編集部で読み、次に調べることや記事づくりの参考にします。
編集部からの返事や、その後の動きはこの欄に追記します。

編集部へのおたより

ニックネームや名無しでも問題ありません。

0 / 1,000字

お仕事や立場を添えると、編集部が背景をつかみやすくなります。

おたよりの紹介

掲載前に編集部が確認します。
人や会社が分かる部分は外します。

編集部へのおたより

この話についてのおたより

元のおたより

この話を読んで思ったことや、あなたの経験・疑問を聞かせてください。編集部に届けます。

送った内容は、編集部が確認したうえで、この話の下に掲載します。

シェアする

Googleで探しやすくする
なべ

Author

なべ

テクノロジーは好きですが、そのものを作る側ではありません。かといって、新しい道具を集めて満足するほうでもない。

何か新しいものが出てきたとき、私が考えるのは「これで何ができるか」より「今のやり方このままでいいんだっけ」のほう。道具が増えるより、やり方ごと作り変えたり、無くしたりするほうが好きです。

AIが来て、人の考え方も、仕事の進め方も変わっています。その変わり方に興味があって自分の仕事で先に試しています。techtech.clubは、そのやってみた結果を置いておく場所です。

PRODUCT

注目ツール

直近、ニュースや活用事例、techtech.clubの記事などから話題のITツールを厳選しています。

EXPLORE

ほかのコンテンツも読む

気になるテーマに切り替えて、続きを探せます。

注目の企業

今日のニュース

  • AIエージェントの操作は利用者の責任、米銀大手が規約に明記

    米国3位の銀行Citiが規約を改め、外部のAIエージェントに口座へのアクセスを認めた利用者は、エージェントの操作に責任を負うと明記しました。AIのツールがログイン情報を漏らしたり、乗っ取られたりして、攻撃者が口座を操作した場合も利用者の責任です。米国最大手の2行も先月、同様の方針を発表しています。

    原文を読む(TechCrunch) ↗
  • 買い物客の74%がAIの勧めを信頼、購入はまだ任せず

    Salesforce

    Salesforceが買い物客2,500人以上を調べたところ、74%がAIエージェントの勧めを信頼していました。年末商戦の買い物客では20%が、調べものや相談でまずAIエージェントを使っています。一方で、73%は支払い情報をエージェントに渡すことに抵抗があります。

    原文を読む(ZDNet) ↗
  • Optimizelyの欠陥で178サイトに情報を盗むコード

    SalesforceIKEA

    マーケティング用のAI基盤Optimizelyの欠陥が悪用され、Salesforce、IKEAなど少なくとも178のサイトに不正なコードが仕込まれました。攻撃者はサイトが読み込むOptimizelyのプログラムにコードを足し、サイト自身のフォームに入力されたカード番号などを盗むようにしていました。

    原文を読む(Computerworld) ↗

仕事と組織の変化

  • 飲料を売り場に並べる作業をロボットに移す

    ファミリーマート

    ファミリーマートは2026年11月19日、Telexistenceと研究・改良を重ねてきた「飲料補充ロボット(TX GHOST)」と、商品の場所と数を管理する「デジタル在庫棚(スマートシェルフ)」を、2027年1月から店舗に順次本格導入すると発表しました。導入後、飲料について店舗従業員が担当するのはデジタル在庫棚への補充だけになり、売り場の棚へはロボットが24時間自動で並べます。ファミリーマートは、導入によって飲料補充の作業時間が1店舗あたり1日約7割減るとしています。

    詳しく見る
  • 各社別々だった社員のスキル情報をまとめて把握

    NTTグループ

    詳しく見る
  • 基金の支出審査に過去事例を探すAIを試験導入

    JA共済連

    詳しく見る

各社のIT活用

情報流出・サイバー被害