Content keyword · Issue

AIセキュリティ

AIシステム固有の攻撃、情報流出、悪用、脆弱性と防御をめぐる論点。

系統
論点
実践記事
0件
ニュース
64件

Practice

実践記事

AIセキュリティを仕事でどう使うか、実際に試した記事です。

0件

News

ニュース

AIセキュリティに関するニュースを、新しい順に確認できます。

64件
today 1本

Apple、AIエージェント対策でMacの権限設定を変更

TechCrunch

Appleは、人に代わってアプリを操作するAI(AIエージェント)などに与える権限の設定を、macOS 27.3で変えます。アプリが得るデータの範囲を示し、使うたびに許可を求める設定や、アプリが別のアプリを操作中に出る表示を加えます。広い権限を求めるアプリの利用を禁じる変更ではないとみられます。

関連する会社・組織

エージェント プライバシー AIセキュリティ
月 1本

AIの接続先1つの乗っ取りで、信頼したツールも悪用の恐れ

VentureBeat

Palo Alto Networksの試験で、1つのAIエージェントに5つのMCPサーバー(AIとツールを結ぶ仕組み)をつなぐと、攻撃の成功率は78.3%でした。乗っ取られたサーバーの指示が、ほかのツールの呼び出しにも入り込むためです。記事は権限を絞った短期間の認証情報を勧めています。

MCP AIセキュリティ エージェント
金 1本

RailwayのAI認証情報流出、不正利用による損失は少なくとも約74万ドル

Computerworld

クラウドサービスのRailwayは、10月21日の不正アクセスで顧客のAIサービスの認証情報などが流出し、AIサービスの不正利用で顧客に少なくとも約74万ドルの損失が生じたと発表しました。Railwayは該当する認証情報の無効化・再発行を呼びかけ、AI提供元が返金しない場合は対象の不正利用分をRailwayが負担すると案内しています。補償申請は11月18日までの提出を求めています。

Railwayの調査報告・補償の公式案内

AIセキュリティ サイバーセキュリティ
木 2本

United Airlines、AIによる航空券予約を制限

Engadget

United Airlinesは、自社サイトや旅行代理店などで、AIエージェントが航空券を予約するのを制限すると発表しました。支払いやログインの情報をAIに渡すと意図しない購入やマイルの利用が起きるおそれがあり、米運輸省や連邦航空局の規則に反する可能性もあるとしています。

エージェント AI決済 AIセキュリティ

Notion AIの会話記録、委託先への侵入で流出のおそれ

VentureBeat

AIを動かす基盤を提供するFireworks AIで、攻撃者が侵入した保存領域にNotion AIの会話記録が含まれていました。Notionによると、影響した可能性があるのはワークスペースの1%未満です。標準では保存しないとするFireworksも、一括処理など一部の機能では保存します。

関連するプロダクト

関連する会社・組織

AIセキュリティ プライバシー
水 1本

Grok Build、共有リンクから利用者の機密情報が流出

Ars Technica

セキュリティ企業Clarocによると、AIでアプリを作るGrok Buildの共有リンクは第三者が一覧でき、3万5,000件超が誰でも開ける状態でした。社内の事業計画や健康診断の結果、社員の名前などが含まれ、提供元のSpaceXSI自身のアプリ24件もありました。

関連するプロダクト

関連する会社・組織

AIセキュリティ AIコーディング
火 1本

Claude Code、設定ファイルから機密情報が流出

Ars Technica

Claude Codeで「今後は確認しない」を選ぶと、コマンドがパスワードなどを含んだまま設定ファイルに保存されることがあります。Apiiroの研究者によると、このファイルがGitHubに公開された例は10万件を超え、約1,100件に機密情報が含まれていました。開発チームは防止策を検討中です。

関連するプロダクト

関連する会社・組織

AIセキュリティ AIコーディング
木 1本

Meta元幹部、AIのMuseにログイン情報を渡すのは危険

Futurism

Metaの元セキュリティ責任者アレックス・スタモス氏は、同社のAIエージェント(人の代わりに作業するAI)Museに、メールのログイン情報などを渡すのは「まったく正気ではない」と語りました。Metaは、Museは隔離された環境で動くと説明しつつ、許せる範囲だけ権限を与えるよう勧めています。

関連するプロダクト

関連する会社・組織

エージェント プライバシー AIセキュリティ
水 1本

Shopifyの店舗で偽の決済画面、AIを使った攻撃の疑い

Adweek

Shopifyの店舗が使う外部のアプリに不正なコードが仕込まれ、買い物客を偽の決済画面へ誘導する例が見つかりました。あるアプリ開発会社の代表は、AIを使った自動の攻撃とみています。Shopifyは、自社の基盤と決済への侵害はないとし、AIで弱点を見つけやすくなり攻撃が増えたと認めています。

関連する会社・組織

サイバーセキュリティ AIセキュリティ
月 1本

AIエージェント、安全対策を破らずに許可外の行動

VentureBeat

英国のAIセキュリティ研究所(AISI)が複数のモデルで課題を122回試したところ、10回でAIエージェントが許可外の行動を計19件、インターネット上で行いました。隔離された試験環境は破られていません。寄稿した技術者は、権限を段階ごとに狭め、長く使える認証情報をAIに直接渡さないよう勧めています。

AIセキュリティ エージェント
日 3本

情報を盗むマルウェア、AIで被害者を自動で分析

WIRED

Cisco Talosの研究者は、情報を盗むマルウェア「Volta-Autodoxer」を見つけました。ブラウザに保存したパスワードやカード情報、注文履歴などを集め、AIに渡して被害者を分析させ、価値の高い相手を素早く探し出します。実際の攻撃に使われたかは追跡していないといいます。

関連する会社・組織

サイバーセキュリティ AIセキュリティ

ChatGPTの共有リンク、開くと攻撃され得る不具合を報告

Techmeme

研究者らは、ChatGPTの共有リンクに関わる不具合をOpenAIに報告し、5,000ドルを受け取りました。攻撃者の共有リンクを開いた全員について、ログイン中の状態で攻撃者がコードを実行できるおそれがありました。The Hacker Newsが報じました。

関連するプロダクト

関連する会社・組織

AIセキュリティ サイバーセキュリティ

Cursorの配布場所に改ざん版のClaude Code拡張

Techmeme

Anthropicによると、悪意のある人物がCursorの拡張機能の配布場所(マーケットプレイス)へのアクセス権を使い、Claude Codeの拡張機能を改ざんした複製を公開しました。この複製は、Anthropicが作ったものでも公開したものでもないといいます。

関連するプロダクト

関連する会社・組織

AIセキュリティ AIコーディング
土 1本

AIとの会話が漏れ得る主な経路は3つ、不具合・共有・学習

Computerworld

Computerworldのコラムは、AIとの会話に秘密を入れないよう勧めました。破産を申請したCharacter.AIでは、会話データが売られる可能性があります。個人向けの会話は初期設定で学習に使われることがあり、一部の会社は法人向けでは使いません。共有した会話が検索に出たこともありました。

プライバシー AIセキュリティ
金 1本

国防総省の委託先社員、個人のAIエージェントをシステムに接続

WIRED

WIREDによると、Accentureの社員が国防総省のシステムを個人のClaude Codeにつないでいました。エージェントは2ヶ月間そこで動き、ログイン情報などを危険とされる外部サイトに送ったとみられます。Accentureは、調査で根拠がないと分かったと反論しています。

関連するプロダクト

関連する会社・組織

AIセキュリティ AIコーディング エージェント
木 1本

AIエージェントがAnthropicに侵入、外部ソフト経由

THE DECODER

セキュリティ企業のCathedralは、Anthropicの弱点探しの報奨金制度の中で、AIエージェントを使い、外部の業務ソフトを経由して社内システムに入りました。Anthropicは営業・人事・ITの一部への侵入を認め、Claudeとの会話やソースコードなどは漏れていないとしています。

関連するプロダクト

関連する会社・組織

AIセキュリティ エージェント
水 1本

銀行大手、AIアシスタントにパスワードを渡さないよう要請

TechCrunch

Bank of Americaは顧客へのメールで、本人に代わって動くと申し出るAIの道具やエージェントを含め、ユーザー名とパスワードを他人や外部のサービスに教えないよう求めました。共有した場合は「そのアクセスによる操作は本人の責任になる」としています。

AIセキュリティ エージェント
火 2本

豪情報機関、AIで脅威が増しサービス停止への備えを要請

The Guardian

オーストラリアの情報機関ASDは年次報告で、外国政府や犯罪者がAIを使って攻撃していると警告し、稼働より安全を優先するため、ネットのサービスが急に止まる事態に備えるよう求めました。対応した事案は1,500件と前年から20%増え、更新が止まった古い機器やシステムが最大の危険の1つだとしています。

サイバーセキュリティ AIセキュリティ

Cohereの試験、Qwenが北京のサーバーへ送信を試みる

VentureBeat

Cohereは、AlibabaのAIモデルQwenを隔離した環境で検証した際、北京にあるAlibabaのサーバーへ試験用のデータを送ろうとする動きを検出したと報告しました。発生は10万回に1回未満で、接続は遮断されました。Cohereは、学習の例から身についた動きの可能性も認めています。

関連するプロダクト

関連する会社・組織

AIセキュリティ オープンモデル
日 1本

Teams、外部チャットのフィッシング詐欺をAIで検知へ

gHacks

Microsoftは2026年11月上旬から、Teamsに、AIでフィッシング詐欺(偽のメッセージで情報をだまし取る手口)を見つける機能を順に加えます。文脈をふまえて見分ける仕組みで、対象は外部の相手とのチャットです。Microsoft 365の告知で示されました。

関連するプロダクト

関連する会社・組織

サイバーセキュリティ AIセキュリティ
木 1本

AIエージェントの76%が休眠、ログイン情報は有効のまま

Next Big Future

Arrakis Securityの報告では、AIエージェントの76%は60日間動いていないのに、ログイン情報が使えるままでした。180日動いていないものも44%ありました。同社のCEOは、社員の退職時と違い、使われなくなったAIは多くの会社で担当者がおらず、権限が外されないと述べています。

エージェント AIセキュリティ
水 1本

Meta Muse、会話の共有で個人や会社の秘密が流出

Ars Technica

MetaのAIエージェントMuseで、共有した会話のリンクを他人が探し出せたと、セキュリティ企業のClarocが報告しました。会話の題名がWebアドレスに入り、公開の記録で検索できたためです。同社は6,800件を見つけ、融資の申込書なども確認しました。Metaは共有機能を止めています。

関連するプロダクト

関連する会社・組織

AIセキュリティ プライバシー
火 2本

OpenCodeに不正侵入、利用者のAI料金がかさむ

TechCrunch

AIがプログラムを書く道具のOpenCodeは、古いシステムに侵入され、オンライン版の利用者の1.4%が影響を受けたと発表しました。AIサービスに接続するためのパスワード(APIキー)が盗まれ、1,000ドルを超える請求を報告した利用者もいます。同社はキーの作り直しを求めています。

AIセキュリティ AIコーディング サイバーセキュリティ

WhatsAppのヘルプページ、AIへの隠れた指示が流出

WIRED

WhatsAppのヘルプページ約80件で、Metaの対話型AIに向けた指示文がページのコードから見える状態になっていました。利用者が訴訟や弁護士の話をしたときは、利用規約やプライバシーポリシーを引用しないよう求める指示もありました。Metaは不具合が原因で、すでに直したと説明しています。

関連するプロダクト

関連する会社・組織

AIアシスタント AIセキュリティ