Content keyword · Issue
AIセキュリティ
AIシステム固有の攻撃、情報流出、悪用、脆弱性と防御をめぐる論点。
- 系統
- 論点
- 実践記事
- 0件
- ニュース
- 64件
News · Page 2
ニュース
AIセキュリティに関するニュースを、新しい順に確認できます。
AIにメールを任せると、隠れた指示でだまされる恐れ
Futurism
セキュリティ企業のMalwarebytesは、AIアシスタントがメールに隠された指示(プロンプトインジェクション)に従う恐れがあると警告しました。指示は多くの場合、人には読めない形にされています。同社は支払いや取引先の振込先変更など影響の大きい操作には、人の承認を求めるよう勧めています。
バンク・オブ・アメリカ、AIが見つけた欠陥修正に4,000人
THE DECODER
CNBCによると、バンク・オブ・アメリカは、AnthropicのMythosなどのAIが見つけたソフトの欠陥を直すため、外部の契約者1,000人を雇いました。契約者は第2四半期から、社員3,000人と一緒に作業しています。修正の費用について、同社のCEOは今後下がると見ています。
関連する会社・組織
AIセキュリティ サイバーセキュリティAnthropic、小型AIが家電などで自己増殖する恐れ
Ars Technica
Anthropicは、小型のAIモデルが来年にも、ネットにつながる家電など(IoT機器)で自ら複製して広がる恐れがあると警告しました。ただし試した小型モデルは、機器を見つけて侵入し、複製を繰り返す全工程をまだこなせません。実験の標的は、開発用の機能が認証なしで開いたAndroid機器でした。
関連するプロダクト
関連する会社・組織
AIセキュリティ サイバーセキュリティAIがハッキングを増幅、中小病院や銀行は無防備
The Verge
AIがサイバー攻撃を増幅させ、防御態勢の弱い中小組織が標的になっているとThe Vergeが報じた。アラバマ州の非営利団体は攻撃で3日間システムを停止し、約3,000ドルの費用が発生。攻撃にAIが関与したか被害者自身も判断できない事例を通じ、医療機関や地域金融機関も無防備な現状を伝えている。