Content keyword · Issue
AI安全
AIの挙動を制御し、誤作動や重大な被害を防ぐための安全性をめぐる論点。
- 系統
- 論点
- 実践記事
- 0件
- ニュース
- 107件
News · Page 4
ニュース
AI安全に関するニュースを、新しい順に確認できます。
オープンウェイトAIモデルの毒入れ(ポイズニング)が「笑ってしまうほど簡単」と研究者が警告
Futurism
研究者がオープンウェイトのAIモデルにバックドアを仕込むことが極めて容易であることを実証。オープンソースAIモデルのセキュリティリスクに警鐘を鳴らす。
改ざんされたデータセットがAIエージェントを欺く
Nature Technology
AIエージェントが参照するデータセットに細工が施されると、正しい情報を扱っているように見えても判断や実行を誤る。エージェント運用ではモデル性能だけでなく、入力データの改ざん検知と出所管理が必要になる。
AIモデルは人間より誘導に弱い—選択肢の見せ方だけで判断が変わる研究
PsyPost
AIモデルは、選択肢の提示方法を少し変えるだけで人間より大きく判断を変えた。AIの回答をそのまま意思決定に使うと、入力設計による誘導を見落としやすい。
FBI、ホワイトハウス記者団襲撃事件の捜査にAI活用
Axios
AI駆動のフォレンジック調査企業が、今年のホワイトハウス記者団ディナーでの暗殺未遂事件のFBI捜査にそのプラットフォームが活用されたと発表。AIによる証拠分析が実際の犯罪捜査で重要な役割を果たした事例として注目される。