プロンプトインジェクション

2,000人がAIアシスタントを攻撃。機密は守れたか

Simon Willison's Weblog / 2026.06.27

開発者がhackmyclaw.comで、AIアシスタントが保持する秘密情報を引き出せるか2,000人に挑戦させた。プロンプトを使った攻撃にどこまで耐えられたかを公開。AIに機密を扱わせる際のリスクを具体的に示す。

AI安全 プロンプトインジェクション