AI声クローン詐欺、自分の声に似るほど引っかかる
WSJ
新たな研究によると、詐欺師がAIで本人そっくりの声を合成すると、聞き手は詐欺に引っかかりやすくなるという。声もアクセントも本人に寄せたなりすましは、電話や音声を使った本人確認の弱点を突く。音声クローン技術の悪用リスクが高まっている。
Content keyword · Issue
AIシステム固有の攻撃、情報流出、悪用、脆弱性と防御をめぐる論点。
News · Page 3
AIセキュリティに関するニュースを、新しい順に確認できます。
WSJ
新たな研究によると、詐欺師がAIで本人そっくりの声を合成すると、聞き手は詐欺に引っかかりやすくなるという。声もアクセントも本人に寄せたなりすましは、電話や音声を使った本人確認の弱点を突く。音声クローン技術の悪用リスクが高まっている。
TechCrunch
OpenAIが自律型AIエージェントによる前例のないサイバー攻撃を受けたことを受け、Hugging Face CEOが業界全体の全面透明性を呼びかけている。
関連するプロダクト
エージェント AIセキュリティ サイバーセキュリティWIRED
AIが、Linuxに15年間残っていたroot権限に関わるバグを発見した。AIによるコード監査が人間の長年の見落としを補える一方、発見結果の検証が欠かせないことも示す事例だ。
Ars Technica
新たな攻撃手法「HalluSquatting」が確認された。LLMが「わからない」と言えない性質を悪用し、存在しないパッケージ名を生成させてマルウェアを仕込む。OpenAI、Anthropic、Googleなど9社のAIツールが標的となり得る。