AI規制

Anthropicは、文章がClaudeのデジタル透かしを含むかを検証できるAPIを提供開始した。EU AI法が2025年8月からClaudeの新モデルに不可視の透かしを義務化しており、規制当局やメディア、研究者らがアクセスを申請できる。

ビル・ゲイツ氏が5,784語に及ぶ警告文で「AIには計画がない」と述べ、規制と国際協調を求めた。雇用の喪失や安全面のリスクに備える必要性を強調しており、WSJは要点を3つに整理して報じた。AIリスクを巡る議論を主導する発言として注目される。

多くの著者は知らないうちにAI開発に貢献しているが、それが合法かどうかは国や法域によって判断が分かれる。米国のフェアユースと著作権者の権利のバランスをどう取るか。書籍データによる学習を巡る法解釈の複雑さを整理した解説記事。

医学誌JAMAの意見論文は、自律型AIがまもなく医療推論で医師とAIのチームを上回るとし、医師の最終確認を規制で義務付けることに警鐘を鳴らす。AIの単独判断をどこまで認めるかは、医療に限らずAI導入が進むあらゆる業務の責任設計の先例になる。

AnthropicはClaudeが生成したテキストとファイルに機械可読な「透かし」を追加すると発表した。EUの透明性規制への対応で、AI生成物の検出が容易になる。一方で品質への影響を懸念する声もあり、AI生成コンテンツの識別をめぐる業界の流れが加速しそうだ。

Anthropic CEOのDario Amodeiが、自社がオープンウェイトAIモデルの禁止を支持しているとの批判に反論。「一度も主張したことはない」と明確に否定。中国のAI台頭に対する懸念と、Open Weightモデルの将来を巡る議論が活発化。

CDWの調査で、企業の43%がAIを活用したサイバー攻撃をすでに経験していることが判明。AIは新たなフィッシングやマルウェア脅威を生み出しているが、防御にもAIを活用する企業はまだ限定的。少人数企業のセキュリティ対策にも示唆。

Sources: OpenAI and Anthropic quietly lobby Washington regulators to restrict open-source AI models, even as Sam Altman publicly says he supports open source AI (New York Times)

AI companies play a cat-and-mouse game, trying to boost the capabilities of their creations while scrambling to block answers to dangerous queries.

"It's frankly an insult to older voters who don't know that AI exists."

超党派の「AIキルスイッチ法案」が米国で提出された。国土安全保障長官に暴走AIシステムの停止命令権限を与える内容で、AI安全規制の新たな一歩となる。

FRBがAnthropicのMythos AIモデルにサイバーセキュリティ上の懸念を表明したが、規制当局自身が数ヶ月間モデルにアクセスできず対応が遅れた。金融規制とAIの複雑な関係を浮き彫りに。

ニューヨーク州のホークル知事が、ハイパースケールAIデータセンターの新規建設を1年間禁止する大統領令に署名。全米初の試みで、AIインフラと地域社会のバランスを問う。

中国政府がAnthropicのClaude Codeの特定バージョンに、ユーザーの位置情報やIDをリモートサーバーに送信する脆弱性があると主張。米中間のAI規制をめぐる応酬が激化する中、セキュリティを名目とした中国の対抗措置との見方も強い。

米国下院が中国製AIモデル（DeepSeek、Z.ai、GLMなど）の米国企業における利用拡大に伴うリスクを調査している。低コストを武器に広がる中国AIの影響力に警鐘を鳴らす動き。

中国当局がAlibaba、ByteDance、Z.aiなど自国製の強力なAIモデルへの外国からのアクセスを制限する検討を開始。輸出規制となれば欧州は米中のはざまで難しい判断を迫られる。

欧州中央銀行が銀行に対し、Anthropic Claude MythosなどのフロンティアAIモデルによるサイバーセキュリティ脅威への対策計画策定を求めた。金融規制当局として初の本格的AI対応。

英国の外相が、AIがもたらす安全保障上の脅威に対して至急のガードレール策定が必要と警告。世界が協調してAIの悪用を防ぐ枠組み構築を呼びかける。

ByteDanceとAlibabaが、ユーザーがAIコンパニオンと交流・作成できる機能を停止。中国当局が人間とAIの相互作用を規制する新ルールを準備しているため。

AIに対する世論が否定的に傾いたことを受け、ビッグテック各社が大規模失業予測のトーンを急激に弱めている。かつては「雇用破壊」を強調していた発言が鳴りを潜めている実態をWSJが報じる。

サム・アルトマンがAI業界の透明性向上策として、政府関係者を業界内部に招き入れる構想を提案。政策と技術の対話促進が目的。

英国AI安全研究所（AISI）が7つのベンチマーク調査を実施し、標準的なAI評価がエージェントの能力を体系的に過小評価していることを発見。計算予算の制限が主な原因。

Cloudflareが、AI企業のためにWebサイトをクロールするボットをフィルタリングする新機能を発表。サイト運営者が自社コンテンツのAI学習利用をより細かく制御できるようになる。

Sam Altmanが、主要AI企業に対し米国ソブリンファンドへの5%株式提供を義務化する構想を提案しているとFinancial Timesが報道。AIの公共的価値を国民に還元する仕組みとして注目される一方、国家によるAI支配につながるとの批判も。