AI規制

Sources: OpenAI and Anthropic quietly lobby Washington regulators to restrict open-source AI models, even as Sam Altman publicly says he supports open source AI (New York Times)

AI companies play a cat-and-mouse game, trying to boost the capabilities of their creations while scrambling to block answers to dangerous queries.

"It's frankly an insult to older voters who don't know that AI exists."

超党派の「AIキルスイッチ法案」が米国で提出された。国土安全保障長官に暴走AIシステムの停止命令権限を与える内容で、AI安全規制の新たな一歩となる。

FRBがAnthropicのMythos AIモデルにサイバーセキュリティ上の懸念を表明したが、規制当局自身が数ヶ月間モデルにアクセスできず対応が遅れた。金融規制とAIの複雑な関係を浮き彫りに。

ニューヨーク州のホークル知事が、ハイパースケールAIデータセンターの新規建設を1年間禁止する大統領令に署名。全米初の試みで、AIインフラと地域社会のバランスを問う。

中国政府がAnthropicのClaude Codeの特定バージョンに、ユーザーの位置情報やIDをリモートサーバーに送信する脆弱性があると主張。米中間のAI規制をめぐる応酬が激化する中、セキュリティを名目とした中国の対抗措置との見方も強い。

米国下院が中国製AIモデル（DeepSeek、Z.ai、GLMなど）の米国企業における利用拡大に伴うリスクを調査している。低コストを武器に広がる中国AIの影響力に警鐘を鳴らす動き。

中国当局がAlibaba、ByteDance、Z.aiなど自国製の強力なAIモデルへの外国からのアクセスを制限する検討を開始。輸出規制となれば欧州は米中のはざまで難しい判断を迫られる。

欧州中央銀行が銀行に対し、Anthropic Claude MythosなどのフロンティアAIモデルによるサイバーセキュリティ脅威への対策計画策定を求めた。金融規制当局として初の本格的AI対応。

英国の外相が、AIがもたらす安全保障上の脅威に対して至急のガードレール策定が必要と警告。世界が協調してAIの悪用を防ぐ枠組み構築を呼びかける。

ByteDanceとAlibabaが、ユーザーがAIコンパニオンと交流・作成できる機能を停止。中国当局が人間とAIの相互作用を規制する新ルールを準備しているため。

AIに対する世論が否定的に傾いたことを受け、ビッグテック各社が大規模失業予測のトーンを急激に弱めている。かつては「雇用破壊」を強調していた発言が鳴りを潜めている実態をWSJが報じる。

サム・アルトマンがAI業界の透明性向上策として、政府関係者を業界内部に招き入れる構想を提案。政策と技術の対話促進が目的。

英国AI安全研究所（AISI）が7つのベンチマーク調査を実施し、標準的なAI評価がエージェントの能力を体系的に過小評価していることを発見。計算予算の制限が主な原因。

Cloudflareが、AI企業のためにWebサイトをクロールするボットをフィルタリングする新機能を発表。サイト運営者が自社コンテンツのAI学習利用をより細かく制御できるようになる。

Sam Altmanが、主要AI企業に対し米国ソブリンファンドへの5%株式提供を義務化する構想を提案しているとFinancial Timesが報道。AIの公共的価値を国民に還元する仕組みとして注目される一方、国家によるAI支配につながるとの批判も。

イーロン・マスクとサム・アルトマンのAI訴訟を担当する裁判官が調停人を任命。xAIとOpenAIの対立は業界全体に影響を与える可能性。

TripadvisorのAI生成レビュー要約が、性的ハラスメントや食中毒訴訟中のホテルを「清潔」と表現するなど、重大なクレームを軽視していると調査で判明。AI要約の品質リスクを浮き彫りに。

AnthropicのAIコーディングツールClaude Codeに、中国ユーザーを識別する隠し監視機能が含まれていたことが判明。SNSで批判が殺到し、Anthropicは削除対応。

米政府がAnthropicのFable 5・Mythos 5モデルの輸出規制を解除。国家安全保障とAI規制の新たな前例となり、世界的なAIガバナンスの議論を呼ぶ。

トランプ政権がAnthropicに対し、2週間半にわたり輸出規制下にあったClaude Fable 5およびMythos 5のアクセス再開を許可。AIモデルの国家安全保障と輸出管理の新たな前例に。

MetaはAnthropicのClaudeやOpenAIのCodexといった競合AIツールのエンジニアによる利用を制限。AIツールの出力が自社の訓練データに取り込まれるのを防ぐためとされる。

国際決済銀行（BIS）が、AIバブル崩壊が世界経済の成長鈍化から信用リスク拡大まで波及する可能性を警告。インフレや財政ストレスと並ぶ現代の最も深刻な脅威の一つと位置づけた。

オーストラリアがSNS禁止規定の最高罰金を9,900万オーストラリアドル（約6,800万米ドル）に倍増。ソーシャルメディア規制の厳格化が世界的な流れとなる中、最も厳しい措置の一つとなる。

GoogleがMetaのGemini AIモデル利用に制限を設けた。十分なコンピューティング容量を提供できなかったことが理由とされ、ビッグテック間のAIモデル依存関係が浮き彫りになった。

OpenAIはGPT-5.6の展開を米政府の要請で延期。2週間前にはAnthropicも最先端モデルを一時停止した。最先端AIの提供が政府の許可制に近づき、誰がいつ使えるかが規制で左右される局面に入っている。

EuroCommerceが、EU AI Actの透明性規則について、AI生成広告画像までディープフェイク表示の対象にすべきか問題提起。規制の定義が小売・広告実務に影響し始めている。

ノルウェーが8月下旬から小学校で生成AIツールの利用を禁止する方針。低学年では読み書き計算の基礎習得を優先し、中等教育では監督下での利用に限定する。

Googleが、AI検索概要の誤情報について直接責任を認めた独ミュンヘン地裁判決を控訴。AI要約の誤リンクを「軽微なエラー」とする同社に対し、裁判所は検索結果としての責任を重く見た。

米バーニー・サンダース上院議員が、主要AI企業の一部所有権を国民側に持たせる7兆ドル規模のAI富基金案を発表。AIの利益配分を政策課題として押し上げた。

米ユタ州がAIチャットボットによる処方薬更新の試験運用を進め、医師側が安全性に懸念を示している。医療AIの導入範囲と責任分界をめぐる現場対立が表面化した。

エストニア政府がAIエージェントに法的アイデンティティと責任を与える政府ID制度を計画。利用者のパスワードを丸投げせずに代行行為を認証可能にし、責任の所在を制度面で詰める。

Nature掲載の論考は、AIが労働力として浸透する局面では、人の所得ではなくテック企業の利益に課税軸を移すべきだと主張した。人件費削減でAIに置き換えた企業が税源を細らせる構図への対応策として、各国の税制設計が議題になり始める。

ベルリン地裁は、GoogleのAI Overviewsは「新しい検索結果の表示形式」に過ぎず、Googleはその内容に「決定的な影響力」を持たないと判断した。香水会社が誤情報表示で提訴したが、AI生成要約への責任所在を巡る欧州の最初期判例となる。

Anthropicは、米政府が輸出規制の抜け道に該当する可能性を指摘したことを受け、Claude FableとMythosの2モデルを公開停止した。先端AIモデルを政府がどう規制しうるか、その範囲と手続きを巡る論争が広がっている。

英政府は16歳未満のSNS利用を禁止する方針を今週公表する。Nandy文化相は「銀の弾丸ではないが、子ども保護に重要な役割を果たす」と述べ、TikTokやAIチャットボットも対象に含まれる見込み。各国の年齢規制議論を加速させる。

Amazon CEOのAndy Jassy氏が米政府関係者にAnthropicモデルの安全保障上の懸念を伝えたことが、先端モデルの国外アクセス停止につながったと報じられた。AI基盤モデルの商用展開が、顧客・出資者・政府の力学で動く構図が浮き彫りになっている。

トランプ政権が2026年6月、Anthropicの最上位モデルFable 5とMythos 5を安全保障上のリスクと判断し、米国外からのアクセスを遮断した。Anthropic自身が公表した脆弱性が決定の根拠とされ、同社は「狭い潜在的脱獄を理由にした商用モデル回収」に異議を表明している。

AnthropicのDario Amodei CEOが、強力なAIモデルの公開に対して航空行政のような事前規制を導入する構想を示した。政府が危険なAI配備を止められる制度を求めており、AI企業自身が安全基準と市場競争の線引きを提案する段階に入っている。

カナダ政府が、16歳未満の子どもによるSNS利用を原則禁止する法案を発表した。対象企業には子ども向け安全要件が課され、AIチャットボットサービスにも新しい安全基準が求められる。子どものオンライン接触を社会がどこまで制限するかが政策論点になっている。

ドイツの地方裁判所が、GoogleのAI検索概要（AI Overviews）の内容についてGoogleが直接責任を負うと判断した。これまで検索結果に適用されてきた限定的な免責が、AIが生成した要約には及ばないとし、誤った回答への賠償責任を認めた。

英CMAは検索でのAI利用を拒否する権利を出版社に与えたが、仕組みがオプトアウト型でGoogleが影響判断に必要なデータの開示を渋るため、実際には使いにくい権利にとどまっている。メディア運営者がAIに対し取れる選択肢の乏しさが表れている。

米国で学校乱射事件の生存者がAIによる銃器検知システムを提供する企業を提訴した。発砲時に銃を識別できなかったことが理由。AIの誤検出が公共安全の現場でどこまで許容され、どこから企業責任に転じるかが裁判の主軸になる。

Anthropicは本番コードの8割以上をClaudeが生成し、エンジニアの出荷速度が8倍超になったと開示した。同時に、AI開発全体に対する世界共通の「一時停止ボタン」を求める。最速で自社を加速させる側が、最も大きな減速装置を求めている構図がそこにある。

EUが、高度なサイバー能力を持つAIモデルをめぐり米国との協議を強化する意向を示した。AnthropicのMythosモデルが備える高度なサイバー能力に対し、各国政府や企業から懸念が広がっていることが背景にある。

欧州のAI研究非営利団体 Aithos が、主要な12のAIモデルを3,000超の業務シナリオで検証し、いずれも EU の GDPR と AI法の要件を満たせなかったと発表した。最も成績が良い Claude Opus 4.7 でも順守は約54%にとどまり、最悪のモデルは93%の場面で違反した。検証ツール LARA を用いた。

報道: [Computerworld](https://www.computerworld.com/article/4178393/study-all-major-ai-models-violate-eu-regulations.html)

イリノイ州議会は、米国で最も厳格とされる AI 安全法案を可決した。OpenAI や Anthropic、Google などの開発企業に対し、安全基準の順守を第三者機関が確認することを義務づける内容で、プリツカー知事は署名する意向を示している。

WSJは、卒業式講演者へのヤジ、データセンター建設の地域反対運動、AIへの世論支持率の下落を挙げ、急成長するAI産業がより速く拡大する反発に直面していると報じた。技術成長と社会受容のギャップが拡大している。

米商品先物取引委員会（CFTC）のMichael Selig委員長が、Polymarketなどの予測市場で違法行為を検知するためにAIをスキャン手段として運用していることを明らかにした。プラットフォーム側AIだけでなく、規制執行側もAIを装備する非対称な競争が始まっている。

学術プレプリントサーバーarXivは、生成AIによるハルシネーションや低品質論文をモデレーターが「AIスロップ」と呼んで投稿者を1年間BANする方針を打ち出した。SNSで明らかにされた新方針は、AIが査読負荷を侵食し始めた学術エコシステムの自衛として位置づけられる。