生成AIの画像編集機能を巡る安全性問題が国際的な規制圧力に発展している。xAIが2025年12月に「Edit Image」機能を追加して以降、Grokを使った実在人物の性的画像生成が大量発生。マレーシア・インドネシアがGrokをブロックし、英国Ofcomや欧州委員会が正式調査を開始する中、米国内でもカリフォルニア州が調査に乗り出した当日、Xは技術的制限の導入を発表した。

Overview

  • XがGrokによる実在人物のビキニ等への画像編集を技術的に禁止、全ユーザーに適用
  • 画像生成・編集機能を有料会員限定に変更し、違反者の追跡を可能に
  • カリフォルニア州司法長官が同日、xAIに対する調査を正式発表
  • マレーシア・インドネシアはGrokをブロック済み、英国・EU・インド・フランス・豪州も調査中
この対応は「セーフガードの追加」ではなく「設計思想の限界の露呈」である。xAIは「検閲のないAI」を差別化要素として推進してきたが、児童保護という普遍的規範との衝突を招いた。有料化による責任追及可能性の担保は、プロダクトの根本設計を変えずに「使い手の責任」へ転嫁する暫定措置であり、英国首相官邸が「違法機能の有料化に過ぎない」と批判した通りの構造的限界を示している。

考える問い

  • 「自由なAI」と「安全なAI」は両立できるのか、それとも本質的にトレードオフの関係にあるのか
  • AIセーフティの規制権限は、企業の自主規制、各国政府、国際機関のいずれが主導すべきか

報道記事・ソース

公式発表・一次情報

なべ

Author

なべ

テクノロジーは好きですが、そのものを作る側ではありません。かといって、新しい道具を集めて満足するほうでもない。

何か新しいものが出てきたとき、私が考えるのは「これで何ができるか」より「今のやり方このままでいいんだっけ」のほう。道具が増えるより、やり方ごと作り変えたり、無くしたりするほうが好きです。

AIが来て、人の考え方も、仕事の進め方も変わっています。その変わり方に興味があって自分の仕事で先に試しています。techtech.clubは、そのやってみた結果を置いておく場所です。

関連記事

PRODUCT

注目ツール

直近、ニュースや活用事例、techtech.clubの記事などから話題のITツールを厳選しています。

プロダクト一覧へ