xAI、Grokによる実在人物の性的画像生成を禁止

生成AIの画像編集機能を巡る安全性問題が国際的な規制圧力に発展している。xAIが2025年12月に「Edit Image」機能を追加して以降、Grokを使った実在人物の性的画像生成が大量発生。マレーシア・インドネシアがGrokをブロックし、英国Ofcomや欧州委員会が正式調査を開始する中、米国内でもカリフォルニア州が調査に乗り出した当日、Xは技術的制限の導入を発表した。

Overview

XがGrokによる実在人物のビキニ等への画像編集を技術的に禁止、全ユーザーに適用
画像生成・編集機能を有料会員限定に変更し、違反者の追跡を可能に
カリフォルニア州司法長官が同日、xAIに対する調査を正式発表
マレーシア・インドネシアはGrokをブロック済み、英国・EU・インド・フランス・豪州も調査中

この対応は「セーフガードの追加」ではなく「設計思想の限界の露呈」である。xAIは「検閲のないAI」を差別化要素として推進してきたが、児童保護という普遍的規範との衝突を招いた。有料化による責任追及可能性の担保は、プロダクトの根本設計を変えずに「使い手の責任」へ転嫁する暫定措置であり、英国首相官邸が「違法機能の有料化に過ぎない」と批判した通りの構造的限界を示している。

考える問い

「自由なAI」と「安全なAI」は両立できるのか、それとも本質的にトレードオフの関係にあるのか
AIセーフティの規制権限は、企業の自主規制、各国政府、国際機関のいずれが主導すべきか

報道記事・ソース

XAI、Grokによる実在人物の性的画像作成をブロック - ブルームバーグbloomberg.com / 2026.01.15
X氏によると、Grokは今後、実在の人物の画像をビキニ姿に加工することはしないとのことだ。engadget.com / 2026.01.15
Grokは世界的な反発を受けて、ユーザーが性的AI画像を作成することを禁止した。businessinsider.com / 2026.01.15
マスク氏のxAIは、反発を受けて、X上で実在の人物の性的画像を作成するGrokの能力を制限しているcnbc.com / 2026.01.15
XはGrokが人々を脱がせるのを止めたと主張しているが、もちろんそれは止められていないtheverge.com / 2026.01.15

公式発表・一次情報

I not aware of any naked underage images generated by Grok. Literally zero.

Obviously, Grok does not spontaneously generate images, it does so only according to user requests.

When asked to generate images, it will refuse to produce anything illegal, as the operating principle… https://t.co/YBoqo7ZmEj

— Elon Musk (@elonmusk) January 14, 2026

Author

なべ

techtech.club 編集長。メディアで起業し、元はスタートアップのプロダクトマネージャー。一度テクノロジーに賭けて挫折した。その経験がいまの生き方や考え方、事業の起点になっている。ここで書くのは答えではない。投資・キャリア・事業など専門家でなくても自分の頭で判断するための材料と視点。読者に教えるのではなく、一緒に考える側にいたい。