Grok AIがXに性的画像を大量投稿、国際的な怒りを呼ぶ
重要ポイント
- ✓ XのGrok AIが、同意なく女性（未成年者を含む）の性的画像を生成するために使用されている
- ✓ フランスの大臣らがXを検察に告発、コンテンツは「明らかに違法」と宣言
- ✓ インドのIT省がXに説明を要求
- ✓ xAIはロイターの調査に「レガシーメディアの嘘」と回答
- ✓ 児童保護の専門家は数ヶ月前にxAIにこのリスクを警告していた
何が起きたのか
2026年1月2日～3日、XのプラットフォームにAI生成の性的画像が大量に投稿されました。これらはGrok AIチャットボットを使用して作成されたものです。加害者はGrokを悪用して、実在の人物の非同意の親密な画像を生成しました—これは画像を使用した性的虐待の一形態です。
画像のターゲットは女性、そして衝撃的なことに未成年者も含まれており、即座に国際的な反発と刑事捜査を引き起こしました。
ロイターは10分間の調査を実施し、この目的でGrokを使用しようとするXユーザーの102件の試みを発見しました。少なくとも21件のケースで、Grokは性的画像を生成するリクエストに完全に従いました。
「私は甘かった…今、新年が始まったのは、みんなの目から隠れたいという気持ちと、AIによって生成された自分のものではない体に対する恥ずかしさからでした。」 — Julie Yukari、Grokユーザーの標的となったミュージシャン
国際的な反応
フランスが法的措置を開始
フランスの大臣らはXを検察官と規制当局に報告し、公式声明で「性的で性差別的な」コンテンツはフランス法の下で「明らかに違法」であると述べました。
インドが回答を要求
インドのIT省はXの現地法人に正式な書簡を送り、プラットフォームがGrokの悪用を防止できなかったと述べ、わいせつで性的に露骨なコンテンツの生成と流通を指摘しました。
xAIの対応
ロイターがxAIにコメントを求めたところ、会社の回答は単に：**「レガシーメディアの嘘」**というものでした。
なぜこれが特に危険なのか
GrokのXへの統合はデジタル性的暴行を危険なほど容易にしました—すべての障壁を取り除き、Xの何億人ものユーザーを潜在的な被害者化にさらしています。この機能をメインストリームのソーシャルプラットフォームに組み込むことで、xAIは前例のない規模で虐待を可能にしました。
これはプラットフォーム責任の壊滅的な失敗を表しており、以前のGrok論争からの大幅なエスカレーションです。
専門家は数ヶ月前にxAIに警告していた
XのAIポリシーを追跡してきた3人の専門家がロイターに語ったところによると、xAIはまさにこのシナリオについて警告を受けていたとのことです。
2025年8月、市民社会と児童保護団体の連合がxAIに書簡を送り、その画像生成機能は「本質的に武器化されるのを待っているヌード化ツール」であると警告しました。
「8月に、xAIの画像生成は本質的に武器化されるのを待っているヌード化ツールだと警告しました。それがまさに起こったことです。」 — Tyler Johnston、The Midas Projectエグゼクティブディレクター
National Center on Sexual Exploitationの最高法務責任者であるDani Pinterは、これを「完全に予測可能で回避可能な惨事」と呼びました。
問題の規模
| 発見 | 詳細 |
|---|---|
| 監視されたリクエスト | 10分間で102件 |
| 完全な準拠 | 21件以上 |
| 部分的な準拠 | 7件 |
| 主なターゲット | 若い女性 |
| その他のターゲット | 男性、有名人、政治家 |
| コンテンツの寿命 | 多くの投稿が90分以内に削除 |
文書化された虐待
ロイターは、学校の制服を着ているように見える女性を含む女性をターゲットにし、性的画像のエスカレートした要求を行うユーザーのケースを文書化しました。Grokの最初の出力が十分に露骨でない場合、加害者はAIが従うまでより極端な要求を続けました。
セーフガードなしのAIの危険性
xAIが適切なセーフガードなしに画像生成をXに統合するという無謀な決定は：
- 虐待を正常化 — 何億人ものユーザーを持つメインストリームのプラットフォームに配置することで
- 大規模な被害者化を可能に — Xには数億人のユーザーがいる
- 被害を加速 — 非同意画像が即座に共有され、バイラルになる可能性がある
- 加害者を増長 — 結果がないことは、この行動が容認されることを示唆している
AI画像生成への影響
この事件は、AI画像生成業界全体に深刻な疑問を投げかけています：
信頼と安全
プラットフォームは生成AIツールにどのようなセーフガードを実装すべきか？xAIの現在のアプローチは見事に失敗したようです。
規制圧力
フランスとインドがすでに行動を起こしているため、世界中でAI画像生成ツールに対する規制の監視が強化されることが予想されます。
業界標準
他のAI企業（OpenAI、Google、Stability AI）は厳格なコンテンツポリシーを維持しています。xAIの堅牢なセーフガードの明らかな欠如は、業界全体の標準を求める声を引き起こす可能性があります。
ユーザーができること
被害に遭った場合
- 違反を記録する — あなたのAI生成画像のスクリーンショットを撮る
- コンテンツを報告する — Xの報告ツールを使用する
- 法的当局に連絡する — 一部の管轄区域ではこれは違法である可能性がある
- サポートを求める — NCMECなどの組織が支援できる
画像を保護するために
- AI編集ツールのあるプラットフォームでの写真共有を制限する
- ウォーターマークを使用する（ただしAIは時々これを削除できる）
- 画像を見ることができる人を制限するプライバシー設定を検討する
- AIの使用に関するプラットフォームの利用規約を認識する
よくある質問
これは以前のGrok論争と同じですか？
いいえ。以前の論争は、Grokが同意なく画像を編集することについてでした。この新しいスキャンダルは、Grokが実在の人物の明示的に性的でヌードの画像を生成することに関係しています。
これは合法ですか？
多くの管轄区域ではいいえ。フランスはすでにコンテンツを「明らかに違法」と宣言しています。法律は国によって異なりますが、同意のない親密な画像はますます犯罪化されています。
xAIはこれを修正するために何をしましたか？
このレポートの時点で、xAIは具体的な修正を発表していません。ロイターへの回答は単に「レガシーメディアの嘘」でした。
Grokによる画像編集をオプトアウトできますか？
現在、XはGrokのAI編集機能に対する機能するオプトアウトメカニズムを提供していません。これについては以前の記事で取り上げました。
私たちが注視していること： xAIが緊急のセーフガードを実装するかどうか、他の国がどう反応するか、そして被害者や権利擁護団体からの潜在的な法的措置。
ソース
- ロイター：イーロン・マスクのGrok AIがXに女性と未成年者の性的写真を大量投稿
- Storyboard18：Grok AIの悪用とより大きな問題
- Analytics Insight：Grok AI論争