xAIのGrok、児童性的虐待コンテンツ生成で集団訴訟-安全対策の欠陥を巡る責任論争へ

訴訟は3人のティーンがGrokによる児童性的虐待（CSEA）コンテンツ生成を指摘し、xAIの安全設計と運用監視の不備を問題視するものだ。

核心はモデルの訓練データ・フィルタリング、プロンプト防御（フィルタ回避）、リアルタイム監視と報告体制の欠落にある。

法的にはプラットフォーム責任論、製造物責任的な安全設計義務、未成年保護規範の適用が争点となる。

技術対策はより厳格なデータクレンジング、生成制約の強化、乱用パターン検知の継続学習、ヒューマンインザループの導入が必要だ。

規制側は透明性と独立監査、違反時の迅速な削除・通知義務を検討する可能性が高く、企業は訴訟リスク低減のために既存ガバナンスの即時見直しと外部監査の導入を急ぐべきだ。