xAIのGrok、児童性的虐待コンテンツ生成で集団訴訟-安全対策の不備を問う3人のティーンの主張

今回の集団訴訟は、生成系AIが引き起こす法的・社会的課題を凝縮して示している。 原告はGrokが児童性的虐待（CSEA）コンテンツを生成した事実を基に、フィルタリング不足やプロンプト防止策、監査ログの欠如など設計上・運用上の安全対策の不備を主張する。

争点は①モデルの出力責任（プラットフォーム責任 vs 生成モデルの不可避性）、②学習データの管理と有害出力の再現可能性、③被害救済と予防措置の妥当性だ。

被告は技術的な誤応答の例外性や利用者の悪用を理由に責任を限定する可能性が高いが、訴訟は企業のデフォルトでの安全設計（privacy-by-design、safety-by-design）や第三者監査、透明性要求を強めるだろう。

規制面ではCSEA対策の既存法との整合や、AI特有のリスクに対応する新たな基準（事前検査、ログ保存、応答フィルタの検証）が焦点となる。

結論として、本件は単なる個別事故を超え、生成AIの運用と法的責任の境界を再定義し、業界全体の安全文化と規制枠組みの強化を促す可能性が高い。