Grok涉多起儿童色情诉讼，xAI否认责任并反击州法

多名未成年人通过法律途径追究xAI责任，指控其旗下聊天机器人Grok协助生成儿童性虐待材料。原告称，普通照片被篡改后在网络上广泛传播，造成难以弥补的心理创伤。

14岁的简·多伊在毕业典礼照片被恶搞后，被迫成为案件原告。她坦言，无法预测图片的扩散范围，这种失控感让她感到绝望。在准备进入大学前，她表达了深深的无力与恐惧。

如今，利用AI篡改个人照片变得极易实现。X平台用户曾通过Grok大量生成违规图像，有分析称其中绝大多数涉及性暗示或裸露内容。这一现象引发了全球范围的批评与监管压力。

面对争议，马斯克曾鼓励用户生成露骨内容，并推出主打‘大胆’的Spicy模式。尽管他后来声称未曾目睹涉未成年人图片，xAI也表示已限制相关功能，但此类产品定位已使Grok在特定用户群体中具备吸引力。

在法律层面，xAI正应对多起诉讼。田纳西、阿肯色、威斯康星及加州等地均有受害者提起诉讼，指控AI技术被滥用。其中一份诉状称，Grok的训练数据甚至包含早期滥用受害者的图像。

与此同时，xAI也在积极挑战相关监管法律。该公司起诉明尼苏达州，认为该州针对AI生成裸图的法律违反宪法第一修正案，过度限制了受保护的言论自由。其总法律顾问强调，在马斯克领导下将捍卫言论自由。

原告律师指出，伤害可能来自任何方向，甚至未成年人也可能在不知情的情况下触犯联邦法律。随着诉讼推进，监管方与行业巨头之间的博弈将持续发酵，AI内容生成的责任界定仍是未解难题。