明尼苏达州正在与埃隆·马斯克的xAI公司就后者试图阻止HF-1606法案的诉讼展开交锋。该法案是美国首部针对AI工具生成可识别人物逼真性图像的州级法律。在周五提交的法庭文件中，明尼苏达州总检察长基思·埃里森（Keith Ellison）辩称，xAI的宪法挑战不太可能成功，且未能证明执行该法会造成不可弥补的损害。
“通过Grok Imagine，xAI创建了一个前所未有的数字性暴力市场，几乎没有任何准入壁垒，”埃里森写道。“这个市场，加上Grok Imagine的功能能力，如果明尼苏达州不能将法律直接指向首先使数字性侵害成为可能的这项技术，那么该州从一开始就注定失败。”
该法律于2025年4月颁布，8月1日生效，禁止平台和软件开发者允许用户创建展示私密身体部位的逼真图像，而这些部位在原图（可识别的人物）中并不存在。在该法律实施前的7月，xAI起诉埃里森要求阻止该法，称其违反了第一修正案，并且可能适用于保护性图像，包括赤膊男性、泳装照片和政治讽刺作品。违规行为每张图像最高可被罚款50万美元。
“通用AI创意工具提供商为避免伤害而做出的善意努力不存在任何安全港，”xAI在其诉状中写道。“即使被描绘的人同意——或者自己创建了图像——即使图像从未被分享，责任也会产生。”
明尼苏达州在听取了一名男子利用社交媒体照片为自己认识的80多名女性创建性图像的报道后，以众议院132-1、参议院65-0的投票结果通过了该措施。“今天，我们引领全国保护妇女、儿童以及所有公众人物免受AI脱衣技术带来的伤害，”推动该法案的参议员梅耶·奎德（Maye Quade）当时在一份声明中说。“那些在免费在线和应用程序商店中提供这种技术的公司，将不再被允许助长那些只需点击一下按钮就能虐待和侵害成年人和儿童的掠夺者。”
此案目前的核心在于该法律是监管言论还是监管技术。Grok此前也曾因生成露骨的色情深度伪造而面临审查。2025年1月，一家监督机构估计Grok在11天内生成了超过2.3万张儿童性化图像，引发了多个国家的调查。2025年3月，加利福尼亚州的三名未成年人与其他人士一起起诉xAI，指控Grok被用于将他们的照片转化为AI生成的儿童性虐待材料。xAI表示，其在2026年已封禁超过5万个账户，并向国家失踪与受虐儿童中心提交了超过7万份报告。