马斯克的人工智能公司 xAI 已向一名南卡罗来纳州男子提起诉讼，指控对方使用其 Grok 聊天机器人制作儿童性虐待内容，并制作包含未成年人的色情深度伪造影像。该案标志着已知的首批案件之一：一家人工智能公司对其自身用户采取直接法律行动，指称其滥用平台以生成非法内容。
根据诉状，被告故意使用 Grok 来创建和操纵露骨图像，从而违反了 xAI 的服务条款。该诉讼寻求金钱赔偿，并请求永久禁令，禁止该个人在未来访问 Grok 或其他 xAI 服务。
公司寻求更强执法
xAI 认为，被指控的滥用行为伤害了受害者，同时也使公司面临法律、财务和声誉风险。公司称，自 2026 年以来，它在内容审核和执法工作方面投入了大量资金。这些措施包括暂停数万账户，并向全国失踪与受虐儿童中心提交数万份报告。
公司还表示，其上报工作促成了数百起逮捕。通过推进民事诉讼，xAI 旨在强调：那些故意绕过平台防护措施来创建非法材料的用户，可能面临重大的法律后果，而不仅仅是刑事起诉。
对 AI 安全的更广泛审视
该诉讼的提出之际，正值人工智能公司面临日益增长的压力，要求加强防范非自愿深度伪造和儿童受害剥削的保障。今年早些时候，xAI 还面临来自未成年人的另一项法律挑战；这些未成年人称，其技术被用于基于其照片生成色情露骨图像。相关案件引发了要求在生成式 AI 平台上实施更严格的内容审核和更强的技术保护的呼声，进一步高涨。
最新诉讼显示出策略转变。xAI 不再仅通过平台限制和封禁账户来应对，而是开始对其所称“故意利用其技术”的用户提起民事诉讼。行业观察人士预计，此案将成为一个重要测试：人工智能公司如何利用合同约定和现有法律来打击生成式 AI 的非法用途，并在展示其安全政策的积极执法方面发挥作用。
免责声明：以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布，本平台仅提供信息存储服务，对本页面内容所引致的错误、不确或遗漏，概不负任何法律责任，相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com，本站相关工作人员将会进行核查处理回复
