近来，好意思国企业家埃隆·马斯克旗下东说念主工智能聊天机器东说念主“格罗克”被指生成色情内容，激发平庸指责。这一事件昨年年末以来捏续发酵，多国政府已运行有关探员。跟着大模子迅猛发展，诈欺东说念主工智能生成深度伪造内容并在网上传播的案例时有发生，突显了东说念主工智能时刻的伦理风险。

列国何如反馈

“格罗克”由马斯克旗下东说念主工智能企业xAI公司开辟，并内置于马斯克旗下酬酢媒体平台X。近期，X平台一些用户诈欺“格罗克”的图片裁剪功能生成真正东说念主物的乖谬性清楚内容，并在平台上分散，受害者包括成年女性和未成年东说念主。“格罗克”涉嫌生成色情内容的问题已受到英国、法国、印度、巴西、澳大利亚等国和欧盟方面的强烈指责，一些国度的监管机构已介入探员。

多名法国政府部长和国民议会议员本月2日向法国司法部门报案。巴黎检方随后暗示，将对“格罗克”涉嫌生成色情内容运行探员。

印度信息时刻部2日要求X平台删除色情内容、打击违法用户，并在72小时内提交“整改论说”，不然将面对法律制裁。

欧盟委员会负责数字经济事务的发言东说念主托马斯·雷尼耶5日说，正严肃探员针对“格罗克”的有关投诉，欧盟委员会要求X平台提供更多信息。

印度尼西亚和马来西亚的监管机构区别于10日和11日晓谕对本国用户探员“格罗克”进行临时贬抑。印尼通讯和数字事务部长默蒂娅·哈菲兹在一份声明中暗示，此举关于保护公众免受东说念主工智能生成的露骨图像所带来的危害是必要的，并要求X平台就“格罗克”所激发的负面影响尽快作出诠释。马来西亚通讯和多媒体委员会暗示，对“格罗克”的探员贬抑将捏续收效，直至有关企业落实有用贯注机制。

英国通讯料理局12日暗示，已左证英国《在线安全法》对X平台伸开慎重探员，以判定该平台是否实施了保护英国专家免遭罪犯内容侵害的使命，不摈斥“在最严重情况下”屏蔽X平台的可能。

图像生成有何问题

“格罗克”的图像生成问题骨子上从Grok Imagine发布后就浮出水面。2025年8月推出的东说念主工智能图像生成器Grok Imagine是“格罗克”的功能模块，允许用户通过输入文本指示来创建图片和视频。它包含一个所谓“热辣模式”，可生成成东说念主内容。

好意思联社报说念说，这一问题之是以更加严重，一方面因为马斯克标榜旗下聊天机器东说念主是比成立更多安全秩序的竞争敌手居品“更前锋”的遴选；另一方面，“格罗克”生成图像公开可见，很容易分散。

东说念主工智能取证组织近日发布论说自满，商榷东说念主员收罗和分析了“格罗克”在2025年12月25日至2026年1月1日历间以深度伪造方法生成的2万张图像。末端发现，通盘包含东说念主物的生成图像中，有55%的图像中有东说念主物穿着清楚，这些着装清楚的东说念主有81%是女性；有2%的生成图像为年事不及18岁的东说念主物，其中一些图像包含穿着清楚的年青女性（或女孩）形象。

据多家媒体报说念，面对多方压力，贬抑上周末，“格罗克”在X平台上的图像生成和裁剪功能已被改造为仅向平台付用度户绽放，但在“格罗克”应用技艺和官网上仍可免费使用该功能。英国政府对此暗示，这一整改秩序仅仅“将允许创建罪犯图像的东说念主工智能功能形成一项高等行状”，对受害者来说是“侮辱性的”。

责罚深度伪造难在哪

这次事件并非随机。连年来，跟着大模子呈快速发展态势，诈欺东说念主工智能时刻换脸换声、生成深度伪造内容并在网上传播的案例时有发生。尽管东说念主工智能伦理风险日益突显，东说念主工智能监管规定在很多国度仍不完善。

清华大学东说念主工智能国外责罚商榷院副院长梁正罗致新华社记者采访时说，东说念主工智能深度伪造责罚触及模子算法安全性评估、对诈欺东说念主工智能器用生成无益内容行径的料理、对东说念主工智能生成内容进行象征等多方面，很难依靠出台一部法律进行全面责罚，而是需要建立“全链条式”责罚体系。在这类事件中，内容生成和分发平台对内容检测甄别负有主体包袱。与此同期，还应通过教诲等方法擢升公众的东说念主工智能伦理教训，确保有关器用使用安妥。

很多国度正积极鼓励有关规定设立。波兰众议院议长沃皆米日·恰扎斯蒂6日暗示，但愿借这次“格罗克”事件鼓励国度数字安全立法，有关规定旨在加强未成年东说念主保护，并使司法部门更易于删除无益内容。

英国科学、立异和时刻大臣莉兹·肯德尔12日晓谕，英国《数据法案》有关条件将于本周收效，未经应允制作或寻求制作玄妙图像将被认定为刑事罪犯，在X平台上发布此类内容将组成刑事罪犯。

马来西亚通讯部副部长张念群近日暗示，全球正围绕东说念主工智能伸开强烈竞争，但若一味追求速率与利润，而冷漠伦理圭表与社会包袱，其效果将不胜设思。“格罗克”在短时间内多半生成瞻念影像，且速率远超传统影像处理方法，突显出东说念主工智能在贫窭伦理拘谨情况下被奢靡的履行风险。