美国企业家埃隆·马斯克旗下的人工智能企业xAI开发的聊天机器人“格罗克”因新增图像编辑功能，被用户用于生成涉及成年女性和未成年人的深度伪造色情内容。英国等多个国家对此表示谴责。
“格罗克”内置于马斯克旗下的社交媒体X平台，用户可以直接调用该聊天机器人。近期，X平台上出现了一些用户利用“格罗克”编辑图片和视频的现象，生成并散播真实人物的虚假性暴露内容，受害者包括数百名成年女性和未成年人。
英国科学、创新和技术大臣莉兹·肯德尔在声明中强烈谴责此类内容，并要求英国通信管理局进行额外审查。英国通信管理局已紧急联系X平台，表示注意到“格罗克”的一项功能引发了严重关切，该功能可以生成人们的裸露图像以及涉及儿童的性意味图像。
欧盟委员会发言人托马斯·雷尼耶也表示正在严肃调查针对“格罗克”的相关投诉，并要求X平台提供更多相关信息。
图像生成问题自Grok Imagine推出后便开始浮现。Grok Imagine是一个AI图像生成器，允许用户通过输入文本提示来创建图片和视频，其中包含一个所谓的“热辣模式”，可生成成人内容。上月底，随着“格罗克”开始大量响应用户修改他人发布图像的请求，问题迅速扩大。
法国、波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责，并呼吁展开调查。
据媒体报道，xAI公司对其置评请求作出自动回复：“传统媒体撒谎”。但X平台并未否认通过“格罗克”生成的问题内容的存在。X平台在一篇帖子中声称会对非法内容采取行动，例如删除内容、永久封禁账户，并在必要时与当地政府和执法部门合作。
