由于新增的Grok图像编辑功能被用于生成色情内容，美国企业家马斯克旗下的涉色人工智能企业xAI所推出的聊天机器人“格罗克(Grok)”近日再掀争议。
“格罗克”由xAI公司开发，情内已集成至马斯克旗下的容多社交媒体平台X，用户可直接调用该聊天机器人。国监管跟（注：X为原Twitter）近期，Grok星亿平台有部分X平台用户利用“格罗克”对图片和视频进行编辑，涉色生成效果逼真的情内虚假内容。一些人借此伪造真实人物的容多虚假性暴露图像与视频，并在平台上广泛传播，国监管跟已有多名女性及未成年人成为受害者。Grok
这一乱象迅速引发公众愤慨。涉色欧盟委员会负责数字经济事务的情内星亿注册发言人托马斯·雷尼耶5日回应称，正在“严肃调查”针对“格罗克”的容多相关投诉。“‘格罗克’推出的国监管跟所谓‘热辣模式’不仅呈现露骨性内容，部分生成图像还包含儿童特征。这根本不是所谓的‘热辣内容’，而是违法行径，令人震惊。此类行为在欧洲绝不可能被容忍。”
同一天，英国网络安全监管机构——通信管理局表示，已注意到用户对上述功能的关切，“紧急联系X（平台）和xAI，以了解其在履行保护英国用户的法定义务方面具体采取了哪些措施”，后续将依据对方回复，评估是否存在“值得调查的潜在合规问题”。
据印度媒体披露，印度信息技术部于2日向X平台发出指令，要求其清除色情内容、整治违规账号，并在72小时内提交“整改报告”，否则将依法采取进一步措施。目前，X平台是否已对这一要求作出回应仍不明朗。
多名法国政府部长及国民议会议员于2日已就此事向法国司法部门报案。（）当晚，巴黎检察院宣布将展开相应调查。
马来西亚通信和多媒体委员会上周末表示，对X平台上的“不雅、冒犯性极强”内容深表“严重关切”，目前已针对相关违规行为展开调查。马来西亚律师阿齐拉·阿齐兹向法新社指出，若仅为娱乐目的，“用AI给公众人物头像加个墨镜之类的也无妨”，但未经本人同意，“利用AI对妇女儿童实施与性别相关的暴力，必须坚决反对”。
X平台4日就相关争议回应称，将对平台上存在的非法内容采取措施，包括删除相关内容、永久封禁账号，并在必要时与当地政府及执法部门协作。马斯克3日在帖文中表示，任何使用“格罗克”制作非法内容的用户，都将受到与上传非法内容者相同的处理后果。