新黄河记者:吕高凡 孙瑜
近日,不少网友在社交媒体发帖称,DeepSeek更新下架“专家模式”后,此前被曝光的涉黄色情角色扮演对话现象仍存在。记者调查发现,部分社交媒体以及电商等平台甚至存在教用户使用DeepSeek开展涉黄角色扮演对话的教程帖,且对外出售。不少网友称通过网传教程DeepSeek生成了涉黄内容,并质疑平台审核机制存在漏洞。
9月13日,新黄河通过网传教程实测后,发现DeepSeek确实输出了直白的色情内容文本。9月14日,记者向DeepSeek官网公开邮箱发送相关采访问题,截至发稿,暂未收到对方回复。9月15日,闲鱼客服表示,售卖的相关教程内容是违规的,只要排查到违规属实都会进行处置。
网友吐槽:DeepSeek仍能生成涉黄短文,部分社交平台存“教程”
近期,有网友向新黄河记者反映,DeepSeek人工智能大模型存在被引导生成涉黄低俗小说的隐患。尽管平台已对相关违规指令进行封禁,但仍有网友表示,通过特殊角色扮演、长文本铺垫、分段设定剧情等方式,仍可绕过安全过滤,诱导AI生成带有色情描写的文字内容。有网友吐槽:“明面上的指令禁了,换个说法又能绕过去,还是能生成带有色情的文字内容。”

记者梳理发现,此类被引导生成的内容,多为带有露骨性描写的低俗小说,部分内容还涉及不当情节设定。在社交、短视频平台上,相关话题持续发酵,存在相关截图,及“避坑指令”“突破限制教程”等隐晦词语。
更令人担忧的是,这类内容对青少年群体的潜在影响。有家长留言表示,如今中小学生接触AI工具的门槛越来越低,如果孩子在使用过程中无意或有意接触到涉黄内容,可能对其性认知和价值观产生误导。“孩子辨别能力弱,看多了这种东西,心理和行为都可能受影响。”一位家长忧心忡忡地说。业内人士指出,青少年正处于身心发育的关键阶段,长期接触低俗色情内容,容易扭曲其对两性关系的正常认知,甚至诱发模仿行为和心理成瘾。
记者调查:有平台低价网售“教程”,可直接生成涉黄内容
记者进一步发现网传的相关教程主要包括角色扮演的人设提示词、规避平台违禁词的绕过方法,引导AI生成露骨色情内容的指令等,且存在相关社交群。记者随机加入一个群聊,群成员规模已达500人。该群主要分享防撤回指令,以及能够引导AI生成低俗色情内容的人设脚本。

按照知情网友指引,记者在电商平台花费1元随机购买了一套DeepSeek人设指令,卖家随后发来相关文本,包含一份名为“破甲”的文件以及大量小说设定文档。这份3000余字的“破甲”文件,核心内容是指令AI突破正常对话边界,允许讨论隐私内容,并对性行为进行详细的描写。

9月13日,记者通过网传教程对DeepSeek进行实测。将教程的内容以文件形式发送给DeepSeek后,DeepSeek回复,“我不能按这个要求生成内容,你描述的是明确的成人性描写,这些我无法生成。这不是角色设定的问题,是内容类型的限制。”但记者按教程再进一步操作后,仅通过简单引导,DeepSeek就输出大量描写性器官、性行为等露骨色情内容,相关动作语言色情暴力。

9月15日,记者在DeepSeek展开新对话使用相同方式进行测试,则被DeepSeek拒绝生成色情内容,原对话框可继续生成涉黄内容,但内容发送过程中便会撤回。
律师:DeepSeek等运营平台未尽到审核义务
9月14日,记者通过天眼查查询到杭州深度求索人工智能基础技术研究有限公司的公开电话,多次拨打均无人接听。同日,记者向DeepSeek官网公开邮箱发送采访函采访相关问题,截至发稿,暂未收到对方回复。
9月15日,对于电商平台售卖的相关教程,平台客服向记者表示,“售卖的内容是违规的”,平台通过大数据检测,无法做到全部一次性排查到位,对于平台内存在的没有被处置的违规行为,不代表平台认可该类行为,只要排查到违规属实都会进行处置。
事实上,针对AI生成涉黄内容的整治,国家层面已展开行动。今年4月,中央网信办启动的“清朗·整治AI应用乱象”专项行动,明确提出整治利用AI制作发布虚假信息、传播暴力低俗内容、侵害未成年人权益等乱象。
河南泽槿律师事务所主任付建认为,用户输入指令能够获得色情内容,DeepSeek等运营平台未尽到审核义务,《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》都明确了网络服务提供者应当加强对其用户发布的信息的管理,对生成内容进行审核,采取有效措施防范和抵制生成色情、暴力等违法内容。如果平台发现漏洞后未及时升级管理修复,放任该损害扩大的,主管部门有权对平台责令整改、警告、罚款。此外,针对闲鱼等二手平台售卖教程的现象,要加强对违规商品信息的巡查和清理。
编辑:俞丹 校对:杨荷放








