AI聊天软件涉黄牟利案二审再开庭,法院未当庭宣判,专家证人接受发问
新黄河  10小时前

新黄河记者:谭登方  

5月21日上午9时,备受关注的AlienChat(以下简称AC软件)涉黄牟利案在上海市第一中级人民法院二审再次开庭审理。该案系国内首例因开发运营AI聊天软件生成淫秽内容牟利,两名被告人被追究刑事责任的案件。该案二审曾于今年1月14日开庭,因涉及AI技术问题未审理完毕,法庭宣布休庭,本次为恢复庭审继续审理。一审中,徐汇区人民检察院以传播淫秽物品牟利罪提起公诉,徐汇区人民法院最终以制作淫秽物品牟利罪对二人定罪量刑。该案涉及AI内容责任、法律适用等问题,受到业界及法律界关注。截至庭审结束,法院未当庭宣判。

案件全貌:从AI虚拟陪伴到涉黄牟利

根据落款日期为2025年9月30日的上海市徐汇区人民法院一审判决书载明,本案由上海市徐汇区人民检察院于2025年1月10日向徐汇区人民法院提起公诉,法院于同月13日立案,依法适用普通程序组成合议庭。因案件涉及个人隐私,法院先后于2025年2月18日、3月26日、5月8日、6月16日、9月11日五次不公开开庭审理,并于2025年9月30日作出一审判决。

判决书显示,2022年,被告人刘某全注册成立上海永无乡科技有限公司,经营范围包含网络与信息安全软件开发、人工智能行业应用系统集成服务、大数据服务等。2023年5月起,刘某全与被告人陈某洲共谋,以永无乡公司名义开发运营AlienChat聊天软件,对外提供“聊天陪伴”服务。该软件未经安全评估和备案,违规接入境外大语言模型,先后在网页端、苹果端、安卓端上架运营。用户注册后可创建虚拟角色或使用公开角色,与大语言模型进行交互聊天。

判决书载明,在运营期间,刘某全、陈某洲等人为吸引用户、提升付费率,通过编写系统提示词(SystemPrompt)突破大语言模型道德限制,使模型可向用户连贯输出淫秽内容,并通过设置热门角色榜单、作者奖励机制,进一步扩大相关内容传播范围。其中,刘某全全面负责公司管理与软件运营;陈某洲负责后端代码编写、运营维护,每月领取工资2万元。

2023年11月起,刘某全等人根据模型与服务差异设置多档会员充值,至案发共收取会员费363万余元。经上海弘连电子数据司法鉴定所鉴定,AC软件手机注册用户11.6万余人,付费用户2.4万余人,创建虚拟角色13.9万个,产生交互聊天427万余段。经上海市公安局徐汇分局抽样鉴定,随机抽取150名收费用户的12495段聊天中,淫秽内容达3618段,涉及141名用户;排名前20的热门公开角色对应聊天中,400段抽取样本里淫秽内容达185段。

2024年4月10日,刘某全在上海市长宁区被抓获,陈某洲在重庆市渝北区被抓获。到案后,刘某全未如实供述主要犯罪事实,后期庭审中认罪认罚;陈某洲始终如实供述,并自愿退赃。审理期间,刘某全退缴违法所得24万元,陈某洲退缴18万元。

控辩交锋:罪与非罪、此罪与彼罪的五大争议焦点

一审判决书完整呈现控辩双方意见。公诉机关指控,二被告人行为构成传播淫秽物品牟利罪,系共同犯罪;刘某全系主犯,建议判处有期徒刑五年至六年并处罚金;陈某洲系从犯,有坦白、退赃、认罪认罚情节,建议判处有期徒刑一年六个月并处罚金。

被告人刘某全在第三次庭审前否认指控,提出五项辩解:一是主观无追求淫秽内容故意,且已开展审核;二是修改提示词为保障软件运行,与淫秽输出无显著关联;三是热门榜单、奖励机制系行业常规做法;四是交互聊天数量未达9000余万段;五是会员收费仅100余万元。第四次庭审中,刘某全认可主要犯罪事实,承认主观积极追求色情内容,自愿认罪认罚,并称仅24万元与“聊黄”相关;第五次庭审中,其认为自身行为构成制作淫秽物品牟利罪。

刘某全辩护人认为,本案事实不清、证据不足,应宣告无罪。辩方主要观点包括:AC软件无需备案,接入境外模型不违规;修改提示词与淫秽输出无刑法因果关系;一对一封闭聊天不构成“传播”;内容生成系模型、用户、提示词共同作用,归责过重;应从保护AI新业态出发,认定为行政违法。辩护人同时认为,刘某全亦不构成制作淫秽物品牟利罪,即便有罪,结合聊天数量大幅下调、认罪认罚、退赃、系AI创业人才等情节,应适用缓刑。

被告人陈某洲对指控事实、罪名无异议,提出自身作用较小、家庭困难、愿意预缴罚金,请求从轻处罚。其辩护人提出,陈某洲系从犯、有坦白、退赃、认罪认罚等情节,一对一人机交互社会危害性较小,请求在公诉机关量刑建议基础上进一步从轻并适用缓刑。二被告人及辩护人均认为,本案应认定为传播淫秽物品牟利罪,而非制作淫秽物品牟利罪。

一审裁判:法院改判制作淫秽物品牟利罪,明确四大核心认定

徐汇区人民法院审理后,对案件关键争议逐一作出认定,并形成核心裁判逻辑。

关于备案义务,判决书指出,2023年7月10日《生成式人工智能服务管理暂行办法》公布,同年8月15日施行。该办法第十七条明确,具有舆论属性或社会动员能力的生成式AI服务应开展安全评估并履行算法备案。刘某全作为行业从业者明知上述规定,仍未备案、未做安全评估,违反法定要求。

关于系统提示词的作用,法院查明,系统提示词文本、被告人聊天记录、侦查实验、证人证言及同案供述相互印证:若不修改提示词,模型不会连续输出淫秽内容。编写、修改提示词的直接目的,是让模型顺畅“聊黄”,与淫秽内容生成存在刑法上的因果关系。

关于审核义务履行情况,法院认为,刘某全等人虽设有人工与机器审核,但仅审核角色背景,未对用户输入、模型输出进行有效审核,未按规定采取处置、整改、报告措施。所谓防范措施流于形式,主观上积极追求淫秽内容产生。

关于罪名定性,一审法院最终认定,二被告人行为构成制作淫秽物品牟利罪,而非公诉机关指控的传播淫秽物品牟利罪。法院给出三点核心理由:第一,案涉内容系人机交互实时生成,具有从无到有的“原创性”,符合“制作”特征;一对一封闭对话,不具备传统“传播”的扩散性与流通性。第二,依据《生成式人工智能服务管理暂行办法》,生成式AI服务提供者应承担内容生产者责任。刘某全等人通过提示词对输出内容实质性控制,内容高度可控、可预测,应认定为制作者。第三,二被告人以牟利为目的,实施制作行为,涉案用户规模、淫秽内容数量、违法所得均远超入罪标准,属情节严重,具有刑事可罚性。法院同时认定,全部会员充值费均为违法所得。

综上,一审法院判决:被告人刘某全犯制作淫秽物品牟利罪,判处有期徒刑四年,并处罚金人民币四百万元;被告人陈某洲犯制作淫秽物品牟利罪,判处有期徒刑一年六个月,并处罚金人民币二十万元;违法所得予以追缴,犯罪工具予以没收。

二审进程:技术争议导致休庭,5月21日再次开庭,专家证人接受发问

一审宣判后,二被告人不服,向上海市第一中级人民法院提起上诉。2026年1月14日,本案二审首次开庭。因案件涉及大语言模型运行机制、提示词对输出结果的影响程度等复杂技术问题,法庭宣布休庭,择日复庭。

据此前媒体报道,二审核心争议为AI生成淫秽内容的根本原因是什么?修改提示词在多大程度上导致淫秽内容产生?辩方已提交申请,请求AI领域权威专家证人出庭,并申请开展侦查实验,验证相同提示词下模型是否必然生成淫秽内容,以厘清技术因果关系。法院表示将审慎审查专家资质与实验必要性。

2026年5月21日上午,该案在上海市第一中级人民法院再次开庭。记者了解到,本次庭审主要围绕对专家证人的问询展开,法庭辩论阶段未提出新的实质性内容。

编辑:刘丹  校对:汤琪