人民政协网
第二时间
我们很难第一时间到达现场，但我们会在第二时间权威发声。第二时间，与您相伴。
国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》（以下简称《标识办法》），已于9月1日正式施行，所有AI生成的文字、图片、视频等内容都要“亮明身份”。
“良法善治，关键在于落地见效。”接受记者采访的部分全国政协委员表示，《标识办法》实施标志着AI生成合成内容管理有法可依，希望各方形成合力，共同营造风朗气清的网络空间。
》我国AI治理进入精细化、实操化新阶段
中国互联网络信息中心发布的《生成式人工智能应用发展报告（2024）》显示，截至2024年6月，我国生成式人工智能产品用户规模已达2.3亿人。在此背景下，《标识办法》的施行将为规范AI内容传播、保障用户知情权提供重要支撑。
“要求AI生成内容明确标注，能够很好地提示读者、用户、公众等所见信息的来源，提醒信息受众核实信息真实性后再使用和接受。”全国政协委员、中国科学院自动化研究所研究员赵晓光表示，这个“亮明身份”的举措，能够有效避免信息误导，有效提醒受众警惕虚假消息，避免轻信和传播虚假信息，维护网络空间的信息真实性。
《标识办法》中的一大亮点，则是规定了“显隐”双重标识方式。
“通过‘显式标识’提醒用户辨别，并通过‘隐式标识’实现技术溯源与监管，构建从内容生成、传播到使用的全流程管理闭环，有助于重塑数字时代的信任机制，标志着我国对生成式人工智能的治理进入了精细化、实操化新阶段。”十三届全国政协委员、第五空间信息科技研究院院长谈剑锋表示。
谈剑锋还表示，在监管层面，通过对合成内容进行强制“标识”这一技术抓手，在促进技术创新与防范滥用风险之间取得平衡。对企业而言，“百模大战”之间的竞争，将从单纯追求算力及生成能力，转向技术的可控性、安全性和可信度。
“通过显式标识（如提示语、水印）和隐式标识（如元数据嵌入），为不同类型内容生成提供了统一技术规范。接下来，企业面临着要完成主流产品在线标识功能开发、并快速扩展至其他业务场景的挑战。”赵晓光建议，企业可采用模块化设计，降低系统改造难度，还要及时参与网信部门或行业协会组织的标识技术培训，及时掌握政策动态与技术标准，避免因理解偏差导致合规风险。
》多管齐下，让AI技术“向善向上”
当前，我国人工智能领域正在飞速发展，相应的安全标准和法律准则不断完善。《标识办法》与2023年8月实施的《生成式人工智能服务管理暂行办法》以及2023年10月发布的《生成式人工智能服务安全基本要求》共同完善了我国人工智能生成合成内容协同治理的体系。
全国政协委员、科技部原副部长李萌表示，推进《标识办法》实施，需与此前已出台的各项规范、制度做好统筹衔接，实现一体落实、协同发力，最终达成“治理有效”与“促进发展”的双赢局面。
他提出，第一个层面是把住“人”这一关，这是源头治理。这里的“人”涵盖了开发者、应用者、传播者与受益者等全链条主体，需通过强化引导与系统培训，让他们牢固树立“人工智能应造福社会、惠及人类”的正确发展理念。在生成式人工智能发展中，要推动中华优秀传统文化中的精髓实现创造性转化、创新性发展，发挥在促进生成式人工智能健康发展中的基础性、引领性作用。第二层是把住数据关。要加强清洗数据，建立对齐人类价值观和法律规范的高质量语料库、数据集，杜绝用坏数据喂大模型，避免生成具有安全风险、法律风险、道德伦理风险的有害内容。第三层是让企业把住关。推动企业自觉履行具体的治理责任，把治理要求镶嵌在企业工作流程以及合规管理流程中，建立合规部门和审查机制，构建企业流程安全治理体系。
如何进一步增强普通用户主动标识生成内容的意识？赵晓光建议，在政府层面，要进一步完善法规与激励机制、优化公共服务；企业需要在技术赋能与用户体验优化方面设计更多投入；社会治理层面，可联合行业协会制定AI内容标识标准，对合规平台颁发认证，联合媒体宣传标识案例等，不断提升公众辨识能力。
“只有持续不断维护监管‘高压线’，促进企业提升创新‘底线’、保持用户的关注‘视线’，多管齐下才能让标识工作深入人心。”谈剑锋表示。
“随着人工智能技术的不断发展进化，需要我们构建技术、法律、社会全方位动态综合治理体系。”赵晓光表示，要关注动态标识技术升级，不断推动我国人工智能伦理学研究、治理体系与国际人工智能治理体系互动互认，积极参与全球AI治理规则制定，还要细化分层治理，结合技术特点和发展趋势，动态调整法律法规。
“当然，任何政策的实施都不可能一蹴而就，AI生成内容标识制度的落地同样面临诸多挑战，如跨平台标识统一难，需要与国际标准协调等，还需要在标准执行过程中逐步明晰和优化。”谈剑锋表示，未来应注重推动“可信”AI技术的发展，真正推动算法的透明性和可解释性，根除AI产生不良信息或幻觉的可能性，从而进一步促进AI技术的“向善向上”发展。
记者：周佳佳
文字编辑：李彬
新媒体编辑：莫愁
审核：周佳佳
作者：人民政协报
