标识制度让AI 更安全可信
原标题：标识制度让AI 更安全可信
《标识办法》与《标识方法》的制定体现了有关部门对迅猛发展的生成式人工智能技术及应用的迅速回应与积极作为，更为人工智能生成内容的风险治理贡献了中国方案
近日，国家互联网信息办公室、公安部等四部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》）。同时，配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识方法》）已由国家市场监督管理总局、国家标准化管理委员会正式批准发布，将于2025年9月1日与《标识办法》同步实施，引发社会广泛关注。
近年来，生成式人工智能技术及应用迅速发展，为用户生成合成多元化的文本、图片、代码、音频、视频、虚拟场景等信息提供了重要工具，促进了人工智能产业的繁荣，也为经济社会发展带来了巨大机遇。然而，生成合成内容真伪混杂、良莠难辨，存在传播虚假信息、危害网络生态、引发诈骗犯罪等多种风险。当前，许多国家和地区正探索将人工智能生成内容标识义务入法，国内外多家互联网公司也在逐步推进标识嵌入和管理举措。内容标识已然成为全球范围内治理人工智能生成内容风险的重要选项，我国对此尤为重视。
经过深入调研、广泛征求意见、多轮技术论证试点通过的《标识办法》和《标识方法》，系统建立了人工智能生成合成内容标识制度，满足了人工智能生成内容治理的多重迫切需求，具有重要意义。首先，《标识办法》的出台有利于内容溯源和风险防控。在“万物皆可AI”的语境下，机器生成的信息比例越来越高、内容越来越逼真，公众仅从信息外观上往往无法判断其来源与真伪。如放任虚假信息泛滥，将严重削弱社会公众对信息网络生态的信任。根据《标识方法》，标识可通过元数据嵌入各种信息，用于记录文件来源、属性、用途等，具体包括生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息，同时还可以嵌入数字水印等其他类型的标识，助力监管部门对人工智能生成内容进行溯源分析与研判，及时阻断违法信息和不良信息的传播，从而降低造谣、诈骗、信息污染等风险。
其次，《标识办法》的出台有利于更好保障用户权益。生成式人工智能不仅改变了人们获取信息、创作内容的方式，也使知情权、著作权等方面的权益保障需求变得愈发迫切。根据《标识办法》的要求，对人工智能生成内容的标识行为被具体化为显式标识或隐式标识。显式标识以显著形式发挥类似“署名”的功能，便于公众快速识别内容类型乃至生成来源，有助于保障使用者及公众的知情权，防范被误导、被诈骗的潜在风险。隐式标识则以相对隐蔽的形式隐含了有关作品生成的信息，可以更充分地发挥溯源功能，在防控风险的同时，有利于确认生成内容的著作权归属，保护原创作者的合法权益。
再次，《标识办法》的出台有利于营造健康、透明的内容生态。随着生成式人工智能技术的迅速发展和广泛应用，用户自行辨别内容来源及可信度的能力在具有规模性、逼真度和吸引力的生成合成内容面前日显单薄。《标识办法》和《标识方法》及时回应了对海量生成合成内容赋予“身份标记”的紧迫需求，并且建立了覆盖用户、各类网络信息服务提供者和互联网应用程序分发平台的义务与责任体系，极大便利了公众识别、平台治理和监管研判，为人工智能时代营造风清气正的网络生态提供了基础性的助力。
值得肯定的是，《标识办法》对于标识方案的选择广开言路、实事求是，统筹发展和安全，对于文本、图片、视频、音频等不同类型内容的标识采取了因事制宜的方案，同时鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识，对标识核验义务、应用审核义务和留存日志要求等也作出了合理规定，为稳妥有序发展切实可行的人工智能生成合成内容标识体系奠定了基石，并为大模型时代的信息内容生态治理铺平了道路。
《标识办法》与《标识方法》的制定体现了有关部门对迅猛发展的生成式人工智能技术及应用的迅速回应与积极作为，积聚了有益的行政立法经验，更为人工智能生成内容的风险治理贡献了中国方案。展望未来，生成式人工智能的应用场景还会不断拓展，现有的制度成果仍需紧跟时代步伐，持续优化完善，以更好地应对复杂多变的风险挑战。为此，要进一步充实和完善生成式人工智能风险治理的“制度工具箱”，建立融合支持发展、激励创新、防控风险、保障权益等多方面目标的人工智能风险治理体系，引导生成式人工智能技术及应用良性发展，为公众提供更加安全、可信、优质、可持续的人工智能服务，让人工智能真正成为推动社会进步、提升人类福祉的强大引擎，助力开创更加美好的数字未来。
（苏宇，中国人民公安大学法学院教授、数据法学研究院院长）
来源： 法治日报
相关推荐
-
云浮发展低空经济与人工智能，推动相关企业落地近日，云浮市委统战部与中国移动通信集团广东有限公司云浮分公司全力推动低空经济与人工智能领域相关企业落地云浮。据了解，云浮市委统战部与中移动云浮分公司相关负责人会面，就推动中移平台相关企业落地云浮事宜展开洽谈。会上，双方围绕低空经济与人工智能领域合作展开深入交流。民进会员、云浮移动相关负责人张伟介绍了时间:2025-08-22 11:35:00 -
云南十余所高校发布“严正声明”，蒙自考生当心！“我有内部招生名额”“你获得了一笔奖学金”……目前2025年普通高校招生录取工作正在进行中各类招生陷阱也随之出现小蒙梳理发现近段时间云南至少已有十余所高校发布“严正声明”提醒考生及家长警惕信息泄露及诈骗风险↓↓（向下滑动查看）昆明理工大学云南农业大学大理大学楚雄师范学院普洱学院滇西应用技术大学昆明城时间:2025-08-08 15:00:00 -
中国移动大模型产业创新基地焕新升级人民网上海7月27日电 (马作鹏)2025世界人工智能大会期间，中国移动举办以“新智产创，慧聚发展”为主题的大模型产业创新论坛。论坛上，中国移动携手产业合作伙伴发布四项重磅成果。一是升级中国移动大模型产业创新基地，二是成立中国移动人工智能安全治理研究中心；三是发布AI4S科学试验装置暨“智拓未来”合时间:2025-07-27 20:54:00 -
AI织新·智启未来 ——致景科技参加2025首届中国纺织服装人工智能大会7月15日，2025首届中国纺织服装人工智能大会在广州市海珠区召开。作为首个国家级纺织服装人工智能大会，本次会议以“AI织新·智启未来”为主题，汇聚政产学研顶尖力量，围绕人工智能技术与现代纺织服装产业的深度融合，集中展现“人工智能+现代纺织”的先导性应用和创新成果，为转型中的纺织服装行业提供多维度、时间:2025-07-17 00:04:00 -
邱贻可晒孙颖莎战绩：理性看待竞技起伏，互联网非法外之地邱贻可发布社交媒体。北京时间7月16日，乒乓球教练邱贻在社交媒体上晒出孙颖莎战绩，并发布长文回应网暴，表示互联网不是法外之地，正常且理智的批评建议，都欢迎且愿意接受。邱贻可写道：“我自2022年2月成为孙颖莎主管教练以来，截至目前(2025年7月)，孙颖莎在国际赛场共获得女子单打冠军19个(其中包括时间:2025-07-16 20:45:00
最新推荐
- 世博莱特空调全国售后维修号码-全国各区网点服务号码实时反馈-今-日-更-新（世博莱特空调空调尺寸 ）
- JHS空调售后服务号码及其服务网点介绍实时反馈-今-日-更-新（JHS空调空调王者风度 ）
- GE空调售后全国服务号码多少实时反馈-今-日-资-讯（GE空调空调显示H5故障码，怎么处理？ ）
- 松下中央空调|全国服务实时反馈全+境+到+达（松下中央空调空调质量 ）
- FUJITSU空调售后服务24小时服务热线-全国400服务号码实时反馈-今-日-资-讯（FUJITSU空调空调控制面板 ）
- YORK空调售后故障维修客服服务热线是多少实时反馈全+境+到+达（YORK空调空调故障e5 ）
- 酷风中央空调用户客服中心实时反馈全+境+到+达（酷风中央空调空调吸顶机 ）
- 海信（Hisense）空调客服热线人工服务24小时（海信（Hisense）空调空调好吗 ）