标识制度让AI 更安全可信
原标题：标识制度让AI 更安全可信
《标识办法》与《标识方法》的制定体现了有关部门对迅猛发展的生成式人工智能技术及应用的迅速回应与积极作为，更为人工智能生成内容的风险治理贡献了中国方案
近日，国家互联网信息办公室、公安部等四部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》）。同时，配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识方法》）已由国家市场监督管理总局、国家标准化管理委员会正式批准发布，将于2025年9月1日与《标识办法》同步实施，引发社会广泛关注。
近年来，生成式人工智能技术及应用迅速发展，为用户生成合成多元化的文本、图片、代码、音频、视频、虚拟场景等信息提供了重要工具，促进了人工智能产业的繁荣，也为经济社会发展带来了巨大机遇。然而，生成合成内容真伪混杂、良莠难辨，存在传播虚假信息、危害网络生态、引发诈骗犯罪等多种风险。当前，许多国家和地区正探索将人工智能生成内容标识义务入法，国内外多家互联网公司也在逐步推进标识嵌入和管理举措。内容标识已然成为全球范围内治理人工智能生成内容风险的重要选项，我国对此尤为重视。
经过深入调研、广泛征求意见、多轮技术论证试点通过的《标识办法》和《标识方法》，系统建立了人工智能生成合成内容标识制度，满足了人工智能生成内容治理的多重迫切需求，具有重要意义。首先，《标识办法》的出台有利于内容溯源和风险防控。在“万物皆可AI”的语境下，机器生成的信息比例越来越高、内容越来越逼真，公众仅从信息外观上往往无法判断其来源与真伪。如放任虚假信息泛滥，将严重削弱社会公众对信息网络生态的信任。根据《标识方法》，标识可通过元数据嵌入各种信息，用于记录文件来源、属性、用途等，具体包括生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息，同时还可以嵌入数字水印等其他类型的标识，助力监管部门对人工智能生成内容进行溯源分析与研判，及时阻断违法信息和不良信息的传播，从而降低造谣、诈骗、信息污染等风险。
其次，《标识办法》的出台有利于更好保障用户权益。生成式人工智能不仅改变了人们获取信息、创作内容的方式，也使知情权、著作权等方面的权益保障需求变得愈发迫切。根据《标识办法》的要求，对人工智能生成内容的标识行为被具体化为显式标识或隐式标识。显式标识以显著形式发挥类似“署名”的功能，便于公众快速识别内容类型乃至生成来源，有助于保障使用者及公众的知情权，防范被误导、被诈骗的潜在风险。隐式标识则以相对隐蔽的形式隐含了有关作品生成的信息，可以更充分地发挥溯源功能，在防控风险的同时，有利于确认生成内容的著作权归属，保护原创作者的合法权益。
再次，《标识办法》的出台有利于营造健康、透明的内容生态。随着生成式人工智能技术的迅速发展和广泛应用，用户自行辨别内容来源及可信度的能力在具有规模性、逼真度和吸引力的生成合成内容面前日显单薄。《标识办法》和《标识方法》及时回应了对海量生成合成内容赋予“身份标记”的紧迫需求，并且建立了覆盖用户、各类网络信息服务提供者和互联网应用程序分发平台的义务与责任体系，极大便利了公众识别、平台治理和监管研判，为人工智能时代营造风清气正的网络生态提供了基础性的助力。
值得肯定的是，《标识办法》对于标识方案的选择广开言路、实事求是，统筹发展和安全，对于文本、图片、视频、音频等不同类型内容的标识采取了因事制宜的方案，同时鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识，对标识核验义务、应用审核义务和留存日志要求等也作出了合理规定，为稳妥有序发展切实可行的人工智能生成合成内容标识体系奠定了基石，并为大模型时代的信息内容生态治理铺平了道路。
《标识办法》与《标识方法》的制定体现了有关部门对迅猛发展的生成式人工智能技术及应用的迅速回应与积极作为，积聚了有益的行政立法经验，更为人工智能生成内容的风险治理贡献了中国方案。展望未来，生成式人工智能的应用场景还会不断拓展，现有的制度成果仍需紧跟时代步伐，持续优化完善，以更好地应对复杂多变的风险挑战。为此，要进一步充实和完善生成式人工智能风险治理的“制度工具箱”，建立融合支持发展、激励创新、防控风险、保障权益等多方面目标的人工智能风险治理体系，引导生成式人工智能技术及应用良性发展，为公众提供更加安全、可信、优质、可持续的人工智能服务，让人工智能真正成为推动社会进步、提升人类福祉的强大引擎，助力开创更加美好的数字未来。
（苏宇，中国人民公安大学法学院教授、数据法学研究院院长）
来源： 法治日报
相关推荐
-
奥普特申请多聚焦图像景深融合专利，提供高效精准的融合方法金融界2025年5月1日消息，国家知识产权局信息显示，广东奥普特科技股份有限公司申请一项名为“一种多聚焦图像景深融合的方法、系统、计算机可读存储介质及计算机程序产品”的专利，公开号CN119887539A，申请日期为2024年12月。专利摘要显示，本发明涉及图像处理技术领域，公开了一种多聚焦图像景深时间:2025-05-01 08:53:00 -
卫星互联网低轨卫星成功发射本报北京4月29日电（记者章文 通讯员黄国畅）4月29日4时10分，我国在文昌航天发射场使用长征五号乙运载火箭/远征二号上面级，成功将卫星互联网低轨03组卫星发射升空，卫星顺利进入预定轨道，发射任务获得圆满成功。此次任务是长征系列运载火箭的第573次飞行。时间:2025-04-30 05:19:00
-
安徽交警发布2025年“五一”假期交通安全提示5月1日至5日为“五一”假期，节日前后，自驾出游、走亲访友、春播春种、物流运输等交织叠加，各类交通安全风险突出。省公安厅交管总队结合近三年“五一”假期交通事故规律特点，对今年“五一”假期交通安全形势进行了分析研判，并发出交通安全提醒。一、节日期间交通事故风险突出从道路分布来看，主要分布在国省道和城市时间:2025-04-29 19:33:00 -
微信紧急提醒：遇到这种情况，立即终止对话！大家都在看☞ 今天，福州这里爆满！不少人赶来打卡，还有央视春晚同款……☞ 今年首个“蛇年蛇月蛇日蛇时”，来了！☞ 600万拿下别墅却拿不下产权证？福州一业主崩溃：邻居太没边界感！4月28日，微信安全中心公众号发布提醒：近期，境外用户反馈称接听到来电显示为+864006700700的电话，对方自称为“时间:2025-04-29 12:33:00 -
国家互联网信息办公室发布《中国网络法治发展报告（2024年）》法治日报全媒体记者 常鑫4月27日，国家互联网信息办公室组织召开发布会，公开发布《中国网络法治发展报告（2024年）》。《中国网络法治发展报告（2024年）》深入贯彻习近平法治思想，特别是习近平总书记关于网络法治的重要论述，全面展现网络法治发展成果，深入总结网络法治工作经验，更好凝聚网络法治理念共识时间:2025-04-28 09:47:00