公安部网安局微信公众号
2025-11-13 18:24:31
刷到的“明星推荐”可能是AI合成?收到的“亲友求助”视频或许是造假?……当AI生成内容越来越逼真，我们该如何看清真相?
别急，9月1日起施行的《人工智能生成合成内容标识办法》给出了答案。接下来，和网警一起了解这项新规吧!
为什么要“贴标识”?
AI滥用已成社会公害
AI技术带来的“以假乱真”正从虚拟走向现实，滥用风险已成为我们必须直面的一道难题。一些不良商家为逐利，滥用AI合成假视频，冒充名医、名人虚假宣传，严重侵害他人名誉;部分网民为引流吸睛，利用AI生成谣言在网上传播，扰乱社会秩序;更有不法分子利用AI“换脸”“拟声”冒充亲友实施不法行为，直接威胁公众财产安全。
规范AI生成内容
全链条责任清单请收好
构建可信的AI生成内容生态，需要产业链上各方的共同努力。
怎么“贴标识”?
显示、隐式双保险
人工智能生成合成内容标识包括显式标识和隐式标识。
显示标识
在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
·文本：起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识;
·音频：起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识;
·图片：适当位置添加显著的提示标识;
·视频：起始画面、视频播放周边、末尾或中间适当位置添加标识;
·虚拟场景：在起始画面或虚拟场景持续服务过程中适当位置添加标识;
·其他：其他生成合成服务场景根据自身应用特点添加显著的提示标识。
隐式标识
采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识，包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
数字水印：鼓励添加不可篡改的隐形标记，实现内容篡改检测与来源追溯;
文件元数据：按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。
AI 标识有红线!
这些行为千万别碰
《人工智能生成合成内容标识办法》明确规定：任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。
快速识破AI内容
你可以这样做
掌握以下识破AI“画皮”小妙招，做个聪明的内容消费者吧!
1、查标识：缺标漏标是预警
合规标识是区分AI与真实内容的关键。刷到内容时，查看是否有“AI生成”、“本回答由人工智能生成”等文字提示，或相关图形、符号标识。在音频、视频中，留意是否有语音提示。
2、看细节：细微漏洞藏真相
AI再逼真也有破绽：
3、查来源：交叉验证辨真伪
信息时代，眼见未必为实，但多方印证一定能接近真相。
4、查出身：用搜索引擎“以图搜图”或专业识图工具，追溯图片原始出处;留意图片EXIF信息(记录拍摄参数)，有详细参数则真实性更高。
5、查身份：面对热点事件，首先审视发布者。若无明确作者、也无任何正规媒体认证，内容大概率存疑。
6、查官方通报：主动检索各级政府官网或权威新闻机构的报道，用官方信源为信息“盖章定论”。
AI技术是把“双刃剑”
打标识不是为了设限
而是让AI走得更远
让我们共同努力
营造清朗网络空间
共享科技发展红利!
