国家发布生成式 AI 内容标识安全标准指南

业内消息，为贯彻落实七部门联合发布的《生成式人工智能服务管理暂行办法》等政策法规要求，指导有关单位做好生成式人工智能内容标识工作，近日国家信息安全标准化技术委员会发布了《网络安全标准实践指南(生成式人工智能服务内容标识方法)》。

网络安全标准实践指南》围绕文本、图片、音频、视频四类生成内容，给出了标识的实践指引。本文件可用于指导生成式人工智能提供者提高内容标识水平，也可为主管监管部门提供参考。

据悉， 该指南是全国信息安全标准化技术委员会秘书处组织制定和发布的标准相关技术文件，旨在围绕网络安全法律法规政策、标准、网络安全热点和事件等主题，宣传网络安全相关标准及知识，提供标准化实践指引。

该指南得到中国电子技术标准化研究院、国家计算机网络应急技术处理协调中心、浙江大学、阿里云计算有限公司、科大讯飞股份有限公司、北京抖音信息服务有限公司、北京中关村实验室、北京邮电大学、北京百川智能科技有限公司、华为云计算技术有限公司、北京智谱华章科技有限公司、上海稀宇科技有限公司、上海人工智能创新中心、北京深言科技有限责任公司、北京面壁智能科技有限责任公司等单位技术支持。

据悉，《网络安全标准实践指南(生成式人工智能服务内容标识方法)》要求在显示区域或输入区域下方持续显示提示文字，或均匀添加包含提示文字的水印，提示文字至少包含「由 AI 生成」等信息。

在生成图片、视频画面四角添加提示文字，所占面积应不低于画面的 0.3%，或高度不低于 20 像素。在生成输出文件的元数据中添加扩展字段，包含服务提供者名称、内容生成时间、内容 ID 等信息。

此外，在生成图片、音频、视频中添加隐式水印标识，完整标识应存在于 (1) 图片中任意连续 50% 以上面积且分辨率大于等于 384×384 的切片，(2) 任意连续 5 秒以上视频，以及 (3) 任意连续 10 秒以上音频，并提供提取水印的接口或工具。

由自然人转为人工智能提供服务，容易引起使用者混淆时，应通过提示文字或提示语音的方式，说明「AI 为您提供服务」等信息。该指南最初于本月 7 日公开征求意见，正式版相比征求意见稿做了小幅词句改动，并补充了参考文献依据。