前言：4月11日，国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》（下称《管理办法》），并向社会公开征求意见。《管理办法》的目的是促进生成式人工智能技术健康发展和规范应用。整体共分21条，涵盖内容监管、算法监管、数据监管等维度，其中内容安全条款占据篇幅最多。

(资料图片仅供参考)

本文根据数美科技副总裁陈太锋在线下沙龙上的演讲《如何做好AIGC产品合规》整理成文。

4月11日出台的《生成式人工智能服务管理办法（征求意见稿）》，其实是给行业吃了一个定心丸，也是一个积极信号。国家对生成式人工智能的主基调——支持和鼓励，即国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

01

风险四大类事前-事中-事后管理

AIGC涉及的技术核心有三点：数据、算法、生成。数据采集——清洗和分类——算法生成，整个业务的形态都围绕这三点进行，从这三点出发，AIGC行业面临的风险可以分为四大类。

第一，备案与安全评估。包括深度合成服务、算法推荐管理等，都需要符合相关法规，针对具体场景如金融，还需要符合该场景的监管办法。同时明确要求，在向公众提供服务前，要按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

第二，内容安全。这里指的就是生成内容合规，包括意识形态安全问题、社会公序良俗问题、不正当竞争问题、虚假信息管理问题、尊重他人合法利益问题等5个方面，AI生成内容需要遵守《互联网信息服务管理办法》和《网络信息内容生态治理规定》。

第三，用户权益。核心包括保障用户信息安全、知情同意权、举报投诉权利，以及建立未成年人保护、老年人权益保护机制。

第四，知识产权。包括数据版权和肖像权等。

具体来看，AIGC合规可以从事前、事中、事后来分别管理。

02

事前做好备案、评估和监督

针对事前，最重要的是做算法备案和安全评估——在算法备案的同时，利用生成式服务产品向公众提供服务前，必须向国家相关部门申请安全评估，这是产品进入市场的两个条件。备案的依据可以参考《互联网信息服务深度合成管理规定》。

有几个常见的概念需要厘清，算法备案、算法安全评估和算法监督检查。

算法备案指的是企业在“互联网信息服务算法备案系统”网站上填报信息，获得备案号，相当于开车上路前需要取得的驾照，算法安全评估则侧重于具体落实的检查，相当于对你取得驾照后的技术考察；算法监督检查则相当于交警的不定期检查。

1）算法备案三步走

具体到流程方面，算法备案一共分三步，通常需要1-3个月。

首先是主体信息填报。如果企业主体不清楚自己是否需要去备案，可以登录“互联网信息服务算法备案系统”网站，提交主体信息、证件信息、法人信息、算法安全责任人信息，签署《算法备案承诺书》《落实算法安全主题责任基本情况》，国家相关部门收到材料后会在10个工作日内反馈——是否需要备案，如无需备案则直接通过，如需备案则反馈具体备案详情。

接下来是算法信息填报，包括《算法安全自评估报告》、拟公示内容和算法详细属性报告。公示指的是算法透明度，具体功能和逻辑；属性指的是基础属性和包括数据、模型、策略、风险防范机制在内的详细属性。通常会在30个工作日内得到答复。

第三步是产品及功能信息填报，验证产品的实际信息是否和填报信息相符。

2）安全评估

国家互联网信息办公室和公安部2018年11月发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》指出，具有舆论属性和社会动员能力的互联网信息服务都需要进行安全评估，现在AIGC的多数企业都属于这个范畴。

评估包括两种形式，一种是产品在 app 应用市场上架前需要的安全自评估报告，通常需要1-3周，通过专门的流程完成评估备案；另一种指的是国家相关部门的安全监督检查，核心包括两点，平台产品的安全管理策略和技术保障措施。

03

事中业务流程六步走

事中则是对发布信息的管理，包括信息发布审核、数据保障措施、技术实现手段等，企业主体需要做到信息发布可管可控。

根据业务流程，事中可以划分为六大块：数据采集-数据清洗-数据标注-模型训练-模型验证-内容生成。拟出台的新规对行业而言是不小的挑战，如何做好其中的合规步骤，这也是从业者们高度关注的问题。

挑战之一是巨大的数据量，相较于PGC和UGC，AIGC的内容量级又有了指数级增加，内容安全合规审核难度呈跨越式增长；另一方面，违规内容类型不可预测，因为采集数据多样，经过算法生成的内容可能是无法根据既往经验判断的。除此外，时效性和专业性的要求也随之增加，必须有专业的审核机制、审核系统和流程，进一步确保过程合规，产出合规。

04

事后应急保障措施

事后包括突发事件处置、事故处置和应急保障措施，鉴于问题发生类型多样，需要针对具体问题具体分析。

05

行业首发AIGC风控解决方案

为了降低这些内容风险，开发和使用AI生成内容的技术和应用时应采取相应的措施。数美科技在人工智能内容风控领域深耕多年，已迅速针对AIGC的行业特点，发布了解决方案和《AIGC数字风控行业手册》，如需了解更多信息，欢迎下载，或点击试用。