网信办发布第十一批深度合成服务算法备案信息，推动行业规范发展

近日，国家互联网信息办公室依据《互联网信息服务深度合成管理规定》，正式公开发布了第十一批境内深度合成服务算法备案信息。这一举措不仅是对互联网信息服务规范管理的持续推进，更是保障网络空间健康有序发展的关键步骤。

根据《互联网信息服务深度合成管理规定》第十九条，具有舆论属性或者社会动员能力的深度合成服务提供者，必须严格按照《互联网信息服务算法推荐管理规定》，履行备案以及变更、注销备案手续。同样，深度合成服务技术支持者也需参照执行，完成相应的备案和后续手续。这一规定旨在从服务提供者和技术支持者两个关键环节入手，全面规范深度合成技术在互联网信息服务中的应用。​

深度合成技术作为近年来发展迅速的前沿技术，利用深度学习、虚拟现实等生成合成类算法，能够制作文本、图像、音频、视频、虚拟场景等多种网络信息。其强大的生成能力为内容创作、娱乐、教育等众多领域带来了新的机遇和变革。然而，这种技术也伴随着诸多风险和挑战。深度合成技术最大的特点之一便是 “以假乱真”，通过人工智能和大数据算法合成的虚拟数据常常令人难辨真假。例如，今年 5 月 8 日，包头市公安局电信网络犯罪侦查局披露了一起利用智能 AI 技术实施的电信诈骗案件，涉案金额高达 330 万元。行骗者借助 AI 换脸和拟声技术，伪装成受害者熟人，最终成功实施诈骗。此外，深度合成技术生成的数据若被误用、滥用或恶意使用，不仅会对个人和企业造成声誉损害与财产损失，甚至可能威胁到国家安全和社会稳定。​

在此背景下，算法备案作为监管的重要环节，其意义愈发凸显。工信部新基建重大项目评审专家、北京邮电大学科技园元宇宙产业协同创新中心执行主任陈晓华表示：“算法备案同审查与评估一样，是监管重要环节之一，备案清单的发布有利于促使备案单位进一步加强合规管理。” 这一举措体现了我国对人工智能引领的科技变革的高度重视，意味着针对生成式算法的法规标准化进程正在加速推进。随着相关监管条例的逐步明确，我国 AI 产业生态将朝着更加规范有序的方向发展。​

对于相关企业而言，依法履行备案手续是合规经营的基础。一方面，企业在提供深度合成服务时，必须严格遵守相关法律法规、行业标准、准则及自律管理制度，尊重社会公德和伦理道德。另一方面，企业还应积极承担起社会监督责任，在运营过程中一旦发现违法和不良信息，应当依法采取处置措施，保存有关记录，并及时向网信部门和有关主管部门报告。​

算法备案有着明确的流程和材料要求。首先在材料准备阶段，需要准备多类材料：​

1、主体信息类：​

•  营业执照：企业需提供有效的营业执照副本彩色扫描件，以此证明自身合法经营身份和主体资格。该扫描件必须清晰可辨，企业名称、法定代表人信息等关键内容要完整呈现，否则可能因材料真实性存疑而被驳回。​
•  法人与负责人身份证：提供法人和算法安全负责人的身份证彩色扫描件，用于确认相关人员身份。若扫描件模糊不清，无法辨认关键信息，同样会导致备案受阻。​
•  算法安全负责人承诺书：由算法安全负责人签署的承诺书彩色扫描件，表明其对算法的安全管理和合规运营负责。​
•  算法安全负责人工作证明：如工卡、钉钉、企微、飞书等能证明算法安全负责人在职状态的证明材料彩色扫描件。工作证明内容应准确，若存在逻辑矛盾、信息不完整，如未显示任职期限、工作岗位与算法安全管理无关等情况，可能导致备案被驳回。​
•  算法备案承诺书：承诺遵守相关法律法规和规定的文件，通常需打印、签字并加盖公章。​
•    落实算法安全主体责任基本情况：涵盖算法安全管理制度等相关文件，这些制度需详尽且具有可操作性，包括设立算法安全专职机构、构建算法安全管理制度、建立算法风险及防范机制、制定严格的审核流程、建立风险监测机制以及制定应急响应计划等方面。​

2、产品及功能信息类：​

•   APP 或网站情况说明：包含产品名称、下载地址、用户量信息（月活、日活、总量等）、产品功能介绍等。若企业拥有 app、小程序或者网页等多个产品，需分别填写。若填写的用户量信息与实际严重不符，或产品功能介绍不清晰、不准确，无法让审核人员了解产品的核心功能和特点，可能会被驳回。​
•  ICP 备案证明 / ICP 经营许可证：从事互联网信息服务，必须提供此证明网站或应用程序的合法性和合规性。证书若已过期、与备案主体不一致，或者经营范围与算法应用场景不匹配，如算法用于金融服务但许可证无金融相关业务许可，会导致备案不通过。​
• 产品功能访问路径及路径下的功能信息：添加产品的功能访问路径，若涉及多步导航，按顺序依次填写，以及路径下的功能信息。若功能访问路径描述混乱，无法实际按照所写路径访问到对应功能，或者功能信息与实际产品功能不符，审核将不通过。​

3、算法信息类：​

•  算法安全自评估报告：关于算法安全性、透明度、公平性等方面的自我评估报告。报告中必须涵盖算法原理、数据合规性、安全措施等必备要素，全面分析算法可能带来的隐私泄露、数据滥用、算法偏见等风险及防范措施。对于审核关注的问题，如算法是否涉及敏感数据处理、是否有内容审核机制等，需给出明确回答，若回答含糊其辞，备案会被驳回。​
• 拟公示内容：主要有算法基本原理、运行机制、应用场景、目的意图等，供监管机构审核并在备案通过后向社会公示。若对算法基本原理、运行机制等的描述过于简单、笼统，无法让公众了解算法的基本情况，或者公示内容存在误导性、虚假信息，会导致备案不通过。​
• 算法基础属性信息：填写备案算法的算法类型、应用领域。算法简介若未能清晰说明使用的数据、作用对象、目的意图等关键信息，或者算法风险与防范机制描述不合理，如风险识别不全面、防范措施不具有可操作性，都可能使备案被驳回。​
• 算法详细属性信息：包括算法简介、算法数据、算法模型、算法策略、算法风险与防范机制等信息。其中算法简介需说明使用的数据、作用对象、目的意图、结果展示形式、应用的主要互联网产品，限制在 200 字内。​

完成材料准备后，进入备案流程：​

        1、系统注册及登录：初次使用备案系统的算法备案填报人员，需点击首页右下方的 “填报人员入口” 进行注册。注册时需填写相关信息，并设置登录密码。已完成账号注册的填报人员，可直接使用账号登录备案系统。需要注意的是，同一个备案主体（如同一家企业）只需注册一个账号。​

        2、主体信息填报：登录备案系统后，算法备案填报人员需点击主页的 “主体信息”，进行主体信息填报。需真实有效地填写备案主体信息，包括主体基本信息、证件信息、法定代表人信息、算法安全责任人信息等。同时，还需下载并填写《算法备案承诺书》和《落实算法安全主体责任基本情况》附件，并打印加盖公章后扫描上传。​

        3、产品及功能信息填报：完成主体信息填报后，算法备案填报人员需点击主页的 “产品及功能信息”，进行产品及功能信息填报。需依次添加产品信息、产品功能访问路径以及路径下的功能信息。添加时需参考页面右方的说明文字，根据实际情况进行填报。​

        4、算法信息填报：在产品及功能信息填报完成后，算法备案填报人员可点击主页的 “备案信息”，进行算法信息填报。算法信息填报分为四个步骤：​

        5、填写算法基础属性信息：需按照页面右方的说明文字，真实准确地填写算法信息，包括算法类型、应用领域等。同时，还需下载并填写《算法安全自评估报告》和《拟公示内容》附件。​

        6、填写算法详细属性信息：需详细准确地填写算法数据、算法模型、算法策略和算法风险与防范机制等信息。填报时可点击页面下方的 “保存至草稿箱” 按钮，保存当前已填写的内容。​

        7、填写产品及功能信息：需勾选应用当前备案算法的产品及功能。勾选时需注意，勾选产品则当前备案算法应用于该产品下所有功能；勾选功能访问路径则当前备案算法应用于该路径下所有功能；勾选特定功能则当前备案算法仅应用于被勾选的功能。​

        8、审核环节：提交备案申请后，相关部门将对备案材料进行审核，审核周期通常在 2 个月左右。审核流程包括主体初审、复审、算法审核，期间可能会进行线下核查（抽查）。若审核中发现问题，审核部门将通知企业进行整改。​

        9、获取备案编号：复审通过后，企业将获得算法备案编号，标志着备案成功。完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。​

        若备案信息发生变化，备案主体可在备案系统中修改主体信息、算法信息及产品及功能信息，但需重新进行审核。若已完成备案的算法需注销，备案主体可在 “备案信息” 页面找到需注销的算法进行注销操作。公众和算法备案填报人员均可在备案系统中进行备案查询，公众可在备案系统首页的搜索框内输入主体名称或备案编号进行查询；算法备案填报人员可在 “备案信息” 页面查询当前备案主体下的所有已提交审核的算法。​

尽管当前在算法备案方面已经取得了一定进展，但仍存在一些需要完善的地方。朱奕奕提示，相关规定中仅明确了通过隐瞒有关情况、提供虚假材料等不正当手段取得备案情况下的法律责任，但并未规定未履行备案手续而直接提供深度合成服务，或未履行备案手续而直接为深度合成服务提供技术支持的法律责任。这一法律空白需要在后续的配套政策细则中予以补充和完善，以确保监管的全面性和有效性。​

此次国家互联网信息办公室发布第十一批深度合成服务算法备案信息，是我国在规范互联网信息服务、保障网络安全方面的重要行动。通过明确备案要求、加强监管力度，将有助于引导深度合成技术在合法合规的轨道上健康发展，为广大用户营造更加安全、可靠、有序的网络环境，同时也为我国 AI 产业的长远发展奠定坚实基础。