7月26日，2025世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。在“有益 安全 公平”人工智能向善分论坛上，国家网信办网络管理技术局局长于永河表示，截至目前，共有474款大模型完成备案，247款大模型应用或功能完成登记，大模型应用注册用户总数已经超过30亿。
论坛现场
上述备案要求与《生成式人工智能服务管理暂行办法》中的一项规定（下称《暂行办法》）有关。为及时应对生成式人工智能带来的风险挑战，2023年7月，国家网信办等七部门发布《暂行办法》，要求提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照相关规定履行算法备案和变更、注销备案手续。
近年来，生成式人工智能、深度合成技术快速发展，为生成合成各类信息提供了便利工具。与此同时，虚假信息泛滥、深度伪造、欺诈等风险也日渐突出。为此，《互联网信息服务深度合成管理规定》《暂行办法》等部门规章均提及了网络服务提供者对AI生成合成内容的标识义务。
为应对“眼见不为实”的信任危机，于永河指出，国家网信办网络管理技术局聚焦生成合成内容
