在中国,国家互联网信息办公室等部委相继出台了《互联网信息服务算法推荐管理规定》(2022年3月1日施行)和《互联网信息服务深度合成管理规定》(2023年1月10日施行)。 《深度合成规定》规制“深度合成服务”。其核心是利用算法“生成”或“显著编辑”信息内容本身,关注内容是如何被创造和改变的。 相同点:触发条件一致:都是针对“具有舆论属性或者社会动员能力”的服务。备案系统一致:均在“互联网信息服务算法备案系统”进行。 关键区别:备案主体范围不同: 《算法推荐规定》的备案主体是算法推荐服务提供者。《深度合成规定》的备案主体不仅包括深度合成服务提供者,还扩展到了为其提供技术支持的深度合成服务技术支持者。 《算法推荐管理规定》与《深度合成管理规定》共同构成了中国算法治理的“一体两翼”。
互联网群组信息服务管理规定解读 互联网群组信息服务管理规定 (全文) 第一条 为规范互联网群组信息服务,维护国家安全和公共利益,保护公民、法人和其他组织的合法权益,根据《中华人民共和国网络安全法 》《国务院关于授权国家互联网信息办公室负责互联网信息内容管理工作的通知》,制定本规定。 第二条 在中华人民共和国境内提供、使用互联网群组信息服务,应当遵守本规定。 本规定所称互联网群组,是指互联网用户通过互联网站、移动互联网应用程序等建立的,用于群体在线交流信息的网络空间。 本规定所称互联网群组信息服务提供者,是指提供互联网群组信息服务的平台。本规定所称互联网群组信息服务使用者,包括群组建立者、管理者和成员。 互联网群组信息服务提供者应当对违反法律法规和国家有关规定的群组建立者、管理者等使用者,依法依约采取降低信用等级、暂停管理权限、取消建群资格等管理措施,保存有关记录,并向有关主管部门报告。
互联网群组信息服务管理规定 第一条 为规范互联网群组信息服务,维护国家安全和公共利益,保护公民、法人和其他组织的合法权益,根据《中华人民共和国网络安全法》《国务院关于授权国家互联网信息办公室负责互联网信息内容管理工作的通知 第二条 在中华人民共和国境内提供、使用互联网群组信息服务,应当遵守本规定。 本规定所称互联网群组,是指互联网用户通过互联网站、移动互联网应用程序等建立的,用于群体在线交流信息的网络空间。 本规定所称互联网群组信息服务提供者,是指提供互联网群组信息服务的平台。本规定所称互联网群组信息服务使用者,包括群组建立者、管理者和成员。 第三条 国家互联网信息办公室负责全国互联网群组信息服务的监督管理执法工作。地方互联网信息办公室依据职责负责本行政区域内的互联网群组信息服务的监督管理执法工作。 互联网群组信息服务提供者应当对违反法律法规和国家有关规定的群组建立者、管理者等使用者,依法依约采取降低信用等级、暂停管理权限、取消建群资格等管理措施,保存有关记录,并向有关主管部门报告。
近日,国家互联网信息办公室、工业和信息化部、国家市场监督管理总局联合发布《互联网弹窗信息推送服务管理规定》(以下简称《规定》),自2022年9月30日起施行。 国家互联网信息办公室有关负责人表示,《规定》旨在加强对弹窗信息推送服务的规范管理,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康有序发展。 《规定》要求,互联网弹窗信息推送服务提供者应当落实信息内容管理主体责任,建立健全信息内容审核、生态治理、数据安全和个人信息保护、未成年人保护等管理制度。 《规定》强调,互联网弹窗信息推送服务提供者应当遵守优化推送内容生态、强化互联网信息服务资质管理、规范新闻信息推送、科学设定推送内容占比、健全推送内容审核流程、强化用户权益保障、合理算法设置、规范广告推送 文章来源:中央网信办 点击下方阅读全文,查看《互联网弹窗信息推送服务管理规定》全文。
互联网信息服务算法推荐管理规定 (征求意见稿) 第一条 为了规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展,弘扬社会主义核心价值观 ,根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规,制定本规定。 第二条 在中华人民共和国境内应用算法推荐技术提供互联网信息服务(以下简称算法推荐服务),适用本规定。法律、行政法规另有规定的,依照其规定。 前款所称应用算法推荐技术,是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。 第三条 国家网信部门负责全国算法推荐服务的监督管理执法工作。 第九条 算法推荐服务提供者应当加强信息内容管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输。
6月14日,国家互联网信息办公室发布新修订的《移动互联网应用程序信息服务管理规定》(以下简称新《规定》)。新《规定》自2022年8月1日起施行。 国家互联网信息办公室有关负责人表示,修订发布新《规定》旨在进一步依法监管移动互联网应用程序,促进应用程序信息服务健康有序发展。 新《规定》共27条,包括信息内容主体责任、真实身份信息认证、分类管理、行业自律、社会监督及行政管理等条款。 新《规定》所指的应用程序分发服务,是指通过互联网提供应用程序发布、下载、动态加载等服务的活动,包括应用商店、快应用中心、互联网小程序平台、浏览器插件平台等类型。 应用程序提供者还应当建立健全信息内容审核管理机制,建立完善用户注册、账号管理、信息审核、日常巡查、应急处置等管理措施,配备与服务规模相适应的专业人员和技术能力。
近日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》),自2022年3月1日起施行。 国家互联网信息办公室有关负责人表示,出台《规定》,旨在规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展。 《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。 ,不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息;不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。 《规定》要求,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报备案信息,履行备案手续;备案信息发生变更的,应当在规定时间内办理变更手续。
2022年3月2日,国家网信办发布了《互联网弹窗信息推送服务管理规定(征求意见稿)》(以下简称《规定》)。 《规定》共计十条,并明确指出,在我国境内提供操作系统、终端设备、应用软件、网站等服务的,开展互联网弹窗信息推送服务时应当遵守本规定。 根据《规定》,互联网弹窗信息推送服务,是指通过操作系统、终端设备、应用软件、网站等,以弹出消息窗口页面形式向互联网用户提供的信息推送服务。 《规定》明确指出,互联网弹窗信息推送服务应当严格遵守下列要求: (一)传播正能量,弘扬社会主义先进文化;积极推送向上向善的内容,用社会主流思想价值和道德文化滋养人心、滋润社会。 (六)配备与服务规模相适应的人工力量,健全弹窗信息推送内容管理规范,完善信息筛选、编辑、推送等工作流程,确保弹窗信息推送必须经过人工审核。
6月27日,国家网信办发布《互联网用户账号信息管理规定》(以下简称《规定》),自2022年8月1日起施行。 国家网信办有关负责人表示,出台《规定》,旨在加强对互联网用户账号信息的管理,弘扬社会主义核心价值观,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展。 制定《规定》是规范互联网用户注册、使用和互联网信息服务提供者管理账号信息行为的需要,是维护意识形态安全、社会公平公正和网民合法权益的需要,也是防范化解国家安全风险、维护网络空间良好生态的需要。 《规定》明确了账号信息注册和使用规范,要求互联网信息服务提供者应当制定和公开互联网用户账号信息管理规则、平台公约,明确账号信息注册、使用和管理相关权利义务。 《规定》明确了账号信息管理的规范,要求互联网信息服务提供者履行账号信息管理主体责任,配备与服务规模相适应的专业人员和技术能力;建立健全并严格落实真实身份信息认证、账号信息核验、信息内容安全、生态治理、应急处置
网信办8月25日公布《互联网跟帖评论服务管理规定》,自2017年10月1日起施行。 以下为《规定》全文: 互联网跟帖评论服务管理规定 第一条 为规范互联网跟帖评论服务,维护国家安全和公共利益,保护公民、法人和其他组织的合法权益,根据《中华人民共和国网络安全法》《国务院关于授权国家互联网信息办公室负责互联网信息内容管理工作的通知 第三条 国家互联网信息办公室负责全国跟帖评论服务的监督管理执法工作。地方互联网信息办公室依据职责负责本行政区域的跟帖评论服务的监督管理执法工作。 各级互联网信息办公室应当建立健全日常检查和定期检查相结合的监督管理制度,依法规范各类传播平台的跟帖评论服务行为。 第十一条 跟帖评论服务提供者信息安全管理责任落实不到位,存在较大安全风险或者发生安全事件的,国家和省、自治区、直辖市互联网信息办公室应当及时约谈;跟帖管理服务提供者应当按照要求采取措施,进行整改,消除隐患
近日,国家互联网信息办公室发布新修订的《互联网跟帖评论服务管理规定》(以下简称新《规定》)。新《规定》自2022年12月15日起施行。 新《规定》旨在加强对互联网跟帖评论服务的规范管理,维护国家安全和公共利益,保护公民、法人和其他组织的合法权益,促进互联网跟帖评论服务健康发展。 《互联网跟帖评论服务管理规定》自2017年10月1日施行以来,对于规范跟帖评论环节信息秩序,维护良好网络环境发挥了积极作用。 新《规定》要求,公众账号生产运营者应当对账号跟帖评论信息内容加强审核管理,及时发现跟帖评论环节违法和不良信息内容并采取必要措施。 文章来源:中央网信办官网 点击阅读原文查看《互联网跟帖评论服务管理规定》全文 精彩推荐
《算法推荐管理规定》和《深度合成管理规定》对具有舆论属性或社会动员能力的算法推荐服务/深度合成服务相关主体提出了算法备案的要求。 《算法推荐管理规定》第24条规定,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告 《深度合成管理规定》第19条规定,具有舆论属性或者社会动员能力的深度合成服务提供者,应当按照《算法推荐管理规定》履行备案和变更、注销备案手续。 深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。 算法服务类型有哪些个性化推送类算法 排序精选类算法 调度决策类算法 检索过滤类算法 生成合成类(深度合成)算法互联网信息服务算法备案代办流程根据《规定》的要求,企业应当在提供服务之日起10个工作日内通过互联网信息服务算法备案系统进行填报
其他的都好说,这个《互联网信息服务安全评估》是什么鬼啊。然后和腾讯平台客服 (腾讯社区开放平台 qq:800013811)一番沟通。 得知需要去这个网站申请http://www.beian.gov.cn/ 1、安全管理负责人、信息审核人员及安全管理机构设立情况。 2、用户真实身份核验及注册信息留存措施。 4、对用户账号和通讯群组名称、昵称、简介、备注、标识,信息发布、转发、评论和通讯群组等服务功能中违法有害信息的防范处置和有关记录保存措施。 4、日志留存设备将对系统管理员日志备份数据的修改及删除操作进行记录,同时记录所有对重要服务器的访问记录; (1)提供黑名单功能,能够设置关键词、链接等; (2)提供拦截通知功能,对特定的网址和帖子进行拦截 (备注:1-6取自互联网信息服务安全评估报告 - 简书,我补充了7)
国家网信办发布《互联网用户账号信息管理规定》 8月1日起施行 8. LockBit 勒索软件伪装成侵权电子邮件进行传播 9. 网络安全审查办公室对知网启动网络安全审查 10. CISA:攻击者利用Log4Shell漏洞入侵VMware服务器 优质文章 1.统一身份管理方案:从解析到落地实录 本文涉及的统一身份管理方案,主要是指认证Authentication、授权Authorization 即使人类进入量子计算时代,但凡人性的弱点还没有消失,欺骗和防御的故事都会不断上演,而且在未来的信息对抗中将扮演越来越重要的作用。 5. 银行卡信息(预留手机号、开户银行、银行卡号)、手写签名等信息,后台服务器在美国、新加坡,截止目前,系统监测发现566款同家族变种应用。 中继和地理位置服务来对目标IP地址的有效性进行批量验证。
具体地说,这个现象的出现是几十年来信息化进程的必然结果,是工业社会向信息社会转变过程中的一个重要步骤,是现代信息技术与社会各领域进行深度融合的新阶段,“互联网+”热是人类社会走向更高的、更新的文明的先声和曙光 科学技术与经济的深度融合-- 社会进步的步伐 互联网热的意义远远不止技术本身,而是它对于经济和社会的巨大作用和深刻影响,最终吸引了全社会对于互联网的关注。 近来,国家更是把互联网+作为经济建设转型和新常态的重要内容加以强调和关注,使得融合的深度和广度得到了进一步的推进。 现代信息技术也是一样。伴随着“互联网+”或者说信息化而来的最突出的风险和挑战来自以下三个方面。 首先,生产力和生产关系的矛盾会逐渐凸现出来。 例如,在电子政务中的一站式服务,从信息处理技术的角度来看,这并不是什么困难的事情。然而,由于我们现行的管理体制和惯例,许多环节是不能轻易地用电子方式处理的,更是难于集中到一个服务大厅来完成。
关键词:Deepfake 深度合成 监管条例 12 月 11 日,网信中国发布《互联网信息服务深度合成管理规定》,称该规定已经国家互联网信息办公室审议通过,并经工业和信息化部、公安部同意, 阅读完整规定: https://mp.weixin.qq.com/s/smtBcuXZzC6K1QYp90lCCA 靴子落地,深度合成技术开启查漏补缺 实际上,早在今年 1 月,国家网信办就发布了《互联网信息服务深度合成管理规定 转载基于深度合成服务制作发布的新闻信息的,应当依法转载互联网新闻信息稿源单位发布的新闻信息。 完整「互联网信息服务深度合成管理规定」,详见: https://mp.weixin.qq.com/s/smtBcuXZzC6K1QYp90lCCA 深度合成技术治理道阻且长 近年来,深度合成内容的数量呈现爆发式增长 2019 年 11 月,国家互联网信息办公室、文化和旅游部、国家广播电视总局联合发布《网络音视频信息服务管理规定》,明确规定「不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息」
于是,国家互联网信息办联合工信部、公安部、市场监督管理总局等四部门共同发布的《互联网信息服务算法推荐管理规定》(以下简称“《算法推荐规定》”),就是为规范算法推荐服务,提出科学合规的要求,该规定已于2022 该管理办法里面有一条是具有舆论属性或者社会动员能力的算法推荐服务提供者需要做算法备案,而AIGC属于深度合成技术,根据《互联网信息服务深度合成管理规定》是需要做这个算法备案的。 根据《互联网信息服务深度合成管理规定》(以下简称“《深度合成规定》”)第十九条规定,深度合成服务备案主体为具有舆论属性或者社会动员能力的深度合成服务提供者。 根据《深度合成规定》第二条、第二十三条规定,深度合成服务是指应用深度合成技术(利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术)提供互联网信息服务。 这里众森企服给大家做个总结,凡是涉及到以下算法的,均需要做互联网信息服务算法备案:生成合成类(深度合成)算法:是指自动或辅助生成、编辑文本、图像、语音、视频等网络信息内容的算法。
一、备案总体概况截至到2025年9月,除深度合成算法外,其他算法备案目前累计备案算法数量已达 682 项,覆盖全国多个省市、多个行业领域。 检索过滤类中“内容安全算法”占比提升,体现监管对信息内容治理的重视。深度合成类算法随着数量占据绝对主导,自第二批备案名单之后,深度合成算法单独公示。 6批2023年149快速扩容,覆盖更多行业7~10批2024年148细分行业、中小平台增多11~14批2025年约 150+趋于稳定,监管常态化结论:备案数量在2023~2024年迎来爆发式增长,与《互联网信息服务算法推荐管理规定 六、法规与政策背景《互联网信息服务算法推荐管理规定》(2022年3月实施)是核心法规,要求具有舆论属性或社会动员能力的算法提供者履行备案义务。 《生成式人工智能服务管理暂行办法》(2023年)推动生成合成类算法备案。《数据安全法》《个人信息保护法》 共同构成算法治理的法律基础。
根据网信办规定,含有生成合成类(深度合成)、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息服务的,无论是否含有经营性质,都需办理互联网信息服务算法备案。 法律法规依据:《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》一、需要做算法备案的主体具备舆论属性或者社会动员能力的:算法推荐服务提供者深度合成服务提供者深度合成服务技术支持者生成式人工智能服务提供者二 、如何判断自己的算法是否具有舆论属性(1)法规定义根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》,核心判断标准包括:是否提供公众舆论表达渠道或社会动员工具。 相关法规要求具有舆论属性或者社会动员能力的互联网信息服务提供者对其核心算法进行备案。 因为一方面其可能涉及深度合成算法,属于备案范围的算法;另一方面,各大应用商城、小程序等为便于安全管理,响应国家相关规定,会要求产品完成算法备案,否则无法上线运营。
最近接到不少小伙伴咨询算法备案事项,在数字化时代,算法已成为互联网服务的核心,而算法备案则是企业合规运营的必要条件。中央网信办已发布多批算法备案信息,未备案企业将面临处罚甚至刑事追责。 算法备案并非“全员覆盖”,需同时满足“面向公众提供信息服务”和“属于五类特定场景”两个核心条件,与企业规模无关。 技术团队在启动备案前,需先对照以下场景完成自查:生成合成类:通过深度学习技术生成或编辑文本、图像、音频、视频等内容,如AI换脸软件、智能文案生成工具。 二、核心材料清单:三类材料缺一不可算法备案材料需通过“互联网信息服务算法备案系统”在线提交,整体分为主体资质、算法技术、产品合规三类核心材料,具体清单及要求如下:(一)主体资质类材料:夯实合规基础此类材料核心作用是证明企业及负责人的合法资质 (三)备案后“不管不问”:后续管理缺失引风险算法备案并非“一劳永逸”,备案后需建立动态管理机制:①专人负责算法变更监测,模型架构、核心功能等重大更新需在30日内重新备案;②每年1月完成上一年度备案信息复核