- 综合排序
- 最热优先
- 最新优先
- 来自专栏众森企服
解读《生成式人工智能服务管理暂行办法》：我的大模型服务需要备案还是登记？
为了规范生成式人工智能服务的发展，保障技术的安全、合规和可控，《生成式人工智能服务管理暂行办法》应运而生。 为了应对这些挑战，国家相关部门出台了《生成式人工智能服务管理暂行办法》，明确了大模型备案和登记的要求。 根据《暂行办法》，“提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续”。 2、大模型登记定义： 大模型登记，指的是“网信部门会同相关部门按照《生成式人工智能服务管理暂行办法》及相关要求，对通过API接口或其他方式直接调用已备案大模型能力，且面向境内公众提供具有舆论属性或者社会动员能力的生成式人工智能服务开展登记工作 《生成式人工智能服务管理暂行办法》的实施，对于规范大模型的研发和应用，保障国家安全和社会公共利益，促进人工智能产业的健康发展具有重要意义。
3.2K31编辑于 2025-05-16 - 来自专栏FreeBuf
国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》
近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。 出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。 《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。 规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等 国家互联网信息办公室有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。
37320编辑于 2023-08-08 - 来自专栏CSDN小华
生成式人工智能
滥用风险：如果管理不当，生成式AI可能被用于制造虚假信息或侵犯版权等问题。 未来展望 随着技术的不断进步，生成式人工智能将在更多领域得到应用，并且其影响力将不断扩大。 生成式人工智能在数据隐私和安全方面面临的挑战是多方面的，涉及数据收集、算法逻辑、实时性处理、法律规制等多个层面。 如何有效管理生成式人工智能的滥用风险，以防止虚假信息或版权侵犯？ 例如，国家网信办发布的《生成式人工智能服务管理办法（征求意见稿）》中提到，生成的内容应当真实准确，并采取措施防止生成虚假信息。 法律层面： 制定相关法规：明确生成式人工智能的使用规范和法律责任。例如，《互联网信息服务深度合成管理规定》为加强对恶意内容生成风险的管理和治理提供了详细和具体的法律依据。 《生成式人工智能服务管理暂行办法》通过多条规则对生成内容的合法性、正当性以及违规行为应承担的责任进行了详细规定。
94210编辑于 2024-10-16 生成式人工智能与大模型概述
1.2生成式人工智能与大语言模型架构生成式人工智能（GenerativeArtificialIntelligence，AIGC）是人工智能技术的重要分支，指基于深度学习、生成对抗网络（GAN）、变分自编码器 关键内容包括：生成式（Generative）预训练（Pre-trained）转换器（Transformer）图1.3GPT模型引导生成式人工智能生成式人工智能的发展可追溯至2014年IanGoodfellow 当前，生成式人工智能已广泛应用于多个领域。典型应用场景如图1.4所示，主要包括文本生成、图像生成、音频与语音生成、视频生成与编辑等。 总之，生成式人工智能不仅是AI从感知智能向生成智能进化的标志，也正在成为各行业智能化升级与知识重构的重要驱动力。 图1.4生成式人工智能应用场景大语言模型（LargeLanguageModel,LLM）是当前生成式人工智能发展的核心技术，指在大规模文本语料上预训练的深度神经网络模型，具备自然语言理解、生成与推理能力
60810编辑于 2025-12-07- 来自专栏数据派THU
生成式人工智能如何改变创意工作
这不是人类长期以来梦想和恐惧的「通用人工智能」，但在不经意的观察者看来可能就是这样。 什么是生成式人工智能？ 生成式人工智能已经可以做很多事情了。 与其他类型的生成式 AI 工具一样，他们发现提示越好，输出代码就越好。 会话应用程序 LLM 越来越多地被用于会话人工智能或聊天机器人的核心。 然而，假设这些问题得到解决，LLM 可以重振知识管理领域，并使其更有效地扩展。 Deepfakes 和其他法律/道德问题 已经可以看到，这些生成式 AI 系统会迅速导致许多法律和伦理问题。 然而，未来可能需要更多的控制——尤其是当生成视频创作成为主流时。 生成式人工智能还提出了许多关于什么构成原创和专有内容的问题。 相关报道：https://hbr.org/2022/11/how-generative-ai-is-changing-creative-work 编辑：黄继彦
78640编辑于 2023-03-29 “生成式人工智能”大模型备案材料
截止至今全国已累计通过了有538款生成式人工智能服务完成备案，263款生成式人工智能应用或功能完成登记。一、什么情况下要做大模型备案？ 根据《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续 二、备案范围根据《生成式人工智能服务管理暂行办法》，以下情况需要进行大模型备案：①自主研发大模型、有语料具备舆论属性与社会动员能力的需要备案②调用第三方基座、有舆论属性与社会动员能力、并进行微调、有语料的需要备案
65910编辑于 2025-09-23- 来自专栏图灵人工智能
生成式人工智能何以能，何以不能
2024年初，Sora一经发布便引发热议，生成式人工智能再次成为大众关注的焦点。生成式人工智能是依托人工智能技术，依靠海量数据，通过预训练大模型等方法，自动生成各种类型的内容。 借助基于生成式人工智能技术的智能家居，家电、厨电、卫电等各类智能家居的管理会更加便捷化和人性化，使家庭生活变得更加智能化。 四是优化交通出行服务。 生成式人工智能技术发展将帮助企业根据生产现场情况，动态自适应地调整管理过程，减少人工干预，提高生产效率，让整个生产制造过程变得更加智能，让智能制造变得更加名副其实。 三是商贸服务领域。 因此，在推进人工智能技术发展和创新应用过程中，要及时加强相关规则制度建设，做好相关技术风险评估和安全管理，让人工智能技术的发展和应用更好地促进数字社会建设，让人类更好地享受人工智能发展带来的红利。 生成式人工智能如何更好地应用于实践 为了促进生成式人工智能更好地发展和应用，释放新一代人工智能发展红利，需要从以下几个方面加快推进。 一是推进生成式人工智能技术创新。
32510编辑于 2024-03-18 - 来自专栏众森企服
生成式人工智能大模型备案办理指南
同年8月15日实施了《生成式人工智能服务管理暂行办法》，主要是针对提供生成式人工智能服务需要做大模型备案。 这样就形成了由算法备案制度和生成式人工智能备案（下称“大模型备案”）构成的“双备案制”的实践机制。 而大模型备案自《《生成式人工智能服务管理暂行办法》施行之日起仅有半年多，对于大模型备案的流程、规则以及安全评估相关的具体事项，企业相关的经验也相对较少。 下面，众森企服小编就来给大家详细讲解下生成式人工智能大模型备案办理指南。一、什么是大模型？大模型，即Foundation Models，通常是指具有大量参数和复杂结构的深度学习模型。 （6）评估测试题集：该测试题集需要包括生成内容测试题库、拒答内容测试题库、非拒答测试题库。测试题分类满足《生成式人工智能服务安全基本要求》中相关的风险类型，并有最小的数量要求。
7K41编辑于 2024-04-11 - 来自专栏DrugOne
Science | 生成式人工智能的科学和艺术
理解生成式人工智能的影响并就此做出政策决策需要对文化、经济、法律、算法以及技术和创造力的相互作用进行新的跨学科科学探究。 像这些历史类比一样，生成式人工智能并不是艺术衰落的先驱，而是一种具有独特特点的新媒介。 然而，与过去的颠覆不同，生成式人工智能依赖于由人类创建的训练数据。这些模型通过从现有的艺术媒体中提取统计模式来"学习"生成艺术作品。 生成式人工智能依赖于训练数据，这引发了关于作者权益的法律和伦理挑战，因此应促使对这些系统性质进行技术研究。版权法必须在创作者、生成式人工智能工具用户和整个社会之间取得平衡的利益。 人工智能生成的内容的爆炸式增长反过来可能阻碍社会在气候和民主等重要领域进行集体讨论和行动的能力。
55210编辑于 2023-09-19 - 来自专栏机器之心
百度、商汤等大模型产品获批，今日起全面开放上线
机器之心报道 编辑：吴昕 今日起，国内 11 家通过《生成式人工智能服务管理暂行办法》备案的 AI 大模型产品将陆续上线，面向全社会开放。 随着人工智能技术和产品的不断更新和发展，世界各国在不同程度上对人工智能技术提出各自的监管要求，中国也不例外。此次通过备案的大模型产品陆续向公众开放也标志着当前生成式 AI 监管进入一个新节点。 6 月 20 日，国家互联网信息办公室发布《互联网信息服务深度合成管理规定》，同时公布《境内深度合成服务算法备案清单》，标志着生成式 AI / 大模型领域应用落地配套监管的开启。 7 月 13 日，国家网信办联合国家发改委、教育部、科技部等七部门公布《生成式人工智能服务管理暂行办法》，该管理办法自 8 月 15 日起施行，总体体现了监管与鼓励并重的策略。 2、百川智能 8 月 31 日，前搜狗 CEO 王小川创立的百川智能宣布率先通过《生成式人工智能服务管理暂行办法》备案，今日起面向全社会开放服务。
80920编辑于 2023-09-08 - 来自专栏云云众生s
DevOps团队主管的生成式人工智能指南
在过去的几年里，人们广泛讨论了生成式人工智能如何使 DevOps 从业者受益。生态系统中充斥着关于利用 GenAI 来加速几乎所有日常 DevOps 工作方面的讨论，从编码到软件测试再到文档生成。 一个受到较少关注的话题是 DevOps 团队经理（而不是从业者）如何使用生成式人工智能。 为什么以及 DevOps 团队如何使用生成式人工智能？ 简而言之，生成式人工智能已经成为提高生产力的重要因素——你甚至可以称之为 DevOps 工程师的结对程序员。 例如，他们可能不知道如何最好地用语言表达他们提供给人工智能的指令，以生成或解释代码。他们也可能难以识别人工智能生成的代码中的错误。
19510编辑于 2025-02-11 - 来自专栏Elastic Stack专栏
生成式人工智能在公共部门的未来
公共部门中的生成式人工智能：当前状态 IDC的研究显示，59%的政府机构处于组织中使用生成式人工智能的初级阶段（相比之下，有16%的机构“大量投资”）。 最初，用例集中在提高员工生产力和满意度上，例如围绕内部合同管理、采购和通过沙盒环境创建代码的试点项目。换句话说，就是通过结合机构自有数据的生成式人工智能应用程序，将复杂、重复的数据中心任务简化。 规模化生成式人工智能需要安全和信任 尽管生成式人工智能的阶段充满希望，但领导者们也面临着数据隐私、员工满意度以及伦理和合规方面的担忧。 根据IDC的数据，43%的全球政府领导者担心生成式人工智能会危及他们对数据和知识产权的控制，41%的人担心生成式人工智能的使用会使他们面临品牌和监管风险。 为了确保生成式人工智能的输出尽可能准确和及时，IDC和Elastic®都推荐使用检索增强生成（RAG）。
94810编辑于 2024-01-02 - 来自专栏资讯分享
生成式人工智能：发展演进及产业机遇
徐思彦 腾讯研究院高级研究员当OpenAI 在 2022 年 11 月 30 日发布 ChatGPT 的时候，没有人会意识到，新一代人工智能浪潮将在接下来的 6 个月给人类社会带来一场眩晕式的变革。 在生成式人工智能中，RNN可以用于生成文本、音乐等序列数据。 ChatGPT (全名:Chat Generative Pre-trained Transformer对话生成式预训练变换模型 )是由 OpenAI 开发的一个人工 智能聊天机器人程序，于2022年11 生成式人工智能是一种基于深度学习的人工智能技术，其通过学习大量数据来生成新的数据或图像。但是，生成式人工智能所产生的结果通常很难理解和解释，因为其内部的运作过程非常复杂，而且很难直观地描述。 生成式AI领域的创新主体则需要积极探索技术上和管理上的安全保障措施，为生成式AI的健康发展和安全可控应用构筑起防护栏。
1.3K21编辑于 2023-08-25 - 来自专栏FreeBuf
生成式人工智能是DevSecOps的福音还是噩梦？
在这篇文章中，我们将深入讨论生成式人工智能（Gen-AI）与DevSecOps可能擦出哪些「火花」，并从多个方面分析Gen-AI会给DevSecOps带来哪些影响。 CoderPad于1月份发布的一项针对13000多名开发人员的调查发现，67%的技术专业人士表示他们已经将人工智能作为工作的一部分，其中ChatGPT是首选工具，其次是GitHubCopilot（一种生成式人工智能开发工具 也许有一天，生成式人工智能可以从开发过程的初始阶段就被用来构建安全性，但根据我们的经验，目前没有任何工具能够生成具有安全性、性能、稳定性和一定规模的生产级代码，所有这些都是我们需要考虑的与我们业务相关的因素 Netskope首席信息安全官James Robinson认为：「尽管存在潜在的缺陷，但利用Copilots等生成式人工智能工具最终将使开发人员能够编写出缺陷和漏洞更少的代码。 根据代码安全平台Snyk在去年11月发布的一份报告，76%的技术和安全专家认为人工智能代码比人类代码更安全。 但至少在今天，这种安全感可能只是一种错觉，而且是一种危险的错觉。
39610编辑于 2024-06-14 生成式人工智能（大语言模型）安全评估要点
#生成式人工智能##大模型##安全评估##aigc##备案##大模型备案#一、语料安全评估（一）评估内容1.文本训练语料规模2.各类型语料规模3.训练语料来源4.语料标注数量5.标注人员情况6.标注规则 7.标注内容准确性核验8.语料合法性二、模型安全评估1.语料内容评估2.生成内容评估3.涉知识产权、商业秘密的评估4.涉民族、信仰、性别等评估5.涉透明性、准确性、可靠性等的评估三、安全措施评估1.模型适用人群
60310编辑于 2025-08-19- 来自专栏云云众生s
污染源头及其他生成式人工智能风险
控制数据源头，避免第三方或 AI 生成内容，维护平台信任根基，打造更安全的云原生环境。 不正确地管理论坛可能会因为疏忽而使相当无害的问题看起来更糟。成功的论坛（通常在 Slack 或 Discord 上）由几乎所有开发人员管理，他们会尽快做出合理的响应。 减少自由表达可以减少有风险的生成数据。大多数带有聊天频道的直播游戏网站都会仔细删除脏话，但有些网站根本不支持用户之间的任何口头交流——或者高度匿名化。 成为一名谨慎的井管理者 不法分子将毒药放入商店食品产品或其他形式的掺假行为有其自身的历史。食品生产商已经通过容器上的各种安全系统来应对这些攻击，以帮助发现它们是否已经被打开。 同样，软件平台应该严格控制其公共数据，并避免第三方或 AI 生成，直到它们变得更加成熟。 AI 生成的问题之一是该领域正在发展，没有人可以预测接下来会出现什么可能令人震惊的能力。
28910编辑于 2025-03-17 生成式人工智能（大语言模型）上线备案表
其中发并发服务能力也是一个比较难填写的部分，网信办会根据你填写的数据实际测试你的模型，若填写偏高或偏低，网信办会质疑你的实力和大模型生成内容的安全性，一般我们都是根据客户模型的实际情况，给出一个合理的范围让客户填写 如果有新的法规政策出台，及时调整自身业务和管理措施，以保持合规性。每月需定期对大模型进行安全测试，定期更新拦截关键词库，确保大模型服务始终处于安全、合规的运行状态。
90501编辑于 2025-03-28- 来自专栏生成式人工智能
人工智能（AI）入门篇：什么是人工智能？什么是生成式人工智能？
本文旨在深入剖析人工智能与生成式人工智能的本质、发展历程、核心特性及其对社会的影响，同时引入生成式人工智能认证的重要性，为读者提供一个全面而深入的理解框架。一、什么是人工智能？1. 二、什么是生成式人工智能？1. 生成式人工智能的定义生成式人工智能是AI领域的一个新兴分支，它专注于创造新的内容或数据，如文本、图像、音频等。 数据增强：生成式AI能够生成更多的训练数据，提升模型的泛化能力，为机器学习领域提供有力支持。三、人工智能与生成式人工智能的关系1. 技术基础生成式人工智能是人工智能的一个子领域，它基于人工智能的基本技术和原理，如深度学习、机器学习等。因此，人工智能的发展为生成式人工智能的崛起提供了坚实的技术基础。2. 相互影响人工智能和生成式人工智能在发展过程中相互影响、相互促进。一方面，人工智能的进步为生成式人工智能提供了更强大的算法和模型；另一方面，生成式人工智能的成功应用也推动了人工智能技术的不断发展和完善。
3.1K21编辑于 2025-04-05 “广东省生成式人工智能服务已备案（登记）信息公告”公布啦❗
为促进生成式人工智能服务创新发展和规范应用，网信部门会同相关部门按照《生成式人工智能服务管理暂行办法》要求，有序开展生成式人工智能服务备案工作。 截至8月8日，我省新增14款已完成备案的生成式人工智能服务，累计已完成80款生成式人工智能服务备案。 对于通过API接口或其他方式直接调用已备案大模型能力的生成式人工智能应用或功能，采用登记管理方式，允许上线提供服务。 截至8月8日，我省新增6款已完成登记的生成式人工智能服务，累计已完成23款生成式人工智能服务登记。 已上线的生成式人工智能应用或功能，应在显著位置或产品详情页面公示所使用已备案（登记）生成式人工智能服务情况，注明模型名称、备案（登记）号。
35610编辑于 2025-08-08大模型备案必知，看看你漏掉了哪些？
1.相关管理规定根据《生成式人工智能服务管理暂行办法》（2023年8月15日施行）第二条，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务 ），适用本办法、以及《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更 备案的主要目的- 确保数据安全：防止训练数据泄露、滥用或包含违法内容； - 防范伦理风险：避免生成虚假信息、歧视性内容或危害社会稳定的输出； - 合规运营：未备案的生成式人工智能服务的可能面临下架、罚款等处罚 内容安全审核机制- 需建立人工+AI审核机制，防止生成违法、虚假或有害信息。 - 提供用户举报和申诉渠道，确保可追溯、可处置。 - 需提交安全评估报告，说明模型可能存在的风险及应对措施4.
71620编辑于 2025-08-05
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号