- 综合排序
- 最热优先
- 最新优先
- 来自专栏众森企服
解读《生成式人工智能服务管理暂行办法》：我的大模型服务需要备案还是登记？
为了规范生成式人工智能服务的发展，保障技术的安全、合规和可控，《生成式人工智能服务管理暂行办法》应运而生。 为了应对这些挑战，国家相关部门出台了《生成式人工智能服务管理暂行办法》，明确了大模型备案和登记的要求。 根据《暂行办法》，“提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续”。 2、大模型登记定义： 大模型登记，指的是“网信部门会同相关部门按照《生成式人工智能服务管理暂行办法》及相关要求，对通过API接口或其他方式直接调用已备案大模型能力，且面向境内公众提供具有舆论属性或者社会动员能力的生成式人工智能服务开展登记工作 《生成式人工智能服务管理暂行办法》的实施，对于规范大模型的研发和应用，保障国家安全和社会公共利益，促进人工智能产业的健康发展具有重要意义。
3.2K31编辑于 2025-05-16 - 来自专栏FreeBuf
国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》
近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。 出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。 《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。 规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等 国家互联网信息办公室有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。
37320编辑于 2023-08-08 - 来自专栏CSDN小华
生成式人工智能
滥用风险：如果管理不当，生成式AI可能被用于制造虚假信息或侵犯版权等问题。 未来展望 随着技术的不断进步，生成式人工智能将在更多领域得到应用，并且其影响力将不断扩大。 生成式人工智能在数据隐私和安全方面面临的挑战是多方面的，涉及数据收集、算法逻辑、实时性处理、法律规制等多个层面。 如何有效管理生成式人工智能的滥用风险，以防止虚假信息或版权侵犯？ 例如，国家网信办发布的《生成式人工智能服务管理办法（征求意见稿）》中提到，生成的内容应当真实准确，并采取措施防止生成虚假信息。 法律层面： 制定相关法规：明确生成式人工智能的使用规范和法律责任。例如，《互联网信息服务深度合成管理规定》为加强对恶意内容生成风险的管理和治理提供了详细和具体的法律依据。 《生成式人工智能服务管理暂行办法》通过多条规则对生成内容的合法性、正当性以及违规行为应承担的责任进行了详细规定。
94210编辑于 2024-10-16 - 来自专栏FreeBuf
《深圳市数据交易管理暂行办法》来了
近日，深圳市发展和改革委员会正式发布《深圳市数据交易管理暂行办法》(以下简称《办法》)并施行，进一步规范数据交易行为，强化数据安全意识，促进数据有序高效流动。 市网信、教育、科技创新、工业和信息化、公安、司法、财政、人力资源和社会保障、规划与自然资源、交通运输、商务、卫生健康、审计、国有资产监督管理、市场监督管理、统计、地方金融监督管理、政务服务数据管理、国家安全 、证券监督管理等部门在各自职责范围内承担监管职责。 数据交易主体应当根据数据安全管理的不同级别采取不同强度的安全保护措施。 附：《深圳市数据交易管理暂行办法》全文 http://fgw.sz.gov.cn/zwgk/zcjzcjd/zc/content/post_10454243.html 精彩推荐
45420编辑于 2023-03-29 生成式人工智能与大模型概述
1.2生成式人工智能与大语言模型架构生成式人工智能（GenerativeArtificialIntelligence，AIGC）是人工智能技术的重要分支，指基于深度学习、生成对抗网络（GAN）、变分自编码器 关键内容包括：生成式（Generative）预训练（Pre-trained）转换器（Transformer）图1.3GPT模型引导生成式人工智能生成式人工智能的发展可追溯至2014年IanGoodfellow 当前，生成式人工智能已广泛应用于多个领域。典型应用场景如图1.4所示，主要包括文本生成、图像生成、音频与语音生成、视频生成与编辑等。 总之，生成式人工智能不仅是AI从感知智能向生成智能进化的标志，也正在成为各行业智能化升级与知识重构的重要驱动力。 图1.4生成式人工智能应用场景大语言模型（LargeLanguageModel,LLM）是当前生成式人工智能发展的核心技术，指在大规模文本语料上预训练的深度神经网络模型，具备自然语言理解、生成与推理能力
60610编辑于 2025-12-07- 来自专栏数据派THU
生成式人工智能如何改变创意工作
来源：Science AI本文约4400字，建议阅读10+分钟生成式AI模型有可能颠覆内容创作的世界。 这不是人类长期以来梦想和恐惧的「通用人工智能」，但在不经意的观察者看来可能就是这样。 什么是生成式人工智能？ 生成式人工智能已经可以做很多事情了。 与其他类型的生成式 AI 工具一样，他们发现提示越好，输出代码就越好。 会话应用程序 LLM 越来越多地被用于会话人工智能或聊天机器人的核心。 然而，假设这些问题得到解决，LLM 可以重振知识管理领域，并使其更有效地扩展。 Deepfakes 和其他法律/道德问题 已经可以看到，这些生成式 AI 系统会迅速导致许多法律和伦理问题。 然而，未来可能需要更多的控制——尤其是当生成视频创作成为主流时。 生成式人工智能还提出了许多关于什么构成原创和专有内容的问题。
78640编辑于 2023-03-29 “生成式人工智能”大模型备案材料
截止至今全国已累计通过了有538款生成式人工智能服务完成备案，263款生成式人工智能应用或功能完成登记。一、什么情况下要做大模型备案？ 根据《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续 二、备案范围根据《生成式人工智能服务管理暂行办法》，以下情况需要进行大模型备案：①自主研发大模型、有语料具备舆论属性与社会动员能力的需要备案②调用第三方基座、有舆论属性与社会动员能力、并进行微调、有语料的需要备案
65910编辑于 2025-09-23- 来自专栏图灵人工智能
生成式人工智能何以能，何以不能
2024年初，Sora一经发布便引发热议，生成式人工智能再次成为大众关注的焦点。生成式人工智能是依托人工智能技术，依靠海量数据，通过预训练大模型等方法，自动生成各种类型的内容。 借助基于生成式人工智能技术的智能家居，家电、厨电、卫电等各类智能家居的管理会更加便捷化和人性化，使家庭生活变得更加智能化。 四是优化交通出行服务。 生成式人工智能技术发展将帮助企业根据生产现场情况，动态自适应地调整管理过程，减少人工干预，提高生产效率，让整个生产制造过程变得更加智能，让智能制造变得更加名副其实。 三是商贸服务领域。 因此，在推进人工智能技术发展和创新应用过程中，要及时加强相关规则制度建设，做好相关技术风险评估和安全管理，让人工智能技术的发展和应用更好地促进数字社会建设，让人类更好地享受人工智能发展带来的红利。 生成式人工智能如何更好地应用于实践 为了促进生成式人工智能更好地发展和应用，释放新一代人工智能发展红利，需要从以下几个方面加快推进。 一是推进生成式人工智能技术创新。
32510编辑于 2024-03-18 - 来自专栏众森企服
生成式人工智能大模型备案办理指南
同年8月15日实施了《生成式人工智能服务管理暂行办法》，主要是针对提供生成式人工智能服务需要做大模型备案。 这样就形成了由算法备案制度和生成式人工智能备案（下称“大模型备案”）构成的“双备案制”的实践机制。 而大模型备案自《《生成式人工智能服务管理暂行办法》施行之日起仅有半年多，对于大模型备案的流程、规则以及安全评估相关的具体事项，企业相关的经验也相对较少。 下面，众森企服小编就来给大家详细讲解下生成式人工智能大模型备案办理指南。一、什么是大模型？大模型，即Foundation Models，通常是指具有大量参数和复杂结构的深度学习模型。 （6）评估测试题集：该测试题集需要包括生成内容测试题库、拒答内容测试题库、非拒答测试题库。测试题分类满足《生成式人工智能服务安全基本要求》中相关的风险类型，并有最小的数量要求。
7K41编辑于 2024-04-11 - 来自专栏DrugOne
Science | 生成式人工智能的科学和艺术
理解生成式人工智能的影响并就此做出政策决策需要对文化、经济、法律、算法以及技术和创造力的相互作用进行新的跨学科科学探究。 像这些历史类比一样，生成式人工智能并不是艺术衰落的先驱，而是一种具有独特特点的新媒介。 然而，与过去的颠覆不同，生成式人工智能依赖于由人类创建的训练数据。这些模型通过从现有的艺术媒体中提取统计模式来"学习"生成艺术作品。 生成式人工智能依赖于训练数据，这引发了关于作者权益的法律和伦理挑战，因此应促使对这些系统性质进行技术研究。版权法必须在创作者、生成式人工智能工具用户和整个社会之间取得平衡的利益。 人工智能生成的内容的爆炸式增长反过来可能阻碍社会在气候和民主等重要领域进行集体讨论和行动的能力。
55210编辑于 2023-09-19 - 来自专栏腾讯研究院的专栏
《互联网广告管理暂行办法》亮点解读┃腾讯法律评论
杨乐 腾讯研究院高级研究员 腾讯研究院博士后 2016年7月8日上午，工商总局历经数年，数易其稿，在新《广告法》实施10个月之后，正式对外公布《互联网广告管理暂行办法》（以下简称《办法》），将于 其中流量平台和广告主平台下各拥有大量的成员，并由平台直接对成员进行管理。 第一款延续了《工商行政管理机关行政处罚程序规定》（28号令）的规定，表述为“对互联网广告违法行为实施行政处罚，由广告发布者所在地工商行政管理机关管辖。 广告发布者所在地工商行政管理机关管辖异地广告主、广告经营者有困难的，可以将广告主、广告经营者的违法情况移交广告主、广告经营者所在地工商行政管理机关处理。” 总之，综合来看，今天工商总局同步公布了《互联网广告管理暂行办法》及《广告产业发展“十三五”规划》两个重要规范。
1.6K91发布于 2018-02-02 - 来自专栏Elastic Stack专栏
生成式人工智能在公共部门的未来
公共部门中的生成式人工智能：当前状态 IDC的研究显示，59%的政府机构处于组织中使用生成式人工智能的初级阶段（相比之下，有16%的机构“大量投资”）。 最初，用例集中在提高员工生产力和满意度上，例如围绕内部合同管理、采购和通过沙盒环境创建代码的试点项目。换句话说，就是通过结合机构自有数据的生成式人工智能应用程序，将复杂、重复的数据中心任务简化。 规模化生成式人工智能需要安全和信任 尽管生成式人工智能的阶段充满希望，但领导者们也面临着数据隐私、员工满意度以及伦理和合规方面的担忧。 根据IDC的数据，43%的全球政府领导者担心生成式人工智能会危及他们对数据和知识产权的控制，41%的人担心生成式人工智能的使用会使他们面临品牌和监管风险。 为了确保生成式人工智能的输出尽可能准确和及时，IDC和Elastic®都推荐使用检索增强生成（RAG）。
94810编辑于 2024-01-02 - 来自专栏云云众生s
DevOps团队主管的生成式人工智能指南
在过去的几年里，人们广泛讨论了生成式人工智能如何使 DevOps 从业者受益。生态系统中充斥着关于利用 GenAI 来加速几乎所有日常 DevOps 工作方面的讨论，从编码到软件测试再到文档生成。 一个受到较少关注的话题是 DevOps 团队经理（而不是从业者）如何使用生成式人工智能。 为什么以及 DevOps 团队如何使用生成式人工智能？ 简而言之，生成式人工智能已经成为提高生产力的重要因素——你甚至可以称之为 DevOps 工程师的结对程序员。 例如，他们可能不知道如何最好地用语言表达他们提供给人工智能的指令，以生成或解释代码。他们也可能难以识别人工智能生成的代码中的错误。
19510编辑于 2025-02-11 - 来自专栏资讯分享
生成式人工智能：发展演进及产业机遇
在生成式人工智能中，RNN可以用于生成文本、音乐等序列数据。 它可以根据用户的输入，生成与金融相关的自然语言文本，例如新闻摘要、市场分析、投资建议等。它的应用场景主要包括金融分析、投资咨询、资产管理等领域。 生成式人工智能是一种基于深度学习的人工智能技术，其通过学习大量数据来生成新的数据或图像。但是，生成式人工智能所产生的结果通常很难理解和解释，因为其内部的运作过程非常复杂，而且很难直观地描述。 解决生成式人工智能的可解释性问题是当前人工智能研究的一个重要方向，研究人员正在探索各种方法来使生成式人工智能的结果更加可解释和可理解。这些方法包括可视化技术、可解释性模型、对抗性样本等等。 生成式AI领域的创新主体则需要积极探索技术上和管理上的安全保障措施，为生成式AI的健康发展和安全可控应用构筑起防护栏。
1.3K21编辑于 2023-08-25 - 来自专栏FreeBuf
生成式人工智能是DevSecOps的福音还是噩梦？
在这篇文章中，我们将深入讨论生成式人工智能（Gen-AI）与DevSecOps可能擦出哪些「火花」，并从多个方面分析Gen-AI会给DevSecOps带来哪些影响。 CoderPad于1月份发布的一项针对13000多名开发人员的调查发现，67%的技术专业人士表示他们已经将人工智能作为工作的一部分，其中ChatGPT是首选工具，其次是GitHubCopilot（一种生成式人工智能开发工具 也许有一天，生成式人工智能可以从开发过程的初始阶段就被用来构建安全性，但根据我们的经验，目前没有任何工具能够生成具有安全性、性能、稳定性和一定规模的生产级代码，所有这些都是我们需要考虑的与我们业务相关的因素 Netskope首席信息安全官James Robinson认为：「尽管存在潜在的缺陷，但利用Copilots等生成式人工智能工具最终将使开发人员能够编写出缺陷和漏洞更少的代码。 2、强化培训与意识：教育开发者关于正确使用生成式AI工具的重要性，包括避免泄露敏感信息、理解输出结果可能存在的潜在错误，并提倡审慎审查AI生成的代码。
39610编辑于 2024-06-14 - 来自专栏云云众生s
污染源头及其他生成式人工智能风险
控制数据源头，避免第三方或 AI 生成内容，维护平台信任根基，打造更安全的云原生环境。 不正确地管理论坛可能会因为疏忽而使相当无害的问题看起来更糟。成功的论坛（通常在 Slack 或 Discord 上）由几乎所有开发人员管理，他们会尽快做出合理的响应。 减少自由表达可以减少有风险的生成数据。大多数带有聊天频道的直播游戏网站都会仔细删除脏话，但有些网站根本不支持用户之间的任何口头交流——或者高度匿名化。 成为一名谨慎的井管理者 不法分子将毒药放入商店食品产品或其他形式的掺假行为有其自身的历史。食品生产商已经通过容器上的各种安全系统来应对这些攻击，以帮助发现它们是否已经被打开。 同样，软件平台应该严格控制其公共数据，并避免第三方或 AI 生成，直到它们变得更加成熟。 AI 生成的问题之一是该领域正在发展，没有人可以预测接下来会出现什么可能令人震惊的能力。
28910编辑于 2025-03-17 生成式人工智能（大语言模型）上线备案表
其中发并发服务能力也是一个比较难填写的部分，网信办会根据你填写的数据实际测试你的模型，若填写偏高或偏低，网信办会质疑你的实力和大模型生成内容的安全性，一般我们都是根据客户模型的实际情况，给出一个合理的范围让客户填写 如果有新的法规政策出台，及时调整自身业务和管理措施，以保持合规性。每月需定期对大模型进行安全测试，定期更新拦截关键词库，确保大模型服务始终处于安全、合规的运行状态。
90501编辑于 2025-03-28生成式人工智能（大语言模型）安全评估要点
#生成式人工智能##大模型##安全评估##aigc##备案##大模型备案#一、语料安全评估（一）评估内容1.文本训练语料规模2.各类型语料规模3.训练语料来源4.语料标注数量5.标注人员情况6.标注规则 7.标注内容准确性核验8.语料合法性二、模型安全评估1.语料内容评估2.生成内容评估3.涉知识产权、商业秘密的评估4.涉民族、信仰、性别等评估5.涉透明性、准确性、可靠性等的评估三、安全措施评估1.模型适用人群
60210编辑于 2025-08-19- 来自专栏生成式人工智能
人工智能（AI）入门篇：什么是人工智能？什么是生成式人工智能？
本文旨在深入剖析人工智能与生成式人工智能的本质、发展历程、核心特性及其对社会的影响，同时引入生成式人工智能认证的重要性，为读者提供一个全面而深入的理解框架。一、什么是人工智能？1. 二、什么是生成式人工智能？1. 生成式人工智能的定义生成式人工智能是AI领域的一个新兴分支，它专注于创造新的内容或数据，如文本、图像、音频等。 数据增强：生成式AI能够生成更多的训练数据，提升模型的泛化能力，为机器学习领域提供有力支持。三、人工智能与生成式人工智能的关系1. 技术基础生成式人工智能是人工智能的一个子领域，它基于人工智能的基本技术和原理，如深度学习、机器学习等。因此，人工智能的发展为生成式人工智能的崛起提供了坚实的技术基础。2. 相互影响人工智能和生成式人工智能在发展过程中相互影响、相互促进。一方面，人工智能的进步为生成式人工智能提供了更强大的算法和模型；另一方面，生成式人工智能的成功应用也推动了人工智能技术的不断发展和完善。
3.1K21编辑于 2025-04-05 - 来自专栏众森企服
深度剖析 | AIGC产品上线需要办理什么资质？
近日，国家网信办等多部门持续强化监管，《生成式人工智能服务管理暂行办法》等法规落地，明确要求AIGC产品上线前必须“持证上岗”。 本文基于《互联网信息服务管理办法》、《互联网信息服务算法推荐管理规定》、《生成式人工智能服务管理暂行办法》等核心法规，结合实际案例，系统拆解AIGC产品上线所需资质。 》、《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》将算法和大模型纳入备案范畴。 2、大模型备案 法规条文：《生成式人工智能服务管理暂行办法》（网信办等七部门令）第二条 规定，利用生成式人工智能技术向境内公众提供生成文本、图片、音频、视频等服务的，适用本办法，需进行备案。 《生成式人工智能服务管理暂行办法》（网信办等七部门令）4-6个月提供具有舆论属性或社会动员能力的生成式人工智能服务安全评估不通过，罚款三、场景“定制关”：特殊行业资质，内容生成领域的“护城河”AIGC若涉特定内容
94610编辑于 2025-11-20
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号