- 综合排序
- 最热优先
- 最新优先
- 来自专栏用户5909132的专栏
数据万象 | AIGC 存储内容安全解决方案
数据万象从 AIGC 的输入、生产、存储全方面介入，发布了《AIGC 存储内容安全解决方案》，帮助各开发者及时发现风险信息，降低业务安全风险。 但现实情况是，大量的 AIGC 在上线初期就面临关停风险，核心原因就在于AIGC输出的内容具有不确定性，导致这些平台因涉嫌传播违规内容而被勒令下架。所以，AIGC 的发展必须解决内容上的安全与规范。 在《意见稿》中，有13条规定是面向 AIGC 平台的，因 AI 的特性，让 AIGC 在处理安全风险方面有着更大的挑战： 成倍增长的审核量：AIGC 正处业务增长爆发期，数据量将持续增高；AIGC 生成内容速度较快 基于以上挑战，腾讯云数据万象从 AIGC 的输入、生产、存储全方面介入，发布了《AIGC 存储内容安全解决方案》，帮助各开发者及时发现风险信息，降低业务安全风险。 保持自身业务的安全、健康，才是 AIGC 平台可持续发展的关键因素。数据万象在内容安全领域持续深耕，希望可以为各大 AIGC 平台提供最坚实的安全保障。 点击“阅读原文”了解AIGC存储更多信息
2.9K30编辑于 2023-06-07 AIGC 内容安全和传统内容审核有什么区别？大模型应用需要新的安全链路
在云上构建 AIGC 应用时，很多团队会沿用传统内容审核思路：模型生成结果后，调用审核接口，命中风险就拦截。这个做法有必要，但远远不够。 传统内容审核主要服务于内容发布链路，而 AIGC 安全要服务于生成链路、交互链路和运营链路。对云上应用来说，它更接近一套大模型安全网关和风控中台。 一、审核对象不同传统内容审核的对象通常是用户上传的图文、视频、音频、直播流、评论和广告素材。内容已经形成，系统判断它是否可以发布或展示。AIGC 应用中，内容由模型动态生成。 因此，AIGC 内容安全的对象不只是输出文本，而是整段上下文和调用链路。二、风险位置不同传统审核风险多体现在内容结果中，例如低俗、暴力、辱骂、诈骗导流、侵权和未成年人不适宜内容。 只有持续运营，安全策略才不会落后。六、从内容审核到安全网关如果用一句话概括区别：传统内容审核是内容发布前后的检查点，AIGC 内容安全是大模型应用全链路的安全网关。
15010编辑于 2026-06-25AIGC时代的内容安全新范式：为什么每个平台都需要AI生成内容检测能力？
摘要： AIGC（AI Generated Content，AI生成内容）正在深刻重塑互联网的内容生态。AI写的文章、AI画的图、AI拍的视频——这些内容的数量正以指数级速度增长。 pro/moltbotandai#nrsb 一、AIGC对平台生态的冲击比想象中更大 1.1 数据说话：AIGC的渗透速度 时间节点 AI内容占比趋势 2023年 占比较低 2024年 开始明显增长 2025 "AI生成" 合规要求高的平台 差异推荐 真实UGC优先推荐 重视内容质量的平台 数据监控 定期监控AI内容占比趋势 所有平台 双引擎联动 与内容安全审核结合 需要全面保障的平台 3.3 与内容安全审核的双引擎方案 0.22元/分钟的AI鉴伪成本，是你保护平台内容真实性的最低投入。 六、结语 AIGC时代已经来临，AI生成内容的洪流无法阻挡。 在AIGC时代，AI鉴伪不是"锦上添花"，而是"生存必需"。 今天不部署AI鉴伪能力，明天就可能成为AI虚假内容的受害者。
32110编辑于 2026-05-12天御 AIGC 内容安全：全链路风控与合规识别方案
第一章：AIGC 场景下的新型风控挑战 传统内容安全体系在面对生成式 AI 时，面临识别维度与响应速度的结构性瓶颈： 新型风险占比高： AIGC 场景下的非常识性风险占比达 20%，涵盖虚假信息、内容侵权 第二章：全栈式安全产品图谱与服务体系 腾讯天御提供覆盖大模型全生命周期的 AIGC 内容安全解决方案，通过“专家服务+数据服务+机审服务”三层架构，解决合规难题： 专家服务： 提供风险场景定义、安全体系建设指导及安全检测评估 ，并持续对 AIGC 安全能力进行实际样本评估。 第五章：腾讯技术积累与差异化优势 选择天御 AIGC 内容安全解决方案，核心在于其基于腾讯生态的技术确定性与全链路能力： 技术确定性： 依托腾讯在内容领域领先的数字水印技术与海量数据积累，确保识别引擎在虚假信息识别与垂直领域信息输出上的准确性 数据来源：腾讯云天御 AIGC 内容安全解决方案产品文档
19310编辑于 2026-05-31- 来自专栏腾讯社交用户体验设计
运用AIGC人工智能生产内容
另外值得注意的是，相同的描述文本内容，词语的顺序、前后词汇的关系对于内容的产出影响差异也会非常的大。 首先是主体内容的描述，通常可以拆解为，存在几个【什么样的】的主体，在做什么动作，并附带了其他的什么动作。 例如：There was a pink lipstick and a glass bottle of perfume；可以得到如上的主体内容，香水口红的图像。 其次是为主体内容添加场景或环境，例如给定某些地点或物件。比如案例中，我们指定背景花朵、自然植物，以及倒影等词汇。 第二点是画幅，--ar 3:2 表示横纵比为3比2的横幅图像，--ar 9:16 表示横纵比为9比16的纵向图像；-- v4代表最新的第四代计算模型； 最终通过以上五个小步骤，我们可以得出一大批风格各异的草图
2.8K12编辑于 2023-02-23 - 来自专栏学习
AIGC-------AIGC在社交媒体内容生成中的应用
AIGC在社交媒体内容生成中的应用 引言 随着人工智能生成内容（AIGC）的快速发展，社交媒体平台上的内容创作方式发生了巨大变化。 AIGC使得内容创作的门槛大大降低，从而让更多的人能够参与到社交媒体内容的创作中，同时也使得内容创作的质量和多样性得到了显著提升。 什么是AIGC AIGC（AI Generated Content），即人工智能生成的内容，是利用人工智能算法来自动生成文本、图像、音频或视频等内容的技术。 AIGC应用的挑战与前景 挑战 内容质量控制：AIGC生成的内容有时会出现低质量或重复内容的问题，尤其是生成长篇内容时。 道德与法律问题：AIGC在内容创作中可能涉及版权和隐私等问题，需要审慎对待。 尽管存在一些挑战，但随着技术的不断进步，AIGC在未来必将成为社交媒体内容创作的重要工具。 通过本文的介绍和示例代码，我们可以看到如何使用AIGC技术生成社交媒体内容。
1.4K10编辑于 2024-11-26 - 来自专栏腾讯技术工程官方号的专栏
ChatGPT之后，AIGC如何革新数字内容创作
换言之，AIGC 的流行给了我们一个重新审视“创作”是什么，是否为人所独有这些问题的机会。 本文将分析 AIGC 改变数字内容创作的现状、关键突破和挑战，并尝试探讨以上问题。 现状—AIGC 正成为互联网内容生产基础设施 数字内容正迈入强需求、视频化、拼创意的升级周期，AIGC 恰逢其会。 AIGC 正在越来越多地参与数字内容的创意性生成工作，以人机协同的方式释放价值，成为未来互联网的内容生产基础设施。 而游戏中较为成熟的程序化内容生成（PCG，Procedural Content Generation）技术，可能是 AIGC 迈过深水区的一大助力。 采用这种创造内容的方式，我们可以想象未来的数字空间将不再完全由开发人员构建，而是利用 AIGC 响应用户的输入按需生成。
88060编辑于 2023-05-25 - 来自专栏资讯分享
ChatGPT之后，AIGC会如何革新内容创作？
换言之，AIGC的流行给了我们一个重新审视“创作”是什么、是否为人所独有这些问题的机会。本文将分析AIGC改变数字内容创作的现状、关键突破和挑战，并尝试探讨以上问题。 AIGC正在成为互联网内容生产基础设施数字内容正迈入强需求、视频化、拼创意的升级周期，AIGC恰逢其会。 AIGC正在越来越多地参与数字内容的创意性生成工作，以人机协同的方式释放价值，成为未来互联网的内容生产基础设施。 而游戏中较为成熟的程序化内容生成（PCG，Procedural Content Generation）技术，可能是AIGC迈过深水区的一大助力。 采用这种创造内容的方式，我们可以想象未来的数字空间将不再完全由开发人员构建，而是利用AIGC响应用户的输入按需生成。
2.2K20编辑于 2023-11-06 - 来自专栏学习
AIGC ---探索AI生成内容的未来市场
AI生成内容（AIGC）正成为科技领域的热点，广泛应用于文本生成、图像生成、视频生成等多个方向。本文将通过丰富的代码示例，带您探索AIGC市场的潜力、挑战及应用技术。 在内容生成中的应用场景 1. 模型偏差问题 模型偏差可能导致生成内容的失真。可以通过多样化训练数据来缓解。 内容真实性问题 为确保生成内容的真实性，可以使用事实验证工具。 无论是商业还是个人创作，AIGC正逐步成为生产力工具的重要组成部分。通过本文的代码实践，希望能为您带来启发，共同探索AIGC的无限可能！
61011编辑于 2024-11-21 AIGC标识办法9月施行：你的平台准备好AI生成内容识别能力了吗？
摘要： 《AIGC标识办法》要求AI生成内容必须添加标识，平台无法识别则面临合规风险。本文从法规要点、平台责任、技术方案三个层面梳理合规路径，助你快速达标。 腾讯云图片内容安全产品介绍： https://cloud.tencent.com/product/ims 限时特惠活动（产品首单5折起）： https://cloud.tencent.com/act/ pro/moltbotandai#nrsb 一、法规核心要点 1.1 法规背景 法规 发布时间 施行时间 《人工智能生成合成内容标识办法》 2025年3月14日 2025年9月1日 《网络安全技术 人工智能生成合成内容标识方法 》（强制性国标） 同步发布 2025年9月1日 1.2 核心要求 要求 说明 显式标识 AI生成的图片等内容必须添加用户可感知的显著标识 隐式标识 必须在文件中嵌入机器可读的元数据水印 平台责任 平台需要具备识别 立即体验腾讯云图片内容安全： https://cloud.tencent.com/product/ims 限时特惠活动进行中（首单5折）： https://cloud.tencent.com/act/
33510编辑于 2026-05-06基于双层风控引擎的 AIGC 全生命周期内容安全管理实践
应对 AIGC 实时交互中的非常识性风险激增 在生成式 AI 技术快速落地的过程中，企业内容安全面临从传统静态审核向动态实时防范的战略困境。 全链路确权与盗版溯源： 基于数字水印技术，实现 AIGC 生成内容的暗水印防盗溯源与区块链即时存证，支持全网版权自查及监测。 解决动作： 成功拦截大模型不正确指令语句（如代码攻击、信息安全及劫持大模型回答等）；精准识别并过滤拜金主义、性别/职业/相貌歧视、自杀自残等负向价值观问题。 AIGC 图像生成引擎的侵权阻断 场景： 客户运用 AIGC 生成图片时易侵犯 IP 或图片版权，需引入前置图片版权审核。 依托海量数据语料与双层识别架构建立风控壁垒 天御 AIGC 内容安全解决方案的技术领先性，建立在底层引擎架构升级与腾讯生态语料积累之上： 双层风险识别引擎： 采用“先分类、后精细”的两层识别框架，极大提升指令攻击与虚假内容判定的系统稳定性
21010编辑于 2026-05-31- 来自专栏见睿思齐
有主题的图文内容创作 | AIGC实践
话说，昨天我发布了第一篇，内容由ChatGPT和Midjourney协助完成的文章：胡同与侏罗纪公园的时空交错 | 胡同幻想 在这篇文章中，大约70%+图文内容由ChatGPT和Midjourney输出 那么今天就来简单复盘和分享一下，我的第一次AIGC实践。 操作说明 制作这篇文章的主要操作思路是这样的： 策划与编辑发布 由于第一次实践AIGC缺乏创作经验，过分沉迷于通过AI应用输出文本和图像的过程，造成策划部分相对薄弱，直接导致在编辑发布阶段，发现AI应用输出的文本和图像存在不满足的情况 后续实践，会更加重视策划环节，提升Prompt和AIGC输出的质量，减少后期编辑发布的工作。 本文主要介绍AIGC操作（输出图片/文本）的部分，策划与编辑发布的部分会在后续的实践中改进后，再做复盘分享。 输出图片 步骤1：输入ChatGPT指令【Prompt1】，生成图像描述。
44910编辑于 2024-02-26 - 来自专栏学习与分享
了解AIGC：让AI创造内容，改变未来
全面了解AIGC：让AI创造内容，改变未来 人工智能生成内容（AIGC, AI-Generated Content），已经成为近年来技术创新的前沿阵地。 什么是AIGC？ 定义和概念 AIGC是指利用人工智能技术自动生成各种形式的内容，包括但不限于文本、图像、音频和视频。这些内容的生成过程几乎完全依赖于AI算法，而不需要人为的直接干预。 AIGC的优势与挑战 优势 效率提升：AIGC能够显著加快内容创作的速度，从而大幅降低人力成本。 个性化内容：AI可以根据用户的偏好和行为生成高度定制化的内容，提高用户体验。 AIGC的未来展望 技术趋势 更强的多模态能力：未来的AIGC系统将能够更加灵活地处理和生成多种形式的内容，如同时生成文本、图像和音频。 更好的数据隐私和安全性：未来的AIGC技术将更加注重数据的隐私和安全，确保用户的数据不会被滥用。
2.4K10编辑于 2024-06-15 - 来自专栏学习
AIGC对传统内容创作行业的冲击
引言 人工智能生成内容（AIGC）技术的迅猛发展，正在深刻影响传统内容创作行业。随着技术的不断进步，AIGC不仅提高了内容创作的效率，也改变了创作的方式和理念。 本篇博客将探讨AIGC对传统内容创作行业的冲击，分析其影响、应用场景及未来发展趋势。 一、AIGC的概念 AIGC指的是使用人工智能技术生成内容的过程。 创作的内容究竟归谁所有？AIGC生成的内容是否会侵犯他人的知识产权？这些问题亟待解决。 3.2 内容质量的参差不齐 虽然AIGC可以快速生成大量内容，但其质量可能存在差异。 5.3 加强内容的审核和管理 随着AIGC的普及，内容审核和管理将变得更加重要。如何确保生成内容的准确性和合法性，将成为一个重要课题。 结论 AIGC正在以惊人的速度改变传统内容创作行业。 通过合理应用AIGC技术，创作者可以更加专注于创意和创新，而将繁琐的内容生成交给智能系统。未来，AIGC将与人类创作者形成一种协作关系，共同推动内容创作行业的进步。
78110编辑于 2024-11-21 - 来自专栏学习
AIGC：人工智能生成内容的未来
AIGC指的是通过人工智能算法自动生成各种类型的内容，包括文本、图像、音频、视频等。它正在改变我们创作、消费和体验内容的方式。 三、AIGC的应用场景 3.1 内容创作与新闻生成 AIGC在新闻生成、博客创作等内容创作领域具有巨大潜力。例如，许多新闻网站已经开始使用AI进行自动化新闻撰写。 3.4 社交媒体与娱乐 社交媒体平台通过AIGC自动生成短视频、图文内容等，提升了内容生产的效率。此外，AIGC在游戏开发、电影创作等娱乐行业也展现出广阔的应用前景。 广告与营销：AIGC可以帮助精准投放广告，生成适合不同受众的创意内容。 然而，AIGC也面临着技术、伦理和法律方面的挑战，如版权问题、生成内容的质量与多样性、深度伪造技术的滥用等。 如何规范AIGC的使用并确保生成内容的创意性和真实性，是未来发展的重要课题。 总之，AIGC不仅在提高内容生产效率方面具有巨大潜力，而且能够改变创作产业的生态。
1.6K10编辑于 2024-11-21 AIGC人工智能生成内容之机器学习
AIGC（人工智能生成内容）是指利用人工智能技术自动生成文本、图像、音频、视频等多种形式的内容。 AIGC的底层技术主要包括以下几个方面：机器学习：这是AIGC的核心技术之一，包括监督学习、无监督学习和强化学习等。通过大量的数据训练，机器学习模型能够学习到生成内容的规律。 安全和隐私保护：在生成内容的过程中，需要确保用户数据的安全和隐私，这涉及到数据加密、匿名化处理和符合法律法规的数据管理策略。 在AIGC中，机器学习技术主要用于训练模型以生成新的内容，如文本、图像、音频和视频等。 以下是AIGC中机器学习技术的几个关键方面：监督学习：这是机器学习中最常见的类型，其中模型通过大量的示例输入和输出对进行训练。在AIGC中，这意味着模型会学习从已有内容中生成新的相似内容。
64600编辑于 2024-08-08- 来自专栏漫流砂
内容劫持 | Electron 安全
对大家了解 Electron 开发的应用程序安全有帮助，与每个人切实相关 但是那篇文章内容太多，导致很多内容粒度比较粗，可能会给大家造成误解，因此我们打算再写一些文章，一来是将细节补充清楚，二来是再次来呼吁大家注意 www.electronjs.org/zh/docs/latest/tutorial/security#1-%E5%8F%AA%E5%8A%A0%E8%BD%BD%E5%AE%89%E5%85%A8%E7%9A %84%E5%86%85%E5%AE%B9 大家好，今天和大家讨论一下关于内容劫持方面的问题 很多使用 Electron 开发的程序关闭了所有的安全措施，但是仍旧没有被攻击，因为很多攻击的前提是存在 XSS 使用 HTTPS 必须使用有效证书，不然和 HTTP 没有太大区别 看起来使用 HTTPS 远程加载资源是完全安全的，但实则也不是，这里也不光是 loadURL 这种方式远程加载内容的问题，本地加载，如果被加载内容远程加载了 ，密码表之类的，但是以发起一场大规模攻击的攻击者来说也就不一样了，因此需要关注证书安全 被加载内容存在XSS 这就是硬性内容了，属于强硬的攻防对抗，没什么瘦的 很多网站都使用了 cdn ，对于 https
1.2K10编辑于 2024-04-22 - 来自专栏learn
领略人工智能生成内容（AIGC）的奇妙世界
举例来说，AIGC在内容创作领域的应用越来越普遍，不仅可以生成高质量的文章、新闻报道，还能够为营销活动提供创意和内容支持。在教育领域，AIGC可以为教育者和学生提供定制化的学习内容，提高教学效率。 这些问题包括： 数据隐私和安全：如何确保用户数据在生成过程中得到充分保护和处理。 算法的公平性和偏差：避免算法在生成内容中表现出不公平或有偏见的情况，保证生成内容的中立性和客观性。 3. 通过自然语言处理(NLP)技术，AIGC能够将大量的数据转化为易读的新闻文本，从而提高报道的速度和效率。 博客和文章生成：内容创作者利用AIGC生成长篇文章、博客内容，甚至小说和剧本。 课程内容生成：教育工作者利用AIGC生成课程教材、讲义和习题，帮助教师节省备课时间，并确保课程内容的多样性和新颖性。 游戏娱乐 在游戏娱乐领域，AIGC的应用也显得尤为引人注目： 游戏内容生成：AIGC可以生成游戏中的关卡设计、角色对话和剧情发展，从而丰富游戏的内容和玩法，提高玩家的沉浸感。
49310编辑于 2024-11-19 - 来自专栏腾讯云安全专家服务
业务安全(1)-天御内容安全
目前天御内容安全主要有下面四种场景： 图片内容安全 文本内容安全 音频内容安全 视频内容安全 图片内容安全（Image Moderation System，IMS）能精准识别涉黄、涉恐、涉政等有害内容， image.png 图片内容安全特性 image.png 文本内容安全特性 image.png 音频内容安全特性 image.png 三、文本内容安全现状 不良不雅评论，违规违法交易严重影响主营业务的健康发展 ： （ 内容仅针对文本和图片 ） 用户在腾讯云官网-控制台（内容安全链接），图片内容安全/文本内容安全界面内即可免费领取试用包、购买正式包。 3s，读取不到视频的头，就会超时 9、如图片下载全部会显示‘多媒体下载链接错误’是什么原因？ 需要调整为域名使用，下载会拒绝直接使用ip的链接 10、内容线是否支持离线SDK？ 不支持。 （2）失败请求： 因图片内容安全系统故障导致正常的请求未到达图片内容安全服务端的请求。 （3）有效的总请求：图片内容安全服务端接收到的所有请求视为有效的总请求。
6.8K130发布于 2020-11-03 AIGC：人工智能生成内容的未来趋势与挑战
前言在信息化、数字化加速发展的背景下，AIGC（AI-Generated Content，人工智能生成内容）正迅速成为内容创作领域的新兴趋势。 一、AIGC 的核心技术解析AIGC 的背后依赖多种先进的人工智能技术，其中最为重要的是自然语言处理（NLP）和生成对抗网络（GANs），这两大技术推动了 AIGC 从简单的内容生成到更复杂、多样化的内容创造 无论是在媒体行业、艺术创作领域，还是在商业广告、教育培训方面，AIGC 正以其高效、智能的特点改变着传统的内容创作流程。1. 媒体和内容创作在媒体和新闻行业，AIGC 已经开始扮演重要角色。 AIGC 系统能够从海量数据中快速提取信息，并生成简洁、准确的报道内容。除了新闻报道外，AIGC 还能生成博客、产品说明、市场分析报告等各类文本内容，帮助企业快速生产高质量的创意内容。2. 内容质量与原创性虽然 AIGC 在生成内容方面展现了卓越的效率，但确保生成内容的质量和原创性仍然是一个重要的问题。
2.2K11编辑于 2024-11-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号