首页
学习
活动
专区
圈层
工具
发布

新闻传媒平台内容安全升级:AI鉴伪+内容审核双引擎守护新闻可信度

一方面是传统的违规内容(暴力、色情、涉政敏感等)需要持续治理,另一方面是AI生成的假新闻视频这一全新威胁正在快速蔓延。传统的单引擎审核已无法应对这种"双重挑战"。...二、双引擎方案架构 2.1 双引擎工作流程 新闻视频入库 ↓ 引擎一:AI生成识别 → 判断"这条视频是否由AI生成" ↓ 引擎二:内容安全审核 → 判断"这条视频内容是否违规"...三、传媒行业的具体应用场景 3.1 新闻视频入库审核 每条进入平台的新闻视频,在发布前先通过双引擎检测: 审核步骤 操作 时效 视频入库 记者上传/爬虫采集/通讯社接入 - AI生成检测 调用AI生成识别...API 快速返回 内容安全审核 4倍速三维审核 分钟级 综合判定 根据双引擎结果处置 秒级 人工复核 对标记为可疑的内容人工确认 小时级 3.2 突发事件视频鉴真 突发事件发生时,大量"现场视频"在社交媒体涌现...在传媒行业,这意味着能识别绝大多数已知AI模型生成的假新闻视频。 4.3 99.9%可用性 新闻是时间敏感型内容,审核服务的中断意味着新闻发布的延迟——这在突发事件报道中是不可接受的。

68410

社交系统开发,社交系统源码,社交系统技术架构与技术方案

/IM)搜索与发现(标签、用户、话题)推荐系统(ForYou/关注/热榜)内容审核与风控非功能高可用、水平扩展、低延迟(消息)数据一致性(订单/支付/关键操作)可观测:日志、指标、追踪合规:隐私、数据留存策略二...视频审核:先AI审核(色情/暴力/版权),再人工复核。...十、内容审核与风控文字:敏感词库+NLP模型(命名实体/情感/风险)图片/视频:AI审核(第三方服务)+人工复核流水线用户行为:反刷(点赞/关注/评论速率限制)、异常检测(频繁账号切换、IP异常)合规:...:Prometheus+Grafana+Alertmanager;SLA指标:99.9%请求成功、WebSocket连接率、medianlatency日志追踪:ELK/Loki+Jaeger分布式追踪十二...推荐先做小流量灰度(10%),再按流量分区rollout。

90900
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    【实战干货】2026算法备案全流程指南|合规判断→材料撰写→落地拿号,零驳回技巧

    :个性化推送类:短视频/资讯个性化推荐、热搜榜单、评论排序、内容流推荐;调度决策类:外卖派单、网约车调度、信贷风控、定价算法;深度合成类(生成合成):AIGC文本/图像/音视频、虚拟人、AI绘画、数字分身...5-8个月3-4个月(四)典型场景一句话判断(避坑)✅ 自研/微调的大模型做AI写作平台:算法备案(生成合成)+ 大模型备案✅ 调用文心一言API做客服机器人:算法备案(生成合成)+ 大模型登记✅ 短视频个性化推荐...;存储周期合规;模型安全:生成式算法需完成敏感测试(≥300条敏感问题,拒答率≥95%);人工抽检语料≥4000条,合格率≥96%;技术筛查10%语料,合格率≥98%;可解释性:算法逻辑清晰,拒绝“黑箱...(二)算法原理说明(清晰可解释)简单算法(排序、规则推荐):说明核心规则、逻辑;复杂算法(大模型、推荐引擎):说明核心框架(如协同过滤、Transformer)、输入输出逻辑、核心策略,拒绝专业术语堆砌...持续满足合规要求,尤其关注双备案的协同运维。

    2.8K10

    做数字人想变现?这一步没走对,后面全是白忙活

    ,根据用户输入…生成…”“应用于数字人视频生成场景,服务于企业端客户…”审核关注点防“用户受害”:可追溯、强拦截、稳可靠防“技术滥用”:全透明、边界明、可防控典型企业数字人App、直播工具、AI客服前台形象建模...实务判断三点居其一通常就应启动:①存在个性化推荐;②存在AI生成内容(文本、图片、音视频、数字人);③存在信息发布与社区互动能力。...全流程设有两处人工干预点:内容安全审核环节与成片抽检环节,抽检比例为X%。不合格写法示例:本算法采用业界领先的人工智能技术,基于深度学习模型生成高质量数字人视频。...诱导消费/恶意营销话术禁用词表+退款通道公示6未成年人保护未成年人模式+充值限制+监护人同意7虚拟亲密关系年龄识别+功能拦截(21号令禁止向未成年人提供)8深度伪造诈骗实名制+使用留痕+异常行为告警9敏感人物形象形象素材审核清单...审核无法判断。✅合格风险描述:本算法提供音色克隆功能,用户上传音频样本后可生成对应音色的语音输出。若被恶意使用,可能用于仿冒特定自然人进行电话诈骗或虚假音视频传播。

    23900

    伴游系统开发,伴游系统源码,伴游系统业务流程与架构设计

    本文将从功能模块、系统架构、风控体系、IM通讯、下单流程、内容审核等多个维度,提供一套完整的伴游系统开发指南,并结合钠斯网络在直播系统、短视频系统、语聊系统源码上的成熟架构经验,帮助你快速搭建稳定、可扩展的伴游平台.../容器化)强风控(实名认证、聊天审核、行为检测)延迟敏感的实时通信(WebSocket/RTC)数据一致性(订单幂等、分账保证)合规日志与审计二、总体架构(文本版可视化)Clients(App/小程序/...:敏感词黑白名单+语音转文本后NLP审核行为风控:异常下单频率、重复退款、诈骗行为模型(规则+ML)争议处理:轨迹、聊天记录、支付记录、评价作为证据,提供人工仲裁界面十一、部署/运维/监控部署使用Kubernetes...、推送延迟日志:ELK或Loki,关键事件(支付、仲裁)做审计日志备份MySQLbinlog+定期备份,RedisRDB/AOF备份OSS存储回放文件与轨迹长期留存策略十二、测试要点单元测试+集成测试(.../流量:结合短视频/直播池为伴游师导流(付费置顶、推荐位)SLA与合规:制定用户服务协议、隐私条款、投诉处理流程;在部分城市做线下合规资质审核私有化交付:团队若需给企业客户私有化部署(内网版),保留配置化能力

    38700

    2025算法备案全攻略|互联网人必看!避开这些坑少走3个月弯路

    后来咨询了合规专家才知道,只要符合这几类情况,就必须备案- 有"猜你喜欢"这类个性化推荐的APP/网站(比如电商平台的商品推荐、短视频的首页推送)- 做AI生成类工具的(AI绘画、文案生成、视频剪辑都算...- 有排序功能的平台(比如外卖商家排名、招聘网站的简历排序)- 调度决策类系统(网约车派单、骑手路径规划)- ️ 有内容审核的(比如评论区敏感词过滤、违规信息识别)划重点!...2025年起AI生成类产品要"双备案",既要做算法备案,还要补大模型备案,周期更长,建议提前3个月就启动准备!...② 算法安全自评估报告(重点写数据来源合法性、风险防控措施,比如怎么避免"大数据杀熟")③ 用户权益保障说明(比如个性化推荐要加"关闭开关",这个必须有技术实现,光书面承诺没用)2....审核阶段(1-2个月):初审看材料齐不齐,复审是技术专家评审,可能会要求补充测试数据(我们当时被要求提供300条敏感问题测试记录)4.

    93010

    算法备案不再难:2026最新审核标准、材料撰写规范与高频驳回点解析

    根据2026年执行的“5+1”分类模式,只要你的产品涉及以下任一场景,均属于强制备案范围:1.五大基础算法类型算法类型典型技术场景判定关键词生成合成类AIGC文本/图像/视频生成、代码自动补全、数字人驱动...2.算法运行机制(闭环流程)需配合流程图(建议上传Visio或ProcessOn生成的清晰图片),文字描述需覆盖全生命周期:数据采集:来源合法性说明(用户授权、公开数据),是否包含敏感个人信息。...干预机制:这是审核重点。必须描述人工干预入口(如:管理员后台可调整权重、设置黑名单、一键降级策略)。结果展示:前端如何呈现算法结果(如:标注“广告”、“推荐理由”)。...若一个APP包含多种算法(如既有推荐又有审核),需分别填报多个算法备案,不可合并备案。❌驳回点2:技术原理“假大空”现象:直接复制开源项目介绍,或与产品实际功能不符(如简单规则排序却声称使用大模型)。...❌驳回点4:生成式AI未完成“双备案”现象:仅进行了大模型备案,未进行算法备案。对策:涉及生成合成类(尤其是基于大语言模型的服务),必须双备案两者缺一不可。

    1.6K20

    应用商店与小程序平台对 AI 功能的审核标准与应对策略

    情感陪伴类聊天机器人不适用智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务注意原本是工具型产品,后来加了"人格化陪伴""角色扮演"的,需重新评估触发安全评估的情形(《办法》第二十二条...、内容标识号图片EXIF、视频MP4元数据、文件头写入GB/T相关标准要求的隐式标识字段平台怎么查:文件能导出/下载的(如AI绘画、AI配音、AI视频),就必须要隐式标识;不涉及元数据导出的,至少要提供显式标识截图...、商品推荐、内容推荐排序精选类榜单热榜、内容精选涉及"操纵榜单"红线(《算法推荐管理规定》禁止)检索过滤类搜索结果排序、内容检索、垃圾内容拦截调度决策类派单调度、路径规划、风控决策外卖/网约车/招聘场景高发...审核员自己测崩了,视频是你唯一的自证材料。...AI绘画、AI配音、AI视频类几乎必然要走b路线。

    46410

    2026算法备案全流程技术实操指南

    双备案机制:涉及大模型的服务,需同时完成“生成合成类算法备案”与“大模型备案/大模型登记”,二者缺一不可。二、技术判定:什么样的算法需要备案?...若涉及生成式人工智能(大模型),除本类备案外,还需同步完成大模型上线备案(双备案)。...典型应用场景:信息流推荐:新闻资讯APP的“猜你喜欢”、短视频平台的无限下滑推荐流。广告定向:基于用户兴趣的精准广告投放。商品推荐:电商首页的“为您推荐”、直播间的商品弹窗推荐。...内容风控:敏感词过滤、垃圾信息拦截、违规图片识别与屏蔽。黑名单机制:基于用户行为或身份的访问限制过滤。合规关键点:重点在于过滤规则的透明度与误伤申诉机制。...例如:当算法识别到敏感内容时,如何触发人工审核?干预的优先级和流程是什么?2.算法基本原理说明常见驳回点:直接粘贴代码或使用过于晦涩的学术术语,审核人员无法理解。

    3K10

    AIGC 应用上架小米应用商店全合规资质与备案要求详解

    算法备案与大模型备案 / 登记(平台硬性必交)作为 AIGC 产品合规的核心门槛,小米应用商店对生成式 AI 类应用实行备案强制核验:互联网信息服务算法备案 所有具备内容生成、深度合成、智能推荐、检索过滤...AI 生成内容合规标识材料依据生成式人工智能内容标识相关规范,AIGC 应用必须落地双重标识机制,也是小米上架审核必查项:显式标识:AI 生成图文、文案、视频内容需加注「AI 生成」标注、水印或尾注说明...审核重点围绕训练语料合规性、境外语料占比管控、敏感问题应答拦截率、全场景风险识别与处置能力,严格依据国标安全评估要求审核。 整体办理周期 3–6 个月,高风险行业场景审核周期可达 6–8 个月。3....三、小米应用商店 AIGC 内容审核红线(开发者必自查)平台对 AIGC 生成内容设置严格准入底线,一旦触发直接驳回上架或强制下架:不得生成涉及国家安全、意识形态、民族宗教敏感类内容;严禁生成色情低俗、...四、AIGC 应用上架合规实操建议双合规同步办理:自研 AIGC 产品需同步推进算法备案 + 大模型备案;轻量化调用类应用落实算法备案 + 大模型登记,双要件缺一不可。

    2K10

    数据万象×清朗·整治 AI 应用乱象专项行动|合规接入指引

    本文面向有相关合规需求的企业客户,介绍可直接使用的产品能力、推荐的整改路径,以及对应的官方文档入口。...大模型出口审核:支持串联在大模型/AIGC 模型输出环节,对生成内容进行实时审核与拦截。 自定义策略与样本库:支持业务自定义敏感词、违规图库及行业语料,匹配业务场景。...四、推荐接入对象 以下业务类型与本次专项行动直接相关,建议结合自身合规要求开展自查与接入: AIGC 内容生产平台:图片/视频/音频生成、虚拟人、AI 写作、AI 配音; 大模型应用服务:对话机器人、智能体...第二步:能力接入(0.5~1 个工作日) 可二选一,或组合使用: 路径 A:工作流模式(推荐) 在控制台配置触发规则,新上传内容自动调用内容审核、显式水印与 AIGC 元数据标识;违规内容自动冻结,合规内容正常分发...第三步:长效治理(持续运行) 建立存量与增量双扫描机制(建议存量按季度、增量持续使用)。 定期查看数据万象控制台内容审核详情页面,对疑难内容进行二次判断。

    1.1K10

    视频智能审核技术解析:画面+音频+文字三位一体的内容安全防线

    本文拆解视频智能审核的技术栈与指标,结合腾讯云媒体AI智能审核0.08元/分钟给出企业级落地参考。 一、为什么视频审核比图文难一个维度 图文审核只需看文字、看单图。...做法: 人体部位检测(Mask R-CNN); 特定区域分类:头部、躯干、四肢、敏感部位分别打分; 组合判定:单区域低概率,组合高概率才判违规。 这个"结构化 + 概率组合"策略大幅降低误杀。...5.2 文本审核要点 关键词库:黑名单 + 白名单 + 变体(谐音、拆字、火星文); 语义分类器:基于 Transformer 的多标签分类(涉黄、涉暴、仇恨、广告、政治敏感); 对抗鲁棒:对形近字、插入特殊字符做归一化...,也支持按业务分级: 强审核(游戏、儿童、直播带货):硬合并; 中审核(UGC 短视频):软合并; 轻审核(企业内训):级联。...十二、法规与合规 企业必须对以下内容做设计: 未成年人保护:单独审核策略,严控涉性、涉赌、涉毒; 区域合规:跨境业务需按当地法规配置; 留证存档:违规视频和判定证据需按法规留存; 用户申诉通道:人工复核

    1.3K10

    2026年AI视频检测工具大盘点:从Deepfake到全模态AI生成识别

    7×24小时技术支持 数据合规 国内部署,数据不出境 核心优势:唯一一个将AI生成识别与视频内容安全审核深度整合的方案,可一站式解决"鉴伪+审核"双重需求。...推荐理由 国内企业,需API集成 腾讯云AI生成识别 国内部署、数据合规、中文支持完善、价格最优 同时需要内容审核+AI鉴伪 腾讯云AI生成识别 与视频内容安全无缝集成,一站式解决 国际媒体机构 Reality...5.1 数据安全合规 对于国内企业来说,数据出境是一个敏感话题。腾讯云AI生成识别服务完全在国内部署,视频数据不会出境,天然满足国内数据安全法规要求。...5.3 生态整合优势 腾讯云AI生成识别可以与视频内容安全审核无缝集成,形成"鉴伪+审核"双引擎: 视频上传 → AI生成识别(判断真假)→ 内容安全审核(判断违规)→ 综合处置 其他工具通常只能单独完成鉴伪环节...服务规格日常价首单特惠价(5折)直播-图片审核 500万张/年15,000元7,500元(约625元/月)直播-音频审核 30万分钟/年10,000元5,000元(约417元/月)点播-视频内容安全 30

    2K10

    从WPS到百度网盘,我们真的“活在监控之下”?

    有网友推测WPS 的敏感词探测功能在探测出敏感信息后,可能会锁死文件,甚至是删除文件。...随后,还有网友找到了另一个自称是百度网盘审核员的短视频截图,视频中的女子晒出疑似待审核的文件夹列表。...其中第十二条指出,任何个人和组织不得传播暴力、淫秽色情信息,编造、传播虚假信息扰乱经济秩序和社会秩序,以及侵害他人名誉、隐私、知识产权和其他合法权益等活动。...2019年,中国网络视听节目服务协会正式发布《网络短视频平台管理规范》,提出提出网络短视频平台上播出的所有短视频均应经内容审核后方可播出,包括节目的标题、简介、弹幕、评论等内容。...精彩推荐

    4K10

    新年第一天,带你去追光!

    以“直播+短视频”的形式,在腾讯云视频号、腾讯文旅视频号、游云南App、微信视频号在5个时段,发起多地串联直播。...古城之光 15:00-17:00 夕阳光影 17:00-19:00 城市之光 19:00-21:00 点击查看游云南慢直播-日照金山 (据说新年看到日照金山会积累一整年的好运气) Top8 慢直播预告 大理双廊海湾...大理上关花双凤朝阳 大理宾川鸡足山日出 楚雄紫溪山风景区红枫林 临沧镇康刺树丫口鸟瞰一城两国 梅里雪山全景 西双版纳景洪新大桥 红河建水双龙桥 直播间解锁 更多地区 点击查看游云南慢直播-版纳景洪新大桥...一切未知,敬请期待 点击查看游云南慢直播-云南十二时辰  直播预约\观看方式  扫描海报中二维码  即刻预约 编辑| 张聪聪 审核| 孙晖 往期精彩回顾 (点击图片  即可阅读) ?

    5.8K30

    带你“云祈福”!腾讯文旅联合“游云南”发起“2021新年追光计划”

    以“直播+短视频”的形式,在腾讯云视频号、腾讯文旅视频号、游云南App、微信视频号在5个时段,发起多地串联直播。...古城之光 15:00-17:00 夕阳光影 17:00-19:00 城市之光 19:00-21:00 点击查看游云南慢直播-日照金山 (据说新年看到日照金山会积累一整年的好运气) Top8 慢直播预告 大理双廊海湾...大理上关花双凤朝阳 大理宾川鸡足山日出 楚雄紫溪山风景区红枫林 临沧镇康刺树丫口鸟瞰一城两国 梅里雪山全景 西双版纳景洪新大桥 红河建水双龙桥 直播间解锁 更多地区 点击查看游云南慢直播-版纳景洪新大桥...一切未知,敬请期待 点击查看游云南慢直播-云南十二时辰  直播预约\观看方式  扫描海报中二维码  即刻预约 编辑| 张聪聪 审核| 孙晖 往期精彩回顾 (点击图片  即可阅读) ?

    6.8K10

    智能视频处理技术深度解析——腾讯云媒体AI的技术突破与行业实践​

    腾讯云媒体AI基于多模态大模型与音视频编解码技术,构建了覆盖“智能生产-智能审核-智能分发”的全链路解决方案,重新定义了视频内容处理的效率与可能性。...在电商直播场景中,可将单人讲解画面智能拆分为“产品特写+主播互动”双竖屏,适配抖音、快手等多平台分发需求。...(二)智能审核:构建内容安全防线 ​多维度内容检测​ 集成画面敏感信息识别(如暴力、色情)、语音语义审核(如违禁词)、文字水印检测等能力,支持13类违规场景识别,准确率达95%以上。 ​...个性化推荐增强​ 通过视频标签体系(如场景、情绪、物体)与用户画像匹配,实现精准推送。某新闻客户端接入后,点击率从3.2%提升至6.8%。...四、技术挑战与未来趋势 当前腾讯云媒体AI仍面临两大挑战: ​AIGC内容识别​:生成式AI产生的虚假视频对审核系统提出更高要求,需结合数字水印与语义溯源技术; ​多模态交互瓶颈​:视频中语音、画面、文本的深度对齐仍存在误差

    1.6K10

    AIGC时代的内容安全新范式:为什么每个平台都需要AI生成内容检测能力?

    3.1 三步接入 步骤 操作 时间 开通服务 在控制台初始化配置 5分钟 获取密钥 创建API密钥 5分钟 调用API 使用SDK提交视频检测 1-2天联调 3.2 应用策略推荐 策略 说明 适用场景...双引擎联动 与内容安全审核结合 需要全面保障的平台 3.3 与内容安全审核的双引擎方案 最佳实践是将AI生成识别与视频内容安全审核组合使用: AI鉴伪结果 内容审核结果 处置策略 AI生成 + 违规...确认为AI伪造违规内容 立即拦截 AI生成 + 正常 AI创作但内容合规 标注"AI生成",适度推荐 真实 + 违规 真实用户发布违规内容 按违规策略处置 真实 + 正常 真实原创合规内容 优先推荐...腾讯云AI生成识别帮我们建立了新闻视频的'真实性防线'——所有入库视频先过AI鉴伪,再做内容审核,双引擎保障新闻可信度。"...服务规格日常价首单特惠价(5折)直播-图片审核 500万张/年15,000元7,500元(约625元/月)直播-音频审核 30万分钟/年10,000元5,000元(约417元/月)点播-视频内容安全 30

    70610

    2025算法备案流程与解析(完整版)

    2025 年中国算法备案制度已形成覆盖全流程的监管框架,结合《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》等法规,以下从核心流程、材料要求、审核重点及合规要点展开解析:一、备案范围与双备案制...(一)强制备案对象算法推荐服务:包括个性化推送、搜索排序、调度决策等通用算法。...(二)双备案逻辑算法备案:通过全国统一系统在线提交,侧重算法功能与通用合规性。大模型备案:需向省级网信办线下提交材料,聚焦模型架构、训练数据及安全措施,审核周期长达 4-6 个月。...审核重点训练数据:来源合法性(需提供授权协议)、内容纯净度(不良信息占比<5%)。模型输出:敏感问题拒答率≥95%,生成内容需添加水印或标识。...评估测试题集需覆盖暴恐、虚假信息、民族歧视等 31 类风险,每类至少 200 条测试题,包含日常对话与敏感诱导场景。

    3.8K11

    跨语种视频内容如何审核?出海企业视频合规的5大难题与对策

    但出海不是简单的"把产品翻译成外语"——不同国家的法律标准、文化禁忌、语言差异、数据合规要求,让视频内容审核的复杂度倍增。一条在国内完全合规的视频,在海外市场可能触犯当地法律。...地区 重点合规要求 欧盟 GDPR数据保护、DSA内容审核义务、仇恨言论严格打击 北美 COPPA儿童保护、CSAM零容忍、Section 230平台责任 东南亚 宗教敏感内容、政治敏感内容、色情管控(...数据合规方案 说明 公有云API 适合对数据跨境不敏感的场景 私有化部署 在目标市场本地部署审核引擎,数据不出域 零迁移成本 腾讯云VM支持从任何环境调用API 三、出海企业审核方案推荐 出海阶段 推荐方案...服务规格日常价首单特惠价(5折)直播-图片审核 500万张/年15,000元7,500元(约625元/月)直播-音频审核 30万分钟/年10,000元5,000元(约417元/月)点播-视频内容安全 30...腾讯云VM的中英双语审核能力、灵活的分策略配置、零迁移成本特性和公有云/私有化双模式部署,为出海企业提供了一个灵活、可扩展、成本可控的视频合规基座。 出海的目的是增长,合规是增长的前提。

    56110
    领券