首页
学习
活动
专区
圈层
工具
发布
首页标签人工智能

#人工智能

人工智能是指通过普通计算机程序的手段实现的人类智能技术

LLM 应用的忠实度和正确性你们分开评吗?幻觉率怎么量化?

Agent 的工具调用你们怎么设计 schema?重试怎么分层?

RAG 混合检索你们用 BM25 加向量还是纯向量?召回率差多少?

AI 哲学思考 6:当 AI 能操作电脑,我们还是工具的使用者吗?

大模型能力越来越强,企业还需要花大力气搞数据治理和数仓吗?

不仅需要,而且要求更高了。“把文档报表扔给模型就能理清业务”是玩具思维,企业落地根本行不通。 2026年行业共识很明确:大模型能力上限由数据质量决定。口径混乱、质量参差的数据喂进去,只会产出幻觉。数仓和治理的核心是统一“事实源”,消灭指标歧义,这是模型准确推理的前提。同时,AI时代权限管控更难,碎片信息拼凑极易泄露敏感数据,治理难度只增不减。 架构确实在重构,但不是干掉数仓,而是升级。现在的趋势是建语义层,把业务口径标准化,让模型通过统一语义调用数据,而非直接扒物理表。蚂蚁、高德等头部企业已验证,语义建模比模型大小更重要。简单说,大模型是发动机,数据治理是炼油厂,灌原油只会拉缸报废。 官方详细解决方案:https://cloud.tencent.com/product/tokenhub?Is=sdk-topnav... 展开详请

AI 哲学思考 5:当 AI 风险没有被说出来,我们还能看见什么?

这研究最讽刺的不是32%没提风险,而是“最致命的风险最少被提及”。前100大公司里,没一家承认“权力集中”或“AI军备竞赛”,开发者提“AI失准”的才15%,都在挑软柿子捏,只谈好做合规的“歧视”。 沉默不是因为没风险,而是说出来影响估值。现在算法进了决策链,授权清晰,但监督是瞎的,问责找不到人。董事会看不懂模型逻辑,出了事责任就在数据、算法和业务间踢皮球。 怎么让风险浮出水面?靠企业自律已是伪命题。MIT两百多位专家的共识很明确:必须上强制外部审计和熔断机制。目前欧盟AI法案已动真格,国内智能体监管也落地了。倾听和回应的主体,只能是掌握穿透式审计能力的监管方和独立第三方机构。指望企业自己亮底牌,根本不现实。 官方详细解决方案:https://cloud.tencent.com/product/tcdc... 展开详请

AI 哲学思考 4:当 AI 能模拟大脑,我们就更理解自己了吗?

能模拟不等于真理解,“行为像”和“机制像”完全是两码事。 比如今年上Nature的Centaur模型,能精准预测人类在百余项心理实验中的行为。但心理学家直接泼冷水:计算器算加法比人准,难道研究计算器就能搞懂人脑怎么算加法?只要AI还是黑盒,模拟得再像,也解释不了意识究竟怎么涌现。 不过,AI确实是把极好的“解剖刀”。现在科学家正用它处理fMRI和单神经元级别的海量数据,甚至尝试构建“硅基大脑”数字孪生,找出了以前肉眼看不出的脑网络关联。 AI模拟大脑,只是递来一面高精度的镜子和一把快刀。它跑出的是数据相关性,但要把这些变成对心智真正的“理解”,还得靠人类自己跨过因果解释那道坎。 官方详细解决方案:https://cloud.tencent.com/product/imagecreation... 展开详请

AI 哲学思考 3:当 AI 的能力可以打分,谁来决定什么值得衡量?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验

“什么值得衡量”本身就是价值选择,不应只由模型厂商、评测机构或榜单领先者决定,而应让领域专家、实际使用者,尤其是承担失败代价的人共同参与:专家判断任务是否真实、测量是否可靠,受影响者提出哪些需求被遗漏、哪些损失不可接受,部署者则必须承担明确责任。

AI 生成的方案经评审签字,出事谁负责?

这个问题现在没有单一标准答案,但业界正在收敛到一个共识框架:责任跟着决策走,不跟着工具走。分三层:1. 签字即担责——评审签字人负最终责任。这是当前工程责任体系的主流解法:AI 生成方案,人评审签字,签字人对方案后果负责。理由:责任体系必须落到「可追责的主体」上,AI 不是法律主体,责任无法转移到工具。就像计算器算的账,签字的会计负责。这个原则意味着评审人不能是橡皮图章——签字就要有评审的实质(理解方案、检查关键假设),签字流程要留痕(评审意见、修改记录);2. 但要让这个体系可持续,组织要做两件事:a. 评审标准适配 AI 产出——AI 方案的典型弱点(幻觉引用、边界条件遗漏、过时实践)要有 checklist 化的评审项,让评审高效而非从零读方案;b. 容错机制——如果签字人对 AI 方案的事故负全责,没人愿意签字,AI 应用就停滞。合理的分摊是:签字人负「评审是否尽职」的责任(有没有按标准检查),而不是负「方案最终正确」的无限责任。尽职评审的签字人免责,走过场的签字人追责。这和医生按诊疗规范操作后医疗意外的免责逻辑一致;3. 灰色地带:如果 AI 平台方(提供方案生成的厂商)在 SLA 里承诺了方案的准确性呢?目前没有厂商敢承诺方案的「正确性」——最多承诺服务可用性。所以短期内不会有「AI 厂商背锅」的商业安排,责任链就是:使用方签字人 → 组织。落到实操建议:a. 团队建立「AI 方案评审记录」模板(方案来源标注 AI、评审人检查了哪些项、修改了什么),既是质量记录也是责任凭证;b. 高风险场景(资金、安全)AI 方案的评审标准加严一级(双人签字);c. 把「AI 产出 → 事故」的案例沉淀为评审 checklist 的迭代来源。一句话总结:AI 提效的部分不改变责任的归属——谁签字谁负责,但组织要给签字人配好评审工具和合理的免责边界,否则签字这个动作会在责任压力下失效。... 展开详请
这个问题现在没有单一标准答案,但业界正在收敛到一个共识框架:责任跟着决策走,不跟着工具走。分三层:1. 签字即担责——评审签字人负最终责任。这是当前工程责任体系的主流解法:AI 生成方案,人评审签字,签字人对方案后果负责。理由:责任体系必须落到「可追责的主体」上,AI 不是法律主体,责任无法转移到工具。就像计算器算的账,签字的会计负责。这个原则意味着评审人不能是橡皮图章——签字就要有评审的实质(理解方案、检查关键假设),签字流程要留痕(评审意见、修改记录);2. 但要让这个体系可持续,组织要做两件事:a. 评审标准适配 AI 产出——AI 方案的典型弱点(幻觉引用、边界条件遗漏、过时实践)要有 checklist 化的评审项,让评审高效而非从零读方案;b. 容错机制——如果签字人对 AI 方案的事故负全责,没人愿意签字,AI 应用就停滞。合理的分摊是:签字人负「评审是否尽职」的责任(有没有按标准检查),而不是负「方案最终正确」的无限责任。尽职评审的签字人免责,走过场的签字人追责。这和医生按诊疗规范操作后医疗意外的免责逻辑一致;3. 灰色地带:如果 AI 平台方(提供方案生成的厂商)在 SLA 里承诺了方案的准确性呢?目前没有厂商敢承诺方案的「正确性」——最多承诺服务可用性。所以短期内不会有「AI 厂商背锅」的商业安排,责任链就是:使用方签字人 → 组织。落到实操建议:a. 团队建立「AI 方案评审记录」模板(方案来源标注 AI、评审人检查了哪些项、修改了什么),既是质量记录也是责任凭证;b. 高风险场景(资金、安全)AI 方案的评审标准加严一级(双人签字);c. 把「AI 产出 → 事故」的案例沉淀为评审 checklist 的迭代来源。一句话总结:AI 提效的部分不改变责任的归属——谁签字谁负责,但组织要给签字人配好评审工具和合理的免责边界,否则签字这个动作会在责任压力下失效。

AI 哲学思考 2:计算机孕育了 AI,AI 会反过来主导计算机的未来吗?

说“主导”太拟人了,更准的词是“反向重塑”。计算机生了AI,但AI现在正逼着计算机“基因突变”。 以前计算机是通用计算,CPU一把梭;现在AI嫌CPU慢,硬生生逼出了GPU霸权,接下来还要搞NPU、光子芯片甚至类脑架构。不是AI在主导,而是它的“算力饥渴”直接决定了未来硬件长啥样。传统的冯·诺依曼架构,早晚被它掀翻。 未来计算机不再是孤立的铁盒子,而是变成喂给AI的“算力神经元”。AI不会像人开车那样去“驾驶”计算机,它会直接把计算机同化成自己的器官。 说白了,不是谁主导谁。碳基生物搓出了硅基工具,现在这工具正在长脑子。咱们人类,只是刚好站在给它插电的开关旁边而已。 官方详细解决方案:https://market.cloud.tencent.com/products/39027... 展开详请

JWT 的 Refresh Token 存哪里最安全?Web 端和移动端方案有什么不同?

Web端无脑选HttpOnly Cookie,这是防XSS偷RT的唯一解法。localStorage只要有点XSS漏洞,RT就裸奔了,别省那点配置功夫。移动端老老实实塞进Keychain/Keystore,普通存储反编译就能拿,纯属找死。 关于轮换(Rotation),强烈建议每次刷新都换新的。虽然多查次DB,但能锁死泄露窗口。一旦旧RT被窃,黑客只能用一次,服务端检测到异常就能立刻踢人,安全收益远超那点复杂度。 至于并发401,别慌。搞个全局标志位isRefreshing和队列。第一个401触发刷新,后续请求全部挂起排队。刷新成功后,拿着新Token依次重试所有等待中的请求。这才是生产环境该有的稳健写法,逻辑清晰且零竞态。 官方详细解决方案:https://cloud.tencent.com/product/idsec... 展开详请

Feature Flag 的管理实践:开关爆炸之后怎么治理?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
开关爆炸的根源是发布开关、运维开关、实验开关混在一起,没人负责清理。治理先分类:灰度发布开关有明确生命周期,用完就删;降级熔断类开关长期存在但数量可控;A/B实验开关到期必删,每类定不同的清理策略。然后强制登记,创建Flag时必须填负责人、创建日期、预期移除时间,缺信息的不让建。再加定期清理机制,比如每月扫一遍超过90天没动过的发布开关,通知负责人下线。代码层面用统一SDK收口,别各处散着自己读环境变量,不然清理时根本找不全。最难的反而是习惯问题,大家总觉得「留着以防回滚」,得让删除开关成为默认动作,保留才需要给出理由。... 展开详请

微软向约6万员工开放“自愿离职”:科技巨头为何一边赚钱,一边调整人员?

微软这波操作挺有意思,一边财报亮眼,一边把6万人“请”走。别被表面迷惑,这其实是AI时代的残酷洗牌。 你看,微软今年资本开支暴涨74%,全砸在GPU和数据中心上了。钱就那么多,左手要搞基建,右手就得砍人力成本。这次裁员主要针对Windows、Xbox等成熟业务线,说白了就是“腾笼换鸟”,把省下来的人力预算填进AI的大坑里。 相比直接暴力裁员,搞自愿离职更体面,也能避免团队动荡。但这背后信号很明确:传统软件岗位正在被边缘化,不转型AI,迟早得让位。科技巨头现在拼的不是谁人多,而是谁能更快把资源倾斜给算力。赚钱是结果,调整是手段,为了抢AI头筹,这笔账算得很精。 官方详细解决方案:https://cloud.tencent.com/product/workbuddy-enterprise... 展开详请

Docker 镜像优化的实际经验:多阶段构建中最大的坑是什么?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
最大的坑是把构建缓存和运行时镜像混在一起想。builder 阶段随便折腾,apt 装一堆编译工具都行,最终阶段只用 COPY --from 搬产物。真正容易翻车的是 COPY 顺序和 .dockerignore:先 COPY 依赖清单装包再 COPY 源码,否则改一行代码全量重装;.dockerignore 不写,node_modules 和 .git 被塞进构建上下文,慢十倍。另外基础镜像换 alpine 后 glibc 缺失,编译型依赖运行时才崩,这种坑最贵。Python 记得 --no-cache-dir,Go 用 CGO_ENABLED=0。1.2G 压到 100M 以内就靠这几条。... 展开详请

调用混元大模型流式接口时,客户端断开后如何避免继续计费?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
流式接口计费按服务端实际生成的token算,客户端断开不代表服务端停了,很多时候你只是关了HTTP连接,上游还在生成。要省这笔钱有几个动作:确认所用SDK和接口版本支持断连自动终止,有就打开;在网关层做双向检测,客户端断开后网关要立刻向上游发取消,把上游连接也关掉,只断下游没用;业务侧把max_tokens设到合理值,别让一次断开的请求白烧几千token。另外把断开率和浪费的token数做成监控指标,某类客户端频繁断开就先修客户端,比如加超时重连和提前取消逻辑。有计费争议直接对账单明细里的生成时长和token数,比猜靠谱。... 展开详请

Prometheus 高基数标签导致的 OOM,除了删标签还有什么系统性的治理方案?

GavinGengai学习
高基数导致 OOM,删标签是最常见的第一反应,但它往往是治标。要系统性,得从"标签是怎么爆炸的"这条线往回捅。 先分清两类爆炸。一类是"标签值无界":比如把 user_id、request_id、IP、URL 路径直接当 label,这些值的上限等于你的用户数或请求数,时序数量等于基数乘积,几百万几千万条,内存和 TSDB 头信息一起炸。这类确实该删,但删完还会再长,因为根因是"把高基维度当成了标签"。正解是把它挪出 label:要么记进 metric 的 exemplar(采样保留少量高基样本用于排查),要么直接进日志,别让它占时序维度。 另一类更隐蔽:__name__ 爆炸。你以为标签没几个,但 metric 名字里拼了动态内容(比如按接口名生成 metric、按状态码拆成几十个独立 counter),等价于给名字这个隐式 label 灌了无穷值。这种光看 label 看不出问题,得去查 metric 总数。 系统性的治理,按成本从低到高: 命名约定先卡死:label 只允许"有限的、可枚举的"维度(状态码、region、服务名),动态值一律禁止。这步是源头,不做后面都白搭。 采集端就掉:在 scrape 或 agent 端用 metric_relabel_configs 把危险 label drop 或 hash 掉,别等进了 TSDB 再治。 用 recording rule 把高基聚合下沉成低基结果:你真正要看的往往是"按服务聚合后的错误率",那就在 rule 里先 group 掉高基维度,前置算出低基指标,原始高基时序短期保留甚至不长期存。 真正排查时再用 exemplar、日志去回溯那一条高基样本,而不是常驻全量。 一句话:删标签是止血,把"动态维度不许进 label"写进规范、并在采集端就拦,才是止血之后的病根处理。否则这次删了 user_id,下次有人把 trace_id 加进来,OOM 换个姿势再来。... 展开详请
高基数导致 OOM,删标签是最常见的第一反应,但它往往是治标。要系统性,得从"标签是怎么爆炸的"这条线往回捅。 先分清两类爆炸。一类是"标签值无界":比如把 user_id、request_id、IP、URL 路径直接当 label,这些值的上限等于你的用户数或请求数,时序数量等于基数乘积,几百万几千万条,内存和 TSDB 头信息一起炸。这类确实该删,但删完还会再长,因为根因是"把高基维度当成了标签"。正解是把它挪出 label:要么记进 metric 的 exemplar(采样保留少量高基样本用于排查),要么直接进日志,别让它占时序维度。 另一类更隐蔽:__name__ 爆炸。你以为标签没几个,但 metric 名字里拼了动态内容(比如按接口名生成 metric、按状态码拆成几十个独立 counter),等价于给名字这个隐式 label 灌了无穷值。这种光看 label 看不出问题,得去查 metric 总数。 系统性的治理,按成本从低到高: 命名约定先卡死:label 只允许"有限的、可枚举的"维度(状态码、region、服务名),动态值一律禁止。这步是源头,不做后面都白搭。 采集端就掉:在 scrape 或 agent 端用 metric_relabel_configs 把危险 label drop 或 hash 掉,别等进了 TSDB 再治。 用 recording rule 把高基聚合下沉成低基结果:你真正要看的往往是"按服务聚合后的错误率",那就在 rule 里先 group 掉高基维度,前置算出低基指标,原始高基时序短期保留甚至不长期存。 真正排查时再用 exemplar、日志去回溯那一条高基样本,而不是常驻全量。 一句话:删标签是止血,把"动态维度不许进 label"写进规范、并在采集端就拦,才是止血之后的病根处理。否则这次删了 user_id,下次有人把 trace_id 加进来,OOM 换个姿势再来。

可观测性三大支柱中,链路追踪的采样策略怎么选?尾部采样的延迟窗口怎么权衡?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
头部采样简单省资源但会丢故障现场,尾部采样能按结果挑出错和慢的链路,代价是要在内存里缓存整条trace等收齐再决策。多数团队的实际方案是混合:入口先按1%到10%做头部采样保证常规观测,同时错误、高延迟、超过P99的链路在尾部强制保留,平时省钱,出事能查到现场。尾部窗口一般30秒到2分钟,太短跨服务链路还没收齐就被判掉,太长内存撑不住,窗口要按系统里最长的一条跨服务调用链来算再加余量。还有个容易踩的坑:采样决策要随trace上下文传播,别每个服务各采各的,否则链路永远残缺。OpenTelemetry的tail sampling processor是现成方案,优先用它,别自己造轮子。... 展开详请

联合索引的列序选择,除了选择性还有什么决定因素?边界值查询怎么处理?

GavinGengai学习
联合索引列序这个事,我踩过的坑比看过的教程都多。先说结论:列序不是按选择性从高到低排就完事了,决定性因素其实是「你的查询怎么用这个索引」。 最容易被忽略的一点是最左前缀和范围查询的相互作用。等值条件(=、IN)能一直往下走,但只要某一列用了范围(>、<、BETWEEN、LIKE 'x%'),它右边那些列在索引里就排不了序、用不上了。所以我现在的习惯是:把所有等值条件列放左边,把那个唯一的范围列放最右。有一次我把 (created_at, user_id) 建了索引,查询却是按 user_id 等值 + created_at 范围,结果 created_at 这个范围列卡在中间,user_id 之后索引直接断,慢查询日志里全是全表扫。后来调成 (user_id, created_at) 才解决。 第二是排序和分组的利用。如果一条查询常 ORDER BY a, b,把 a、b 按相同顺序塞进索引尾部,优化器就能直接按索引顺序吐数据,省掉 filesort。这个比单纯追求高选择性实用得多,因为排序带来的临时表和文件排序开销常常比回表还狠。 第三是覆盖索引。SELECT 里要返回的列如果不多,干脆作为尾列include进索引(MySQL 用 INVISIBLE/二级索引冗余列,PG 用 INCLUDE),能彻底免回表。我见过一条高频查询从「索引+回表」变成纯索引扫描,RT 直接掉一截。 边界值查询要单独提一句:BETWEEN 是闭区间,和 >、< 的开闭搞混很容易多取或少取一行,数据对不上还很难查。另外边界往往落在数据分布两端,统计信息一过期优化器就误判行数、乱选索引,这时候 ANALYZE TABLE / UPDATE STATISTICS 一下比改索引更立竿见影。 最后一句提醒:WHERE 里对列套函数、或者隐式类型转换(字符串列传了数字),索引直接废。这个和列序无关,但经常被人当成「索引建错了」来折腾。 所以选列序时我一般先列清楚这条查询的访问模式:等值有哪些、范围是哪列、排序列是什么、要返回哪些列,再反过来排索引,而不是盯着选择性算半天。... 展开详请
联合索引列序这个事,我踩过的坑比看过的教程都多。先说结论:列序不是按选择性从高到低排就完事了,决定性因素其实是「你的查询怎么用这个索引」。 最容易被忽略的一点是最左前缀和范围查询的相互作用。等值条件(=、IN)能一直往下走,但只要某一列用了范围(>、<、BETWEEN、LIKE 'x%'),它右边那些列在索引里就排不了序、用不上了。所以我现在的习惯是:把所有等值条件列放左边,把那个唯一的范围列放最右。有一次我把 (created_at, user_id) 建了索引,查询却是按 user_id 等值 + created_at 范围,结果 created_at 这个范围列卡在中间,user_id 之后索引直接断,慢查询日志里全是全表扫。后来调成 (user_id, created_at) 才解决。 第二是排序和分组的利用。如果一条查询常 ORDER BY a, b,把 a、b 按相同顺序塞进索引尾部,优化器就能直接按索引顺序吐数据,省掉 filesort。这个比单纯追求高选择性实用得多,因为排序带来的临时表和文件排序开销常常比回表还狠。 第三是覆盖索引。SELECT 里要返回的列如果不多,干脆作为尾列include进索引(MySQL 用 INVISIBLE/二级索引冗余列,PG 用 INCLUDE),能彻底免回表。我见过一条高频查询从「索引+回表」变成纯索引扫描,RT 直接掉一截。 边界值查询要单独提一句:BETWEEN 是闭区间,和 >、< 的开闭搞混很容易多取或少取一行,数据对不上还很难查。另外边界往往落在数据分布两端,统计信息一过期优化器就误判行数、乱选索引,这时候 ANALYZE TABLE / UPDATE STATISTICS 一下比改索引更立竿见影。 最后一句提醒:WHERE 里对列套函数、或者隐式类型转换(字符串列传了数字),索引直接废。这个和列序无关,但经常被人当成「索引建错了」来折腾。 所以选列序时我一般先列清楚这条查询的访问模式:等值有哪些、范围是哪列、排序列是什么、要返回哪些列,再反过来排索引,而不是盯着选择性算半天。

单元测试和集成测试的比例怎么定?什么样的逻辑该写在哪层?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
比例不该定指标,按「坏了修多贵」倒推。纯逻辑、金额计算、状态机、解析器这类分支多的,全部压在单测里,跑得快可以写得很密。跨进程边界的东西只能靠集成测试:真实 SQL、事务和隔离级别、消息的重复与乱序、序列化契约、外部接口的超时重试,mock 掉就等于没测。我的习惯是单测吃掉分支覆盖,集成测试只覆盖每条关键 SQL 和每个消费入口,一条不许多但一条不能少。集成慢就单独跑 nightly,别为凑数字硬写。... 展开详请

全员AICoding时代如何保障自己的知识资产不被逆向?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
全员 AICoding 时代想保障知识资产不被逆向,本质是从“让别人难读”升级到“让别人难用/难复现/难获利”:传统代码混淆加密在高可读性工具面前仍可用但通常不够,应该把核心资产拆成可控的秘密与不可控的实现,对外只暴露最小接口与必要特征(减少可被模型/工具还原的语义线索),对关键算法与策略采用服务化/运行时受控(把决定性计算放到受信环境,签名校验、鉴权与速率/风控限制、防止批量探测),对可生成能力做水印与溯源(输出/模型参数/特征级标记,结合调用轨迹做归因),对“可复刻”的部分进行动态化与多态(运行时下发、参数化变体、版本轮换),并在商业上用合约与合规叠加(许可边界、审计、密钥管理、环境隔离);思考过程:先承认 AICoding 把“阅读/逻辑还原”门槛降了,所以要把防护目标从“代码不可读”转到“即便还原也拿不到稳定收益”(难以在别处跑出同等效果、难以批量收集有效样本、难以持续维护),因此组合采用最小暴露 + 运行时受控 + 动态化 + 水印溯源 + 合规审计,才是可落地的防逆向路径。... 展开详请
领券