- 综合排序
- 最热优先
- 最新优先
LLM数学速成：向量与语义空间
而向量空间则为这些向量提供了运算和结构的舞台，是玩转LLM的基石。正如，DB record不仅仅是元组，它更是业务事实的数字化镜像、系统状态的精确快照。 【问】上例中水果 = [1.0, 0.2, 0.4] 对应 LLM 的 K向量吗？苹果 = [0.8, 0.6, 0.3] 对应 LLM 的 V向量吗？【答】你搞混了。 查询、推理，是两个不同场景当你采用 VectorDB 进行相似度查询（搜索）时：苹果 永远是 [0.8, 0.6, 0.3]当你使用 LLM 做推理（生成）时：LLM（Transformer）里的 K、 语义相似度由夹角决定词向量的语义相似度是通过余弦相似度（即向量夹角的余弦值）来衡量的。当两个词向量夹角越小，余弦值越接近1，表示语义越相似。 降维的数学本质这个过程在数学上可以理解为奇异值分解（SVD）或主成分分析（PCA）。通过矩阵分解，将高维的共现矩阵（如词-文档矩阵或词-词共现矩阵）压缩到低维空间，保留最重要的语义信息。
26520编辑于 2025-12-31- 来自专栏全栈程序员必看
什么是语义分割_词法分析语法分析语义分析
模型预测为类别2，实际是类别2） 混淆矩阵示意图（参考：西瓜书 p30）： ---- 看到此处，可能对混淆矩阵有了初步了解，但大脑里依旧是：“混淆矩阵很混淆”的状态… 且慢，下面举个例子： 假如：宠物店有10 只动物，其中6只狗，4只猫（真实值），现有一个模型将这10只动物进行分类，分类结果为（预测结果为）：5只狗，5只猫（预测值），对分类结果画出对应混淆矩阵进行分析（狗：正例，类别1，猫：反例，类别2）：（ （那就对了…） 分析混淆矩阵的3个要点：（参考链接） ①矩阵对角线上的数字，为当前类别预测正确的类别数目；非对角线数字，预测都是错误的！ 上面分析了一大堆，最终还是不够精炼，于是大佬们定义了几个公式： 准确率（Accuracy），对应：语义分割的像素准确率 PA 公式：Accuracy = (TP + TN) / (TP + TN + 先回顾一下上述的例子： 宠物店有10只动物，其中6只狗，4只猫（真实值），现有一个模型将这10只动物进行分类，分类结果为（预测结果为）：5只狗，5只猫（预测值） 此例子中： 进行分类的基础是：动物
1.8K20编辑于 2022-09-25 词法分析、语法分析、语义分析
语义分析（Syntax analysis） 语义分析是编译过程的一个逻辑阶段. 语义分析的任务是对结构上正确的源程序进行上下文有关性质的审查, 进行类型审查.例如一个C程序片断: int arr[2],b; b = arr * 10; 源程序的结构是正确的. 语义分析将审查类型并报告错误:不能在表达式中使用一个数组变量,赋值语句的右端和左端的类型不匹配. Lex 一个词法分析程序的自动生成工具。 它接受语言的文法,构造一个LALR(1)分析程序.因为它采用语法制导翻译的思想,还可以接受用C语言描述的语义动作,从而构造一个编译程序. 中间语言（中间表示）（Intermediate language(representation)） 在进行了语法分析和语义分析阶段的工作之后，有的编译程序将源程序变成一种内部表示形式，这种内部表示形式叫做中间语言或中间表示或中间代码
59310编辑于 2025-04-05- 来自专栏秋枫学习笔记
ControlRec：对齐LLM和推荐系统之间的语义差异
应用于推荐领域已经有很多例子了，但是从经典推荐方法向LLM过渡很重要的一个问题是LLM很难有效利用用户和item的ID，主要是因为它们在语义空间中的表征和常规的自然语言不同，因此无法直接使用LLM。 通过这种方式，将ID拆分为不同的子单词，从而让LLM可以将其作为文本进行处理。 HFM当ID和NL特征具有相似的语义时，使它们在语义空间中更紧密地结合在一起，而当它们不相似时，将它们进一步分开（类似度量学习）。 问题是如何来考虑两类表征的相似性呢？ 假设具有相似语义的ID和NL特征应该指代相同的目标item。比如，如果系统中耐克t恤的ID为7718，则可以说说ID“item_7718”与描述“类别：t恤。品牌：耐克”匹配，将它们称为正语义对。 ICL对LLM生成的序列进行操作，它需要LLM的生成能力，这在早期训练阶段可能受到限制,。直接用ICL训练模型可能会导致学习过程的低效和不稳定。
1.9K10编辑于 2023-12-04 - 来自专栏啄木鸟软件测试
使用 LLM 为 QA 测试数据实现语义验证
本文将教你如何使用 Claude AI 和 LangChain 构建一个 Python 语义验证器，自动捕捉这些逻辑不一致的问题。只需 150 行代码，你就能为测试数据验证流程添加一个“常识”层。 基于规则的评估使用预定义标准来判断数据是否满足特定的业务逻辑要求，超越了结构正确性，检查语义有效性。模式验证会问“这是有效的 JSON 吗？” 这些规则可以捕捉模式验证遗漏的语义问题。 TestDataValidator: def __init__(self, model: str = "claude-3-haiku-20240307"): self.llm 成本估算： - 每次验证约 $0.0005 - 验证 1,000 条数据约 $0.5 - 验证 10,000 条数据约 $5 总结 语义验证将测试数据从潜在风险转变为可靠的质量保障基础
13010编辑于 2026-03-04 - 来自专栏python开发教程
python采集豆瓣网top250前10和后10电影短评并进行语义分析
今天收到一个订单需求，需要爬取豆瓣电影网top250中前10部和后10部的影评并对其进行语义分析比较这20部电影的质量，所以我们计划每部电影爬取100条短评并对评论进行语义分析，最后对其进行简单的数据可视化来比较其电影质量 在这里我简单介绍一下我们使用的包，requests，通用爬虫包，time，时间模块，csv，写入数据需要的库，snowNLP，python的基础情感语义分析包，它会根据评论的关键词进行一个0-1的打分， 1.分析目标网址；2.发送请求获取网址响应内容；3.解析内容；4.保存响应内容。 1.分析目标网址 首先打开谷歌浏览器输入网址：https://movie.douban.com/top250。 csvfile: csv_writer = csv.writer(csvfile, delimiter=',') csv_writer.writerow([comment]) 二.情感语义分析 使用snowNLP进行评论的语义分析1.打开爬取的csv文件 f = open("moviecomment.csv","r") datalist = f.readlines()2.进行语义分析for
83030编辑于 2022-08-26 - 来自专栏秋枫学习笔记
CTRL：对齐协作信号和LLM语义信息进行CTR估计
导读 传统的CTR预估模型，是将表格型数据转换为ont hot向量，然后考虑特征之间的交互来推断用户的偏好，但是这种方式忽略了特征的语义信息。 现有的LLM推荐方法图P5，M6 Rec考虑了语义信息但是效率低，并且没有考虑有用的协作关系。 首先将原始表格数据转换为文本数据。 表格数据和转换后的文本数据被视为两种不同的模式，并分别输入到协作CTR模型和LLM中。 首先，利用协作模型和语义模型（LLM）对表格数据和文本数据进行编码，以分别获得相应的表征。 使用InfoNCE和batch内负采样，在协作和语义空间下为每个实例对齐表征。
63410编辑于 2023-12-19 - 来自专栏给永远比拿愉快
C++10中的移动语义
clone() { Example demo(*this); return demo; } int main() { Example demo; demo.count = 10 对象的移动语义（Move Semantics）需要实现移动构造函数（move constructor）和移动赋值运算符（move assignment operator）。 移动赋值运算..." << '\n'; return *this; } 我们写个主函数进行测试： int main() { Example demo; demo.count = 10 下面来看一个交换两个对象的swap函数，这是一个经典的使用移动语义提高性能的示例。 使用移动语义，swap函数可以避免所有的复制。
65730发布于 2019-01-22 - 来自专栏个推技术实践
语义情感分析实操 | 10行代码帮你判断TA是否生气了
正文 随着AI的日益普及和在各个领域的加速落地，很多企业不断尝试将自然语言处理、语义情感分析等技术应用到智能客服、交互机器人等领域。个推也在自然语言处理及人工智能领域拥有丰富的实践经验。 本文主要借这个有趣的实操案例，为大家分享如何基于NLP进行语义情感分析。 但是考虑到在情感分析中，许多停用词其实有可能会对分类结果产生影响。例如对话时的“呀”，往往带有喜悦的情感色彩。因此在这里，我们并未将这一类的词汇进行剔除。 下图是我们基于最简单的FastText算法进行文本分类的过程： 我们对该算法模型进行了10轮的持续迭代。在测试集上，该模型的准确率达到了0.582。 通过下表，可以看到，模型的训练效果还是比较令人满意的，对于“呵呵”和“哈哈哈”、“了”和“啦”这些语气词之间的微妙情绪差别都能进行相对准确的判断： 至此，本次基于NLP进行情感分析的模型训练实验也就基本完成了
75920发布于 2021-05-24 - 来自专栏林德熙的博客
win10 uwp MVVM 语义耦合
最近在我写的框架，小伙伴告诉我，可能有语义耦合，那么本文就来告诉大家，为什么会出现语言耦合 之前我写了一个轻量的框架，参见win10 uwp MVVM 轻量框架 。 在使用的过程，发现了这个框架可以让开发者写出语义耦合的代码。 在开始讲框架之前，先让我告诉大家，什么是语义耦合。 例如有一个框架，在框架的代码都没有任何的耦合，如 View 的界面和 ViewModel 是分开在两个工程，而且只有 View 引用 ViewModel ，这样从静态的代码分析可以说，ViewModel 实际上可能还是有语义的耦合。 ? 如果发现了存在语义耦合，那么如何解决？ 这个需要分析一下，一般做法是让具体的命名写为抽象。
49120发布于 2018-09-19 - 来自专栏林德熙的博客
win10 uwp MVVM 语义耦合
最近在我写的框架，小伙伴告诉我，可能有语义耦合，那么本文就来告诉大家，为什么会出现语言耦合 之前我写了一个轻量的框架，参见win10 uwp MVVM 轻量框架 。 在使用的过程，发现了这个框架可以让开发者写出语义耦合的代码。 在开始讲框架之前，先让我告诉大家，什么是语义耦合。 例如有一个框架，在框架的代码都没有任何的耦合，如 View 的界面和 ViewModel 是分开在两个工程，而且只有 View 引用 ViewModel ，这样从静态的代码分析可以说，ViewModel 实际上可能还是有语义的耦合。 如果发现了存在语义耦合，那么如何解决？ 这个需要分析一下，一般做法是让具体的命名写为抽象。
37120编辑于 2022-08-04 - 来自专栏小白技术社
关于语义分析的方法（上）
语义分析，本文指运用各种机器学习方法，挖掘与学习文本、图片等的深层次概念。 本文主要由以下四部分组成：文本基本处理，文本语义分析，图片语义分析，语义分析小结。 先讲述文本处理的基本方法，这构成了语义分析的基础。接着分文本和图片两节讲述各自语义分析的一些方法，值得注意的是，虽说分为两节，但文本和图片在语义分析方法上有很多共通与关联。 最后我们简单介绍下语义分析在广点通“用户广告匹配”上的应用，并展望一下未来的语义分析方法 1 文本基本处理 在讲文本语义分析之前，我们先说下文本基本处理，因为它构成了语义分析的基础。 N-Gram语言模型简单有效，但是它只考虑了词的位置关系，没有考虑词之间的相似度，词语法和词语义，并且还存在数据稀疏的问题，所以后来，又逐渐提出更多的语言模型，例如Class-based ngram model
1.3K10发布于 2020-07-08 - 来自专栏深度学习和计算机视觉
PSPNet | 语义分割及场景分析
语义分割的目标仅仅是获知已知对象的每个像素的类别标签。 场景解析是基于语义分割的，它的目标是获知图像内所有像素的类别标签。
87510编辑于 2022-09-28 - 来自专栏AIGC 先锋科技
LLM-包装 黑盒语义感知视图语言基础模型的适应 ！
作者在Referring Expression Comprehension（REC）任务上证明了LLM-wrapper的有效性，这是一项具有挑战性的开放式词汇任务，需要进行空间和语义推理。 VLMs在生成的检测中表现良好，其中LLM-wrapper可以使用LLM的语义和空间推理能力选择最相关的框。 为了获得最佳性能，作者使用高效的LoRA [15]策略微调LLM。 LLM-wrapper然后将这些推理留给能够处理难以理解的文本 Query ，包括属性、否定和物体的关系或空间描述。作者观察到，在没有进行微调的情况下，LLM就已经能够选择具有地理或语义信息的方块。 作者在第3.1节中介绍实验设置，主要结果在第3.2节中呈现，分析在第3.3节中进行。 这表明在作者微调期间，LLM-wrapper学习了适用于其他模型的空间和语义概念。
41010编辑于 2024-10-22 - 来自专栏数据饕餮
NLP专题：LSA浅层语义分析
原文地址：http://en.wikipedia.org/wiki/Latent_semantic_analysis 前言 浅层语义分析（LSA）是一种自然语言处理中用到的方法，其通过“矢量语义空间”来提取文档与词中的 “概念”，进而分析文档与词之间的关系。 词-文档矩阵和传统的语义模型相比并没有实质上的区别，只是因为传统的语义模型并不是使用“矩阵”这种数学语言来进行描述。 将其映射到语义空间，再与文档进行比较。 应用 低维的语义空间可以用于以下几个方面: 在低维语义空间可对文档进行比较，进而可用于文档聚类和文档分类。 通过查询映射到语义空间，可进行信息检索。 从语义的角度发现词语的相关性，可用于“选择题回答模型”（multi choice qustions answering model）。
2K20发布于 2019-06-14 - 来自专栏AI科技评论
PSPNet ——语义分割及场景分析
语义分割的目标仅仅是获知已知对象的每个像素的类别标签。 场景解析是基于语义分割的，它的目标是获知图像内所有像素的类别标签。
4.1K20发布于 2019-08-21 - 来自专栏CSDN社区搬运
基于BERT的语义分析实现
BERT作为一种预训练语言模型，它具有很好的兼容性，能够运用在各种下游任务中，本文的主要目的是利用数据集来对BERT进行训练，从而实现一个语义分类的模型。 语义分类 语义分类是自然语言处理任务中的一种，包含文本分类、情感分析 文本分类 文本分类是指给定文本a，将文本分类为n个类别中的一个或多个。 情感分类 情感分析是自然语言处理中常见的场景，比如商品评价等。通过情感分析，可以挖掘产品在各个维度的优劣。情感分类其实也是一种特殊的文本分类，只是他更聚焦于情感匹配词典。 本文将以情感二分类为例，实现如何利用BERT进行语义分析。 实现原理 首先，基于BERT预训练模型，能将一个文本转换成向量，作为模型的输入。 it/s] 5%|▌ | 1/20 [01:48<34:28, 108.88s/it] 10%|█ | 2/20 [03:38<32:43, 109.10s/it]
41410编辑于 2024-11-30 - 来自专栏AI科技评论
总结 | 邹炎炎：语义分析介绍及跨语言信息在语义分析中的应用
近年来，随着人工智能的发展，语义分析也越发重要。 word embedding 是很常见的 input feature，能够很大程度地提升语义分析模型的性能。 然而，对于 output 对语义分析模型性能的影响，大家的关注度却并不是很高。 分享主题：语义分析介绍及跨语言信息在语义分析中的应用 分享提纲： 1.semantic parsing 背景介绍 2.semantic parsing 模型介绍 3. 为了让大家更好地区分语法分析和语义分析的不同点，我先介绍一下两种分析的任务： Dependency parsing ：比如输入一句话「I saw a girl with a telescope」，Dependency 最后做一下总结，本次我们分享了语义分析的基本背景知识，我们实验室工作中用到的一些语义分析模型、ACL 2018 会议中的短文《跨语言信息在语义分析中的应用》以及语义分析的一些表现。
1.6K30发布于 2018-10-25 - 来自专栏云云众生s
如何使用语义路由器和LLM工具构建AI代理
在本 AI 代理教程中，我们使用语义路由器来选择从 OpenAI LLM 和其他 AI 工具检索信息的最佳方式。 在上一篇文章中，我介绍了语义路由器: 一种使 AI 代理 能够为正确的任务选择正确的 LLM 的模式，同时还减少了它们对 LLM 的依赖。 在本教程的后续内容中，我们将使用 语义路由器 项目通过选择最佳信息检索方式（例如是否使用向量数据库 和/或基于工具的实时数据检索器）来智能地处理用户查询。 语义路由器采用 OpenAI 的 LLM 和结构化检索方法，并将它们结合起来，创建了一个自适应的、高响应的助手，可以快速处理对话查询和特定于数据的请求。 print(f"LLM Response: {llm_response}\n") 这是将所有内容联系在一起的主要功能。
50710编辑于 2024-10-13 - 来自专栏自然语言处理(NLP)论文速递
分享10篇优秀论文，涉及LLM对齐、LLM评估、LLM隐私、RAG增强等热门话题！
今天继续给大家分享10篇最新论文，其中涉及大模型幻觉、大模型对齐、大模型剪枝、大模型隐私、大模型毒性、大模型评估、RAG能力增强、Transformer架构优化等热门研究方向。 与其他量化方法的比较分析表明，BitNet 在各种任务和模型大小上始终优于基线。 在六项任务的评估结果中表明，SELF-RAG 优于经过预训练和指令调整的 LLM，包括那些具有更多参数的 LLM。 另外，分析发现流行数据集托管网站上的许可证经常出现错误分类，遗漏率超过70%，错误率超过 50%。 作者的实证分析表明，许可证类型存在广泛多样性，众包商“未指定”许可证的程度很高。该论文强调了人工智能开发中准确数据和数据归属的重要性，旨在以提高数据透明度和法律合规性。
1.1K10编辑于 2024-01-31
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号