- 综合排序
- 最热优先
- 最新优先
- 来自专栏ShowMeAI研究中心
NLP教程(5) - 语言模型、RNN、GRU与LSTM
笔记核心词 语言模型 RNN 循环神经网络 双向RNN 深度RNN 长短时记忆网络 LSTM GRU 1.语言模型 （语言模型部分内容也可以参考ShowMeAI的对吴恩达老师课程的总结文章 深度学习教程 1.2 n-gram语言模型 为了计算这些概率，每个 n-gram 的计数将与每个单词的频率进行比较，这个称为 n-gram 语言模型。 这就引出了 n-gram 语言模型的两个主要问题：「稀疏性」和「存储」。 1) n-gram语言模型的稀疏性问题 n-gram 语言模型的问题源于两个问题。 增加 n 会让稀疏问题更加严重，所以一般 n \leq 5。 2) n-gram语言模型的存储问题 我们知道需要存储在语料库中看到的所有 n-gram 的统计数。 最后计算词表中的 softmax 计算结果展示了基于前面所有的单词对输出单词 x^{(5)} 的不同选择的概率分布。这时的输入可以比4到5个单词更长。
1K21编辑于 2022-05-08 使用易语言部署yolov5-onnx模型
【官方框架地址】 https://github.com/ultralytics/yolov5 【易语言介绍】 易语言是中国自主开发的一种编程语言，旨在降低编程的难度，让更多的人能够理解和掌握编程技术。 易语言的出现，使得编程不再是专业人士的专利，普通人也能够通过易语言轻松地开发自己的软件。随着易语言的不断发展，它已经成为了中国国内较为流行的编程语言之一。 【效果展示】 【实现部分代码】 .版本 2 .支持库 spec YOLO5_加载模型 (“yolov5s.onnx”, “labels.txt”) 图片字节集 ＝ 读入文件 (“person.jpg ”) 图片大小 ＝ 取字节集长度 (图片字节集) 推理结果 ＝ YOLO5_推理 (图片字节集, 图片大小) 绘制结果 (图片字节集, 推理结果) 调试输出 (推理结果) YOLO5_释放资源 () vd_source=989ae2b903ea1b5acebbe2c4c4a635ee 【测试环境】 易语言5.7.1 opencv4.7.0
40710编辑于 2025-07-17- 来自专栏CreateAMind
大语言模型无法实现具身智能：5万字自我模型
大语言模型无法实现具身认知 具身智能到底是什么？ 这些自我和世界模型的复杂性和特异性因语言的组合和递归特性而大大扩展[156,179]，包括通过组织成历时叙事来实现时间延伸和稳定[184]。 虽然意识的实现可能不依赖于语言，但语言能力可能对意识、自我和能动性的进化和发展产生深远的影响。 通过自我的多级整合可以通过提供来自核心实施例的绑定来代表感知一致性的必要条件。 5. Neurophenomenology of Agency 5.1. LeDoux [179,369] 认为，没有复杂语言的动物不能说拥有情感，而只是在“生存回路”内具有功能活动。这些主张是通过语言为构建复杂的扩展自我模型提供必要的句法结构来证明的。
24710编辑于 2026-03-11 - 来自专栏IT从业者张某某
大语言模型-01-语言模型发展历程-03-预训练语言模型到大语言模型
简介 1.1语言模型发展历程 语言模型发展历程 语言模型通常是指能够建模自然语言文本生成概率的模型。 从语言建模到任务求解，这是科学思维的一次重要跃升。 语言模型的发展历程如下： 神经语言模型（Neural Language Models,NLM） 预训练语言模型（Pre-trained Language Model，PLM） 预训练语言模型是一种在大规模文本数据上进行无监督学习得到的语言模型 语言模型任务是根据给定的上文预测下一个单词，通过这种方式，模型可以学习到语言的统计规律和语义表示。 掩码语言模型任务是随机掩盖输入文本中的一些单词，然后让模型预测被掩盖的单词，这可以帮助模型更好地理解上下文信息。 、千亿甚至万亿的模型 经过大规模数据预训练的数十亿参数的高性能模型也可以称为大语言模型 与传统语言模型构建的差异 极大地扩展了模型参数和数据数量 需要更为复杂、精细的模型训练方法 模型需要能够学习更多的数据知识
73400编辑于 2025-03-15 使用易语言部署yolov5-7.0的图像分类模型
权重轻 YOLOv5在不牺牲太多精度的前提下，提供了不同大小的模型，从小型的YOLOv5s到大型的YOLOv5l和YOLOv5x，满足不同计算能力的平台需求。 易于训练和部署 YOLOv5易于训练且模型文件体积小，配合其有效的预训练权重和灵活的部署能力，可以在各种硬件平台上快速启动和运行。 将YOLOv5用于图像分类的一个常用方法是提取YOLOv5中的特征提取部分，即其CNN骨干网，并在此基础上添加一个用于分类的全连接层。 【效果展示】 【实现部分代码】 .版本 2 .支持库 spec Yolov5Cls_加载模型 (“yolov5n-cls.onnx”, “labels.txt”) 图片字节集 ＝ 读入文件 (“goldfish.jpg 】 https://www.bilibili.com/video/BV1t64y1N7GA/ 【测试环境】 易语言5.93,opencv4.7.0
45610编辑于 2025-07-17- 来自专栏Elastic Stack专栏
使用 E5 嵌入模型进行多语言向量搜索
在这篇文章中，我们将介绍多语言向量搜索。我们将使用 Microsoft E5 多语言嵌入模型，该模型在零样本和多语言设置中具有最先进的性能。 多语言E5嵌入模型2022 年 12 月，微软发布了一种名为 E5 的新通用嵌入模型，即EmbEddings from bidirEctionalEncoder rEpresentations。 除了嵌入英语模型之外，微软后来还使用各种多语言数据集在多语言文本上训练了 E5 模型的变体，但总体过程与英语模型相同。 下面我们可以看到三个多语言 E5 模型及其特征，以及在TyDi 先生的多语言基准测试上测量的有效性（看，命名很难）。 我们通过展示跨语言的多语言搜索示例来推动这一点，但实际上相同的 E5 嵌入模型也可以在单一语言中使用。
3.4K30编辑于 2023-09-27 - 来自专栏测试开发技术
5分钟带你看懂什么是大语言模型（LLM)
基本原理 一个大语言模型本质上就是一个复杂的数学函数，它能预测任何一段文本的下一个词。它并不是确定地选择一个词，而是会给所有可能的词分配一个概率。 而更大的模型训练的数据量更加庞大。 你可以把训练过程想象成调整一台拥有大量旋钮的机器。一个语言模型的行为完全由它内部成千上亿个连续数值（参数或权重）决定。调整这些参数会改变模型对下一个词的预测概率。 所谓“大”语言模型，就是指这些参数的数量能达到数千亿级别。 但有趣的是，这些参数并不是由人手动设定的，而是从随机值开始的。最初，模型输出的内容完全是胡言乱语，但随着训练的进行，它的预测能力会不断提高。 但并不是所有语言模型都能轻松实现并行计算。在 2017 年之前，大多数语言模型都是按顺序逐个处理单词的。但后来，谷歌的一个研究团队提出了一种新架构--Transformer。 尽管如此，当你用这些大型语言模型进行对话时，你会发现它们生成的文本往往流畅、自然，有时候甚至超出预期。
99010编辑于 2025-04-18 - 来自专栏Golang语言社区
Go语言并发模型：以并行处理MD5为例
简介 Go语言的并发原语允许开发者以类似于 Unix Pipe 的方式构建数据流水线 (data pipelines)，数据流水线能够高效地利用 I/O和多核 CPU 的优势。 阅读建议 本文是"Go语言并发模型：像Unix Pipe那样使用channel" 一文的下半部分，但重点在于实践。如果你对 channel 已经比较熟悉，则可以独立阅读。 在文章末尾"相关链接"中可以下载三个版本的 md5sum 的实现。 单线程版的 md5sum MD5 是一种广泛用于文件校验的 hash 算法。 Linux 下的 md5sum 命令会打印一组文件的 md5值。 = nil { return nil, err } return m, nil } 关于Go语言并发模型，使用 Go内置的 channel 类型和 go 关键字实现高并发和并发控制的主题就先到这里
2.2K60发布于 2018-03-26 - 来自专栏IT从业者张某某
大语言模型-1.1-语言模型发展历程
简介 本博客内容是《大语言模型》一书的读书笔记，该书是中国人民大学高瓴人工智能学院赵鑫教授团队出品，覆盖大语言模型训练与使用的全流程，从预训练到微调与对齐，从使用技术到评测应用，帮助学员全面掌握大语言模型的核心技术 /27667 语言模型发展历程 语言模型通常是指能够建模自然语言文本生成概率的模型。 语料库的样例如下： 参考:https://bcc.blcu.edu.cn/zh/search/0/%E6%88%91%E5%BE%88 基于频率的估计方法 (最大似然估计) ➢ 四元语言模型估计示例 5.前面的数据已经初步定义好了，这里就要搭建NNLM模型了。 预训练语言模型（Pre-trained Language Model，PLM） 预训练语言模型是一种在大规模文本数据上进行无监督学习得到的语言模型。
49700编辑于 2025-03-15 - 来自专栏null的专栏
神经语言模型
语言模型 什么是语言模型？通俗的来讲是判断一句话是否符合人说话的模型，如可以说”猫有四条腿“，却不能说”四条腿有猫“。因为”四条腿有猫“这样的表述不符合人们的正常语言规范。 在语言模型的发展过程中，分别出现了专家语法规则模型，统计语言模型，神经网络语言模型三个阶段。 其中，专家语法规则模型出现在语言模型的初始阶段，我们知道，每一种语言都有其特定的语法规则，因此在早期，人们设法通过归纳出的语法规则来对语言建模；统计语言模型则是对句子的概率分布建模，通过对大量语料的统计发现 ，符合人们正常语言规范的句子出现的概率要大于不符合语言规范的句子，如上述的“猫有四条腿”出现的概率要大于“四条腿有猫”的概率；神经网络语言模型是在统计语言模型的基础上，通过神经网络模型对句子的概率分布建模的方法 下面将从统计语言模型开始讲起。 2. 统计语言模型 2.1. 统计语言模型 统计语言模型（statistical language modeling）通过对大量语料的统计预测出句子的分布。
49310编辑于 2022-01-05 - 来自专栏小鹏的专栏
07 语言模型
语言模型
58110发布于 2020-03-25 - 来自专栏IT从业者张某某
大语言模型-01-语言模型发展历程-01
简介 本博客内容是《大语言模型》一书的读书笔记，该书是中国人民大学高瓴人工智能学院赵鑫教授团队出品，覆盖大语言模型训练与使用的全流程，从预训练到微调与对齐，从使用技术到评测应用，帮助学员全面掌握大语言模型的核心技术 这里没有继续问，一问一个不吱声 大语言模型的百花齐放时代 语言模型发展历程 语言模型通常是指能够建模自然语言文本生成概率的模型。 从语言建模到任务求解，这是科学思维的一次重要跃升。 语言模型的发展历程如下： 统计语言模型（Statistical Language models,SLM） ➢ 主要建立在统计学习理论框架，通常使用链式法则建模句子序列 ➢ 例如： n-gram 语言模型 语料库的样例如下： 参考:https://bcc.blcu.edu.cn/zh/search/0/%E6%88%91%E5%BE%88 基于频率的估计方法 (最大似然估计) ➢ 四元语言模型估计示例 5.前面的数据已经初步定义好了，这里就要搭建NNLM模型了。
42800编辑于 2025-03-15 C语言——指针（5）
题目一： #include <stdio.h> int main() { int a[5] = { 1, 2, 3, 4, 5 }; int *ptr = (int *)(&a + 1); // &a取出的是整个数组类型是int(*)[5],&a+1类型也是int(*)[5]，所以要强制类型转换为int(*) printf( "%d,%d", *(a + 1), *(ptr - 1)); return int main() { int a[5][5]; int(*p)[4]; p = a; printf("%p,%d\n", &p[4][2] - &a[4][2], &p[4][2] - &a 题目五 int main() { int aa[2][5] = { 1, 2, 3, 4, 5, 6, 7, 8, 9, 10 }; int* ptr1 = (int*)(&aa + 1); int return 0; } 运行结果： 10 5 6.
15010编辑于 2025-10-13- 来自专栏技术分享
C语言(5)----函数
准确的来说，C语言中的函数二字就是由数学函数这个概念翻译而来的，C语言中的function更准确的翻译是子程序。但是由于它和数学中的函数用法相似，所以将它称为函数会更好理解。 那么为什么C语言中会有函数呢？因为C语言作为一种语言，它只提供一种语法规则，本身并不能执行程序。 也就是说，如果你会一种语言的所有知识和概念，但你不知道它怎么去用，不能将它说出来，那么也就不能运用这门语言。 所以这个时候函数出现了。它用来使程序发生，使程序运行，它本身就是运行的指令。 5.函数的格式 其实库函数和自定义函数的格式都是一样的，只是一个无需自己再规定，一个需要自己先自定义。 格式： ： ret_type:返回类型。 执行函数的过程就是输入参数-函数分析参数-输出结果（返回结果） 6.实参和形参 在5中我们已经知道了有个东西叫做形式参数，也就是形参，这里我们来具体介绍实参和形参。 实参：实际参数。
26110编辑于 2024-06-18 - 来自专栏DeepHub IMBA
微调大型语言模型示例：使用T5将自然语言转换成SQL语句
将自然语言转换为SQL语句已经不再遥不可及。NLP的进步使得我们不仅可以使用LLM(大型语言模型)，还可以通过微调教授他们新的技能，这也被称为迁移学习。 在本文中，我们将使用谷歌的文本到文本生成模型T5和我们的自定义数据进行迁移学习，这样它就可以将基本问题转换为SQL查询。 @Fabric：告诉层训练模型所需的计算资源（CPU，GPU等）。 T5是一个大型型号，我们需要GPU对其进行微调。 @pip_requirements：微调我们的模型所需的Python软件包。 commit -m "Add application files" $ git push 现在前往Hugging Face的space，部署应用程序后，就可以看到如下的界面 最后 本文展示了如何微调大型语言模型来教他们新技能
1.7K30编辑于 2022-06-04 - 来自专栏C++
C语言（指针）5
用指针数组来表示二维数组是非常适合的，因为二维数组的每一行就像一个一维数组，这个一维数组也是可以通过指针来访问。
16310编辑于 2024-10-16 【C语言】指针(5)
< sz;i++) { printf("%d ", *(P_arr + i)); } } //排整型的数组 int test1() { int arr1[10] = { 1,4,3,2,6,5,8,7,9,10 ; for(i=0;i<sz;i++) { printf("%d ",arr[i]); } printf("\n"); } void test() { int arr[10]={1,3,5,7,9,2,4,6,8,0 j * width, (char*)base + (j + 1) * width,width); } } } } void test2() { int arr[10] = { 1,3,5,7,9,2,4,6,8,0
21200编辑于 2025-12-23- 来自专栏生信矿工
R语言笔记-5
拼图软件 patchwork 图片导出 经典三段函数 ggsave eoffice topptx base 作图 head(iris) plot(iris[,2],iris[,3],col = iris[,5] points() 添加点 axis() 坐标轴 title() 添加标题 text() 添加文字 ggplot2 作图 ggplot2是与base r语言不同的作图语法
1.1K00编辑于 2023-11-21 - 来自专栏人人都是极客
用C语言实现进程5状态模型
本篇通过C语言实现一个简单的进程5状态模型的状态机，让大家熟悉一下状态机的魅力。 什么是状态机？ 定义 状态机是有限状态自动机的简称，是现实事物运行规则抽象而成的一个数学模型。 状态机，也就是 State Machine ，不是指一台实际机器，而是指一个数学模型。说白了，一般就是指一张状态转换图。 举例 以物理课学的灯泡图为例，就是一个最基本的小型状态机 ? 进程5状态模型 进程管理是Linux五大子系统之一，非常重要，实际实现起来非常复杂，我们来看下进程是如何切换状态的。 下图是进程的5状态模型： ? ; event_happen(evt_fork); sleep(5); event_happen(evt_sched); sleep(5); event_happen(evt_sched); sleep(5); event_happen(evt_wait); sleep(5); event_happen(evt_wake); } 运行结果： ?
3.2K73发布于 2020-12-11 从 BART 到 T5：大型语言模型的演进与未来趋势
在自然语言处理（NLP）的广袤领域中，大型语言模型如同璀璨星辰，持续照亮前行的道路。 演进脉络：架构、训练与任务处理的升级 从 BART 到 T5，我们能清晰地看到大型语言模型在多个维度的显著演进。 架构设计 BART 融合了双向与自回归架构，而 T5 在此基础上，进一步强化了 Transformer 架构的优势，通过统一的任务框架，使模型能够更高效地学习和应用语言知识。 T5 使用了更大规模的数据集进行训练，这使得模型能够接触到更广泛、更丰富的语言表达形式，从而增强了模型的泛化能力。 从 BART 到 T5，大型语言模型的演进历程是一部充满创新与突破的技术史诗。而未来，我们有理由相信，这些模型将继续引领 NLP 领域乃至整个人工智能领域的发展，为人类社会带来更多的惊喜与变革。
47610编辑于 2025-10-14
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号