- 综合排序
- 最热优先
- 最新优先
- 来自专栏素履coder
Leetcode模块训练2
示例 2： 输入：nums = [3,2,4], target = 6 输出：[1,2] 示例 3： 输入：nums = [3,3], target = 6 输出：[0,1] 提示： 2 <= nums.length 示例 1： 输入：nums = [1,2,2,3,1] 输出：2 解释： 输入数组的度是 2 ，因为元素 1 和 2 的出现频数最大，均为 2 。 连续子数组里面拥有相同度的有如下所示： [1, 2, 2, 3, 1], [1, 2, 2, 3], [2, 2, 3, 1], [1, 2, 2], [2, 2, 3], [2, 2] 最短连续子数组 [2, 2] 的长度为 2 ，所以返回 2 。 示例 2： 输入：nums = [1,2,2,3,1,4,2] 输出：6 解释： 数组的度是 3 ，因为元素 2 重复出现 3 次。
47720编辑于 2022-11-16 - 来自专栏罗西的思考
Facebook如何训练超大模型 --- (2)
[源码分析] Facebook如何训练超大模型 --- (2) 目录 [源码分析] Facebook如何训练超大模型 --- (2) 0x00 摘要 0x01 回顾 1.1 ZeRO 1.1.1 ZeRO 分布式训练 Parameter Sharding 之 Google Weight Sharding [源码分析] Facebook如何训练超大模型---(1) 0x01 回顾 1.1 ZeRO 我们首先回顾一下 深度模型训练之中，显存主要是被Model States 与 Activation 两部分所占用。 Model Parameter: 模型参数，即在训练过程中通过数据“学习”到的信息。 1.1.2 ZeRO-2 ZeRO-2会分割Optimizer States与Gradients。
2.2K30编辑于 2022-05-09 - 来自专栏JadePeng的技术博客
fastText训练word2vec并用于训练任务
/fastText.git 然后make编译： make 编译后，将生成的fastText移到bin cp fasttext /usr/local/bin/ 训练word2vec 先讲语料分好词，比如保存到 开始调用fasttext训练： fasttext skipgram -input sent_train.txt -output . -0.16032 0.14793 0.021469 0.22363 -0.20411 0.07628 -0.096523 -0.11407 -0.35992 转换为pytorch可加载格式 为了方便训练使用 ','word2vec.npy') 训练模型 参考opennre的cnn分类代码： import torch import numpy as np import json import opennre ' wordi2d = json.load(open('pretrain/glove/word2id.json')) word2vec = np.load('pretrain/glove/word2vec.npy
71220发布于 2020-02-18 【模型免训练高效集成】DINOv2 + SAM 2
【模型免训练高效集成】DINOv2 + SAM 2 当目标检测遇上图像分割，AI 视觉正迎来一场静悄悄的革命。 引言 在人工智能尤其是计算机视觉迅猛发展的当下，我们正见证着一个又一个技术奇迹的诞生。 DINOv2 带来了几个关键优势： 即插即用：无需额外训练，直接提取高质量特征 卓越泛化：在未见过的数据和任务上表现优异 多尺度理解：同时捕捉局部细节和全局上下文 高效推理：相比需要微调的模型，大大节省计算资源 ：无论是点、框、掩码还是文本描述，都能理解并作出反应 DINOv2 + SAM 2：免训练的完美组合 无缝集成架构 将 DINOv2 和 SAM 2 结合在一起的优势在于无需联合训练。 DINOv2 + SAM 2 的免训练特性让车辆能够快速适应新环境： 医疗影像：医生的AI助手 在医疗诊断中，这个组合展现出了巨大潜力： 快速适配：无需医疗数据训练即可处理各种影像 精准分割：对器官、病变区域进行精确勾勒 稳定可靠：避免过拟合和训练不稳定的风险
87110编辑于 2025-09-04- 来自专栏网络安全攻防
应急响应靶机训练-Linux2
abcdefg) 提交Webshell连接密码 提交数据包的flag1 提交攻击者使用的后续上传的木马文件名称 提交攻击者隐藏的flag2 提交攻击者隐藏的flag3 环境构建 下载靶机并使用VMware 最后我们在/www/wwwroot/127.0.0.1/lib/目录下的config.inc.php中发现数据库的链接密码——5Sx8mK5ieyLPb84m 随后我们登录数据库并查询数据库表 随即查询x2_ user-app-register 要么就是/version2.php 随后我们直接跟踪第一个数据报文： 我们在响应报文中发现了Linux内核版本以及当前用户名： 那么这里应该是执行了请求包中的某些命令 为version2.php 第六问答 靶机的第六个问题是"提交攻击者隐藏的flag2"，我们随即在HTTP报文中过滤一下flag2，结果发现空空如也： 随机转战至操作系统层面进行排查，在这里我们直接检索一下历史命令记录 ： cat ~/.bash_history 随机看到有对文件的编辑： 从中得到flag2——$flag2 = "flag{bL5Frin6JVwVw7tJBdqXlHCMVpAenXI9In9}"; 第七问答
68900编辑于 2025-01-14 - 来自专栏晨星先生的自留地
黑客技能训练之攻破VulnOS 2
最近迷上了国外的一个CTF训练网站，里面有很多国外的黑客打包好的系统（VulnOS）给安全爱好者们练习黑客技能。 n_id=1&name=2&data=2020，我们想指定name参数进行注入 sqlmap -u “url” -p name sqlmap.py -u “http://192.168.56.104
1.6K30发布于 2018-06-07 - 来自专栏ypw
18级个人训练赛--2
= v.second; if(d+w<dis[id2]){ dis[id2] = d+w; heap.push({dis[id2],id2}); } } } if(dis m/2; flag2 = m-1; } else{ flag1 = m; flag2 = (m-1)/2; } cout i++){ if(a[i][2]! =0&&a[i][2]! =0){ st+=s[i]; a[i][2]=-1; } } } for(ll i=0;i<n;i++){ if(a[i][2]!
42940发布于 2020-09-11 - 来自专栏算法工程师的学习日志
Python基础训练100题-2
# 递归实现 def Fib(n): return 1 if n<=2 else Fib(n-1)+Fib(n-2) print(Fib(int(input()))) # 朴素实现 target import copy a = [1,2,3,4,['a','b']] b = a# 赋值 c = a[:]# 浅拷贝 d = copy.copy(a)# 浅拷贝 e = copy.deepcopy for i in range(1,10): for j in range(1,i+1): print('%d*%d=%2ld '%(i,j,i*j),end='') print import time for i in range(4): print(str(int(time.time()))[-2:]) time.sleep(1) 实例010：给人看的时间 题目
32820编辑于 2022-07-27 - 来自专栏AI那点小事
算法训练 2的次幂表示
将这种2进制表示写成2的次幂的和的形式，令次幂高的排在前面，可得到如下表达式：137=2^7+2^3+2^0 现在约定幂次用括号来表示，即a^b表示为a（b） 此时，137可表示为：2（ 7）+2（3）+2（0） 进一步：7=2^2+2+2^0 （2^1用2表示） 3=2+2^0 所以最后137可表示为：2（2（2）+2+2（0））+2（2+2（0））+2（0） 又如：1315=2^10+2^8+2^5+2+1 所以1315最后可表示为： 2（2（2+2（0））+2）+2（2（2+2（0）））+2（2（2）+2（0））+2+2（0） 输入格式 正整数（1<=n<=20000） 输出格式 符合约定的n的0，2表示（在表示中不能有空格） 样例输入 137 样例输出 2(2(2)+2+2(0))+2( 2+2(0))+2(0) 样例输入 1315 样例输出 2(2(2+2(0))+2)+2(2(2+2(0)))+2(2(2)+2(0))+2+2(0) 提示 用递归实现会比较简单
64620发布于 2020-04-20 - 来自专栏CSDN社区搬运
语音预训练模型wav2vec
因此，Wav2Vec在语音识别、语音合成、语音情感分析等领域有广泛的应用前景。 基本原理 文章提出一种无监督的语音预训练模型 wav2vec，可迁移到语音下游任务。 模型预训练一个简单的多层卷积神经网络，并提出了一种噪声对比学习二分类任务(noise contrastive binary classification task)，从而使得wav2vec可以在大量未标注的数据上进行训练 作者在实验中使用了两种不同的感受野模型, 一种为普通规模, 用来在一般数据集上训练, 另一种则是大规模(wav2vec larqe) 用来在大数据集上训练。 然而，Wav2Vec也面临一些挑战。训练一个高质量的Wav2Vec模型通常需要大量的计算资源和时间。模型的训练过程可能需要在大规模的语音数据上进行，并且可能需要使用分布式计算平台。 例如，Facebook fairseq 源码库提供了Wav2Vec相关的模型和工具，可以方便地训练和使用Wav2Vec模型。
1.3K10编辑于 2024-11-27 - 来自专栏全栈程序员必看
word2vec训练中文词向量
工具包的word2vec训练，使用简单速度快，效果比Google 的word2vec效果好，用tensorflow来跑word2vec模型，16g的内存根本跑不动 gensim word2vec 训练代码如下 ) # 运行命令:输入训练文件目录 python word2vec_model.py data baike.model baike.vector 由于语料太大，不能一次性加载到内存训练，gensim提供了 从训练日志可以看到，其过程是先依次读取每个文件，生成总的vocab词典，用来统计count，训练时用来过滤min_count小于我们制定数量的词，vocab总词典生成后，会依次读入语料进行model训练 ，训练速度非常快。 = KeyedVectors.load_word2vec_format('/tmp/vectors.bin', binary=True) # C binary format 增量训练 # 增量训练
1.4K10编辑于 2022-07-01 - 来自专栏数据科学（冷冻工厂）
从头构建和训练 GPT-2 ｜实战
引言 该项目[1]将引导您完成构建简单 GPT-2 模型的所有步骤，并使用 Taylor Swift 和 Ed Sheeran 的一堆歌曲进行训练。 本文的数据集和源代码将在 Github[2] 上提供。 构建 GPT-2 架构 我们将逐步推进这个项目，不断优化一个基础的模型框架，并在其基础上增加新的层次，这些层次都是基于 GPT-2 的原始设计。 GPT-2 实现。 训练简单的语言模型 现在，我们即将利用我们刚刚加载的数据，来搭建和训练一个基础的语言模型。 在本节中，我们将保持操作的简洁性，采用一个简单的二元语法模型，即基于上一个词来预测下一个词。
34410编辑于 2024-07-16 - 来自专栏AI系统
【AI系统】谷歌 TPUv2 训练芯片
谷歌将这一代 TPU 称之为 “用于训练神经网络的特定领域超级计算机”，那么显而易见，相比于专注于推理场景的 TPU v1，TPU v2 将自己的设计倾向放到了训练相关的场景。 那么我们就来讲讲 TPU v2，那个站在 Attention 背后的超级计算机。TPU v2 业务场景变化推理在训练好的模型结构和参数基础上，一次前向传播得到模型输出过程。 高精度的数据格式：整数 INT8 可以用于推理，但是训练期间需要充分捕捉梯度信息，通常需要 FP16，BF16 和 FP32 等混合精度计算以保证模型能够收敛。TPU v2 vs. 因此，在 TPU v2 的训练过程中，如下图所示，我们将 DDR3 与 Vector Memory 放在一起，并将 DDR3 的位置换成 HBM，从而加速了 20 倍的读写速度。 这些步骤都是在训练过程中，特别是反向传播中经常遇到的矩阵相关场景，TPU v2 因此对于这一部分进行了特殊优化。芯片互联方式在搭建现代超级计算机的时候，芯片之间的互联就变成了至关重要的一件事情。
99110编辑于 2024-11-27 从0开始训练自己的LLM（2）
values return context_vec d_in = inputs.shape[1] # the input embedding size, d=3 d_out = 2 # the output embedding size, d=2 torch.manual_seed(123) sa = SelfAttention(d_in, d_out) print(sa(inputs self.W_query(x) values = self.W_value(x) attn_scores = queries @ keys.transpose(1, 2) queries = queries.transpose(1, 2) values = values.transpose(1, 2) # Compute mha = MultiHeadAttention(d_in, d_out, context_length, 0.0, num_heads=2) context_vecs = mha(batch) 至此，
10110编辑于 2026-03-18- 来自专栏AIUAI
Caffe2 - (十)训练数据集创建
Caffe2 - 训练数据集创建 caffe2 使用二值 DB 存储模型训练的数据，以 key-value 格式保存， key1 value1 key2 value2 key3 value3 故，采用 TensorProtosDBInput Operator 来加载数据，以进行 SGD 训练. core, utils, workspace from caffe2.proto import caffe2_pb2 print("Necessities imported!") ([utils.NumpyArrayToCaffe2Tensor(features[0]), utils.NumpyArrayToCaffe2Tensor(labels[0])]) print('This pb2.TensorProtos() feature_and_label.protos.extend([utils.NumpyArrayToCaffe2Tensor(features[i
78420发布于 2019-02-18 - 来自专栏Lan小站
试题 算法训练 5-2求指数
资源限制 时间限制：1.0s 内存限制：256.0MB 问题描述 已知n和m，打印n^1，n^2，...，n^m。要求用静态变量实现。n^m表示n的m次方。 已知n和m，打印n^1，n^2，...，n^m。要求用静态变量实现。n^m表示n的m次方。（每行显示5个数，每个数宽为12，右对齐） 样例输入 一个满足题目要求的输入范例。 import java.util.*; public class qiuzhishu { /** * @param args * 试题 算法训练 5-2求指数 */ public static
45520编辑于 2022-07-13 - 来自专栏磐创AI技术团队的专栏
基于Doc2vec训练句子向量
目录 Doc2vec原理 代码实现 总结 一. Doc2vec原理 前文总结了Word2vec训练词向量的细节，讲解了一个词是如何通过word2vec模型训练出唯一的向量来表示的。 所以Doc2vec克服了词袋模型中没有语义的去缺点。假设现在存在训练样本，每个句子是训练样本。 Doc2vec中PV-DM模型具体的训练过程和word2vec中的CBOW模型训练方式相同，在之前我写的基于Word2vec训练词向量（一）里有详细介绍，这里就不在重复。 5)加载Doc2vec模型，并开始训练。 总结 Doc2vec是基于Word2vec基础上构建的，相比于Word2vec，Doc2vec不仅能训练处词向量还能训练处句子向量并预测新的句子向量。
2.7K50发布于 2018-07-03 - 来自专栏ypw
【队伍训练2】 AtCoder Beginner Contest 165
A 水题： #include<bits/stdc++.h> using namespace std; int main(){ int k; cin>>k; int a,b; cin>>a>>b; for(int i=1;;i++){ if(i*k > b) { cout<<"NG"<<endl; break; } if(i*k>=a && i*k<=b){ cout<<"OK"<<endl; break;
39420发布于 2020-09-11 - 来自专栏新智元
全面取代Llama 2！Baichuan 2自曝史上最全训练细节
数据 Baichuan 2系列大模型之所以能实现如此傲人的成绩，其中一个原因便是，训练语料规模大、覆盖全，且质量优。 Baichuan 2训练数据不同种类分布 那么，优秀的数据质量获取是如何实现？ 作为一家有搜索基因的公司，百川智能借鉴了之前在搜索领域的经验，将重点放在了数据频率和质量上。 通过将幂律项拟合到给定训练浮点运算次数的损失中，可以预测在2.6万亿token上训练Baichuan2-7B和Baichuan2-13B的损失曲线。 Baichuan 2的开源，是真正的开源 对于学术界来说，是什么阻碍了对大模型训练的深入研究？ 从0到1完整训练一个模型，成本是极其高昂的，每个环节都需要大量人力、算力的投入。 针对这一点，百川智能直接公开了Baichuan 2的技术报告，并详细介绍了Baichuan 2训练的全过程，包括数据处理、模型结构优化、Scaling law、过程指标等。
96980编辑于 2023-09-19 - 来自专栏AINLP
【Github】GPT2-Chinese：中文的GPT2训练代码
推荐一个Github项目：Morizeyao/GPT2-Chinese Chinese version of GPT2 training code, using BERT tokenizer. 作者是AINLP交流群里的杜则尧同学，提供了一份中文的GPT2训练代码，使用BERT的Tokenizer。可以写诗，新闻，小说，或是训练通用语言模型。支持字为单位或是分词模式。支持大语料训练。 ---- GPT2-Chinese Description Chinese version of GPT2 training code, using BERT tokenizer. 中文的GPT2训练代码，使用BERT的Tokenizer。可以写诗，新闻，小说，或是训练通用语言模型。支持字为单位或是分词模式。支持大语料训练。 项目状态 目前项目主要架构已经稳定。 将训练语料以train.json为名放入data目录中。train.json里是一个json列表，列表的每个元素都分别是一篇要训练的文章。
10.6K50发布于 2019-08-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号