- 综合排序
- 最热优先
- 最新优先
- 来自专栏人工智能
Top-K采样的智慧选择
什么是top-k采样？为什么只考虑最可能的几个选项就够了？一、为什么需要top-k采样想象一下你正在玩一个猜词游戏。每次轮到你时，系统会给你成千上万个可能的词汇选择，但其中大部分都是完全不相关的。 二、什么是top-k采样top-k采样是一种文本生成策略，其核心思想很简单：排序：对于当前要生成的下一个词，模型会为词汇表中的每个词计算一个概率筛选：只保留概率最高的前k个词（这就是"top-k"的含义 三、top-k采样如何工作工作原理详解top-k采样的工作流程可以分为以下几个步骤：第一步：获取完整概率分布模型首先会为词汇表中的每个词计算一个概率值，形成一个完整的概率分布。 ❌无法动态适应不同上下文的不确定性五、top-k采样的实际应用top-k采样在实际应用中非常广泛：聊天机器人：让对话更加自然多变，避免重复回答内容创作：生成多样化的文章、故事或诗歌代码生成：在保持语法正确的同时增加实现方式的多样性机器翻译 六、top-k采样的发展与演进虽然top-k采样解决了传统随机采样的很多问题，但它也有自身的局限性。最主要的挑战是固定的k值无法适应不同上下文的不确定性。
13910编辑于 2026-03-03 - 来自专栏P_M_P学习笔记
Top-K问题
如果想要时最后得到的k个元素有序，还可以像下面这样，每次将堆顶元素与最后一个元素进行交换，再把堆看作删除了最后一个元素（实际上并没有），然后再对堆进行向下调整：
22610编辑于 2024-01-18 - 来自专栏LeetCode
BFPRT算法&&TOP-K问题
一、BFPRT算法 在一大堆数中求其前k大或前k小的问题，简称TOP-K问题。 而目前解决TOP-K问题最有效的算法即是BFPRT算法，其又称为中位数的中位数算法，该算法由Blum、Floyd、Pratt、Rivest、Tarjan提出，最坏时间复杂度为O(n)O(n)。 在首次接触TOP-K问题时，我们的第一反应就是可以先对所有数据进行一次排序，然后取其前k即可，但是这么做有两个问题： （1）：快速排序的平均复杂度为O(nlogn)O(nlogn)，但最坏时间复杂度为
1.1K01发布于 2019-02-24 - 来自专栏全栈程序员必看
负采样_欠采样
这个时候我们就需要用到负采样（negative sampling）的技术。 下面通过Skip-Gram来讲解负采样技术。 为了提升训练的速度，减少更新权重的数量，我们就需要对节点进行负采样。首先来了解两个概念 postive word 和 negative word。 负采样的目的就是在 negative word 中，找出一部分节点进行权重的更新，而不需要全部都更新。 负采样的本质：每次让一个训练样本只更新部分权重，其他权重全部固定；减少计算量；（一定程度上还可以增加随机性） 参考1 参考2 参考3 发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn
73720编辑于 2022-08-03 采样
采样的作用： 采样的本质是对随机现象的模拟，根据给定的概率分布，来模拟产生一个对应的随机事件。采样因此可以让人们对随机事件及其产生过程有更直观的认识。 比如，通过二项分布采样，可以模拟抛硬币出现正面还是反面，这个随机事件，进而模拟产生一个多次抛硬币出现的结果序列，或者计算多次抛硬币后出现正面的频率。 采样所得到的样本集本身也可以看作是一种非参数模拟，即用较少量的样本点来近似总体分布，并刻画总体中的不确定性。从这个角度来说，采样也是一种信息降维，可以用于模型训练，在总体分布有无穷多个点的情况下。 对当前数据进行重采样，如自助法和刀切法，可以充分利用已有数据，挖掘更多信息，可以通过多次重采样来估计统计量的偏差，方差等。 而且还可以通过重采样，可以保持特定的信息下，有意识地改变样本分布，以更适应后续模型训练和学习。例如用重样本来处理分类模型的训练样本不均衡问题。
37610编辑于 2024-09-10- 来自专栏全栈程序员必看
过采样和欠采样_欠采样有几种情况
一、采样定理 只要采样频率高于信号最高频率的两倍，就可以从采样信号中恢复出原始信号。 二、过采样和欠采样 1、采样频率高于信号最高频率的两倍，这种采样被称为过采样。 2、采样频率低于信号最高频率的两倍，这种采样被称为欠采样。 三、基带信号和频带信号的采样 1、对基带信号进行欠采样是无法从采样信号中恢复出原始信号的，因此基带信号的采样都是过采样。 2、对频带信号进行采样可以是过采样，也可以是欠采样。只要保证采样频率高于原始信号带宽的两倍，就可以从欠采样信号中恢复出原始信号。 “低通采样定理”可简称“采样定理”在进行模拟/数字信号的转换过程中，当采样频率fs.max大于信号中最高频率fmax的2倍时(fs.max>=2fmax)，采样之后的数字信号完整地保留了原始信号中的信息 “低通采样定理”可简称“采样定理”在进行模拟/数字信号的转换过程中，当采样频率fs.max大于信号中最高频率fmax的2倍时(fs.max>=2fmax)，采样之后的数字信号完整地保留了原始信号中的信息
5K50编辑于 2022-11-01 - 来自专栏Java架构师必看
python 下采样和上采样
前言 由于工作数据量较大，训练模型很少直接单机python，一般都采用SparkML，最近把SparkML的工作使用python简单的写了一下，先写个上下采样，最终目的是为了让正负样本达到均衡（有人问： /test.csv') # 获取正样本的数量 z = data[data['label'] == 1] # 获取负样本的数量 f = data[data['label'] == 0] 上采样 就是不断复制样本少的数据达到和样本多的数据平衡 frac = int(len(f) / len(z)) # 创建一个数据结构和之前一致，但空的dataframe zcopy = z.iloc[0:0].copy() # 上采样就是复制少量的样本直到和多量的达到平衡 = frac: zcopy = zcopy.append(z) sample_data = pd.concat([zcopy,f]) 查看采样的结果： 下采样 下采样就是从多量的样本中抽取一部分数据直到和少量的样本达到平衡 利用dataframe的sample方法 frac = float(len(z) / len(f)) # 下采样就是从多量的样本中抽取一部分数据直到和少量的样本达到平衡 sample_data = pd.concat
1.7K10编辑于 2022-06-06 - 来自专栏我的博客
堆排序和TOP-K问题
调试看一下： 2.TOP-K问题 TOP-K问题：即求数据结合中前K个最大的元素或者最小的元素，一般情况下数据量都比较大。 比如：专业前10名、世界500强、富豪榜、游戏中前100的活跃玩家等。 对于Top-K问题，能想到的最简单直接的方式就是排序，但是：如果数据量非常大，排序就不太可取了(可能数据都不能一下子全部加载到内存中)。最佳的方式就是用堆来解决，基本思路如下： 1.
11210编辑于 2025-12-22 - 来自专栏全栈程序员必看
图像降采样原理_降采样滤波
from=search&permalink=1cb3111d_6ee9587 1、先说说这两个词的概念： 降采样，即是采样点数减少。 对于一幅N*M的图像来说，如果降采样系数为k,则即是在原图中 每行每列每隔k个点取一个点组成一幅图像。降采样很容易实现. 升采样，也即插值。对于图像来说即是二维插值。 2、实现 其实在matlab中自带升采样函数(upsample)和降采样函数(downsample)，读者可以查找matlab的帮助文件详细了解这两个函数。 % 输入：采样图片 I, 升采样系数N % 输出：采样后的图片Idown % author:gengjiwen date:2015/5/10 %======= % 输入：采样图片 I, 降采样系数N % 输出：采样后的图片Idown % author:gengjiwen date:2015/5/10 %=======
2.6K10编辑于 2022-09-20 - 来自专栏谓之小一
MCMC采样和M-H采样
下面，我们来总结下MCMC的采样过程 ? 上述过程便是MCMC采样理论，但很难在实际应用，为什么呢? 因为α可能非常小，比如0.1，导致大部分采样值都被拒绝转移，采样效率很低。 可能我们采样可上百万次，马尔科夫链还没有收敛。实际应用中，我们可以通过M-H采样方法进行采样。 3.M-H采样 M-H采样解决了MCMC采样接受率过低的问题，我们首先回到MCMC采样的细致平稳条件 ? 采样效率过低的原因是α(i,j)太小，比如0.1，α(j,i)为0.2，即 ? 通过上述的转换，我们便可在实际应用中使用M-H算法进行采样，M-H采样算法过程如下所示 ? 4.M-H采样总结 M-H采样解决了使用蒙特卡罗方法需要的任意概率分布样本集的问题，因此在实际生产环境中得到广泛应用。
1.3K20发布于 2019-08-14 - 来自专栏工程师看海
过采样系列一：采样定理与过采样率
采样速率是ADC重要参数之一，围绕采样速率，有一条著名的定理：奈奎斯特采样定理。 采样定理： 只要采样频率大于或等于有效信号最高频率的两倍，采样值就可以包含原始信号的所有信息，被采样的信号就可以不失真地还原成原始信号。 为方便介绍，我们统称之为采样定理。 在详细介绍采样定理之前，我们一定要知道一个非常有趣的频率现象：‘任何模拟信号，在离散化后，在频率上都会按照采样率周期性延拓。’ 而这里面就隐含着著名的采样定理。 同样的，我们从时域和频域分别看下采样定理的理解。 采样定理与过采样率 上文中的fa是信号的带限（信号的最大频率范围），2*fa是采样定理的基本要求；M*2*fa中，M就是过采样率，过采样率是对‘采样定理的最低采样频率’而言的。
3.2K30编辑于 2022-06-23 - 来自专栏谓之小一
Gibbs采样
在MCMC采样和M-H采样中，我们讲到M-H采样已经可以很好的解决蒙特卡罗方法需要的任意概率分布的样本集问题。 2.二维Gibbs采样 根据上面提到的状态转移矩阵，我们就可以得到二维Gibbs采样，这个采样需要两维度之间的条件概率，具体过程如下 ? 用下图可以直观的看出，采样是在两个坐标轴上不断变换的。 当然，坐标轴轮换不是必须的，也可以每次随意选择一个坐标轴进行采样。 ? 3.多维Gibbs采样 ? 4.Gibbs采样总结 由于Gibbs采样在高维特征时的优势，目前通常意义上的MCMC采样都是用Gibbs采样。 Gibbs采样要求数据至少有两个维度，一维概率分布的采样无法用Gibbs采样实现，这时可以用M-H方法采样。
92740发布于 2019-08-14 - 来自专栏Pseudoyu
COMP7801 Topic 4 Top-k
Search Methods Rank aggregation Index-based methods Top-k Query Given a set of objects (e.g., relational more complex query plan Incremental retrieval of objects with highest scores (k is not predefined) Top-k s WHERE h.location=s.location ORDER BY h.price + 10 ∗ s.tuition LIMIT 5 Probabilistic/approximate top-k retrieval Random and/or sorted accesses at ranked inputs Top-k Query Evaluation Most solutions assume Maintain top-k objects seen so far.
51520编辑于 2023-04-11 - 来自专栏Spark学习技巧
如何解决TOP-K问题
最近在开发一个功能:动态展示的订单数量排名前10的城市,这是一个典型的Top-k问题，其中k=10,也就是说找到一个集合中的前10名。 实际生活中Top-K的问题非常广泛，比如：微博热搜的前100名、抖音直播的小时榜前50名、百度热搜的前10条、博客园点赞最多的blog前10名，等等如何解决这类问题呢？ 如果用一句话来总结top-k问题：小顶堆用来求最大值,堆顶保存着最小值,判断如果堆顶的元素小于待遍历数组的元素，把当前元素poll出去，然后把待遍历数组元素添加进去;大顶堆用来求最小值,堆顶保存着最大元素 三：总结 在实际中遇见的TOP-K问题有哪些，以及优先级队列PriorityQueue的基本原理介绍，接着由易到难的讲解了如何通过优先级队列PriorityQueue来解决TOP-k问题，这两个问题都比较经典
69520编辑于 2022-01-12 - 来自专栏图像处理与模式识别研究所
均值采样
import numpy as np image=data.coffee() print(image.shape)#显示图像原始大小 print(type(image))#显示图像类型 ratio=20#设置采样比率 k in range(image1.shape[2]): delta=image[i*ratio:(i+1)*ratio,j*ratio:(j+1)*ratio,k]#获取需要采样的图像块 image1[i,j,k]=np.mean(delta)#计算均值，并存入结果图像 plt.imshow(image1)#打印采样后的图像 plt.show() 算法：均匀采样是对图像空间位置的数字化 根据所需分辨率MxN，将图像均匀分为MxN块，然后对每个图像块，使用采样函数S，求得其采样结果值。常用的采样函数是求区域平均值。 然后再对一维扫描线信号按一定间隔采样得到离散信号，即按先沿垂直方向采样，再沿水平方向采样这两个步骤完成采样操作。
63010编辑于 2022-05-28 - 来自专栏技术圈
Gibbs采样
版权声明：本文为博主原创文章，遵循 CC 4.0 by-sa 版权协议，转载请附上原文出处链接和本声明。
86010发布于 2019-08-21 - 来自专栏图像处理与模式识别研究所
上下采样
import cv2 o=cv2.imread('C:/Users/xpp/Desktop/Lena.png')#原始图像 down=cv2.pyrDown(o)#图像进行向下采样 up=cv2.pyrUp (down)#图像进行向上采样 diff=up-o#构造diff图像，查看up与o的区别 print("o.shape",o.shape) print("up.shape",up.shape) cv2. ，尺寸变为原来的4倍；向下采样后，尺寸变为原来的1/4，一幅图像在先后经过向下采样和向上采样或者先后经过向上采样和向下采样，所得到的图像尺寸大小和原始图像一致。 =None, dstsize=None, borderType=None) src表示输入图像 dst表示输出图像 dsize表示输出图像的大小 borderType表示图像边界的处理方式 注意：向上采样和向下采样不是互逆运算 在经过两次采样后，得到的结果图像与原始图像的大小一样，但是二者的像素值不一样，无法恢复到原始状态。
99110编辑于 2022-05-28 - 来自专栏全栈程序员必看
运放电流检测采样电路电压采样电路
输入输出电压检测 输入输出电压通过运放LMC6482采用差分电路将输出电压按比例缩小至ADC能够采样的范围，再使用ADC采样，软件解算出输出电压。 输入电压采样是通过MCU内部运放按比例缩小在送到ADC进行采样的，具体电路如图3.5.1所示。输出电压检测电路如图3.4.1所示。 输出电流检测➢ 输出电流检测电路通过运放LMC6482采样差分放大电路实现；采样电阻放在低端，若采样电阻放在高端，会有较大的共模电压使采样电流不准确，采样电阻为10m，由于采样电阻较小，采样电阻上的压降较小 ，不利于直接采样，需要放大后再采样；输出电流检测电路如图3.4.2所示。 /R6； 而又有： V+ = I * R8； 所以有： I =V+ / R8 = VOUT * R6/(R3 + R6)/R8； 电流就这样转换出来了，调整好几个电阻的阻值，Vout 用单片机的ADC采样即可
6.6K31编辑于 2022-09-05 - 来自专栏微卡智享
C++ OpenCV图像上采样和降采样
其通过梯次向下采样获得，直到达到某个终止条件才停止采样。金字塔的底部是待处理图像的高分辨率表示，而顶部是低分辨率的近似。我们将一层一层的图像比喻成金字塔，层级越高，则图像越小，分辨率越低。 ? 两者的简要区别：高斯金字塔用来向下降采样图像，而拉普拉斯金字塔则用来从金字塔底层图像中向上采样重建一个图像。 该函数执行采样步骤的高斯金字结构虽然它实际上可以用来构建拉普拉斯金字塔。首先，它下采样原图像的行和列，然后用相同的内核卷积的结果作为pyrdown()乘以4。 然后，它再下采样图像的行和列。 先上干货,演示效果 ? 代码里面我们通过了按键来控制效果图采用的上采样还是下采样 ? ? 执行效果 按了U键后效果 ? 按了D键效果 ? ---- -END-
2.3K10发布于 2019-07-24 - 来自专栏机器学习算法原理与实践
MCMC(三)MCMC采样和M-H采样
MCMC(一)蒙特卡罗方法 MCMC(二)马尔科夫链 MCMC(三)MCMC采样和M-H采样 MCMC(四)Gibbs采样 在MCMC(二)马尔科夫链中我们讲到给定一个概率平稳分布$\pi 而只要解决这个问题，我们就可以找到一种通用的概率分布采样方法，进而用于蒙特卡罗模拟。本篇我们就讨论解决这个问题的办法：MCMC采样和它的易用版M-H采样。 1. M-H采样 M-H采样是Metropolis-Hastings采样的简称，这个算法首先由Metropolis提出，被Hastings改进，因此被称之为Metropolis-Hastings采样或 M-H采样 M-H采样解决了我们上一节MCMC采样接受率过低的问题。 Gibbs采样解决了上面两个问题，因此在大数据时代，MCMC采样基本是Gibbs采样的天下，下一篇我们就来讨论Gibbs采样。 （欢迎转载，转载请注明出处。
97650发布于 2018-08-14
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号