如何在PyTorch中检索跨多行的topk值及其各自的索引？

Question

我有这样的张量：

tensor([[[ 7.3478, -1.8058, -2.6140,  ..., -0.2719, -0.3171, -0.4737]],

    [[ 7.3606, -1.8269, -1.9825,  ..., -0.8680,  0.4894,  0.2708]]],
   grad_fn=<CatBackward>)

我希望获得这两行的topk值。目前，我能做的是：

ipdb>  stacked.topk(2)
torch.return_types.topk(
values=tensor([[[14.3902, 14.3039]],

        [[14.8927, 12.1973]]], grad_fn=<TopkBackward>),
indices=tensor([[[60, 12]],

        [[12, 23]]]))

从输出中可以看到，从两行中都检索了前2个值。我想得到如下输出：

14.8927 that maps to index 12
14.3902 that maps to index 60

注意，如果前两个值位于第一行，它将只返回第一行的值，而完全忽略第二行，反之亦然。

在这方面需要帮助。

做我想说的事情的一种非常麻烦的方法是:但这是非常麻烦的，并且在BEAM_WIDTH为2的情况下显示出来：

BEAM_WIDTH = 2
top_k = stacked.data.topk(BEAM_WIDTH, dim=2)

v1, i1 = top_k[0][0][0], top_k[1][0][0]
v2, i2 = top_k[0][1][0], top_k[1][1][0]

i = j = 0
final = []
for _ in range(BEAM_WIDTH):
    if v1[i] >= v2[j]:
        final.append((v1[i], i1[i]))
        i += 1
    else:
        final.append((v2[j], i2[j]))
        j += 1

Answer 1

重复指数

我相信这就是你想要的。首先，您将在扁平列表中找到topk元素，然后将这些索引转换回行相对格式。

topk_values, linear_indices = stacked.flatten().topk(2)
topk_indices = linear_indices % stacked.shape[-1]

唯一指数

前面的方法没有强制执行唯一的索引。如果需要唯一的索引，那么可以在行之间找到最大值，然后在其中找到topk。

topk_values, topk_indices = stacked.max(dim=0)[0].flatten().topk(2)

示例

为了演示这两种方法之间的区别，假设您有

stacked = torch.tensor([[[11,8,0]],
                        [[10,9,0]]])

在重复索引的情况下，您将以

topk_values=[11, 10]
topk_indices=[0, 0]

在唯一索引的情况下，您将得到

topk_values=[11, 9]
topk_indices=[0, 1]