- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI科技大本营的专栏
einsum，一个函数走天下
在实现一些算法时，数学表达式已经求出来了，需要将之转换为代码实现，简单的一些还好，有时碰到例如矩阵转置、矩阵乘法、求迹、张量乘法、数组求和等等，若是以分别以 transopse、sum、trace、tensordot 函数就是根据上面的标记法实现的一种函数，可以根据给定的表达式进行运算，可以替代但不限于以下函数： 矩阵求迹：trace 求矩阵对角线：diag 张量（沿轴）求和：sum 张量转置：transopose 矩阵乘法：dot 张量乘法：tensordot 最后，再测试 einsum 与另一个常用的函数 tensordot，首先定义两个四维张量的及 tensordot 函数： 该实现对应的公式为： ? 所以 einsum 函数的实现为： tensordot 也是链接到 BLAS 实现的函数，所以不加 optimize 肯定比不了，最后结果为： 测试了 10 多次，基本上速度一样，einsum 表现好一点的
2.4K20发布于 2019-09-05 - 来自专栏人工智能之数学基础
人工智能之数学基础 线性代数：第五章 张量
3.张量缩并（Contraction）——推广的“乘法”(a)内积（点积）沿指定轴：np.tensordotnp.tensordot(A,B,axes)对A和B的指定轴求和。 经典例子：矩阵乘法是tensordot的特例：展开代码语言：PythonAI代码解释>C=np.tensordot(A,B,axes=([-1],[0]))#A:(m,n),B:(n,p)→C:(m,p )>3阶张量示例：展开代码语言：PythonAI代码解释#A:(2,3,4),B:(4,5,6)#想对A的第2轴（size=4）和B的第0轴（size=4）做缩并C=np.tensordot(A,B,axes 缩并A=np.random.rand(4,5)Z=np.tensordot(X,A,axes=([2],[0]))#(2,3,5)#4.einsum多种操作#转置X_t=np.einsum('ijk-> print("X_mode1shape:",X_mode1.shape)print("Innerproduct:",inner)八、总结概念说明张量=多维数组阶数=维度数基本运算加法、标量乘、广播核心乘法tensordot
70010编辑于 2025-12-17 - 来自专栏null的专栏
注意力FM模型AFM
=1)inner_product = p * qbi_interaction = inner_productattention_temp = tf.nn.relu(tf.nn.bias_add(tf.tensordot ,'relu',kernel_regularizer=l2(self.l2_reg_w))(bi_interaction)self.normalized_att_score = softmax(tf.tensordot attention_output = self.dropout(attention_output, training=training) # training，防止过拟合afm_out = self.tensordot
89830编辑于 2023-01-16 - 来自专栏null的专栏
注意力FM模型AFM
inner_product = p * q bi_interaction = inner_product attention_temp = tf.nn.relu(tf.nn.bias_add(tf.tensordot relu',kernel_regularizer=l2(self.l2_reg_w))(bi_interaction) self.normalized_att_score = softmax(tf.tensordot attention_output = self.dropout(attention_output, training=training) # training，防止过拟合 afm_out = self.tensordot
68940编辑于 2023-02-02 - 来自专栏DeepHub IMBA
用jax加速批量线性代数运算，最小的代码更改，显著的速度提升
我最近遇到过这样的情况:在实现一个概率矩阵分解(PMF)推荐系统时，我必须将许多对矩阵U和V.T相乘，我的jupyte内核在调用numpy.tensordot来实现我的目标时崩溃了。
70530发布于 2021-07-01 - 来自专栏应兆康的专栏
100个Numpy练习【5】
(★★★) (提示: np.tensordot) # Author: Stefan van der Walt p, n = 10, 20 M = np.ones((p,n,n)) V = np.ones ((p,n,1)) S = np.tensordot(M, V, axes=[[0, 2], [0, 1]]) print(S) # It works, because: # M is (p,n,n)
1.7K120发布于 2018-03-21 - 来自专栏应兆康的专栏
100个Numpy练习【5】
(★★★) (提示: np.tensordot) # Author: Stefan van der Walt p, n = 10, 20 M = np.ones((p,n,n)) V = np.ones ((p,n,1)) S = np.tensordot(M, V, axes=[[0, 2], [0, 1]]) print(S) # It works, because: # M is (p,n,n)
2K100发布于 2018-03-01 - 来自专栏自然语言处理
TensorFlow实现Attention机制原理介绍论文阅读代码实现
# the shape of `v` is (B,T,D)*(D,A)=(B,T,A), where A=attention_size v = tf.tanh(tf.tensordot # For each of the timestamps its vector of size A from `v` is reduced with `u` vector vu = tf.tensordot
8.9K100发布于 2018-06-13 - 来自专栏ShowMeAI研究中心
Python数据分析 | Numpy与高维数组操作
在一般情况下，使用np.tensordot(a,b,axis=1)就可以，但在更复杂的情况下，einsum速度更快，读写更容易。
1.6K41编辑于 2022-02-25 - 来自专栏小七的各种胡思乱想
CTR学习笔记&代码实现5-深度ctr模型 DeepCrossing -> DCN
) # (batch,feature_size*feature_size) ->(batch, feature_size) interaction = tf.tensordot # x0 * (xl * w) # (batch, 1, feature_size) * (feature_size) -> (batch,1) transform = tf.tensordot
2.6K111发布于 2020-05-20 - 来自专栏人工智能LeadAI
TensorFlow实现Attention机制
timestamps; 17# the shape of `v` is (B,T,D)*(D,A)=(B,T,A), where A=attention_size 18v = tf.tanh(tf.tensordot 19# For each of the timestamps its vector of size A from `v` is reduced with `u` vector 20vu = tf.tensordot
1.1K30发布于 2018-07-30 - 来自专栏自然语言处理
斯坦福tensorflow教程-实例代码简单代码关于占位符 placeholder与feed_dictvariable 变量
, name='b') with tf.Session() as sess: print(sess.run(tf.multiply(a, b))) print(sess.run(tf.tensordot
70230发布于 2018-07-04 - 来自专栏信数据得永生
Theano 中文文档 0.9 - 2. 发行说明
更快的batched_tensordot并使其在GPU上工作。 SoftmaxGrad grad 通过CorrMM在GPU上进行3D转换 CPU Max Pool支持padding和strides!
59620编辑于 2022-12-01 - 来自专栏王的机器
盘一盘 Python 特别篇 23 - 爱因斯坦求和 einsum
上述操作和 np.tensordot( A, B, axes=([0,1],[1,0]) ) 等效。 np.tensordot( A, B, axes=([0,1],[1,0]) ) array([[4400., 4730.], [4532., 4874.], [4664., NumPy 包中的 einsum 可以替代如下常用的运算， 矩阵求迹: trace 求矩阵对角线: diag 张量（沿轴）求和: sum 张量转置: transopose 矩阵乘法: dot 张量乘法: tensordot
2.6K20编辑于 2022-12-18 - 来自专栏自然语言处理
斯坦福tensorflow教程(二) tensorflow相关运算1.认识下TensorBoard2.常量op3. 数学运算数据类型
sess.run(tf.multiply(a, b))) ⇒ [20 60] # element-wise multiplication print(sess.run(tf.tensordot
97660发布于 2018-06-14 - 来自专栏AI 创作日记
AI 创作日记 | 当新零售遇见 MoE 架构：DeepSeek 模型设计的商业启示
expert_outputs = [expert(inputs) for expert in self.experts] # 加权聚合专家输出 return tf.tensordot
50820编辑于 2025-04-02 - 来自专栏机器之心
教程 | 如何通过PyTorch上手Tensor Comprehensions？
group-convolutions、strided group-convolutions、indexing、Embedding (lookup table)、small-mobilenet、softmax、tensordot
1.5K70发布于 2018-05-08 - 来自专栏ATYUN订阅号
NumPy中einsum的基本介绍
如函数dot和inner经常链接到BLAS例程可以超越einsum在速度方面，tensordot函数也可以与之相比。
13K30发布于 2018-12-07 - 来自专栏bit哲学院
python学习笔记（三）- numpy基础：array及matrix详解
std', 'str', 'str0', 'str_', 'string_', 'subtract', 'sum', 'swapaxes', 'sys', 'take', 'tan', 'tanh', 'tensordot
75430发布于 2021-01-07 - 来自专栏福大大架构师每日一题
PyTorch v2.8.0 正式发布：量化推理、编译优化与分布式检查点等多项重大更新
RuntimeError: a view of a leaf Variable that requires grad is being used in an in-place operation • 对 tensordot torch.empty((2, 4), requires_grad=True) c = torch.empty((2, 2), requires_grad=True) # 不报错，但无法计算 c 的梯度 torch.tensordot bmm、sum / prod 归约、算术运算、二元内核、SDPA、linear 以及 cumsum / cumprod 的性能 Python 前端 • 优化了 SVE 嵌入的性能 • 提升了 torch.tensordot
89510编辑于 2025-12-18
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号