mindspore.ops
mindspore.ops提供了大量的function接口,包括神经网络函数、数学运算函数、Tensor操作函数、Parameter操作函数、微分函数等。
动态shape的支持情况详见 ops接口动态shape支持情况 。
模块导入方法如下:
from mindspore import ops
MindSpore中 mindspore.ops 接口与上一版本相比,新增、删除和支持平台的变化信息请参考 mindspore.ops API接口变更 。
Tensor操作函数
Tensor创建
接口名 |
概述 |
支持平台 |
创建一个与输入的数据类型和shape都相同的tensor,值为对应数据类型能表达的最小值。 |
|
|
返回一个主对角线上元素为1,其余元素为0的tensor。 |
|
|
创建tensor,用指定值填充。 |
|
|
创建tensor,用指定值填充。 |
|
|
返回一个用指定值填充的tensor,shape与 input 相同。 |
|
|
创建一个steps个元素的,在[start, end]区间内均匀分布的一维tensor。 |
|
|
返回一个 steps 个元素的,在 [ |
|
|
拷贝tensor到目标设备,包含同步和异步两种方式,默认是同步方式。 |
|
|
生成一个新的tensor,索引 indices 表示的位置上取值 on_value ,其他所有位置上取值 off_value 。 |
|
|
创建一个值全为1的tensor。 |
|
|
返回一个shape与输入相同,值为1的tensor。 |
|
|
返回一个在 [ start, end ) 区间内,步长为 step 的tensor。 |
|
|
返回一个在 [ start, end ) 区间内,步长为 step 的tensor。 |
|
|
创建一个值全为0的tensor。 |
|
|
返回一个shape与输入相同,值为0的tensor。 |
|
|
逐元素进行Heaviside阶跃函数运算。 |
|
随机生成函数
接口名 |
概述 |
支持平台 |
根据伯努利分布生成随机数(0或1)。 |
|
|
根据伽马分布生成随机数。 |
|
|
根据拉普拉斯分布生成随机数。 |
|
|
生成一个多项式分布的tensor。 |
|
|
生成一个多项式分布的tensor。 |
|
|
基于输入的 size 和 dtype , 返回一个tensor,其元素为服从均匀分布的 |
|
|
返回一个与输入shape相同的tensor,其元素为服从均匀分布的 |
|
|
返回一个tensor,其元素为 [ low , high ) 区间的随机整数。 |
|
|
返回一个与输入shape相同的tensor,其元素为 [ low , high ) 区间的随机整数。 |
|
|
基于输入的 size 和 dtype , 返回一个tensor,其元素为服从标准正态分布的随机数字。 |
|
|
返回一个与输入shape相同的tensor,其元素为服从标准正态分布的随机数。 |
|
|
根据伽马分布生成随机数。 |
|
|
从指定均值为 rate 的泊松分布中,生成指定shape的随机样本。 |
|
|
生成从 0 到 n-1 的整数随机排列。 |
|
|
根据标准Laplace(mean=0, lambda=1)分布生成随机数。 |
|
|
根据标准正态(高斯)随机数分布生成随机数。 |
|
|
生成服从均匀分布的随机数。 |
|
Array操作
接口名 |
概述 |
支持平台 |
返回一个tensor,包含输入tensor所有非零元素的位置。 |
|
|
用块划分批次维度,并将这些块交错回空间维度。 |
|
|
统计一个输入tensor中每个非负整数出现的次数。 |
|
|
基于输入tensor创建块对角矩阵。 |
|
|
将输入的shape广播到目标shape。 |
|
|
在指定轴上拼接输入tensor。 |
|
|
将shape为 |
|
|
沿着指定轴将输入tensor切分成多个子tensor。 |
|
|
将多个tensor沿着水平方向维度堆叠成一个tensor。 |
|
|
|
||
逐元素计算输入tensor的共轭。 |
|
|
计算输入tensor指定轴上的非零元素的数量。 |
|
|
返回输入tensor的深拷贝。 |
|
|
返回一个用输入tensor作为对角线,其余元素为 |
|
|
如果input是一维tensor,则返回input作为对角线的二维tensor,如果input是大于等于二维的tensor,则将input展开后作为对角线的二维tensor。 |
|
|
返回输入tensor在指定维度上的对角线视图。 |
|
|
将源tensor的值嵌入到输入tensor的对角线中(基于 dim1 和 dim2 指定的二维平面)。 |
|
|
创建一个tensor,其特定二维平面(由 dim1 和 dim2 指定)的对角线由输入tensor填充,其余位置填充为 |
|
|
返回输入tensor的shape。 |
|
|
沿第三轴分割输入tensor。 |
|
|
将多个tensor沿着第三维度进行堆叠。 |
|
|
基于爱因斯坦求和约定(Einsum)符号,沿指定维度计算输入tensor元素的乘积之和。 |
|
|
为输入tensor新增额外的轴。 |
|
|
沿指定维度翻转tensor中元素。 |
|
|
向左/向右翻转输入tensor。 |
|
|
向上/向下翻转输入tensor。 |
|
|
返回输入tensor在指定轴及指定索引上对应元素的切片。 |
|
|
获取指定轴的元素。 |
|
|
根据指定维度和索引获取元素。 |
|
|
根据指定索引获取输入tensor的切片。 |
|
|
将输入tensor水平分割成多个子tensor。 |
|
|
将多个tensor沿着水平方向堆叠。 |
|
|
按照指定轴和索引将输入 y 的元素加到输入 x 中。 |
|
|
按照指定轴和索引用输入 value 填充输入 x 的元素。 |
|
|
根据指定轴和索引对输入tensor进行选取,返回一个新tensor。 |
|
|
根据索引将 x 加 v 。 |
|
|
根据指定轴和索引在输入 var 中的对应位置加 updates 。 |
|
|
根据索引将 x 减 v 。 |
|
|
根据索引将 x 更新为 v 。 |
|
|
判断输入tensor是否包含 |
|
|
在掩码为 |
|
|
返回一个一维tensor,它根据掩码对输入tensor进行索引。 |
|
|
从一维输入生成多维坐标网格。 |
|
|
将输入tensor的两个轴调换位置。 |
|
|
将输入tensor的两个维度调换位置。 |
|
|
沿指定轴 axis ,从 start 位置截取长度为 length 的tensor。 |
|
|
将 input 中的 NaN 、正无穷大和负无穷大值分别替换为 nan 、 posinf 和 neginf 指定的值。 |
|
|
忽略NaN值,按指定轴计算输入tensor的平均值。 |
|
|
忽略NaN值,按指定轴计算输入tensor的中值和索引。 |
|
|
忽略NaN值,按指定轴计算输入tensor的和。 |
|
|
返回符合正态(高斯)分布的随机tensor。 |
|
|
返回所有非零元素下标位置。 |
|
|
返回tensor的元素的总数量。 |
|
|
按照指定轴重排输入tensor。 |
|
|
计算输入tensor中每个元素二进制的1比特数量。 |
|
|
返回输入tensor的秩。 |
|
|
在指定轴上复制输入tensor的元素,类似 |
|
|
在指定轴上复制输入tensor的元素,类似 |
|
|
按指定 shape ,对输入tensor进行重排。 |
|
|
对输入序列进行部分反转。 |
|
|
按维度移动tensor的元素。 |
|
|
|
||
根据指定索引将 src 中的值更新到 input 中并返回输出。 |
|
|
根据指定的索引将更新值散布到新tensor上。 |
|
|
根据条件判断tensor中的元素的值,来决定输出中的相应元素是从 input (如果元素值为True)还是从 other (如果元素值为False)中选择。 |
|
|
将 src 中的值散布到 input 指定轴 axis 的指定位置 index 上。 |
|
|
返回一个表示每个单元的前N个位置的掩码tensor,内部元素数据类型为bool。 |
|
|
返回输入tensor的shape。 |
|
|
沿着第一维随机打乱tensor。 |
|
|
计算输入tensor的元素总数。 |
|
|
根据指定shape对输入tensor进行切片。 |
|
|
沿指定轴将源tensor嵌入到切片后的目标tensor。 |
|
|
对输入tensor指定轴的元素进行排序。 |
|
|
将空间维度分块,并在批次维度重排tensor。 |
|
|
计算输入张量稀疏段的平均值。 |
|
|
沿指定轴将输入tensor切分成多个子tensor。 |
|
|
删除输入tensor中长度为1的轴。 |
|
|
在指定轴上对输入的tensors进行堆叠。 |
|
|
对输入tensor根据步长和索引进行切片提取。 |
|
|
计算tensor在指定维度上元素的和。 |
|
|
交换tensor的两个轴。 |
|
|
交换tensor的两个维度。 |
|
|
返回一个新tensor,根据指定索引和更新值对 input_x 进行加法更新。 |
|
|
返回一个新tensor,根据指定索引和更新值对 input_x 进行除法更新。 |
|
|
返回一个新tensor,根据指定索引和更新值对 input_x 进行最大值更新。 |
|
|
返回一个新tensor,根据指定索引和更新值对 input_x 进行最小值更新。 |
|
|
根据指定索引和更新值对 input_x 进行乘法更新。 |
|
|
返回一个新tensor,根据指定索引和更新值对 input_x 进行减法更新。 |
|
|
返回一个新tensor,根据指定索引和更新值对 input_x 中的元素进行指定操作(替换或相加)。 |
|
|
根据指定索引或份数,将输入tensor拆分成多个子tensor。 |
|
|
通过复制 dims 次输入tensor中的元素来创建新tensor。 |
|
|
将指定对角线上方的元素设置为0。 |
|
|
将指定对角线下方的元素设置为0。 |
|
|
根据指定的维度排列顺序对输入tensor进行维度转置。 |
|
|
移除tensor的指定维度,返回一个沿该维度所有切片的元组。 |
|
|
对输入tensor中元素去重。 |
|
|
对输入tensor中每组连续且重复的元素去重,仅保留首个元素。 |
|
|
分段计算输入tensor的最大值。 |
|
|
分段计算输入tensor的最小值。 |
|
|
分段计算输入tensor的乘积。 |
|
|
分段计算输入tensor的和。 |
|
|
在输入tensor的指定维度上增加一维。 |
|
|
按指定轴对输入tensor进行拆分。 |
|
|
返回一个最后一维大小为2的实数tensor,由输入tensor中复数元素的实部和虚部组成。 |
|
|
根据 indices_or_sections 将至少有两维的输入tensor垂直分割成多个子tensor。 |
|
|
将多个tensor沿着垂直方向进行堆叠。 |
|
|
返回一个tensor,其中元素根据 condition 从 input 或 other 中选择。 |
|
|
按指定维度计算两个输入tensor的叉积。 |
|
|
返回一个tensor,其中按指定轴计算每个子tensor的 p 范数小于等于 maxnorm。 |
|
类型转换
接口名 |
概述 |
支持平台 |
转换输入tensor的数据类型。 |
|
|
判断输入对象是否为 |
|
|
将标量转换为指定数据类型的tensor。 |
|
|
将tuple转换为tensor。 |
|
梯度剪裁
接口名 |
概述 |
支持平台 |
通过权重梯度总和的比率来裁剪多个tensor的值。 |
|
|
将输入的Tensor值裁剪到指定的最小值和最大值之间。 |
|
|
基于范数对输入Tensor进行裁剪。 |
|
数学运算函数
逐元素运算
接口名 |
概述 |
支持平台 |
逐元素计算输入tensor的绝对值。 |
|
|
|
|
|
逐元素计算列表中各个tensor的和。 |
|
|
逐元素计算输入tensor的反余弦。 |
|
|
|
|
|
逐元素计算输入tensor的反双曲余弦。 |
|
|
逐元素计算两个输入tensor的和。 |
|
|
tensor2 对 tensor1 逐元素相除,将结果乘以标量值 value ,并加到 input 。 |
|
|
tensor1 与 tensor2 的逐元素相乘,将结果乘以标量值 value ,并加到 input 。 |
|
|
将矩阵 mat 和 向量 vec 相乘,结果与输入 input 相加。 |
|
|
逐元素计算列表中各个tensor的和。 |
|
|
逐元素计算输入tensor的辐角。 |
|
|
|
||
|
|
|
|
||
|
|
|
|
||
|
||
逐元素计算输入tensor的反正弦。 |
|
|
逐元素计算输入tensor的反双曲正弦。 |
|
|
逐元素计算输入tensor的反正切值。 |
|
|
逐元素计算input/other的反正切值。 |
|
|
逐元素计算输入tensor的反双曲正切值。 |
|
|
当输入中的tensor为零维时,返回它的一维tensor。 |
|
|
当输入中的tensor小于二维时,返回它的二维tensor。 |
|
|
当输入中的tensor小于三维时,返回它的三维tensor。 |
|
|
逐元素计算输入tensor的第一类零阶修正贝塞尔函数值。 |
|
|
逐元素计算输入tensor的指数缩放第一类零阶修正贝塞尔函数值。 |
|
|
逐元素计算输入tensor的第一类一阶修正贝塞尔函数值。 |
|
|
逐元素计算输入tensor的指数缩放第一类一阶修正贝塞尔函数值。 |
|
|
逐元素计算输入tensor的第一类零阶贝塞尔函数值。 |
|
|
逐元素计算输入tensor的第一类一阶贝塞尔函数值。 |
|
|
逐元素计算输入tensor的第二类零阶修正贝塞尔函数值。 |
|
|
逐元素计算输入tensor的指数缩放第二类零阶修正贝塞尔函数值。 |
|
|
逐元素计算输入tensor的第二类一阶修正贝塞尔函数值。 |
|
|
逐元素计算输入tensor的指数缩放第二类一阶修正贝塞尔函数值。 |
|
|
逐元素计算输入tensor的第二类零阶贝塞尔函数值。 |
|
|
逐元素计算输入tensor的第二类一阶贝塞尔函数值。 |
|
|
逐元素对两个输入tensor做与运算。 |
|
|
逐元素对输入 input 进行左移位运算, 移动的位数由 other 指定。 |
|
|
逐元素对两个输入tensor做或运算。 |
|
|
逐元素对输入 input 进行右移位运算, 移动的位数由 other 指定。 |
|
|
逐元素对两个输入tensor做异或运算。 |
|
|
逐元素对输入tensor做向上取整。 |
|
|
将输入tensor的所有元素限制在范围 [min, max] 内。 |
|
|
|
||
返回输入tensor中所有长度为 r 的子序列。 |
|
|
创建一个float tensor,由 x 的绝对值和 other 的符号组成。 |
|
|
逐元素计算输入tensor的余弦。 |
|
|
逐元素计算输入tensor的双曲余弦。 |
|
|
沿指定维度计算两个输入tensor之间的余弦相似度。 |
|
|
返回输入tensor的协方差矩阵,其中输入tensor的行表示变量,列表示观测值。 |
|
|
按指定轴计算输入tensor的n阶前向差分。 |
|
|
逐元素地将输入tensor从度数制转换为弧度制。 |
|
|
逐元素计算输入tensor的伽玛函数的对数导数。 |
|
|
逐元素计算第一个输入tensor除以第二个输入tensor。 |
|
|
|
|
|
逐元素计算输入tensor的高斯误差。 |
|
|
逐元素计算输入tensor的互补误差。 |
|
|
逐元素计算输入tensor的逆误差。 |
|
|
逐元素计算输入tensor的指数。 |
|
|
逐元素计算输入tensor以2为底的指数。 |
|
|
逐元素计算输入tensor的指数,然后减1。 |
|
|
逐元素对输入tensor做向下取整。 |
|
|
|
||
逐元素计算 input 除以 other ,并向下取整。 |
|
|
逐元素计算第一个输入除以第二个输入,并向下取余。 |
|
|
逐元素计算以第一个输入为底,第二个输入为指数。 |
|
|
逐元素计算输入tensor的最大值。 |
|
|
逐元素计算第一个输入除以第二个输入的余数。 |
|
|
返回输入tensor中每个元素的小数部分。 |
|
|
逐元素计算两个输入tensor的最大公约数。 |
|
|
给定直角三角形的边,逐元素计算其斜边。 |
|
|
计算正则化的下层不完全伽马函数。 |
|
|
计算正则化的上层不完全伽马函数。 |
|
|
返回输入tensor每个元素的虚部。 |
|
|
详情请参考 |
|
|
逐元素计算输入tensor的倒数。 |
|
|
逐元素按位翻转。 |
|
|
逐元素计算两个输入tensor的最小公倍数。 |
|
|
逐元素将输入tensor乘以 |
|
|
基于权重参数计算两个tensor之间的线性插值。 |
|
|
逐元素计算输入tensor的自然对数。 |
|
|
逐元素计算输入tensor以2为底的对数。 |
|
|
逐元素计算tensor以10为底的对数。 |
|
|
逐元素计算(tensor + 1)的自然对数。 |
|
|
计算输入的指数和的对数。 |
|
|
计算以2为底的输入的指数和的对数。 |
|
|
逐元素计算两个tensor的逻辑与运算。 |
|
|
逐元素计算输入tensor的逻辑非运算。 |
|
|
逐元素计算两个tensor的逻辑或运算。 |
|
|
逐元素计算两个tensor的逻辑异或运算。 |
|
|
逐元素计算tensor的逻辑回归函数值。 |
|
|
两个Tensor逐元素相乘。 |
|
|
|
|
|
逐元素计算 p 维多元对数伽马函数值。 |
|
|
计算输入input的相反数并返回。 |
|
|
|
|
|
逐元素计算 input 指向 other 的下一个可表示浮点值。 |
|
|
将极坐标转化为笛卡尔坐标。 |
|
|
计算 input 的多伽马函数的 |
|
|
返回输入tensor。 |
|
|
计算 input 中每个元素的 exponent 次幂。 |
|
|
逐元素将 x 从弧度转换为度数。 |
|
|
沿着0轴方向,将多维Tensor展开成一维。 |
|
|
返回输入tensor的实数部分。 |
|
|
返回输入tensor每个元素的倒数。 |
|
|
逐元素计算输入tensor的除法余数。 |
|
|
沿指定维度的平面内将n-D tensor旋转90度。 |
|
|
对输入数据四舍五入到最接近的整数。 |
|
|
逐元素计算输入tensor的平方根倒数。 |
|
|
|
|
|
按sign公式逐元素计算输入tensor。 |
|
|
判断每个元素的符号,如果元素值小于0则对应输出的位置为True,否则为False。 |
|
|
逐元素计算输入tensor的正弦。 |
|
|
计算输入的归一化正弦值。 |
|
|
逐元素计算输入tensor的双曲正弦。 |
|
|
逐元素计算tensor的平方根。 |
|
|
逐元素计算tensor的平方。 |
|
|
逐元素计算第一个输入减去第二个输入的值。 |
|
|
从 input 中减去经 alpha 缩放的 other。 |
|
|
转置二维tensor,维度小于二的tensor按原样返回。 |
|
|
逐元素计算输入tensor的正切值。 |
|
|
逐元素计算输入tensor的Tanhshrink激活函数值。 |
|
|
计算沿指定维度的梯形法则积分。 |
|
|
返回一个二维的tensor,包含 row * col 矩阵的下三角元素的索引。 |
|
|
返回一个二维的tensor,包含 row * col 矩阵的上三角元素的索引。 |
|
|
|
|
|
返回一个tensor,包含输入元素的截断整数值。 |
|
|
将 x 和 y 逐元素相除,结果将向0取整。 |
|
|
将 x 和 y 逐元素取模。 |
|
|
x 和 y 逐元素相除。 |
|
|
逐元素对 other 取对数,再与 input 相乘。 |
|
|
逐元素计算Hurwitz zeta的值。 |
|
Reduction函数
接口名 |
概述 |
支持平台 |
检查指定轴上是否所有元素均为 True。 |
|
|
返回tensor在指定轴上的最大值。 |
|
|
返回tensor在指定轴上的最小值。 |
|
|
返回tensor在指定轴上的最小值和最大值。 |
|
|
检查指定轴上是否含有 True。 |
|
|
返回tensor在指定维度上的最大值索引。 |
|
|
返回tensor在指定轴上的最大值索引。 |
|
|
返回tensor在指定轴上的累积最大值及其索引。 |
|
|
返回tensor在指定轴上的累积最小值及其索引。 |
|
|
返回tensor在指定维度上累积的元素乘积。 |
|
|
返回tensor在指定轴上累积的元素和。 |
|
|
计算tensor的直方图。 |
|
|
计算tensor在指定维度上的累积指数和的对数。 |
|
|
计算tensor在指定维度上的指数和的对数。 |
|
|
返回tensor在指定轴上的最大值及其索引。 |
|
|
计算tensor在指定轴上的均值。 |
|
|
返回tensor在指定轴上的中位数及其索引。 |
|
|
返回tensor在指定轴上的最小值及其索引。 |
|
|
计算tensor的矩阵范数或向量范数。 |
|
|
返回tensor在指定轴上的乘积。 |
|
|
计算Tensor在指定轴上的标准差。 |
|
|
计算tensor在指定轴上的标准差及平均值。 |
|
|
计算tensor在指定轴上的方差。 |
|
|
计算tensor在指定轴上的方差及平均值。 |
|
比较函数
接口名 |
概述 |
支持平台 |
返回按指定轴对tensor进行排序后的索引。 |
|
|
返回一个布尔型tensor,表示两个tensor在容忍度内是否逐元素相等。 |
|
|
返回输入tensor中每个元素所属桶的索引。 |
|
|
逐元素计算两个输入是否相等。 |
|
|
逐元素计算两个输入是否相等。 |
|
|
逐元素计算 |
|
|
逐元素计算 |
|
|
逐元素计算 |
|
|
逐元素计算 |
|
|
返回第二个输入tensor中的元素是否存在于第一个输入tensor的前 k 个元素中。 |
|
|
返回一个布尔型tensor,表示两个tensor在容忍度内是否逐元素相等。 |
|
|
返回一个布尔型tensor,指示哪些元素是有限数。 |
|
|
返回一个布尔型tensor,指示哪些元素是正负无穷数。 |
|
|
返回一个布尔型tensor,指示哪些元素是NaN。 |
|
|
返回一个布尔型tensor,指示哪些元素是负无穷数。 |
|
|
返回一个布尔型tensor,指示哪些元素是正无穷数。 |
|
|
返回一个布尔型tensor,指示哪些元素是实数。 |
|
|
返回一个布尔型tensor,指示哪些元素是复数。 |
|
|
如果tensor的数据类型是浮点数,则返回True,否则返回False。 |
|
|
逐元素计算 |
|
|
逐元素计算 |
|
|
逐元素计算 |
|
|
|
|
|
逐元素计算两个输入tensor中最大值。 |
|
|
逐元素计算两个输入tensor的最小值。 |
|
|
返回沿第一个维度对输入tensor进行升序排序后的tensor。 |
|
|
逐元素计算两个输入是否不相等。 |
|
|
|
|
|
返回元素能够插入输入tensor的位置索引,以维持原tensor的递增顺序。 |
|
|
按指定维度返回前 k 个最大或最小元素及其对应索引。 |
|
线性代数函数
接口名 |
概述 |
支持平台 |
对 batch1 和 batch2 中的矩阵相乘,按照第一维度累计相加,再与 input 相加。 |
|
|
对 mat1 和 mat2 矩阵乘,再将结果与 input 相加。 |
|
|
计算 vec1 和 vec2 的外积,并加到 x 中。 |
|
|
逐元素计算输入tensor的共轭,并转置最后两个维度。 |
|
|
对 batch1 和 batch2 中的矩阵相乘,并与 input 相加。 |
|
|
计算 x1 和 x2 中的向量点积。 |
|
|
对输入的两个tensor执行批量矩阵乘积。 |
|
|
计算给定对称正定矩阵的Cholesky分解。 |
|
|
根据Cholesky分解因子 input2 计算一组具有正定矩阵的线性方程组的解。 |
|
|
返回给定Tensor的矩阵范数或向量范数。 |
|
|
计算两个输入tensor的点积。 |
|
|
计算输入方阵的特征值。 |
|
|
将输入tensor进行QR分解 |
|
|
计算输入一维tensor input 与 vec2 的外积。 |
|
|
计算两个一维tensor的点积。 |
|
|
计算输入矩阵的逆。 |
|
|
计算 input 和 other 的Kronecker积。 |
|
|
计算输入方块矩阵的对数行列式。 |
|
|
计算线性方程组 |
|
|
将 |
|
|
计算两个输入的矩阵乘积。 |
|
|
返回一个tensor,保留指定对角线的值,其余设为0。 |
|
|
求解线性方程组。 |
|
|
使用 x 中的元素值作为输出tensor的对角线,其余用 padding_value 填充。 |
|
|
返回一个tensor,包含输入tensor x 的第 k[0] 到 k[1] 个对角线中的值,缺失部分使用 padding_value 填充。 |
|
|
返回一个tensor,使用输入 diagonal 中的元素值替换 x 矩阵的第 k[0] 条到第 k[1] 条对角线上的元素值。 |
|
|
计算两个输入的矩阵乘积。 |
|
|
实现矩阵 mat 和向量 vec 相乘。 |
|
|
计算两个tensor的外积。 |
|
|
计算Householder矩阵的前 |
|
|
计算一个普通矩阵 other 与一个矩阵Q(由Householder反射向量 input 和反射系数 tau 生成)的乘积。 |
|
|
计算矩阵的伪逆(Moore-Penrose)。 |
|
|
计算单个或多个矩阵的奇异值分解。 |
|
|
对一个或多个方阵行列式的绝对值取对数,返回其符号和值。 |
|
|
返回tensor对角线的元素总和。 |
|
|
沿指定轴计算两个张量的点乘。 |
|
|
生成一个范德蒙矩阵。 |
|
|
按指定轴,计算两批向量的点积。 |
|
谱函数
接口名 |
概述 |
支持平台 |
巴特利特窗口函数。 |
|
|
布莱克曼窗口函数。 |
|
|
汉明窗口函数。 |
|
|
汉宁窗口函数。 |
|
|
凯瑟窗口函数。 |
|
神经网络层函数
神经网络
接口名 |
概述 |
支持平台 |
对可以看作是由一系列1D平面组成的输入Tensor,应用一维自适应平均池化操作。 |
|
|
对一个多平面输入信号执行二维自适应平均池化。 |
|
|
对一个多平面输入信号执行三维自适应平均池化。 |
|
|
对可以看作是由一系列1D平面组成的输入Tensor,应用一维自适应最大池化操作。 |
|
|
对输入Tensor,提供二维自适应最大池化操作。 |
|
|
在输入Tensor上应用1D平均池化,输入Tensor可以看作是由一系列1D平面组成。 |
|
|
在输入Tensor上应用2D平均池化,输入Tensor可以看作是由一系列2D平面组成的。 |
|
|
在输入Tensor上应用3D平均池化,输入Tensor可以看作是由一系列3D平面组成的。 |
|
|
对输入数据进行批量归一化和参数更新。 |
|
|
返回输入Tensor input_x 与偏置Tensor bias 之和。 |
|
|
对输入 input1 和 input2 应用双线性全连接操作。 |
|
|
对输入中给定的logits执行贪婪解码。 |
|
|
对输入Tensor计算一维卷积。 |
|
|
对输入Tensor计算二维卷积。 |
|
|
对输入Tensor计算三维卷积。 |
|
|
给定4D的Tensor输入 x , weight 和 offsets ,计算一个2D的可变形卷积。 |
|
|
对输入 input 应用全连接操作。 |
|
|
在训练期间,以服从伯努利分布的概率 p 随机将输入Tensor的某些值归零,起到减少神经元相关性的作用,避免过拟合。 |
|
|
在训练期间,以服从伯努利分布的概率 p 随机将输入Tensor的某些通道归零(对于形状为 |
|
|
在训练期间,以服从伯努利分布的概率 p 随机将输入Tensor的某些通道归零(对于形状为 |
|
|
在训练期间,以服从伯努利分布的概率 p 随机将输入Tensor的某些通道归零(对于形状为 |
|
|
以 input 中的值作为索引,从 weight 中查询对应的embedding向量。 |
|
|
沿着从 start_dim 到 end_dim 的维度,对输入Tensor进行展平。 |
|
|
将提取出的滑动局部区域块还原成更大的输出Tensor。 |
|
|
在输入 input 上应用三维分数最大池化。 |
|
|
这是一个适配增量和全量推理场景的FlashAttention函数,既可以支持全量计算场景(PromptFlashAttention),也可支持增量计算场景(IncreFlashAttention)。 |
|
|
本接口用于实现self-attention的融合计算。 |
|
|
在mini-batch输入上进行组归一化。 |
|
|
在mini-batch输入上应用层归一化(Layer Normalization)。 |
|
|
在输入Tensor上应用1D LP池化运算,可被视为组成一个1D输入平面。 |
|
|
在输入Tensor上应用2D LP池化运算,可被视为组成一个2D输入平面。 |
|
|
局部响应归一化操作LRN(Local Response Normalization)。 |
|
|
二维最大值池化。 |
|
|
三维最大值池化。 |
|
|
max_pool1d 的逆过程。 |
|
|
max_pool2d 的逆过程。 |
|
|
|
||
根据 indices 对 tokens 进行排列。 |
|
|
根据排序的索引对已排列的标记进行反排列,并可选择将标记与其对应的概率合并。 |
|
|
增量推理场景接口。 |
|
|
全量推理场景接口。 |
|
|
训练场景下,使用FlashAttention算法实现self-attention的计算。 |
|
|
RmsNorm(Root Mean Square Layer Normalization)即均方根标准化。 |
|
|
从一个batch的输入Tensor中提取滑动局部块。 |
|
损失函数
接口名 |
概述 |
支持平台 |
计算预测值 logits 和 目标值 labels 之间的二值交叉熵(度量两个概率分布间的差异性信息)损失。 |
|
|
输入经过sigmoid激活函数后作为预测值,binary_cross_entropy_with_logits 计算预测值和目标值之间的二值交叉熵损失。 |
|
|
余弦相似度损失函数,用于测量两个Tensor之间的相似性。 |
|
|
获取预测值和目标值之间的交叉熵损失。 |
|
|
计算CTC(Connectist Temporal Classification)损失和梯度。 |
|
|
服从高斯分布的负对数似然损失。 |
|
|
Hinge Embedding 损失函数,衡量输入 inputs 和标签 targets (包含1或-1)之间的损失值。 |
|
|
计算预测值和目标值之间的误差,兼具 |
|
|
计算输入 logits 和 labels 的KL散度。 |
|
|
用于计算预测值和目标值之间的平均绝对误差。 |
|
|
排序损失函数,用于创建一个衡量给定损失的标准。 |
|
|
计算预测值和标签值之间的均方误差。 |
|
|
用于优化多分类问题的合页损失。 |
|
|
用于优化多标签分类问题的合页损失。 |
|
|
基于最大熵计算用于多标签优化的损失。 |
|
|
获取预测值和目标值之间的负对数似然损失。 |
|
|
计算平滑L1损失,该L1损失函数有稳健性。 |
|
|
计算 input 和 target 之间的soft margin loss。 |
|
|
三元组损失函数。 |
|
激活函数
接口名 |
概述 |
支持平台 |
celu激活函数,逐元素计算输入Tensor的celu(Continuously differentiable exponential linear units)值。 |
|
|
指数线性单元激活函数。 |
|
|
快速高斯误差线性单元激活函数。 |
|
|
高斯误差线性单元激活函数。 |
|
|
门线性单元函数(Gated Linear Unit function)。 |
|
|
返回Gumbel-Softmax分布的Tensor。 |
|
|
Hard Shrink激活函数。 |
|
|
Hard Sigmoid激活函数。 |
|
|
Hard Swish激活函数。 |
|
|
逐元素元素计算hardtanh激活函数。 |
|
|
leaky_relu激活函数。 |
|
|
在指定轴上对输入Tensor应用LogSoftmax函数。 |
|
|
按元素计算LogSigmoid激活函数。 |
|
|
逐元素计算输入Tensor的MISH(A Self Regularized Non-Monotonic Neural Activation Function 自正则化非单调神经激活函数)。 |
|
|
带参数的线性修正单元激活函数(Parametric Rectified Linear Unit activation function)。 |
|
|
对输入Tensor逐元素计算线性修正单元激活函数(Rectified Linear Unit)值。 |
|
|
计算输入Tensor的ReLU(修正线性单元),其上限为6。 |
|
|
Randomized Leaky ReLU激活函数。 |
|
|
激活函数selu(Scaled exponential Linear Unit)。 |
|
|
逐元素计算Sigmoid激活函数。 |
|
|
按输入逐元素计算激活函数SiLU(Sigmoid Linear Unit),也称为Swish函数。 |
|
|
在指定轴上对输入Tensor执行Softmax激活函数做归一化操作。 |
|
|
在指定轴上对输入Tensor执行Softmin函数做归一化操作。 |
|
|
逐元素计算Soft Shrink激活函数。 |
|
|
SoftSign激活函数。 |
|
|
计算Swish门线性单元函数(Swish Gated Linear Unit function)。 |
|
|
逐元素计算输入元素的双曲正切。 |
|
|
使用阈值 thr 参数对 input 逐元素阈值化,并将其结果作为Tensor返回。 |
|
距离函数
接口名 |
概述 |
支持平台 |
计算两个Tensor每对行向量之间的p-norm距离。 |
|
|
计算输入中每对行向量之间的 |
|
|
计算输入中每对行向量之间的p-范数距离。 |
|
采样函数
接口名 |
概述 |
支持平台 |
对输入进行随机取样,返回取样索引和掩码。 |
|
|
从一个分类分布中生成随机样本。 |
|
|
使用log-uniform(Zipfian)分布对一组类别进行采样。 |
|
|
使用均匀分布对一组类别进行采样。 |
|
图像函数
接口名 |
概述 |
支持平台 |
基于输入的批量仿射矩阵 theta ,返回一个二维或三维的流场(采样网格)。 |
|
|
解码边界框位置信息,计算偏移量。 |
|
|
编码边界框位置信息,计算预测边界框和真实边界框之间的偏移,并将此偏移作为损失变量。 |
|
|
将一组滑动局部块组合为一个完整的Tensor。 |
|
|
检查边界框是否在图片内。 |
|
|
对输入图像Tensor进行裁剪并调整其大小。 |
|
|
给定一个输入和一个网格,使用网格中的输入值和像素位置计算输出。 |
|
|
按照给定的 size 或 scale_factor 根据 mode 设置的插值方式,对输入 input 调整大小。 |
|
|
计算矩形的IOU,即真实区域和预测区域的交并比。 |
|
|
根据参数 padding 对输入进行填充。 |
|
|
通过填充0,将输入Tensor的最后一个维度从1扩展到指定大小。 |
|
|
对输入 input 应用像素重组操作,它实现了步长为 |
|
|
对输入 input 应用逆像素重组操作,这是像素重组的逆操作。 |
|
|
旋转位置编码算法的实现。 |
|
|
计算旋转矩形之间的重叠面积。 |
|
|
|
Parameter操作函数
接口名 |
概述 |
支持平台 |
为网络参数或者tensor赋值。 |
|
|
通过加法运算更新网络参数或者tensor。 |
|
|
通过减法运算更新网络参数或者tensor。 |
|
|
根据指定索引和更新值对 input_x 进行加法更新。 |
|
|
根据指定索引和更新值对 input_x 进行除法更新。 |
|
|
根据指定索引和更新值对 input_x 进行最大值更新。 |
|
|
根据指定索引和更新值对 input_x 进行最小值更新。 |
|
|
根据指定索引和更新值对 input_x 进行乘法更新。 |
|
|
根据指定索引和更新值对 input_x 进行稀疏加法更新。 |
|
|
根据指定索引和更新值对 input_x 进行稀疏除法更新。 |
|
|
根据指定索引和更新值对 input_x 进行稀疏最大值更新。 |
|
|
根据指定索引和更新值对 input_x 进行稀疏最小值更新。 |
|
|
根据指定索引和更新值对 input_x 进行稀疏乘法更新。 |
|
|
根据指定索引和更新值对 input_x 进行稀疏减法更新。 |
|
|
根据指定输入索引和更新值更新输入tensor的值。 |
|
微分函数
接口名 |
概述 |
支持平台 |
计算函数或网络输出对输入的高阶微分。 |
|
|
计算函数或网络输出对输入的高阶微分。 |
|
|
用于消除某个值对梯度的影响,例如截断来自于函数输出的梯度传播。 |
|
调试函数
接口名 |
概述 |
支持平台 |
将输入数据进行打印输出。 |
|
|
将tensor保存为npy格式的文件。 |
|
稀疏函数
警告
这些是实验性API,后续可能修改或删除。
接口名 |
概述 |
支持平台 |
将常规Tensor转换为稀疏化的COOTensor。 |
|
|
将常规Tensor转为稀疏化的CSRTensor。 |
|
|
将一个CSRTensor转化成一个COOTensor。 |
|
COO函数
警告
这些是实验性API,后续可能修改或删除。
接口名 |
概述 |
支持平台 |
逐元素计算输入COOTensor的绝对值。 |
|
|
逐元素计算输入COOTensor的反余弦。 |
|
|
逐元素计算输入COOTensor的反双曲余弦。 |
|
|
两个COOTensor相加,根据相加的结果与 thresh 返回新的COOTensor。 |
|
|
逐元素计算输入COOTensor的反正弦。 |
|
|
计算COOTensor输入元素的反双曲正弦。 |
|
|
逐元素计算输入COOTensor的反正切值。 |
|
|
逐元素计算输入COOTensor的反双曲正切值。 |
|
|
COOTensor向上取整函数。 |
|
|
根据指定的轴concat_dim对输入的COO Tensor(sp_input)进行合并操作。 |
|
|
逐元素计算COOTensor输入的余弦。 |
|
|
逐元素计算COOTensor x 的双曲余弦值。 |
|
|
逐元素计算COOTensor x 的指数。 |
|
|
逐元素计算输入COOTensor的指数,然后减去1。 |
|
|
COOTensor逐元素向下取整函数。 |
|
|
逐元素计算输入COOTensor的倒数。 |
|
|
判断COOTensor输入数据每个位置上的值是否是有限数。 |
|
|
确定输入COOTensor每个位置上的元素是否为正负无穷大。 |
|
|
判断COOTensor输入数据每个位置上的值是否是Nan。 |
|
|
逐元素返回COOTensor的自然对数。 |
|
|
对输入COOTensor逐元素加一后计算自然对数。 |
|
|
计算输入COOTensor的相反数并返回。 |
|
|
对输入的COOTensor逐元素计算其应用ReLU激活函数后的值。 |
|
|
对输入的COOTensor逐元素计算其应用ReLU激活函数后的值,上限为6。 |
|
|
对COOTensor输入数据进行四舍五入到最接近的整数数值。 |
|
|
Sigmoid激活函数,对COOTensor逐元素计算Sigmoid激活函数。 |
|
|
逐元素计算输入COOTensor的正弦。 |
|
|
逐元素计算输入COOTensor的双曲正弦。 |
|
|
COOTensor Softsign激活函数。 |
|
|
逐元素计算COOTensor的平方根。 |
|
|
逐元素返回COOTensor的平方。 |
|
|
计算COOTensor输入元素的正切值。 |
|
|
按元素计算COOTensor输入元素的双曲正切。 |
|
CSR函数
警告
这些是实验性API,后续可能修改或删除。
接口名 |
概述 |
支持平台 |
逐元素计算输入CSRTensor的绝对值。 |
|
|
逐元素计算输入CSRTensor的反余弦。 |
|
|
逐元素计算输入CSRTensor的反双曲余弦。 |
|
|
计算两个输入CSRTensor的线性组合。 |
|
|
逐元素计算输入CSRTensor的反正弦。 |
|
|
计算CSRTensor输入元素的反双曲正弦。 |
|
|
逐元素计算输入CSRTensor的反正切值。 |
|
|
逐元素计算输入CSRTensor的反双曲正切值。 |
|
|
CSRTensor向上取整函数。 |
|
|
逐元素计算CSRTensor输入的余弦。 |
|
|
逐元素计算CSRTensor x 的双曲余弦值。 |
|
|
逐元素计算CSRTensor x 的指数。 |
|
|
逐元素计算输入CSRTensor的指数,然后减去1。 |
|
|
CSRTensor逐元素向下取整函数。 |
|
|
逐元素计算输入CSRTensor的倒数。 |
|
|
判断CSRTensor输入数据每个位置上的值是否是有限数。 |
|
|
确定输入CSRTensor每个位置上的元素是否为无穷大或无穷小。 |
|
|
判断CSRTensor输入数据每个位置上的值是否是NaN。 |
|
|
逐元素返回CSRTensor的自然对数。 |
|
|
对输入CSRTensor逐元素加一后计算自然对数。 |
|
|
返回稀疏矩阵a与稀疏矩阵或稠密矩阵b的矩阵乘法结果。 |
|
|
计算输入CSRTensor的相反数并返回。 |
|
|
逐元素计算CSRTensor的ReLU(Rectified Linear Unit)激活值。 |
|
|
逐元素计算CSRTensor的ReLU值,其上限为6。 |
|
|
对CSRTensor输入数据进行四舍五入到最接近的整数数值。 |
|
|
Sigmoid激活函数,CSRTensor逐元素计算Sigmoid激活函数。 |
|
|
逐元素计算输入CSRTensor的正弦。 |
|
|
逐元素计算输入CSRTensor的双曲正弦。 |
|
|
计算 CSRTensorMatrix 的 softmax 。 |
|
|
CSRTensor的Softsign激活函数。 |
|
|
逐元素返回当前CSRTensor的平方根。 |
|
|
逐元素返回CSRTensor的平方。 |
|
|
逐元素计算CSRTensor的正切值。 |
|
|
逐元素计算CSRTensor输入元素的双曲正切。 |
|
MC2 函数
警告
这些是实验性API,后续可能修改或删除。
接口名 |
概述 |
支持平台 |
TP 切分场景下,实现 allgather 和 matmul 的融合,融合算子内部实现通信和计算流水并行。 |
|
|
TP 切分场景下,实现 matmul 和 reducescatter 的融合,融合算子内部实现通信和计算流水并行。 |
|