优化器的编译优化
概述
mindspore.ops.composite
中提供了一些涉及图变换的组合类算子,例如MultitypeFuncGraph
、HyperMap
等。
MultitypeFuncGraph
MultitypeFuncGraph
用于生成重载函数,支持不同类型的输入。用户可以使用MultitypeFuncGraph
定义一组重载的函数,根据不同类型,采用不同实现。首先初始化一个MultitypeFuncGraph
对象,使用带有输入类型的 register
作为待注册函数的装饰器,使得该对象支持多种类型的输入。更多使用方法见:MultitypeFuncGraph。
代码样例如下:
[1]:
import numpy as np
from mindspore.ops import MultitypeFuncGraph
import mindspore as ms
import mindspore.ops as ops
add = MultitypeFuncGraph('add')
@add.register("Number", "Number")
def add_scalar(x, y):
return ops.scalar_add(x, y)
@add.register("Tensor", "Tensor")
def add_tensor(x, y):
return ops.tensor_add(x, y)
tensor1 = ms.Tensor(np.array([[1.2, 2.1], [2.2, 3.2]]).astype('float32'))
tensor2 = ms.Tensor(np.array([[1.2, 2.1], [2.2, 3.2]]).astype('float32'))
print('tensor', add(tensor1, tensor2))
print('scalar', add(1, 2))
tensor [[2.4 4.2]
[4.4 6.4]]
scalar 3
HyperMap
HyperMap
可以对一组或多组输入做指定的运算,可以配合MultitypeFuncGraph
一起使用。例如定义一组重载的add
函数后,对多组不同类型的输入进行add
运算。不同于Map
,HyperMap
能够用于嵌套结构,对序列或嵌套序列中的输入做指定运算。更多使用方法见:HyperMap。
代码样例如下:
[2]:
import mindspore as ms
from mindspore.ops import MultitypeFuncGraph, HyperMap
import mindspore.ops as ops
add = MultitypeFuncGraph('add')
@add.register("Number", "Number")
def add_scalar(x, y):
return ops.scalar_add(x, y)
@add.register("Tensor", "Tensor")
def add_tensor(x, y):
return ops.tensor_add(x, y)
add_map = HyperMap(add)
output = add_map((ms.Tensor(1, ms.float32), ms.Tensor(2, ms.float32), 1), (ms.Tensor(3, ms.float32), ms.Tensor(4, ms.float32), 2))
print("output =", output)
output = (Tensor(shape=[], dtype=Float32, value= 4), Tensor(shape=[], dtype=Float32, value= 6), 3)
此例子中传入add_map
的输入包含了两个序列,HyperMap
会以operation(args[0][i], args[1][i])
的形式分别从两个序列中取相应的元素作为add
函数的输入x
和y
,例如add(Tensor(1, mstype.float32), Tensor(3, mstype.float32))
。