mindspore_lite.Context
- class mindspore_lite.Context(thread_num=None, inter_op_parallel_num=None, thread_affinity_mode=None, thread_affinity_core_list=None, enable_parallel=False)[源代码]
Context用于在执行期间存储环境变量。
在运行程序之前,应配置context。如果没有配置,默认情况下将根据设备目标进行自动设置。
Note
如果同时设置thread_affinity_mode和thread_affinity_core_list,则thread_affinity_core_list有效,但thread_affinity_mode无效。 参数默认值是None时表示不设置。
参数:
thread_num (int,可选) - 设置运行时的线程数。默认值:None。
inter_op_parallel_num (int,可选) - 设置运行时算子的并行数。默认值:None。
thread_affinity_mode (int,可选) - 与CPU核心的线程亲和模式。默认值:None。
0 - 无亲和性。
1 - 大核优先。
2 - 小核优先。
thread_affinity_core_list (list[int],可选) - 与CPU核心的线程亲和列表。默认值:None。
enable_parallel (bool,可选) - 设置状态是否启用并行执行模型推理或并行训练。默认值:False。
异常:
TypeError - thread_num 既不是int类型也不是None。
TypeError - inter_op_parallel_num 既不是int类型也不是None。
TypeError - thread_affinity_mode 既不是int类型也不是None。
TypeError - thread_affinity_core_list 既不是list类型也不是None。
TypeError - thread_affinity_core_list 是list类型,但元素既不是int类型也不是None。
TypeError - enable_parallel 不是bool类型。
ValueError - thread_num 小于0。
ValueError - inter_op_parallel_num 小于0。
样例:
>>> import mindspore_lite as mslite >>> context = mslite.Context(thread_num=1, inter_op_parallel_num=1, thread_affinity_mode=1, ... enable_parallel=False) >>> print(context) thread_num: 1, inter_op_parallel_num: 1, thread_affinity_mode: 1, thread_affinity_core_list: [], enable_parallel: False, device_list: .
- append_device_info(device_info)[源代码]
将一个用户定义的设备信息附加到上下文中。
Note
添加GPU设备信息后,必须在调用上下文之前添加CPU设备信息。因为当GPU不支持算子时,系统将尝试CPU是否支持该算子。此时,需要切换至带有CPU设备信息的上下文中。
添加Ascend设备信息后,必须在调用上下文之前添加CPU设备信息。因为当在Ascend上不支持算子时,系统将尝试CPU是否支持算子。此时,需要切换至带有CPU设备信息的上下文中。
参数:
device_info (DeviceInfo) - 实例化的设备信息。
异常:
TypeError - device_info 不是DeviceInfo类型。
样例:
>>> import mindspore_lite as mslite >>> context = mslite.Context() >>> context.append_device_info(mslite.CPUDeviceInfo()) >>> print(context) thread_num: 0, inter_op_parallel_num: 0, thread_affinity_mode: 0, thread_affinity_core_list: [], enable_parallel: False, device_list: 0, .