mindspore.runtime

运行时封装了流、事件、内存、执行的接口。MindSpore从不同的后端抽象出相应的模块,允许用户在Python层调度硬件资源。

mindspore.runtime.communication_stream

返回此设备上的通信流。

mindspore.runtime.current_stream

返回此设备上正在使用的流。

mindspore.runtime.default_stream

返回此设备上的默认流。

mindspore.runtime.set_cur_stream

设置当前流,这是用于设置流的包装器API。

mindspore.runtime.synchronize

同步当前设备上的所有流。

mindspore.runtime.Stream

基于设备流的封装器。

mindspore.runtime.StreamCtx

上下文管理器,用于选择给定的流。

事件

mindspore.runtime.Event

设备事件的封装器。

内存

mindspore.runtime.max_memory_allocated

返回从进程启动开始,内存池真实被Tensor占用的内存大小的峰值。

mindspore.runtime.max_memory_reserved

返回从进程启动开始,内存池管理的内存总量的峰值。

mindspore.runtime.memory_allocated

返回当前真实被Tensor占用的内存大小。

mindspore.runtime.memory_reserved

返回内存池当前管理的内存总量。

mindspore.runtime.memory_stats

返回从内存池查询到的状态信息。

mindspore.runtime.memory_summary

返回可读的内存池状态信息。

mindspore.runtime.reset_max_memory_reserved

重置被内存池所管理的内存的峰值。

mindspore.runtime.reset_max_memory_allocated

重置内存池真实被Tensor占用的内存大小的峰值。

mindspore.runtime.reset_peak_memory_stats

重置内存池中的全部峰值。

mindspore.runtime.empty_cache

清理内存池中的内存碎片,优化内存排布。

mindspore.runtime.set_memory

设置使用内存池实现的运行时设备内存管理的内存参数。

执行

API Name

Description

Supported Platforms

mindspore.runtime.set_cpu_affinity

Enable thread-level core binding to assign specific CPU cores to MindSpore's main modules (main thread, pynative, runtime, minddata), to prevent unstable performance caused by MindSpore's threads seizing CPU.

Ascend GPU CPU

mindspore.runtime.launch_blocking

Whether to enable synchronous execution.

Ascend GPU CPU

mindspore.runtime.dispatch_threads_num

Set the threads number of runtime used.

Ascend GPU CPU