RunnerConfig
RunnerConfig定义了MindSpore Lite并发推理的配置参数。
公有成员函数
function |
云侧推理是否支持 |
端侧推理是否支持 |
---|---|---|
√ |
✕ |
|
√ |
✕ |
|
√ |
✕ |
|
public void setConfigInfo(String section, HashMap<String, String> config) |
√ |
✕ |
√ |
✕ |
|
√ |
✕ |
|
√ |
✕ |
|
√ |
✕ |
|
√ |
✕ |
|
√ |
✕ |
init
public boolean init()
并发推理的配置参数初始化。
返回值
是否初始化成功。
public boolean init(MSContext msContext)
并发推理的配置参数初始化。
参数
msContext
: 并发推理运行时的上下文配置。
返回值
是否初始化成功。
setWorkerNum
public void setWorkerNum(int workerNum)
并发推理中模型个数参数设置。
参数
workerNum
: 模型个数。
setConfigInfo
public void setConfigInfo(String section, HashMap<String, String> config)
并发推理中模型配置参数设置。
参数
section
: 配置的章节名。config
: 要更新的配置对。
setConfigPath
public void setConfigPath(String configPath)
并发推理中模型配置文件路径参数设置。
参数
configPath
: 配置文件路径。
getConfigPath
public String getConfigPath()
获取RunnerConfig中设置的配置文件的路径。
返回值
配置文件路径。
getRunnerConfigPtr
public long getRunnerConfigPtr()
获取底层并发推理配置参数指针。
返回值
底层并发推理配置参数指针。
setDeviceIds
public void setDeviceIds(ArrayList<Integer> deviceIds)
并发推理中设置设备ID列表。
参数
deviceIds
: 设备ID列表。
getDeviceIds
public ArrayList<Integer> getDeviceIds()
获取RunnerConfig中设置的设备ID列表。
返回值
设备ID列表。
free
public void free()
释放runnerConfig。