mindspore_lite

Python接口仅支持云侧推理。

运行环境

Context 类用于在执行期间传递环境变量。

`mindspore_lite.FmkType`	当Converter时， FmkType 定义输入模型的框架类型。
`mindspore_lite.Converter`	构造 Converter 的类。

`mindspore_lite.Model`	Model 类定义MindSpore Lite模型，便于计算图管理。
`mindspore_lite.ModelGroup`	ModelGroup 类定义MindSpore Lite模型分组信息，用于共享工作空间（Workspace）内存或者权重（包括常量和变量）内存以及二者同时共享。
`mindspore_lite.ModelGroupFlag`	ModelGroupFlag 类用于构造 ModelGroup 的标签。
`mindspore_lite.ModelParallelRunner`	ModelParallelRunner 类定义了MindSpore Lite的Runner，它支持模型并行。
`mindspore_lite.ModelType`	ModelType 类定义MindSpore Lite中导出或导入的模型类型。

`mindspore_lite.DataType`	DataType 类定义MindSpore Lite中Tensor的数据类型。
`mindspore_lite.Format`	Format 类定义MindSpore Lite中Tensor的格式。
`mindspore_lite.Tensor`	Tensor 类，在Mindspore Lite中定义一个张量。
`mindspore_lite.TensorMeta`	TensorMeta 类，定义一个MindSpore Lite张量的属性信息。

`mindspore_lite.LLMReq`	LLMEngine的请求类，用于表示多轮推理任务。
`mindspore_lite.LLMEngineStatus`	LLMEngine的状态类，用于表示推理任务状态。
`mindspore_lite.LLMRole`	LLMEngine的角色。
`mindspore_lite.LLMEngine`	LLMEngine 类定义了一个MindSpore Lite的LLMEngine，用于加载和管理大语言模型，以及响应调度和推理请求。
`mindspore_lite.LLMStatusCode`	LLMEngine的错误码。
`mindspore_lite.LLMException`	LLMEngine的错误类型基类。

LiteInfer 类接受训练模型作为输入直接执行推理。