MindSpore Lite
获取MindSpore Lite
下载MindSpore Lite
编译MindSpore Lite
快速入门
体验C++极简推理Demo
体验Java极简推理Demo
基于JNI接口的Android应用开发
基于Java接口的Android应用开发
基于C++接口实现端侧训练
基于Java接口实现端侧训练
端侧推理
推理模型转换
优化模型(训练后量化)
预处理数据
执行推理
在轻量和小型系统上执行推理
专用芯片集成说明
端侧训练
训练模型转换
执行训练
其他工具
基准测试工具
静态库剪裁工具
可视化工具
模型混淆工具
参考文档
总体架构
Lite算子支持
Codegen算子支持
模型支持
MindSpore Lite
»
在手机或IoT设备上使用MindSpore
View page source
在手机或IoT设备上使用MindSpore
筛选条件
清除所有条件
环境
Windows
Linux
Mac
Android
iOS
IoT
用户
初级
中级
高级
阶段
全流程
环境准备
数据准备
模型导出
模型转换
模型加载
模型训练
模型调优
模型编译
模型代码生成
模型混淆
推理应用
基准测试
静态库裁剪
可视化
专用芯片
NPU
NNIE
TensorRT
编程语言
C++
Java
下载MindSpore Lite
欢迎使用MindSpore Lite,我们提供了支持多种操作系统和硬件平台的模型转换、模型推理、图像处理等功能,你可以下载适用于本地环境的版本包直接使用。
编译MindSpore Lite
本章节介绍如何快速编译出MindSpore Lite。
体验C++极简推理Demo
本教程提供了MindSpore Lite执行推理的示例程序,通过随机输入、执行推理、打印推理结果的方式,演示了C++进行端侧推理的基本流程,用户能够快速了解MindSpore Lite执行推理相关API的使用。
体验Java极简推理Demo
本教程提供了MindSpore Lite执行推理的示例程序,通过随机输入、执行推理、打印推理结果的方式,演示了利用MindSpore Lite Java API进行端侧推理的基本流程,用户能够快速了解MindSpore Lite执行推理相关Java API的使用。
基于JNI接口的Android应用开发
本教程从端侧Android图像分类demo入手,帮助用户了解MindSpore Lite应用工程的构建、依赖项配置以及相关API的使用。
基于Java接口的Android应用开发
本教程基于MindSpore团队提供的Android“端侧图像分割”示例程序,演示了端侧部署的流程。
基于C++接口实现端侧训练
本教程基于LeNet训练示例代码,演示MindSpore Lite训练功能的使用。
基于Java接口实现端侧训练
本教程通过构建并部署Java版本的LeNet网络的训练,演示MindSpore Lite端侧训练Java接口的使用。 首先指导您在本地成功训练LeNet模型,然后讲解示例代码。
推理模型转换
MindSpore Lite提供离线转换模型功能的工具,支持多种类型的模型转换,转换后的模型可用于推理。
优化模型(训练后量化)
对于已经训练好的float32模型,通过训练后量化将其转为int8,不仅能减小模型大小,而且能显著提高推理性能。本教程介绍了模型训练后量化的具体方法。
在微控制器上执行推理
MindSpore Lite提供代码生成工具codegen,将运行时编译、解释计算图,移至离线编译阶段。仅保留推理所必须的信息,生成极简的推理代码。
预处理图像数据
本教程介绍如何通过创建LiteMat对象,在推理前对图像数据进行处理,达到模型推理所需要的数据格式要求。
使用C++接口执行推理
通过MindSpore Lite模型转换后,需在Runtime中完成模型的推理执行流程。本教程介绍如何使用Java接口编写推理代码。
使用Java接口执行推理
通过MindSpore Lite模型转换后,需在Runtime中完成模型的推理执行流程。本教程介绍如何使用C++接口编写推理代码。
集成NPU使用说明
该教程介绍了集成NPU的使用说明,包含了使用步骤、芯片支持和算子支持。
集成NNIE使用说明
该教程介绍了集成NNIE的使用说明。
集成TensorRT使用说明
该教程介绍了集成TensorRT的使用说明。
使用Benchmark进行基准测试
转换模型后执行推理前,你可以使用Benchmark工具对MindSpore Lite模型进行基准测试。它不仅可以对MindSpore Lite模型前向推理执行耗时进行定量分析(性能),还可以通过指定模型输出进行可对比的误差分析(精度)。
静态库剪裁工具
MindSpore Lite提供对Runtime的libmindspore-lite.a静态库裁剪工具,能够筛选出ms模型中存在的算子,对静态库文件进行裁剪,有效降低库文件大小。
训练模型转换
本教程介绍了如何进行训练模型的转换。
使用C++接口执行训练
通过MindSpore Lite模型转换后,需在Runtime中完成模型的训练执行流程。本教程介绍如何使用C++接口编写训练代码。
使用benchmark_train进行基准测试
与benchmark工具类似,MindSpore端侧训练为你提供了benchmark_train工具对训练后的模型进行基准测试。它不仅可以对模型前向推理执行耗时进行定量分析(性能),还可以通过指定模型输出进行可对比的误差分析(精度)。
可视化工具
Netron是一个基于Electron平台开发的神经网络模型可视化工具,支持MindSpore Lite模型,可以方便地查看模型信息。
模型混淆工具
MindSpore Lite提供一个轻量级的离线模型混淆工具,可用于保护IOT或端侧设备上部署的模型文件的机密性。