MindSpore Lite

获取MindSpore Lite

  • 下载MindSpore Lite
  • 编译MindSpore Lite

快速入门

  • 一小时入门
  • 体验C++极简推理Demo
  • 体验C++极简并发推理Demo
  • 体验Java极简推理Demo
  • 体验Java极简并发推理Demo
  • 基于JNI接口的Android应用开发
  • 基于Java接口的Android应用开发
  • 基于C++接口实现端侧训练
  • 基于Java接口实现端侧训练

端侧推理

  • 推理模型转换
  • 训练后量化
  • 预处理数据
  • 执行推理
  • 在MCU或小型系统上执行推理
  • 专用芯片集成说明

端侧训练

  • 训练模型转换
  • 执行训练

服务端推理

  • 执行并发推理
    • 使用C++接口执行并发推理
    • 使用Java接口执行并发推理

第三方接入

  • 自定义算子
  • 使用Delegate支持第三方AI框架接入

其他工具

  • 基准测试工具
  • 静态库裁剪工具
  • 可视化工具
  • 模型混淆工具

参考文档

  • 总体架构
  • Lite算子支持
  • Codegen算子支持
  • 模型支持
  • 问题定位指南
  • 日志

RELEASE NOTES

  • Release Notes
MindSpore Lite
  • »
  • 执行并发推理
  • View page source

执行并发推理

  • 使用C++接口执行并发推理
  • 使用Java接口执行并发推理
Previous Next

© Copyright MindSpore.

Built with Sphinx using a theme provided by Read the Docs.