使用MindSpore进行推理

推理模型

• 推理模型总览
• Ascend 910 AI处理器上推理
• Ascend 310 AI处理器上推理
• GPU上推理
• CPU上推理
• 端侧推理

推理服务

• 基于MindSpore Serving部署推理服务
• 基于MindSpore Serving部署分布式推理服务
• 基于gRPC接口访问MindSpore Serving服务
• 基于RESTful接口访问MindSpore Serving服务
• 通过配置模型提供Servable

应用实践

• 多跳知识推理问答模型TPRR