安装部署
使用指南
API参考
参考文档
RELEASE NOTES
[STABLE] Serving部署流水线并行的大模型时,支持流水线并行处理多个推理实例。
感谢以下人员做出的贡献:
qinzheng, xuyongfei, zhangyinxia, zhoufeng.
欢迎以任何形式对项目提供贡献!