欢迎访问乐酷家

阿里云PAI一键部署DeepSeek系列模型,AI能力再升级!

金融科技 2025-02-07 te4r546

阿里巴巴(中国)有限公司近日宣布了一项重要更新,其旗下的阿里云PAI Model Gallery平台现已全面支持DeepSeek-V3、DeepSeek-R1以及所有经过蒸馏的小参数模型(DeepSeek-R1-Distill)的一键部署功能。

Model Gallery作为阿里云PAI人工智能平台的核心组件,一直致力于整合全球AI开源社区中的优质预训练模型。这一平台涵盖了LLM、AIGC、计算机视觉(CV)、自然语言处理(NLP)等多个领域,为用户提供了丰富的模型选择。

为了方便用户快速部署所需模型,阿里云PAI提供了详细的操作步骤。用户首先需要登录PAI控制台,并根据实际需求选择相应的地域。随后,在工作空间列表中选定目标工作空间,进入快速开始模块下的Model Gallery页面。

在Model Gallery的模型列表中,用户可以轻松找到并点击自己感兴趣的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”。点击后,系统将跳转至该模型的详情页面,为用户提供更多关于模型的信息。

部署过程同样简便快捷。用户只需在模型详情页面右上角点击“部署”按钮,即可根据模型类型选择合适的部署方式。目前,DeepSeek-R1支持vLLM加速部署,而DeepSeek-V3则支持vLLM加速部署和Web应用部署。对于DeepSeek-R1的蒸馏小模型,用户还可以选择使用阿里云PAI自研的高性能推理框架BladeLLM和vLLM进行加速部署。选定部署方式和资源后,系统将一键完成部署,并生成一个PAI-EAS服务。

部署成功后,用户可以在服务页面查看并获取调用的Endpoint和Token。为了更方便地使用推理服务,用户还可以点击“查看调用信息”链接,返回模型介绍页面查看详细的调用方式说明。这一功能极大地提升了用户的操作便捷性和模型应用效率。

The End
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。

Copyright © 2099 乐酷家 |中华人民共和国增值电信业务经营许可证号:苏B2-20221286

苏ICP备2022030477号-14 |——:合作/投稿联系微信:nvshen2168

|—— TXT地图 | 网站地图 |