阿里云:全面升级GPU云服务:大模型推理性能大幅提升

阿里云推出全面升级的 GPU 云服务,优化 GPU 套件使多 GPU 推理服务性能最大提升 100%,推出 ACK 云原生 AI 套件助力开发和部署 AI 应用。通过优化底层的 AI 通信加速库 DeepNCCL 提升性能,优化推理加速性能,ACK 容器服务能高效管理和调度 GPU。ACK 云原生 AI 套件可增强和加速关键领域能力,如提升训练数据读取性能、降低推理服务冷启动时延。海艺 AI 是调用阿里云 GPU 云服务的先行者,性能大幅提升。阿里云在最新报告中综合产品能力指标居全球第二,成为中国 AI 大模型的公共底座,众多企业和机构在阿里云上训练大模型并提供服务,还有企业接入通义大模型提供应用服务。

https://new.qq.com/rain/a/20240719A09IQC00

本站文章通过互联网转载或者由本站编辑人员搜集整理发布,如有侵权,请联系本站删除。

本文链接:https://www.ttxsai.com/news/2603.html

滚动至顶部