行业解决方案-广州五舟信息技术有限公司

项目背景

随着多模态大模型的不断发展，加上ChatGPT等生成式大模型框架的崛起，越来越多行业的领导企业及新兴人工智能企业对算力需求与日俱增。据济南市大数据局调研结果显示：2024年算力规模达4000P Flops，2025年筹划建设算力5000P Flops，可一体化调度智能算力规模达到3000P Flops，智能算力占比达到70%以上，先进存储占比达到35%以上。

面临问题

算力需求量大

· 千亿参数AI大模型训练。
· 大量高并发AI推理计算。
· 传统AI场景应用开发。

计算需求多样

· 满足各类AI研发与应用场景开发需求。
· 多种混合架构（昇腾算力）。

助推产业发展

· 以该项目为契机，打造济南当地人工智能产业链。
· 满足中小企业AI研发需求。

建设规划方案

昇腾混合部署
· 144T Flops FP64 双精度算力。

· 33P Flops FP16 AI算力。
· 400G/200/100G RoCE高速网络。
· 1.8PB有效容量。

灵活调度管理

· 根据用户需求，将计算任务灵活调度到国产或NVIDIA计算节点。
· 采用基于容量云作业调度模式。

统一、全面云管

· 建设统一的国产和NVIDIA算力资源云平台。
· 提供全面的作业和硬件资源管理。

全场景应用

应用性能提升

提高济南市人工智能高新技术企业在AI大模型训练，AI场景应用开发等方面的效率。

降低使用门槛

图形界面交互，简单易用容器镜像打包技术节省用户大量的安装、调试、配置时间。

促进产业发展

落实《济南市新一代人工智能高质量发展行动计划（2024-2026年）》要求，促进济南市AI产业发展。