在人工智能国产化进程加速的背景下,DeepSeek凭借其卓越的推理能力引发热议。山东移动紧抓机遇,依托中移齐鲁创新院组建“芯片-框架-模型”全栈攻关团队,联合中国移动研究院,借助“芯合”算力原生平台跨架构迁移能力,完成DeepSeek-R1-671B完整模型部署,支撑青岛大数据局、中车集团、海尔集团等12项业务需求落地,通过自研自动化部署工具将满血版模型部署时间从30小时降低到4小时,效率提升650%,部分版本模型部署时间压缩至分钟级。“芯合”算力原生平台跨架构迁移能力,可解决AI应用与底层硬件深度绑定、难以跨架构部署迁移等问题,自研AI+技术平台可支持DeepSeek全尺寸大模型接入,大幅提高模型部署与交付效率。
面对昇腾910B裸金属环境下千亿参数模型部署中的挑战,山东移动依托全自动部署工具、预热文件系统缓存技术、构建大模型部署资源库、算力原生架构迁移等能力,有效解决了模型部署效率低、权重文件传输速率慢、模型精度转换效率低、国产算力推理架构资源少的问题,其中模型部署时间减少80%、权重文件传输带宽达到20Gb/s、模型精度转换效率提升75%,有效丰富国产算力架构资源。山东移动研发全流程标准化交付组件,搭建可视化UI界面,方便用户使用、管理部署的模型服务及知识库,搭建性能检测平台,对模型服务性能指标进行实时监控,构建One API平台,实现API安全管理,高效完成模型部署任务。
实现DeepSeek高效部署,体现了山东移动在大模型应用方面的技术实力。通过部署DeepSeek,各行业在体验DeepSeek-R1-671B带来的强大推理能力的同时,能够基于“深度思考”模式,进一步挖掘工业数据价值,实现对复杂问题的深层次解析与优化,助力各行各业在各领域探索更多可能性。未来,山东移动将继续深化与各方的合作,提升“芯合”算力原生平台跨架构迁移能力,进一步针对DeepSeek的部署与配置进行研发优化,更好支撑DeepSeek等大模型跨架构迁移和高效运行,努力打造“最会用AI的公司”。
热门评论 我要评论 微信扫码
移动端评论
暂无评论