首页 小说推荐 实时讯息 百科知识 范文大全 经典语录
当前位置: 首页 > 实时讯息 >

山东移动推出自动部署工具 提升DeepSeek部署效率

0次浏览     发布时间:2025-04-02 16:43:00    

在人工智能国产化进程加速的背景下,DeepSeek凭借其卓越的推理能力引发热议。山东移动紧抓机遇,依托中移齐鲁创新院组建“芯片-框架-模型”全栈攻关团队,联合中国移动研究院,借助“芯合”算力原生平台跨架构迁移能力,完成DeepSeek-R1-671B完整模型部署,支撑青岛大数据局、中车集团、海尔集团等12项业务需求落地,通过自研自动化部署工具将满血版模型部署时间从30小时降低到4小时,效率提升650%,部分版本模型部署时间压缩至分钟级。“芯合”算力原生平台跨架构迁移能力,可解决AI应用与底层硬件深度绑定、难以跨架构部署迁移等问题,自研AI+技术平台可支持DeepSeek全尺寸大模型接入,大幅提高模型部署与交付效率。

已完成部署的模型性能监控界面

面对昇腾910B裸金属环境下千亿参数模型部署中的挑战,山东移动依托全自动部署工具、预热文件系统缓存技术、构建大模型部署资源库、算力原生架构迁移等能力,有效解决了模型部署效率低、权重文件传输速率慢、模型精度转换效率低、国产算力推理架构资源少的问题,其中模型部署时间减少80%、权重文件传输带宽达到20Gb/s、模型精度转换效率提升75%,有效丰富国产算力架构资源。山东移动研发全流程标准化交付组件,搭建可视化UI界面,方便用户使用、管理部署的模型服务及知识库,搭建性能检测平台,对模型服务性能指标进行实时监控,构建One API平台,实现API安全管理,高效完成模型部署任务。

实现DeepSeek高效部署,体现了山东移动在大模型应用方面的技术实力。通过部署DeepSeek,各行业在体验DeepSeek-R1-671B带来的强大推理能力的同时,能够基于“深度思考”模式,进一步挖掘工业数据价值,实现对复杂问题的深层次解析与优化,助力各行各业在各领域探索更多可能性。未来,山东移动将继续深化与各方的合作,提升“芯合”算力原生平台跨架构迁移能力,进一步针对DeepSeek的部署与配置进行研发优化,更好支撑DeepSeek等大模型跨架构迁移和高效运行,努力打造“最会用AI的公司”。(供稿人:山东移动 陈珂)

相关文章:

小学语文老师写黑板字,一整个惊艳住了!04-04

行走的思政课丨坚定从警初心: 山东警察学院开展铸牢忠诚警魂教育活动04-04

微信最新公告:拦截、下架04-04

厄瓜多尔首都引入首批双源无轨电车,来自宇通04-03

Mhmarkets迈汇平台:普京与特朗普背后的能源与地缘政治博弈04-02

省属事业单位招聘!日照有岗!04-02

湾区标准+佛山速度!佛山首个国家级对外开放发展平台通过验收04-02

网约车车祸致女子流产平台被判全责,赔偿孕妇9万余元04-02