WAP手机版 RSS订阅 加入收藏  设为首页
mg官方电子平台
当前位置:首页 > mg官方电子平台

mg官方电子平台:大型模型将成为云制造商弯道超车的机会

时间:2023/4/18 20:15:56   作者:   来源:   阅读:52   评论:0
内容摘要:有评论称,大型模型将成为云制造商弯道超车的机会。谭竺表示,大模式还处于发展初期,数据安全、内容安全、隐私保护、版权保护等诸多问题需要解决。但可以预见的是,大模型将带动云上AI计算能力的大幅提升,AI计算能力工作量与通用计算能力的差距将越来越小,这将给云厂商带来新的机遇,也将给数据中心、软硬件栈、PaaS平台带来新的挑战...

有评论称,大型模型将成为云制造商弯道超车的机会。谭竺表示,大模式还处于发展初期,数据安全、内容安全、隐私保护、版权保护等诸多问题需要解决。但可以预见的是,大模型将带动云上AI计算能力的大幅提升,AI计算能力工作量与通用计算能力的差距将越来越小,这将给云厂商带来新的机遇,也将给数据中心、软硬件栈、PaaS平台带来新的挑战。

以数据中心的计算能力结构为例,谭成说:“大模型需要大的计算能力,虚拟化会带来资源消耗,规模越大,损失就越多。未来3年,大型计算能力中心将形成‘CPU + GPU + DPU’的混合计算能力结构,CPU负责通用计算,GPU负责AI计算,DPU负责资源卸载、加速和隔离,提高资源效率。”mg官方电子平台

在原始动力大会上,火山引擎发布了自主开发的新一代dpu,可以卸载计算、存储和网络的所有组件,为业务负载释放更多资源。虽然火山引擎是“最年轻”的云供应商,但其自主研发的DPU已达到行业领先水平,网络性能高达5000万pps转发容量,延迟低至20us。基于自主研发dpu的各种计算实例性能也有了明显提升,如适合大模型分布式并行训练场景的GPU实例,与上一代实例集群相比,集群性能提升了3倍。

自动驾驶公司Milli与Volcano Engine合作搭建智能计算中心,为DriveGPT自动驾驶生成式预训练模型提供强大的计算能力支持。米力出行CEO顾伟浩介绍,DriveGPT利用4000万公里的人类驾驶数据训练,参数尺度达到1200亿,不断优化自动驾驶认知决策模型。



本类更新

本类推荐

本类排行

本站所有站内信息仅供娱乐参考,不作任何商业用途,不以营利为目的,专注分享快乐,欢迎收藏本站!
所有信息均来自:百度一下 (mg代理注册)
浙ICP备11022576号-1