字节旗下火山引擎发布大模型训练云平台 支持微秒级延迟网络

原标题:字节旗下火山引擎发布大模型训练云平台:支持万卡训练,集群性能提升 3 倍

4 月 18 日消息,今日火山引擎在其举办的“原动力大会”上发布自研 DPU 等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,弹性计算可节省 70% 算力成本。

火山引擎称,基于自研 DPU 的 GPU 实例,相比上一代集群性能最高提升三倍以上。火山引擎总裁谭待透露,“国内大模型领域的数十家企业,超过七成已经在火山引擎云上”。

图:火山引擎总裁谭待

会上,火山引擎宣布与字节跳动国内业务并池。据IT之家了解,基于内外统一的云原生基础架构,抖音等业务的空闲计算资源可极速调度给火山引擎客户使用,离线业务资源分钟级调度 10 万核 CPU,在线业务资源也可潮汐复用,弹性计算抢占式实例相比常规产品最高优惠 80% 以上。

来源:IT之家

IT时代网(关注微信公众号ITtime2000,定时推送,互动有福利惊喜)所有原创文章版权所有,未经授权,转载必究。
创客100创投基金成立于2015年,直通硅谷,专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。

相关文章
字节旗下火山引擎发布大模型训练云平台 支持微秒级延迟网络

精彩评论