快讯网
首页 资讯 财经 娱乐 汽车 时尚 房产 健康 数码 科技 图库 滚动新闻
网站图库网站地图

火山引擎发布大模型训练云平台:支持万卡训练 集群性能提升3倍

互联网 ● Kxnews.Com.Cn ● 2023/04/19 18:04:33 ● 互联网 ● 访问:

【TechWeb】4月18日消息,自2022年底发布以来,ChatGPT成为人类历史上最快获得上亿用户的消费级 互联网 应用。最新的GPT-4大模型,更是在法律、数学、生物学等多项测试中超过90%人类。

今日,火山引擎发布自研DPU等系列云产品,并推出新版机器学习平台支持万卡级大模型训练、微秒级延迟网络,让大模型训练更稳更快。

火山引擎总裁谭待表示,国内很多 科技 公司投入到大模型建设中,他们有优秀的技术团队,也有丰富的行业知识和创新想法,但往往缺乏经过大规模场景实践的系统工程能力。火山引擎要做的就是为大模型客户提供高稳定性和高性价比的AI基础设施。

谭待认为,大模型不会一家独大。与其他云厂商力推自家大模型不同的是,火山引擎将接入多家大模型深度合作,为企业和消费者提供更丰富的AI应用。

据介绍,火山引擎机器学习平台经过抖音等海量用户业务长期打磨,支持单任务万卡级别的超大规模分布式并行训练场景。GPU弹性计算实例可灵活调度资源,随用随取,最高可以为客户节省70%的算力成本。

字节跳动副总裁杨震原认为,业务创新需要试错,试错要大胆、敏捷,但试错也一定要控制成本。通过潮汐、混部等方式,火山引擎实现资源的高利用率和极低成本。以抖音推荐系统为例,工程师用15个月的样本训练某个模型,5小时就能完成训练,成本只有5000元。火爆全网的抖音“AI绘画”特效,从启动到上线只用一周多时间,模型由一名算法工程师完成训练。

MiniMax是目前国内少数已经推出自研大模型产品的AI技术公司,拥有文本、视觉、声音三种通用大模型引擎能力。据MiniMax联合创始人杨斌介绍,MiniMax与火山引擎合作建立了超大规模实验平台,实现千卡级常态化训练;超大规模推理平台有万卡级算力池,支撑单日过亿次调用。

谭待透露,火山引擎的大模型云平台获得智谱AI、 昆仑万维 ( 300418 )等众多企业的良好反馈。国内大模型领域,七成以上已是火山引擎客户。

(声明:本文仅代表作者观点,不代表快讯网立场。)

手机扫码阅读一下
上一篇文章
2023胡润全球独角兽榜:前十中国占五席,字节跳动蝉联第一
下一篇文章
苹果交通卡设计赛结果出炉 新卡面已在六城上线
  • 你该读读这些:一周精选导览
  • 很多上市公司,是假上市公司
  • 余承东不再担任华为终端BG C
  • SpaceX发射推迟一天至周六 马
  • 阿里Q2财报:菜鸟单季营收同比
  • 付费短视频 抖音“步步为营”
  • 淘宝规模优势扩大,Q2用户数、
  • Copyright © 2012-2024 Kxnews.Com.Cn All Rights Reserved
    欢迎广大网友来本网站投稿,网站内容来自于互联网或网友提供 客服QQ:67650701