华为发布新AI大模型基础设施

作者: 文少

责任编辑: 文少

来源: 电脑商情在线

时间: 2023-07-17 11:36

关键字: 华为 基础设施 AI大模型

近日,华为发布大模型时代AI存储新品,OceanStor A310深度学习数据湖存储与FusionCube A3000训/推超融合一体机,为基础模型训练、行业模型训练,细分场景模型训练推理提供存储解决方案。

华为表示,此次发布的产品是华为顺应大模型时代AI发展趋势,针对不同行业、不同场景大模型应用推出。

华为指出,企业在开发及实施大模型应用过程中面临四大挑战:

一,数据准备时间长,数据来源分散,归集慢,预处理百TB数据需10天左右;

二,多模态大模型以海量文本、图片为训练集,训练集加载效率低,当前海量小文件的加载速度不足100MB/s;

三,大模型参数频繁调优,训练平台不稳定,平均两天出现一次训练中断,故障恢复耗时超过一天;

四,大模型实施门槛高,系统搭建繁杂,资源调度难,GPU资源利用率通常不到40%。

华为公司副总裁、数据存储产品线总裁周跃峰表示:“大模型时代,数据决定AI智能的高度。作为数据的载体,数据存储成为AI大模型的关键基础设施。”

据华为介绍,OceanStor A310深度学习数据湖存储,面向基础/行业大模型数据湖场景,实现从数据归集、预处理到模型训练、推理应用的AI全流程海量数据(维权)管理。

FusionCube A3000训/推超融合一体机,面向行业大模型训练/推理场景,针对百亿级模型应用,集成OceanStor A300高性能存储节点、训/推节点、交换设备、AI平台软件与管理运维软件,为大模型伙伴提供拎包入住式的部署体验,实现一站式交付。

ToB最前沿

ToB最前沿抖音号

CBI科技在线

地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 商务内容合作QQ:2291221 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除
京ICP备:2022009079号-3
京公网安备:11010502051901号
ICP证:京B2-20230255