抢占先机,效率为王,大模型的下一步路在何方?
今天,生成式AI正在成为全球科技公司竞相布局的赛道,不少硬件公司也在向AI转型。
2023年8月24日,浪潮信息正式发布“大模型智算软件栈OGAI。OGAI(Open GenAI Infra)“元脑生智”,由浪潮信息基于大模型自身实践与服务客户的专业经验而开发,旨在为大模型开发与应用全力打造高效生产力,加速生成式AI产业创新步伐。
作为业内最早布局大模型的企业之一,浪潮信息早在2021年就推出了中文AI巨量模型“源”,参数规模高达2457亿。
【资料图】
浪潮信息是国内排名第一的AI服务器龙头企业。根据IDC的数据,2021年X86服务器市场和AI服务器市场中,浪潮信息均位列第一,市场占比分别为30%,%。
服务器厂商开始做大模型以及配套开发工具链的软件产品,这是生成式AI驱动下的产业链变化趋势。
生成式AI不仅是AI公司的机遇,它也是一场从底层算力到上层AI应用的全产业链机会。
从市场增长表现上来看,预计到2032年,生成式AI市场的营收规模将从去年的400亿美元增长逾30倍至万亿美元。
OGAI是浪潮信息面向以大模型为核心技术的生成式AI开发与应用场景所构建的全栈智算软件栈,为大模型业务提供AI算力系统环境部署、算力调度保障及模型开发管理的全栈全流程能力。
图片来自浪潮信息
OGAI软件栈由5层架构组成,从L0到L4分别对应于基础设施层的智算中心OS、 系统环境层的PODsys、调度平台层的AIStation、模型工具层的YLink和多模纳管层的MModel五大产品。
具体来看,L0层智算中心OS的定位是面向智算中心等公共算力服务平台,面向多租户场景,提供 灵活多样的以裸金属为主的AI算力服务。
L1层PODsys是浪潮信息聚焦于智算集群部署场景打造的开源项目,提供了包括基础设施环境安装、环境部署、用户管理、系统监控和资源调度一整套工具链, 旨在打造一个易用、高效、开放、兼容的智算集群系统环境部署方案。
L2层AIStation聚焦于AI开发场景,通过云原生技术对集群系统中的计算资源、存储资源和网络资源进行统一的接入和纳管,提供了易于使用的开发环境和作业管理界面,并基于内置算力调度系统和训练稳定保障系统来实现易于接入、按需分配、弹性扩展和和高效稳定的AI研发应用支撑平台。
L3层YLink聚焦于大模型的开发过程,通过集成整合浪潮信息在大模型研发过程中的工具和开源工具,为用户提供高效、便捷与标准化的大模型开发与优化流程。
L4层MModel定位于多模型管理与服务平台,帮助客户更好的管理和评估模型,加速模型的部署和应用。
为了满足大模型开发和应用在算力基础设施上的需求,OGAI秉承全栈全流程,算力充分释放,实战验证提炼的设计原则,帮助客户更好更快地使用大模型,降低算力系统的使用门槛、优化大模型的研发效率,保障大模型的生产与应用。
作为智慧计算的引领者,浪潮信息是一家以 IT基础架构技术、产品为核心的基础设施提供商 ,主要向客户提供 云计算、大数据、人工智能等数字化解决方案 ,为什么在此刻,选择做大模型开发工具链这一软件产品?
实际上,开发大模型是一项复杂的系统工程,尤其是对于长线布局大模型、注重打造自身核心竞争力的企业,需要综合考量算力系统的部署、优化、资源调度,还要考量数据的采集、清洗、处理,模型训练、推理、迁移、调优以及应用服务、生态构建等一系列问题。
浪潮信息人工智能与高性能应用软件部AI架构师Owen ZHU表示:“以前客户会认为,买服务器就像买手机、买电脑一样,买完就可以使用了,但实际上随着算力需求持续变大,事情变得越来越复杂,买回去也不一定用起来。”
客观来看,以英伟达GPU为例,其虽然也是非常成熟的产品,但它本身也是在持续地更新与进步,每隔一两年就会有新产品上市。而大模型公司中并不一定会有那么多的GPU专家,如果买了最先进的GPU,使用起来会有一些门槛。
其次,大模型算力平台并不是算力的简单堆积,随着模型的规模越来越大,单卡算力与模型总算力需求之间存在着巨大的差异。
Owen ZHU告诉「甲子光年」:“从十几台机器扩展到几百台机器,使用难度会呈指数级上升。一百台机器的集群规模,从安装、调试到部署,可能需要一个月之久,研发团队真正用起来可能到下一个季度了,极大地影响工作效率。而浪潮信息的OGAI软件,可以把这个周期缩短到一周。”
针对大模型训练的种种问题,浪潮信息给出的解决方案,就是在算力之上推出的配套软件产品OGAI,一款解决大模型训练与微调的工具链,真正实现“算力释放”。
面向万亿级别的AIGC赛道,真正的产业布局才刚刚开始。市场亟需从系统层面为未来大模型的良好生态发展寻找最优解:通过构建高效稳定的智算系统,深耕发掘系统部署、集群优化,资源调度,数据处理、训练加速、算法优化等全面的能力,让炼大模型更省时、省力,让大模型更快、更稳、更智能。
浪潮信息高级副总裁刘军表示:“我们越来越不像一家硬件公司。我们硬件当然做得非常好,但要想进一步产生更大的价值,必须去理解客户的痛点,并且去解决痛点。我们在系统、软件、算法上面都有非常强的团队,这是我们帮助于客户去用好系统,用好硬件的非常重要的保证。”
浪潮信息正是用大模型智算工具链解决大模型研发遇到的算力效率问题。
OGAI来自于浪潮信息在大模型领域的工程实践,这要追溯到2021年。
当时,谷歌已经发布了BERT,OpenAI也发布了ChatGPT的上一个版本GPT-3,大模型时代刚刚开启。
大模型的训练需要充足的算力。为了对大模型这一先进技术进行验证与示范,浪潮信息专门成立了一个软件开发团队来进行大模型研发。
浪潮信息高级副总裁刘军表示:“我们的初心,就是对前沿技术的探索,让算力来充分地赋能大模型训练以及背后的产业落地化等工作。”
2021年,浪潮信息推出了中文AI巨量模型“源”,参数规模高达2457亿,并获得了中文语言理解评测基准CLUE榜单的零样本学习(zero-shot)和小样本学习(few-shot)两类总榜冠军。
大模型能力来源于大量工程实践经验,其对集群的并行运算效率、片上存储、带宽、低延时的访存等都提出了较高的需求,万卡AI平台的规划建设、性能调优、算力调度都是很难解决的难题。
而千亿参数规模的大模型创新实践,使得浪潮信息在大模型领域积累了实战技术经验并拥有专业的研发团队,具备从算力、平台管理、算法到应用落地的全栈开发能力,持续加速开放赋能。
面对今时的AIGC产业机遇,唯有深耕“沃土”,才有迸发出百花齐放、万紫千红产业的可能。显然,这是浪潮信息始终在践行的。
IDC预测,到2026年,全球AI计算市场规模将增长到亿美元,生成式AI计算占比从22年%增长到 %。
万亿AIGC赛道,布局探路初露眉头。百模大战,系统性能力的比拼才刚刚开始。
标签:
-
2022-09-15 14:23:06
杨莉娜租借加盟巴黎圣日耳曼 与姆巴佩梅西拉莫斯一起共事<
北京时间9月13日下午,法甲女足俱乐部巴黎圣日耳曼正式官宣中国女足国脚杨莉娜完成租借加盟,合同期至2023年6月。杨莉娜成为目前国家队中第
-
2022-02-07 14:57:45
奇迹!绝杀!女足亚洲杯逆转夺冠!<
刚刚,中国女足上演逆转绝杀奇迹!她们在亚洲杯决赛中3:2力克韩国队,时隔16年再夺亚洲杯冠军!
-
2022-02-07 14:57:45
中国政府与阿根廷共和国政府签署共建“一带一路”谅解备忘录<
新华社北京2月6日电(记者安蓓)国家发展改革委6日称,国家发展改革委主任何立峰与阿根廷外交、国际贸易和宗教事
-
2022-02-07 14:57:43
中华人民共和国和阿根廷共和国关于深化中阿全面战略伙伴关系的联合声明(全文)<
新华社北京2月6日电中华人民共和国和阿根廷共和国关于深化中阿全面战略伙伴关系的联合声明一、应中方邀请,阿根廷
-
2022-02-07 14:57:40
春节假期国内旅游出游2.51亿人次<
春节遇冬奥,旅游年味浓。根据文化和旅游部数据中心测算,2022年春节假期7天,全国国内旅游出游2 51亿人次,同比
-
2023-08-26 06:05:11
抢占先机,效率为王,大模型的下一步路在何方?
今天,生成式AI正在成为全球科技公司竞相布局的赛道,不少硬件公司也在
-
2023-08-26 01:11:55
人人乐拟非公开发行不超过4460.9665万股
人人乐(002336):2023年8月25日增发预案,拟非公开发行不超过4460 9665
-
2023-08-25 22:13:46
好好生活慢慢相遇什么意思(好好)
很多人对好好生活慢慢相遇什么意思,好好不是很了解那具体是什么情况呢
-
2023-08-25 20:19:56
仙台山红叶什么时候红 仙台山红叶最佳时间
1、现在红了。2、10月-11月上旬去最好。相信通过仙台山红叶最佳时间这
-
2023-08-25 19:03:24
贵州黔南“贵”烟高端原料“定”制化工作座谈会召开
8月24日,贵州黔南“贵”烟高端原料“定”制化工作座谈会在贵定县召开
-
2023-08-25 17:11:25
食品加工制造板块跌1.87% 五芳斋涨5.68%居首
中国经济网北京8月25日讯今日,食品加工制造板块整体跌幅1 87%,其中,
-
2023-08-25 15:44:50
【工作细胞:病毒打工记】022:铤而走险
走廊內的光线十分昏暗,借助窗外的夜色也只能勉强看清脚下的路,待眼睛
-
2023-08-25 14:21:10
47岁的李湘,终于为自己的“炫富”付出了代价
近日,李湘首次在社交媒体上晒出了她在英国的豪宅内景,让人惊叹不已。
-
2023-08-25 12:59:25
蜂巢能源351万股权被冻结 大族激光所持蜂巢能源股权被冻结
天眼查App显示,近日,蜂巢能源科技股份有限公司新增一则股权冻结信息
-
2023-08-25 11:16:25
官方:中甲延边龙鼎球员许波因辱骂裁判 被禁赛6场罚6万
中甲联赛延边龙鼎队球员许波因冲出技术区域辱骂第一助理裁判员,被停赛
-
2023-08-25 09:40:21
中银证券:给予澜起科技买入评级
中银国际证券股份有限公司苏凌瑶近期对澜起科技进行研究并发布了研究报
-
2023-08-25 08:49:21
华金证券给予金山办公买入评级,订阅业务快速增长,看好AI+办公的深度融合
每经AI快讯,华金证券08月25日发布研报称,给予金山办公(688111 SH,
-
2023-08-25 07:12:39
林肯车标叫什么(林肯车标是什么样的?)
相信大家对林肯车标叫什么,林肯车标是什么样的?的问题都很疑惑,这个
-
2023-08-25 04:02:19
网络贷款欠了四十万超过3天了如何办理停息挂账
停息挂账业务是债务处理的一种结果,想要让银行同意债务人办理停息挂账
-
2023-08-24 23:00:35
国台办:民进党当局用台湾同胞血汗钱换武器 换不来“安全”
8月24日,国台办发言人朱凤莲答记者问。问:据媒体报道,美国政府近日
-
2023-08-24 21:08:05
福州首次开展网约车平台集体协商 惠及约2000名网约车司机
惠及约2000名网约车司机(副题)福建日报讯(记者庄严通讯员林滢)23日
-
2023-08-24 19:35:50
杭州亚运会倒计时30天 浙江象山启动滨海休闲运动嘉年华
中新网宁波8月24日电(记者林波)8月24日,杭州亚运会倒计时30天系列活动
-
2023-08-24 18:19:44
广州供电局2023年第5批专项一次、配网、通信、线路、信息、仪器仪表物资竞争性谈判成交结果
广州供电局2023年第5批专项一次、配网、通信、线路、信息、仪器仪表物
-
2023-08-24 16:45:55
钧达股份(002865)龙虎榜数据(08-24)
沪深交易所2023年08月24日公布的交易公开信息显示,钧达股份因成为当日
-
2023-08-24 15:23:07
双元科技(688623.SH):未购买中融或中植系的相关理财产品
双元科技(688623 SH):未购买中融或中植系的相关理财产品,中融,中植系,
-
2023-08-24 13:53:16
中国第三位!姚明正式进入国际篮联名人堂
摘要:姚明正式进入国际篮联名人堂24日,国际篮联通过社交媒体宣布,20
-
2023-08-24 12:15:45
赛克赛斯:持续关注植介入生物材料国产空白领域
本文来源:时代商学院作者:文通文 文通近年来,随着我国经济水平的快
-
2023-08-24 10:59:18
首次接触仅1天时间 这家中国信创500强决定落户四川内江高新区
封面新闻记者贾娇签下34个数字经济产业项目、总投资超100亿元——这是8
-
2023-08-24 09:34:10
云南省文山市发布暴雨蓝色预警
文山市气象台2023年8月24日8时24分发布暴雨蓝色预警信号:过去1小时我
-
2023-08-24 08:21:55
回购、增持不断!深市上市公司用“真金白银”投下“信心票”
在A股震荡筑底之际,深市上市公司掀起了回购计划以及董监高增持的热潮
-
2023-08-24 06:36:26
中报观察|保利物业节奏放缓
观点网8月22日晚间,保利物业披露2023上半年业绩。从上半年的成绩单来
-
2023-08-24 03:08:04
没有钱还网贷逾期怎么办
一、没有钱还网贷逾期怎么办没有钱还网贷逾期的处理办法如下:1 申请延
-
2023-08-23 22:24:46
美股科技股普涨
美股科技股普涨:格隆汇8月23日|美股科技股普涨,奈飞(NFLX US)涨超3%
-
2023-08-23 21:04:13
创胜集团-B(06628)8月23日回购1500股
创胜集团-B(06628)发布公告,于2023年8月23日该公司斥资5250港元回
-
2023-08-23 19:22:21
如何应对日本核污染水排海,有何影响及其代价?
根据日本的计划,福岛核电站的核污染水将至少排放入海持续30年。无论国