AI 20要怎样的AI根底设施?并非简略的服务器或GPU实例堆砌

来源于:产品中心 日期:2024-01-05 03:32:59 浏览:21次

  根底设施白皮书》(以下简称《白皮书》)。《白皮书》不只清晰了“新一代AI根底设施”的界说、特色和价值,还初次提出“新一代AI根底设施评价系统”,为AI 2.0年代智算工业高质量开展供给重要参阅。

  数据显现,曩昔四年,大模型参数量以年均400%复合增加,AI算力需求量开端上涨超越15万倍,远超摩尔定律。以CPU为中心的传统核算根底设施已不足以满意大模型、生成式AI的新要求。大模型练习对数据质量和功率的需求,企业使用生成式AI关于MaaS(大模型即服务)的需求,也都给AI根底设施提出了全新要求。

  AI 2.0年代,需求新一代的根底设施来支撑大模型的练习与推理、生成式AI使用的规划化落地,其中心要素,如核算、存储、网络以及数据服务都要做精细化的规划和重构,而非简略的服务器或GPU实例堆砌。

  《白皮书》清晰了新一代AI根底设施的界说:以大模型才能输出为中心渠道,集成算力资源、数据服务和云服务,专门规划用于最大极限提高大模型和生成式AI使用的体现:数据预备与办理、大模型练习、推理、模型才能调用、生成式AI使用布置。企业经过新一代AI根底设施开发和运转生成式AI事务和客户使用程序,以及根底模型和职业模型的练习与微调。

  《白皮书》指出,新一代AI根底设施的建造将下降大模型开发和使用门槛,在政企服务、工业和科研立异等方面发明更大社会价值:面向工业,将快速推动传统工业上下游一切的环节的智能化转型,催生新业态、新模式的不断涌现。面向科研,可加快科学实验的自动化和智能化,激起驱动科学研究(AI for Science)的新范式。面向政务,将本来涣散、碎片化的政务使用,经过“一模通办” 为政务服务提质增效。

  当时,新一代AI根底设施商场处于高速竞赛的初级阶段,、AI原生、硬件系统等各类厂商均有各自优势。为了给企业用户更好的供给AI根底设施选型的可靠性辅导,《白皮书》初次提出了“新一代AI根底设施评价系统”。经过产品技能、战略愿景、商场生态三大维度、十二个评价目标,对AI根底设施厂商归纳才能进行定性和定量的全面评价。

  《白皮书》选取了十二家最具代表性的AI根底设施厂商。商汤科技的新一代AI根底设施 -SenseCore商汤大设备,在各个评价目标的得分均超越厂商平均分,并在商场呼应、商场认知、产品战略、工程化建造四个评价目标拿到满分,成为新一代AI根底设施商场的领导者。一起,《白皮书》指出,商汤在产品服务才能呈现出较强的产品实力和技能堆集,不只超前布局了算力根底设施,还在MaaS渠道和本身大模型事务的加持下,形成了整套AI根底设施产品架构,完结用户大模型练习、生成式AI使用的大规划落地需求。SenseCore商汤大设备作为商汤推出的AI根底设施产品与解决方案,整体算力规划现在已达6800P,在支撑商汤本身大模型研制的一起,也支撑外部客户练习大模型和使用布置。今年以来,共有超1000个参数量数十亿至上千亿的大模型在大设备上完结练习,完结了领跑职业的技能迭代进展,并支撑了数十款生成式AI使用。

  《白皮书》最终指出,跟着新一代AI根底设施的边沿本钱继续下降、边沿效益继续增加,AI将普惠每一个人。