作者
三北编辑
漠影
随着大模型发展中的硬件瓶颈凸显,软件优化成为一条必由之路。
在近日举办的中国生成式AI大会上,国产算力龙头中科曙光亮出AI软件“肌肉”,推出曙光AI基础软件系统DAS,为大模型迁移和优化提供了一条新捷径。
众所周知,中科曙光是国产算力之光的代表。在大模型的驱动下,曙光又建立起了软硬一体和AI全链路能力,展现了算力玩家能力扩圈的新趋势。
大模型的发展势不可挡。国际数据公司IDC的报告预测,年企业在AI上的投入增长将高达%。大模型发展对算力服务提出了什么新要求?曙光AI基础软件系统DAS能提供什么样的升级服务和真实价值?
通过对话中科曙光智能计算产品事业部副总经理胡晓东,本文对此进行了深入探讨。
一、大模型催生AI新战场,国产算力龙头“变软”大模型产业正进入高速发展期,所需的不再是单项算力能力,而是多维综合能力。
根据IDC中国副总裁钟振山在近期中国ICT市场趋势论坛上的发言,年大模型发展出现五大趋势:中国大模型在年“卷”向产业;开源和闭源共同促进应用生态繁荣;大模型走向手机、PC等端侧;多模态将促使杀手级应用出现;新一代AI基础设施成为下一个战场。
在AI基础设施新战场,以曙光为代表的核心基础设施领军企业已经提前布局。
胡晓东告诉智东西:“我们深知算力是AI技术发展的核心驱动力。然而,仅拥有强大的硬件算力是不够的,需要软硬一体化的能力支撑AI技术的落地应用,并联合伙伴一起打造完整的AI生态圈。”
在与客户深入交流的过程中,胡晓东和他的团队发现许多客户在AI应用过程中面临着种种挑战,如模型训练效率低下、算法部署困难、算力资源利用率不高等问题。这些问题严重影响了AI技术的普及和应用。
为了解决这些问题,曙光在今年推出了DAS人工智能基础软件系统,帮助客户更快速、更高效地实现AI技术的落地应用。
曙光深耕算力底座基础能力几十年,自年研发出国内首台全对称共享存储多处理机系统曙光一号之后,逐步完成了对算力产业的全产业链覆盖,近年来还推出了国内首款规模化量产液冷服务器等核心高端硬件,成为核心硬件实力担当。
DAS人工智能基础软件系统,是这家算力龙头向全栈AI阶段迈出的关键历史性一步。
配合曙光基础硬件及开发工具栈等能力,DAS人工智能基础软件系统聚焦打造一套完整的人工智能软硬件生态体系,帮助用户抵达AI应用迁移、开发及迭代的“最后一公里”。
胡晓东谈道,DAS人工智能基础软件系统是从年就基于曙光过往的技术及项目积累开始投入研发的,经多年不断发展,近期逐步产品化并对外发布:
1、首先,打造算力基础设施是曙光在全国产化能力上构建的一个最坚实的基础。
2、第二个是软件生态,只有通过软件才能真正将算力发挥出来。
、第三方面是平台层,应该是能将底层的硬件能力、软件能力实现打包统一化交付的能力,依托平台将整个算力以服务的形式交付到用户手上。
可以看到,大模型催生了AI算力新需求,而国产算力之光主动选择“变软”,背后是对AI产业需求和痛点的深入洞察。
二、软件扛着硬件跑,曙光全栈AI亮剑当下,市面上已经出现了昇腾MindSpore、阿里魔搭等AI开发平台及社区,而曙光打造的DAS人工智能基础软件系统的一大差异化是国产化自主可控属性。
胡晓东告诉智东西,围绕过往的产品及技术的储备,曙光希望拉通算力底层、软件栈、平台、内容侧,共同打通一套赋能机制,将所有的产品及服务能力化地交付到用户手上,构建出一套国产AI能力化输出流程。
站在大模型闭环角度来看,从模型开发到场景适配、应用部署,从基础训练到准备资源、准备不同的库去微调,再到压缩、推理、服务,到把这个模型输出,曙光都结合项目经验和伙伴交流情况进行了分析。
AI赛道性能为王。“每个层级有不同的