欢迎光临深圳市710公海寰宇机电设备有限公司官方网站!
咨询热线:13265717552

深圳市710公海寰宇机电设备有限公司
手机:13265717552(微信同号)
联系人:赵先生
深圳市龙华区观澜街道桂花社区桂花路103号-107号(单号)505

710公海寰宇(中国)有限公司- 云端AI芯片落地难题如何破解?
  • 作者:
  • 来源:
  • 日期 : 2026-04-14 18:34:07

   导语:开箱即用的交钥匙解决方案是个解题思绪。

提到AI的落地你开始会想到甚么?

有人想到了AI芯片的使用率以和底层硬件的调理;有人想到AI芯片的算力效益;还有有人想到算力办事。

AI的落地,可以或许为聪明都会的设置装备摆设,更精准的气候的猜测,构建更安全的收集情况等提供底层支撑。

云端AI芯片落地难题如何破解?

可是,AI的落地依旧面临诸多的挑战。好比,怎样才能将AI用起来?怎样才能渐进式的实现AI的价值?怎样基在AI成长算力经济?

这逐层渐进的问题,磨练着所有提供AI技能以和想要利用AI技能的人。对于在最底层的AI芯片的提供者,今朝很是棘手的问题之一就是软件。

燧原科技开创人兼COO张亚林于2022世界人工智能年夜会上就暗示:“按照过往落地实践,咱们发明,AI数据中央因其软件运维繁杂,遍及具备方案选型难、各厂商产物兼容未知等痛点,并且数据中央部署交付周期长、沟通成本高、项目治理周期长。”

软件问题,尤其是基在云端高机能AI推理及练习芯片的上层软件及生态,限定着浩繁AI芯片立异者的成长。

燧原科技开创人、CEO赵立东认为,“生态的垄断是今朝咱们面对的最年夜挑战,而生态垄断的缘故原由是紧耦合的软件及硬件。是以,咱们必然要立异。”

为相识决当下云端AI芯片落地的挑战,差别的公司会从差别的维度冲破软件及生态的挑战。

2022年9月3日,燧原科技于“算尽其用·界说AI算力中央新实践”云端算力财产运用论坛上给出相识决这一挑战的谜底——云燧智算机(CloudBlazer POD)。

云燧智算机是针对于年夜范围、集约化人工智能算力运用场景的高机能AI加快集群,有一站式预集成人工智能加快硬件、一体化开发与治理平台和配套人工智能运用软件与办事,合用在数字当局、科研院所、科创平台等。

简朴来讲,燧原科技于解决高机能云端AI芯片落地给出的一个解题思绪就是“开箱即用”。

作甚开箱即用?于交付方式上,云燧智算机提供包括采购、安装、运维一体的交钥匙方案。

可以或许以如许的方式交付,还有是由于云燧智算机采用一体化设计。

硬件的算力层面,基在燧原科技已经经发布的自研AI高机能芯片。于典型配置下,云燧智算机每一单位可到达8PFLOPS的TF32浮点算力,而且撑持按需横向扩容,可撑持数千卡范围集群,可以或许实现顶级超算的E级算力。

同时,云燧智算机也集成为了互助伙伴的CPU,提供足够的算力。但计较集群除了了算力这个焦点要素以外,收集及存储及很是要害。

云端AI芯片落地难题如何破解?

张亚林先容,“云燧智算机代表了燧原科技颠末多个年夜范围工程实践所形成的计较、收集、存储的总体设计:以全局优化为方针,基在计较、存储、治理收集分散,全互联无壅闭的收集架构,联合高效的多级存储方式,于‘邃思’AI芯片与CPU的异构算力支撑下,云燧智算性能够提供卓着的AI机能。”

雷峰网(公家号:雷峰网)相识到,燧原科技的第一代及第二代“邃思”芯片已经现实运用在年夜范围AI集群工程中,落地范围达千卡级别,场景包括融媒体天生、都会智能感知等。

固然,提到计较集群就不能不存眷数据中央总体能效(PUE),尤其是于双碳方针以和绿色环保的整体趋向,以和东数西算有政策性要求。据悉,云燧智算机采用一体化冷板式液冷技能,实现单节点8颗高机能人工智能芯片液冷散热,PUE可降至1.1和如下。

前面提到,AI落地一个巨年夜的挑战就是软件。不外软件是一个很宽泛的观点,既需要可以或许晋升AI芯片使用率的编译器、库等,也需要算力平台的治理软件。

随最新推出的云燧智算机一路推出的是燧原科技提供燧池智算平台(CloudBlazer Station),包罗基础举措措施层的异构算力调理平台,智能运维平台,驭算软件栈SDK,算法办事层的智能算法治理平台以和训推一体化平台。

云端AI芯片落地难题如何破解?

同时,面临超年夜参数目的巨量模子趋向,云燧智算机可撑持超千亿参数巨量模子的高效、并行练习,这重要是患上益在云燧智算机计较节点内基在GCU-LARE2.0多芯互联技能提供近1TB/s的互联带宽,跨节点互联能力高达600Gb/s,可实现千卡级年夜范围集群高速互联。

开箱即用的计较集群确凿可以或许于必然水平降低利用者的门坎,但计较集群究竟是一个繁杂的体系,终极能于多年夜水平上促成高机能AI计较的落地,还有需要用更多的落地项目证实。

云端AI芯片落地难题如何破解?

雷峰网原创文章,未经授权禁止转载。详情见转载须知。

-710公海寰宇(中国)有限公司



13265717552
地址:深圳市龙华区观澜街道桂花社区桂花路103号-107号(单号)505
 
本站部分图文来源网络,如有侵权问题请通知我们处理!