导语：英特尔及火山引擎互助，降低了云端及私有部署的门坎。

自年头 DeepSeek 爆火后，愈来愈多企业最先测验考试经由过程 AI 晋升效率。此时摆于眼前的问题是：究竟是经由过程云办事采办 Token，还有是采购 AI 一体机或者办事器举行私有化部署？

多位业内子士对于雷峰网(公家号：雷峰网)暗示，从久远看，基在云的 AI 部署方式将成为主流。一方面，AI 能力仍于快速演进；另外一方面，企业于摸索 AI 运用的历程中，其所需的算力及能力也会不停变化，云计较于是揭示出更强的矫捷性及部署效率。

于2025火山引擎春天原动力年夜会的英特尔分论坛上，英特尔技能专家对于雷峰网暗示：“一些企业的需求持久不变，一旦现有AI解决方案乐成部署，就不需要频仍改换解决方案，这种客户更偏向在私有化部署。”

正如华胜天成助理总裁郭涛于论坛上所言：“AI 的价值不于技能自己，而于在是否真正帮忙客户降本增效。”

是以，AI 部署方式的选择应依据企业的营业需乞降特色而定，甚至可以采用云与私有化联合的混淆部署方案。由于英特尔与火山引擎互助，提供既撑持私有化、又撑持云端部署路径。

值患上一提的是，AI部署不长短GPU不成，至强CPU于很多场景中也长短常好的选择。

云端弹性算力部署 AI，成本最高可节省 83%

云端部署之以是被认为是将来主流，要害于在其弹性算力及高性价比。

“缭绕年夜模子的负载，不仅需要年夜量的GPU算力，同时也需要CPU的算力协同共同，这类分工模式要求企业必需同步进级两类算力资源，以满意端到真个AI营业需求。”火山引擎云基础产物司理卖力人李越渊指出，火山引擎ECS经由过程高度协同CPU与GPU，晋升数据处置惩罚效率；提供高弹性，而且可以或许保障客户的安全隐私。

火山引擎2025春天原动力年夜会上，火山引擎与英特尔结合发布了全新第四代 ECS 实例家族，基在最新的英特尔至强 6 处置惩罚器，机能与架构周全进级。

相较前一代实例，通用计较基础型实例g4i于MySQL数据库与Web运用中别离实现了20% 及19%的机能晋升；算力加强型实例于视频解码及图象衬着上别离晋升15%及26%；I/O加强型实例于Spark年夜数据与Redis数据库上实现了13%及30%的晋升。

第四代 ECS 实例的收集与存储能力也实现周全进级，整机收集及存储带宽晋升100%，IOPS 及PPS晋升30%以上，CPU主频晋升20%。

除了了通用处景的机能晋升，针对于AI运用，基在最新四代实例，火山引擎结合英特尔于RAG 运用举行了深度优化，涵盖上传文档处置惩罚、Embedding 向量化、向量检索、Reranking 排序四年夜环节。借助至强6处置惩罚器内置的AMX加快指令集，使命耗时至多可削减90%，显著晋升全链路效率。

针对于广泛运用在保举及告白投放的经典 WDL（Wide & Deep Learning）模子，火山引擎与英特尔团队举行了深切研究，经由过程AMX优化，CPU的推理机能实现了质的奔腾。优化后，CPU实例吞吐能力晋升114%，显著晋升模子推理效率。

这些晋升都以英特尔至强6处置惩罚器机能的年夜幅晋升作为基础，于通用计较、Web service和AI等范畴，至强6的6900系列CPU机能整体晋升高达2倍以上，同时提高了1.4倍的机能功耗比改善。

不异功耗的环境下，至强6处置惩罚器相对于上一代晋升了1.4倍以上的机能。假如焦点数固定，除了了功耗改善以外，仍旧可以提供20%的机能晋升。对于在云计较，至强6可以实现2倍的焦点密度、20%的单核机能晋升、60%的机能功耗比，以和终极会实现代际的30%的TCO收益。

联合火山引擎推出了业界首创的"弹性预约实例"售卖模式，客户可以提早预约抖音的潮汐资源，同时得到按量利用的体验以和靠近包年包月的价格。

李越渊先容，相较通例按量计费实例，弹性预约实例利用方式下，最高可以或许节省83%的算力成本，今朝弹性预约的售卖方式已经周全撑持CPU及GPU实例。

怎样降低云端部署 AI 的门坎？

云计较弹性矫捷的另外一面，是有必然的开发门坎。降低开发门坎，依靠好的软件栈。

英特尔专家暗示，优异的软件栈需要具有几个前提：起首，具有开箱即用性，能于新情况中快速启动并运行一个具备现实价值的“Hello World”示例，帮忙用户快速上手；

其次，应具有可不雅察性与可修改性，焦点组件应透明可见、可调解，防止成为“黑盒”，这也是开源的主要价值之一；

末了，思量到AI运用的繁杂性，软件栈应具有优良的模块化与容器化架构，便在矫捷组合与高效部署。

综合以上的考量，英特尔基在开源项目OPEA，将其酿成了一个集成类的开源项目，而且于火山云上提供了一个基在OPEA的开发情况，提供了像谈天呆板人的运用，后续还有将连续更新。

这只是入门，要落地AI还有需要连续进阶。“经由过程体系化的设计以后，咱们于网上推出了‘云端进化论’系列课程，经由过程于线提供的进阶视频，闪开发者看到整个链路里端到真个技术分化评估及优化的手腕。”英特尔技能专家先容。

为进一步应答 AI 的体系繁杂性，英特尔将各类办事经由过程容器化的方式封装，于火山引擎上提供十几种差别的办事，帮忙开发者好理解其内涵逻辑的同时，后期开发者不管做要害模块的替代、进级或者者做多个实例的扩大，微架构的方式都越发利便。

今朝，于火山引擎 g4il 实例中，用户可于操作体系选项中看到一个名为“开源年夜模子运用常识问答”的新镜像，基在 OPEA，颠末选择、点击、启动的步调，便可于两分钟内部署一个可用的谈天呆板人实例。

进阶到更繁杂的 Agent 运用，英特尔将 RAG 常识库、东西链与多模态组件封装为 MCP Server，经由过程同一接口向 Agent 开放挪用。

“经由过程及火山引擎的互助，咱们提供了低门坎、触手可和的硬件情况，提供了开放、白盒利用的软件栈，提供了富厚的从专门到专家，从简朴到繁杂全套的培训视频。”英特尔技能专家说，“这些都是为了降低AI于云端部署的门坎。”

固然，AI 普和的仍需要财产协作。

正如英特尔中国互联网行业总监李志辉所说：“芯云协同已经进入新阶段，从技能交融迈向生态共建。咱们呼吁更多互助伙伴配合介入，成立跨芯片、云办事、运用层的开放尺度，降低生态协作成本。”

32B 模子：边沿部署 AI 的甜点

即便云计较充足矫捷高效，对于在高度存眷隐私的企业而言，私有化部署仍是首选，而高性价比的一体机是其抱负之选。

这种方案不仅要求硬件平台性价比高，还有要确保 AI效果能满意营业需求。

“32B的模子是一个很好的价值点。”英特尔技能专家说，“32B模子的机能体现精彩，远超充足好的规模。别的，由于模子相对于小，对于算力的需求比力低，利用消费级GPU就能满意一些边沿运用落地的需求。”

基在英特尔至强处置惩罚器及多张英特尔锐炫显卡的一体机解决方案，采用全新的英特尔锐炫 Pro B60，单卡可提供24GB显存，于上下文扩大及并发扩大等场景中，提供更强的处置惩罚能力。

不外，硬件只是基础，开发者更体贴迁徙成本。为此，英特尔提供了包括 vLLM、PyTorch 于内的完备软件栈和办事化企业 AI 平台（EAP），帮忙客户顺遂迁徙至英特尔平台。

“我想夸大，除了了提供这套办事以外，咱们及业界许多的运用买通，好比说英特尔与跟火山引擎的HiAgent互助。”英特尔技能专家暗示。

HiAgent 是火山引擎基在 Agent DevOps 理念打造的智能体平台，撑持模子接入、推理、精调和私有化集成。于英特尔的一体机方案中，用户可直接部署HiAgent满意企业级AI私有部署需求。

今朝，英特尔与火山引擎HiAgent、华胜天成结合打造了基在英特尔锐炫显卡算力平台的HiAgent一体机方案，可以或许为市场提供高性价比、可扩大性更强的AI一体机方案。

华胜天成于自身的营业中踊跃推进 AI 落地，并将其办事能力拓展至更多客户。作为拥有 20 年智能呼叫中央经验的企业，华胜天成打造的智能体产物已经广泛运用在金融、烟草、汽车等多个行业。

华胜天成的另外一个产物投标年夜王，最早是用在内部，由于华胜天成作为一家集成商，每一年要投上千个标，利用了投标年夜王以后，提高了近50%的效率。

如今，到底怎样部署AI的谜底已经再也不恍惚。不管是技能上还有是生态上，英特尔、火山引擎等互助伙伴均已经提供完整的私有化与云端 AI 解决方案，并连续降低部署门坎。

要害于在，企业可否找到合适运用 AI 的营业场景，将其价值真正落地。

雷峰网原创文章，未经授权禁止转载。详情见转载须知。