AI算力鸿沟：企业基础设施投资狂飙，成本效益洞察却迟滞不前

百余家企业的数据显示，在AI基础设施投资加速增长的同时，其对成本效益的衡量和掌控能力却明显滞后。目前，多数企业在超大规模云服务商及模型提供商API的既有基础上运行AI，然而，未来的投资重点却指向了目前几乎无人使用的专业算力。多数企业计划在一年内，甚至有相当一部分在未来一个季度内，更换或新增供应商。采购决策不再以表面的令牌价格为核心，而是更关注集成度与总拥有成本——这在某种程度上是幸运的，因为多数企业尚未能清晰洞察其单位经济效益：GPU利用率普遍低于50%，甚至更低，且严格追踪算力实际成本的企业不足半数。其结果是，企业正面临一道算力鸿沟——快速、大量的投资正在超越有效掌控所需的可见性。

本研究报告深入探讨了企业AI基础设施与算力现状：企业所处的部署阶段、当前AI的运行方式、满意度、促使其转换的因素、投资评估计划，以及——最关键的——它们在多大程度上能够衡量并控制底层算力的经济效益。

核心发现是一道显著的算力鸿沟——企业在AI基础设施上的激进投资与对其经济效益的有限洞察之间的巨大落差。尽管仅约五分之一（21%）的企业实现了AI的规模化生产部署，但其投资意向已超越了这一成熟度：未来一年内，企业计划评估的最大单一领域是AI专用云服务（45%），而这正是目前几乎没有企业使用的层级。与此同时，现有算力资源大量闲置——83%的企业报告GPU利用率低于或等于50%，且不足半数（44%）的企业能严谨追踪其AI算力成本。企业购买基础设施的速度，远快于其对现有资产的核算能力。

企业在基础设施供应商的选择上尚未尘埃落定：绝大多数（64%）企业计划在未来十二个月内更换或新增基础设施供应商，其中38%的企业甚至计划在未来一个季度内完成这一转变——对于一个如此基础的类别而言，如此高的转换意向实属罕见。在做出选择时，企业优先考虑的是与现有技术栈的集成度（41%）和总拥有成本（35%），而非表面价格：每百万令牌成本仅是8%的企业决定性因素。而将塑造下一轮决策的关键瓶颈——推理规模化时算力需求从GPU转向内存带宽——却鲜少受到关注，约五分之一的企业对此要么一无所知，要么尚未开始应对。

研究方法

本研究针对企业AI基础设施、算力及推理经济效益展开。调查对象限定为拥有100名以上员工的组织（n=107；排除了规模最小的1-100名员工组别），所有数据均来自2026年第二季度（6月）的单一波次调研。由于这是一次单一波次而非多月样本合并，因此本报告以横截面形式解读，不推断月度趋势。部分问题允许多选，故所占份额之和可能超过100%。

从组织规模来看，样本集中在中型市场：101-250名员工（36%）和251-1,000名员工（27%）占据主导，其次是1,001-5,000名员工（22%）、5,001-10,000名员工（8%）以及10,001名以上员工（7%）。从职能来看，涵盖了经理（38%）、一线员工（28%）、副总裁及总监（19%）以及C级别高管（13%）；在采购权限方面，具有较高的可信度，其中45%为最终决策者，另有30%为AI解决方案的推荐者或影响者。技术/软件行业占比最高，达26%，其次是医疗保健/生命科学（15%）、金融服务（13%）和零售/电子商务（12%）。

尽管107个受访者的样本量足以提供方向性洞察，但应将其视为一个指示性信号而非精确测量；该样本为自我选择，并非概率样本。此外，样本倾向于中型市场和早期采用者，因此最适合将其解读为积极构建AI基础设施的组织的观点，而非超大规模运营商的视角。

洞察一：雄心勃勃，生产部署仍处早期

仅五分之一企业实现AI规模化生产部署

我们询问了企业在AI部署旅程中所处的阶段。多数企业仍处于生产部署的建设阶段，而非已实现规模化运营。

成熟度曲线呈现出前端集中态势。四分之三的企业（76%）要么处于实验阶段，要么仅有部分工作负载投入生产，只有21%的企业将AI描述为已在规模化生产中运行。这一点对后续所有分析都至关重要：本报告中的基础设施决策，主要由仍处于部署早期的组织做出，这些组织的算力足迹——以及成本——正蓄势待发，即将大幅增长。洞察三和洞察四中提及的评估和转换意向，正是这一建设浪潮的先兆，而非已找到成熟方案的运营商的既定偏好。

洞察二：企业目前主要依赖超大规模云和模型API

专用GPU云服务目前尚未普及

我们询问了企业目前使用哪些提供商和平台来运行AI。答案一如既往：现有巨头。

当前的技术栈由超大规模云服务商和API构成。谷歌云以48%的比例领先，通用型云服务（谷歌、微软、AWS、甲骨文）与主要的模型API（Gemini、OpenAI、Anthropic）共同占据了几乎所有当前的部署。那些在AI基础设施头条新闻中占据主导地位的专业“新云”GPU提供商——如CoreWeave、Lambda、Crusoe、Nebius及其同行——在这些企业中目前的采用率几乎为零。仅有6%的企业运行自有本地GPU集群，4%使用定制开源技术栈。目前，企业在现有采购渠道上运行AI——这使得洞察三中的评估意向显得尤为引人注目。

（关于如何解读这些份额的说明：如研究方法部分所述，本样本为自我选择，倾向于中型市场；本问题统计了受访者使用的所有供应商——平均每位受访者选择了2.1项——因此这些数字衡量的是其在技术栈中的存在感，而非支出或主要地位。以这种方式构建的样本将呈现出与更广泛市场中按支出加权的普查不同的供应商构成；例如，谷歌在此处的强势表现与其在以AI为基础建设的中小企业中的长期地位一致。请将这些份额视为活跃于AI领域的群体当前运作情况的写照，并将这些数字与行业整体市场份额估计值之间的差异视为样本特性而非相互矛盾。）

洞察三：未来投资流向当前未使用的基础设施

AI专用云服务位居评估清单之首

我们询问了企业在未来12个月内计划评估哪些AI基础设施。它们的答案指向了当前并非其主要运行平台的方向。

这正是本报告中最尖锐的矛盾点。被提及最多的计划评估领域——AI专用云服务，占45%——恰恰是目前这些企业几乎不曾使用的类别（洞察二）。近三分之一（32%）的企业打算评估非英伟达加速器，28%则关注下一代英伟达芯片；即使是去中心化算力网络（16%）和主权算力（11%）也获得了相当的关注。与当前使用情况对照来看，这并非渐进式的变化——而是平台重构的先兆。发展方向问题也印证了这一点：所有基础设施方案都在净扩张，但专用AI云服务拥有最高的净增长势头（+24），甚至略高于超大规模云服务商（+22）。企业正准备将相当一部分AI算力从通用型云服务中剥离出来。

这延续了此前本研究调查中观察到的趋势。当时，AI专用云服务的使用率同样处于边缘地位——CoreWeave、Lambda、Crusoe在企业中的使用率分别为3%、4%、2%。当我们询问企业未来十二个月内计划在AI基础设施策略上做出何种改变时，最常提及的答案是将其工作负载迁移到专用AI云服务，占比33%。此前被问及最有可能评估哪些新兴算力选项时，AI专用云服务再次获得最多回应。两次调查，两次措辞不同的问题，却指向了一个连贯的景象：企业最渴望评估的云服务类型，正是它们刚刚开始使用的类型。

洞察四：供应商转换潮正在酝酿

六成企业计划在一年内更换或新增供应商，多数在未来一个季度内

我们询问了企业是否以及何时计划更换或新增基础设施供应商。极少企业计划维持现状。

对于算力这样基础的类别而言，如此显著的意向转换量令人侧目。仅有36%的企业没有更换计划，这意味着绝大多数（64%）企业打算在未来十二个月内更换或新增供应商——其中38%甚至计划在未来一个季度内完成。这种意向指向何方也颇具启示：最受关注的转换供应商仍然是现有巨头——微软Azure和谷歌云（各占33%）、OpenAI（30%）和Gemini（22%）——这表明短期内的主要动向是巨头之间的份额重组和支出整合，而非转向新进入者。洞察三中提及的新云服务兴趣是基于12个月的评估考量；而未来一个季度的转换，更多是现有巨头间的市场份额交换。

（方法说明：选择“无计划更换”和特定更换时间窗口的受访者，按更换者统计，理由是指定时间框架的答案更具体；根据此规则，三名受访者被重新分类。）

洞察五：决策因素并非令牌价格

集成度与总拥有成本才是关键，而非表面价格

我们询问了企业在选择AI基础设施供应商时最看重什么。表面价格位居末位。

企业在采购AI基础设施时并非以价格为导向，尽管这是供应商之间竞争最激烈的领域。与现有技术栈的集成度（41%）和总拥有成本（35%）占据主导地位，而最常提及的衡量指标——每百万令牌成本——仅是8%企业的决定性因素，位居末位。这种模式具有内在逻辑：买家正在优化供应商如何适应其现有环境以及实际运营成本，而非广告宣传的单位费率。这也预示了洞察七——企业声称总拥有成本最重要，但多数企业尚未能严谨衡量它。既定优先级与实际衡量能力之间存在脱节。

洞察六：高昂GPU资源，多数时间闲置

83%的企业报告GPU利用率低于或等于50%

我们询问了企业实际利用其GPU容量的比例。答案揭示了一种众所周知但鲜有量化的低效率。

披露：各带宽百分比均针对所有107名合格受访者进行统计；有14名受访者选择了多个带宽，因此带宽存在重叠。在受访者层面，100家运营GPU的企业中有83家报告利用率低于或等于50%。

现有算力资源大量闲置。将利用率低于或等于一半的带宽相加，83%运营GPU的企业报告其利用率低于或等于50%，近一半（49%）的企业运行在25%或以下。仅有12%的企业超过50%的利用率，另有8%的企业根本不衡量利用率。闲置的加速器意味着高昂的成本，这是算力鸿沟最清晰的单一衡量指标：企业正计划购买更多的GPU和专业算力（洞察三），而它们已有的容量却大量闲置。当前设备的效率提升空间巨大——且大部分尚未被衡量。

洞察七：投资加速，衡量迟缓

不足半数企业能严谨追踪其算力成本

我们询问了企业是否能量化其AI基础设施支出的成本和回报，以及对当前运行情况的满意度。对账本的信心落后于支出。

衡量速度滞后于资金投入。不足半数（44%）的企业能严谨追踪其AI算力的成本和回报；多数企业仅能部分追踪（39%），尚无法量化（20%），或尚未将其列为优先事项（6%）。考虑到洞察五中总拥有成本位居第二大采购标准，这种差距是举足轻重的——企业正基于一套它们大多无法衡量的经济基础来选择供应商。对现有基础设施的满意度中等偏上，但并非热情高涨：在五分制量表上，总体满意度平均为4.0，实施便捷性（3.8）和资金价值（3.9）略低——值得注意的是，最不尽如人意之处在于成本。企业正在快速投入，却迟缓核算。

洞察八：鲜有关注的下一瓶颈

当推理瓶颈从计算转向内存时，市场应对分散

最后，我们询问了企业将如何应对大规模推理中新出现的瓶颈——即算力从GPU转向内存，特别是KV缓存容量的变化。受访者的回答揭示了一个尚未成为优先事项的前沿领域。

内存瓶颈是真实存在的，但尚未被有效管理。当被问及随着推理中的约束瓶颈从计算转向内存带宽时，它们会依赖何种方法，企业的回答分散：戴尔以31%的比例领先，英伟达以16%紧随其后，其余则分散在存储供应商、开源工具和模型级效率技术之间。最能说明问题的是，约五分之一（18%）的企业要么不认识这一瓶颈，要么尚未开始解决它。对于将重塑推理成本和架构的转变而言，这是一个早期且尚未明朗的市场——而且，与洞察七中的衡量鸿沟一致，许多企业对此尚未形成明确观点。这是算力鸿沟的下一章，而大多数企业尚未弥合当前的鸿沟，它已然来临。

核心总结：加速投资只会扩大而非弥合算力鸿沟

拥有100名以上员工的组织，其在AI基础设施上的投资速度，已超越了对其成本效益的衡量能力。多数企业仍处于早期部署阶段，但其投资意向已超越现有技术栈——转向目前几乎未使用的专业云服务和替代加速器——且绝大多数企业计划在一年内更换供应商。它们根据集成度与总拥有成本进行采购，而非表面价格，这本身是理性的；但难题在于，多数企业尚无法清晰洞察这些经济效益。

可见性鸿沟是具体的。绝大多数企业拥有的GPU利用率普遍低于或等于50%，且不足半数能严谨追踪其算力成本或回报。满意度尚可，但缺乏热情，在资金价值维度上表现最弱——而这正是在缺乏衡量的情况下最难判断的维度。此外，下一个瓶颈，即大规模推理中从算力转向内存的转变，正悄然来临，而大多数企业对此仍一无所知。本次调研包含107名受访者，系单一第二季度波次，故其为方向性解读，倾向于中型市场和早期采用者——但其指向性是一致的：投资的意愿远超有效支出的衡量能力。算力鸿沟并非仅仅通过更多硬件就能解决的容量问题；首先，它是对现有硬件成本缺乏洞察的问题。对于未来的调研波次而言，开放性的问题在于：企业能否在平台重构到来之前建立起这种可见性——抑或是，在对上层基础设施的经济效益一无所知的情况下，继续盲目采购下一层基础设施。

本报告基于2026年第二季度（6月）单一波次调研中107名合格企业受访者（100+员工）的反馈。由于这是一次单一波次而非多月样本合并，因此结果以横截面形式解读，不推断月度趋势；107名受访者的样本量是一个方向性信号而非精确测量——样本为自我选择，倾向于中型市场和早期采用者，而非超大规模运营商。受访者包括经理、一线员工、副总裁/总监以及C级别高管，具有可信的采购权限，涵盖技术/软件、医疗保健/生命科学、金融服务、零售/电子商务及其他行业。