随着自主系统投入生产环境运行，持续推理正在重塑基础设施的建设底层逻辑。
作者：Sujit Panda
BDx 首席运营官
当前亚太地区的 AI 算力负载正在发生结构性转变。初代生成式 AI 存在间歇运行的特点：训练集群算力负荷时升时降，推理算力会随用户需求起伏波动。而下一波浪潮则具备不间断运行的特性。
自主 AI 系统（业内常称“智能体 AI”）正广泛应用于亚太各地金融服务平台、政务系统与企业业务流程。这类系统不只是被动响应指令，而是持续开展监测、推理、决策与执行工作。
对于数字基础设施的建设与运营从业者而言，这一转变从本质上改变了算力负载的运行规律。我近期和亚太各地运营商、超大规模云服务商、企业客户交流后发现，沿用十年之久的基建规划思路已不再适配当下需求。
从突发式算力运算转向持续性推理运算
生成式 AI 工作负载普遍呈周期性波动。训练集群算力负荷急速攀升，随后逐步回落。推理算力需求随着用户交互行为起伏变化。智能体系统的运行模式则截然不同。
新加坡已落地金融类智能体应用，用于实时风险研判、合规监控与全天候市场监测，相关业务均遵循新加坡金融管理局 FEAT 准则、Veritas 计划等监管规范开展。印尼方面，政府 AI 政务平台已接入面向民众的线上政务服务，其中包含印尼通信与信息部、INA‑Digital 项目统筹推进的各项举措；这类平台设计要求全天候稳定运行，而非间歇式启停。
上述落地场景带来长期稳定的推理算力需求，不再只是短时爆发式的峰值负载。如今基础设施需承载持续在线、留存会话状态、实时响应的 AI 系统。这改变了园区内整体负载曲线，也是行业交流中最容易被忽视的关键点。
其中最核心的影响便是对内存的需求量暴涨。长期运行的智能体系统会在多轮超长推理周期内，持续留存上下文、嵌入向量与各类工具对接链路。实际落地场景下，智能体算力任务所需的内存‑算力配比，可达传统生成式 AI 批量推理的 3 至 5 倍；这一量级变化大幅颠覆园区原有规划逻辑。大量行业基准测试显示，制约 AI 基础设施性能的不只是加速芯片数量，内存带宽与容量同样是核心瓶颈。
运营服务商需要注意：规划建设不能只盯着加速芯片的数量；还需要考量单节点扩容 DRAM 内存、高带宽内存配置、集群内部稳定的东西向数据流，以及硬件高负载运行下不间断产生的散热压力。五年前，这些仅作为可选设计参考。如今，已是硬性设计约束。
简言之，基础设施建设不再只为应对瞬时算力峰值，而是要面向长期稳定性能做整体架构设计。
亚太电网与网络延迟的现实现状
亚太地区具备独特的运营环境。新加坡依据国家划定的严苛标准管控新建数据中心规模，由资讯通信媒体发展局（IMDA）牵头出台的《绿色数据中心路线图》并配套数据中心申请招标（DC-CFA）框架实施监管。印尼雅加达的数据中心扩容节奏，与印尼国家电力公司（PT PLN）输电、变电站扩建进度深度绑定。印度 2024 年 5 月电力峰值需求创下历史新高，约达 250 吉瓦；印度中央电力管理局预测，未来十年峰值负荷将持续攀升。
持续性推理算力会削弱突发算力模式固有的弹性优势。行业规划不再只需应对偶发算力峰值，而是要按照抬高后的长期基准负载配置资源。这将直接影响签约供电容量、冗余架构规划与长期能源布局。
国际能源署《能源与人工智能》分析报告预测，全球数据中心电力需求到 2030 年几乎将翻倍，从 2025 年约485 太瓦时增长至约 950 太瓦时，人工智能是这一增长的主要驱动因素。同一周期内，AI 专用数据中心电力消耗预计增至三倍，增速约为全社会整体用电需求的四倍；电网承载能力有限的区域，受到的冲击将更为显著。
基于以上背景，AI 基础设施建设不能只考量兆瓦级供电规模。核心难点是在区域电网承载力受限的前提下，实现稳定不间断的电力输送。这是一套全新的工程设计命题，亚太地区所面临的挑战也将远超全球多数区域。
网络延迟构成另一重关键约束。智能体 AI 系统正日益嵌入核心业务，金融服务、数字政务平台以及企业自动化系统，都需要低时延、就近部署的基础设施，同时还要满足数据属地化合规要求。亚太不存在统一的时延覆盖区间。各区域市场拥有独立监管规则、电网架构与用户聚集布局。基础设施必须部署在数据存放地，并且响应时延达到业务运行标准。该需求更倾向于在亚太各地分布式布局原生 AI 算力园区，而非改造传统老旧机房 —— 这类机房最初仅适配云计算时代的算力负载标准。
为什么原生 AI 算力园区优于改造型老旧机房
多数传统数据中心当初按单机柜 5–10 千瓦的功率密度标准完成架构设计。如今 AI 部署场景下，单机柜功耗普遍突破 30–50 千瓦；搭载英伟达 GB200 NVL72 机型的机柜单机柜功耗可达 120 千瓦，必须配套直液冷架构。
智能体 AI 会进一步放大上述运行负荷压力。持续推理运算、更高内存配置、长期稳定热负荷，都会对配电系统、制冷设施与长期扩容能力形成严苛考验。美国采暖、制冷与空调工程师学会 TC 9.9 分会、开放计算项目发布的行业规范指出：机柜功率密度持续提升后，传统风冷机房存在性能上限；单机柜功率超 50 千瓦左右时，液冷不再是可选优化方案，而是基础硬性配置。
与之相对，原生 AI 算力园区从规划之初就面向高密度场景设计，预留液冷适配条件、配套专属变电站，即便电网资源受限，也可实现模块化扩容。赤道地区气温高、湿度大，会限制设备的稳定工作范围。专门新建的算力设施，整体架构抗风险能力更强。本质区别在于底层架构。根据实际项目经验，靠翻新改造老旧机房很难达到这样的效果。
从生成式 AI 向持续运行的智能体系统演进，不只是软件技术的升级。这是算力负载模式的根本性变革，将直接影响电力规划、功率密度建模、制冷方案与区域整体布局。亚太各地企业、政府机构、超大规模云服务商及新兴新一代云厂商，均在围绕 AI 常态化运营做长期规划，而非仅应对短期实验性算力峰值。
AI 发展的下一阶段，评判标准不再局限于模型规模。业务长效稳定运行能力将成为核心衡量指标。依托间歇式算力需求搭建的基础设施，难以承载不间断智能业务。原生 AI 算力园区专为长期高密度负载、区域就近部署、稳定供电三大核心需求打造，可充分匹配该类业务诉求。这正是 BDx 目前在亚太全域落地布局的发展方向。
为 AI 下一发展阶段做好基础设施准备
随着智能体 AI 系统在亚太地区逐步落地投产，配套基础设施规划策略也必须同步迭代升级。持续推理、更高内存占用，叠加各区域电网客观约束，要求算力园区以长效稳定性能为核心设计目标，而非仅应对短时算力峰值。
BDx 打造 AI 原生数字基础设施平台，针对亚太高密度、低时延、供电受限的市场环境定制建设，业务覆盖新加坡、印尼、中国香港、印度等多地。
无论您正在规划全新 AI 算力部署、评估区域可用算力资源，还是针对持续型业务负载重新考量基础设施方案，我们的专业团队均可提供支持。
电子邮箱：marketing@bdxworld.com
访问：www.bdxworld.com
关注：在 LinkedIn 上关注 BDx，获取有关亚太地区 AI 原生基础设施的最新洞察。
关于作者
Sujit Panda 是 BDx 的首席运营官，统筹亚太地区 AI 原生数字基础设施平台的运营战略。他与企业、超大规模云服务商及政府合作伙伴紧密合作，在该地区一些最具活力的市场中，负责下一代数据中心容量的设计、交付与扩展。
如需阅读完整访谈内容，可访问链接：
https://www.frontier-enterprise.com/bdx-ceo-on-why-ai-factories-are-changing-data-centres/