Semiconductor Engineering观点
节能AI计算的三大战略要务
本文主张能源效率是AI计算的关键战略,降低能耗可降低成本并推动物理AI发展。作者指出数据中心能耗激增、AI推理成本高企,而物理AI(如机器人)依赖电池,能效至关重要。建议从系统级优化整个AI栈,而非孤立点解决方案。
头条新闻充斥着数据中心前所未有的增长及其不断攀升的能源消耗,以及大规模AI推理给用户带来的飞涨成本。或许不那么明显的是这两者之间的直接联系——降低能源消耗就能降低AI成本。这是因为两者都需要智能地利用AI系统能力,实现最大效率,而当今的情况往往并非如此。
能源效率必须成为所有使用AI推理的公司的战略优先事项,而不仅仅是数据中心建设者。更智能的AI使用方式,配合更低的能源消耗和更低的成本,将有助于提升财务底线。能源效率创新的领导地位还将为那些拓展到AI下一个前沿领域——物理AI——的公司带来营收增长回报。物理AI是指AI走出电脑屏幕、进入现实世界。机器人、无人机或可穿戴设备通常依赖有限的电池供电,因此能源效率是必备条件,而非可选!
这些挑战中的每一项都可以转化为机遇。
能源
AI训练计算量估计以每年4-5倍的速度增长,最新的大语言模型(LLM)据报道使用了5-50万亿个参数。大规模AI推理的快速增长极大地放大了这一需求,并产生了巨大的能源需求。在美国,数据中心能源消耗在过去十年中翻了三倍,而根据大多数预测,这一数字将在短短5年内再次翻三倍!国际能源署(IEA)估计,2025年全球数据中心消耗了约460太瓦时(TWh)的电力,到2030年将翻一番以上,达到945太瓦时。作为参照,这比当今整个日本的用电量还要多!
全球能源基础设施并非为吸收如此规模的需求而设计。世界各地的社区正在抵制这种对电网和水资源的压力,因为价格上涨且短缺频发。核能可能有助于补充传统电网,但那是一个遥远的希望,至少还需十年。这一挑战不容忽视,可能成为AI未来发展的重大障碍。难怪能源如今已成为全球AI的战略货币,AI商业交易现在以吉瓦为单位公布,而非百万次浮点运算。
成本
AI系统基础设施的投资正以令人目眩的速度增长:头部玩家在2020年投资约1000亿美元用于数据中心,到2026年这一数字将增长十倍,达到约1万亿美元!更广泛的全球投资甚至更高。但天下没有免费的午餐:每个人都必须买单!AI用户在使用更多AI进行推理时已感到压力,据报道,即使是大型玩家也在短短几个月内就花光了年度AI预算。更糟糕的是,目前只有一小部分AI应用能产生财务价值并提供预期的投资回报率(ROI)。部分原因是基本AI能力正成为入场门槛:公司投资昂贵的AI工具可能增强产品或服务,但竞争对手也在做同样的事;因此可能无法获得溢价。
AI代币已成为量化工作负载和成本的基本单位,因为AI提供商通常按数百万输入和输出代币来计费。美国每日代币消耗量预计将从当今约200万亿单位/天(TUs/day)增长十倍,到2030年达到约2250万亿单位/天。代币价格正在下降,但下降速度不足以跟上代币使用量的增长;因此,按照当前轨迹,AI成本将继续急剧上升。难怪首席财务官和财务部门正在敲响警钟,并开始配给AI预算。
物理AI
AI已从数据分析发展到生成式AI,如今正跨越另一个前沿,从电脑屏幕走向物理世界。“物理AI”——如机器人、无人机或医疗可穿戴设备等智能系统——需要将软件智能与机械、电气和光学系统(如传感器、执行器、摄像头、雷达、激光雷达等)相融合。物理AI系统必须自主运行,因为它们不能依赖数据中心通信,那会带来延迟和安全风险。因此,它们必须具备“边缘智能”以进行实时决策,在物理世界中持续感知、思考和行动。这些功能中的每一项都消耗能源,而自主单元通常依赖有限的电池运行。如果没有能源效率的突破,这些物理AI系统要么被束缚在电源上,要么以有限用途的短占空比运行。
前进之路
创新是将这些挑战转化为机遇的魔法棒。科技行业擅长创新,但聚光灯需要从“越来越大”转向“更智能、更高效”的系统。此外,各自为政的孤立解决方案已不再足够——根本性的效率提升需要对整个AI堆栈进行系统级优化。
加入SEMI的智能数据-AI计划,与我们联盟伙伴圣何塞市共同参加9月9日的深度研讨会,届时我们将探讨如何为未来AI计算扭转能耗、成本与性能的曲线。我们汇聚整个AI生态系统的顶尖行业专家,从全局视角审视未来材料、器件与系统;并深入探讨光子学、软硬件协同优化以及从芯片到电网的增强方案。这并非又一场AI会议——而是一场研讨会,旨在探索切实可行的解决方案,并通过串联AI技术栈各环节来放大您的商业战略。您将了解前沿创新成果,与专家交流,并探索有意义的合作机会。