算力大洗牌!为什么说“推理”将吃掉70%资源?硅谷投资人揭秘AI下半场的三大避坑新风口
导语:硅谷风向大变!从模型军备竞赛到务实基础设施与物理AI,谁在悄然撕扯算力红利的下一块版图?
过去两年,全球AI领域的狂热几乎全部倾注在万卡集群、千亿大模型和无止境的算力倾销上。但在新旧周期交替的关键节点,硅谷一线投资人给出了一个截然不同的冷思考。Fusion Fund创始合伙人张璐在最新行业峰会中拉响了风向转变的警报:AI的下半场,战场正在全面转向基础设施的“通信层”与物理世界的“数据层”。在这场深刻的范式转移中,算力的天花板、数据的贫瘠度、以及网络连接的物理极限,正在重新定义AI硬件与软件的黄金分割线。
一、算力天平的乾坤大挪移:“推理”将彻底吞噬70%算力
在很多人的固有认知中,训练(Training)是吞噬AI算力的无底洞。堆叠GPU卡数、无限期延长训练时长、追求数万亿Token的输入,曾经是衡量一个大模型成败的绝对标准。然而,张璐指出,一个无可争议的趋势正在发生:训练是一次性的投入,推理(Inference)才是无止境且长期可持续的刚需。
在几年前,训练算力需求与推理算力需求的比例大约是70:30。而在今天,这一比例已经悄然被拉平为50:50。随着人工智能从最初的“对话式交互”(如Chat对话框)走向更深度的“智能体交互”(AI Agents),推理算力的消耗将呈现指数级攀升。张璐预测,在未来,推理与训练的算力占比将彻底颠倒,形成全新的30%(训练)比70%(推理)结构。
为什么会这样?因为AI Agent的本质是“永远在线,随时响应”。它不仅需要被唤醒,更需要时刻处于深度思考、多步决策和实时反馈的状态。这种极度依赖时间与交互频次的模式,使得未来的AI算力优化方向必然高度向推理端倾斜。如何让单次Token生成的推理成本降到最低,实现低成本且高响应速度的日常部署,成为了下一代AI基础设施最核心的博弈点。
二、数据中心里的“隐形电老鼠”:通信能耗为何是计算的百倍?
当我们谈论AI高昂的电力消耗时,所有人都在盯着GPU的功耗。然而,硅谷的顶尖架构师们已经意识到了另一个更致命的能耗杀手——通信(Communication)。
英伟达在其最新战略中,已经极力淡化自己作为“GPU厂商”的标签,转而定位为“人工智能基础设施公司”和“人工智能工厂”。因为大算力的尽头,绝不仅是算力芯片的拼图,更是连接这些芯片的超高速通信网络。
张璐分享了她与斯坦福老校长、Alphabet董事会主席John Hennessy的一场深度对话。Hennessy一针见血地指出:在AI数据中心内部,数据在挪动、传输和通信环节中消耗的电量,可能比计算本身高出百倍以上。
现行的芯片设计思路依然是“尽量在本地做计算,减少传输”。数据的跨芯片、跨服务器挪动,其物理损耗和能量消耗是极其惊人的。当万亿级多模态数据、三维物理AI数据满载传输时,传统铜缆和低速交换机制约了整体效率。这也直接引爆了硅谷对于新一代通信技术的投资热潮,尤其是光学通信(Optical Communication)。通过光子代替电子进行高频传输,可以从根本上把通信能效降低几个数量级。在算力即资源的明天,得高效通信者得天下。
三、物理AI的致命软肋:高质量数据荒下的“人造皮肤”破局之路
如果说此前是纯语言模型的天下,那么接下来的主角无疑是物理AI(Physical AI)。它不仅包含人形机器人,更涵盖了自动驾驶、高精度工业仿真模拟、智慧物流以及航空太空等所有“AI与物理实体发生交互”的场景。
但物理AI在极速狂飙的过程中,正撞上一堵无形的墙——高质量物理数据的“大饥荒”。
张璐指出,当前物理AI的算法架构和算力保障已经基本具备,真正的瓶颈在于:我们严重缺乏足够多、足够高质量的真实世界三维物理数据。虽然合成数据(Synthetic Data)在仿真模拟中被寄予厚望,但边缘场景中的极限情况、真实物理触感以及微小的力学反馈,是计算机目前很难凭空完美拟合的。
要打破这个僵局,研发新型的真实世界数据收集平台和传感技术势在必行。在这一领域,来自斯坦福大学鲍哲南教授实验室的“人造皮肤”技术(柔性电路 – Flexible Electronics)带来了革命性的曙光。
这款“人造皮肤”其实是一套高精度、低能耗的超薄柔性传感器。它可以像手套一样套在机械手上或是人类操作员的手上。在进行精细操作时,手套表面的海量高灵敏度传感点能够精准捕捉最细微的挤压、摩擦、弹性反馈。
这些前所未有的真实三维物理感知触觉数据,经过标准化治理,便成为训练物理AI世界模型最核心的内容。目前,不仅初创公司在疯抢这一专利技术的商用落地机会,世界500强制造龙头也纷纷在内部跟进,试图抢先建立起属于自己的高质量物理数据库。
四、小模型逆袭边缘端:用不到10亿参数跨级挑战GPT-4
当巨头们还在为了万亿参数模型的耗能和隐私安全焦头烂额时,在硅谷的另一端,“把AI装进边缘设备”已经成为了投资人们的真香共识。
边缘计算在沉寂多年后,伴随AI小语言模型(SLM, Small Language Models)的爆发迎来了第二春。边缘端部署AI具有无可比拟的优势:极高的隐私安全性、几乎为零的传输延迟、以及超低的物理功耗。而要让这一切成为可能,秘诀就在于“极端极致的模型压缩”。
张璐透露,他们曾投过的一家初创公司(已被高通收购),能够把先进的AI模型压缩到不超10亿参数(<1B Tokens),并直接在最简易的“树莓派”(Raspberry Pi)微型电脑上流畅运行,实际应用表现甚至堪比GPT-4级别的模型。
当这种超轻量模型与前文提到的新型边缘传感设备(如触觉皮肤、新型视频探头)结合,AI就可以在医疗手术台、保密工业车间、或是偏远的基建节点上实现“本地收集、本地处理、本地反馈”的闭环,彻底摆脱跨网数据通信的带宽限制与云端隐私泄露的束缚。
五、下一轮风口的群星璀璨:AI主力决战医疗、太空与微型机器人
在张璐的视角中,未来AI的真正闭环与商业变现,正在三个最具想象力和技术密度的方向上展开:
- 医疗AI(AI in Healthcare): 在过去这两年,为什么大批顶尖硅谷人才和科技公司集中涌入医疗赛道?绝不仅仅是因为医疗市场盘子大,而是因为医疗领域是目前全球高质量三维数据、临床数据、生理特征数据密度与精准度最高的行业。在“质量战胜数量”的数据新常态下,医疗数据是无价的AI训练金矿。AI正在从辅助阅片、药物筛选逐步走向更深层的临床疾病介入。
- 空天探索与太空AI: 太空是一个天然对通信和边缘计算要求极度严苛的场景。在没有常设地表基站支持、高能宇宙射线辐射的恶劣环境下,超高能效的边缘端运算模型,以及基于自主决策的太空物理AI,是维持航天器、月面和火星探测设备持续安全运转的唯一解。
- 微纳米细胞级机器人(Micro & Nano-Robots): 随着物理AI硬件缩小到细胞甚至分子级别,AI的硬件载体可以深入到人类的毛细血管或精密集成电路内部,完成高精度的微创靶向递药、分子结构自我修复,将人类的工业与医学视野带入微观极限。
结语:千万元级到数十亿预算额攀升,产业整合速度才是制胜本钱
在这场底层逻辑的质变中,决定创业公司生死的,往往不再是实验室里领先几个百分点的指标,而是产业接纳和整合的速度。
一个令人振奋的变化正在发生:硅谷世界500强企业对AI解决方案的预算已经从过去的千万级跃升至现在的数十亿级别;更关键的是,他们对AI软件和系统的决策与采购周期,已经从过去的半年到一年,极速压缩到今天的一到两个月。
当这种工业界的采购加速度本身成为大模型和行业应用持续迭代的燃料时,唯有打通底层通信基础设施、手握绝对高质量数据源、并在边缘端实现高效变现的项目,才能在推理称雄的AI下半场,笑到最后。