资讯动态

  • 首页Our Projects大模型「土木系」终翻身:AI Infra 年薪冲到 800 万?

大模型「土木系」终翻身:AI Infra 年薪冲到 800 万?

2026-10-16 8004

“ 具体是哪几个细分岗位,吃到了这波溢价? ” 作者丨徐晓飞 编辑丨刘伟 “以前 AI 业内把做 Infra、做工程的叫‘ 计算机里的土木系’,干着最脏最累的活,拿垫底的钱 。谁能想到他们现在这么值钱?”某大模型独角兽高管刘立向雷峰网感慨道。 他抛出一组薪资行情对比:AI Infra 工程岗以前在大厂,年包基本到不了 300 万;现在,好的 Infra 人有能开到七八百万的。比起算法岗(500~1400 万)还有差距,但已经算打了个漂亮的翻身仗。 上市人力资源服务公司科锐国际华南区 AI 业务资深专家卢炳宁, 也见证了这场狂飙:“ 2024 年在深圳见一个做 Infra 的候选人,他年薪还是 30 万;2025 年涨到 50 万;今年一跳槽,直接 100 万。” 这不是个例。 “Infra 人才从独角兽跳去互联网大厂,薪资翻倍的有;从大厂跳去独角兽创业公司,薪酬包能涨到 3 倍左右,不过期权占大头。3 倍属于个例,2 倍更常见。”他补充道。 这轮涨薪的起爆点,是 DeepSeek R1 的发布。 “2025 年初 R1 爆火,让大家看到了 Infra 提升的价值,AI Infra 人才立马被各家模型厂商疯抢, 这种状态一直持续到现在。” 卢炳宁表示。 然而,薪水翻倍从来不是雨露均沾。当市场的真金白银砸向这群人,究竟是什么在为他们定价?又是哪类 Infra 人,吃到了这轮红利里最肥的那块肉? 01 “土木系” ,凭什么拿高薪? 什么是 AI Infra 人才? 简单来说,AI Infra 人才做的是怎么 把昂贵的 GPU 算卡,榨出尽可能高的利用率 ,实打实替公司省钱。 卢炳宁告诉雷峰网,2022 到 2024 这三年,Infra 岗基本是个“配角工种”。 ChatGPT 出来后,国内随即进入“百模大战”和应用尝鲜阶段。资本和团队盯的是两件事:模型效果打平 ChatGPT,尽快跑出 Killer App。关注度也好,高薪也好,都优先给了算法岗和产品岗。 在“先上车再买票”的焦虑下,工程效率的优先级并不高,背后的算力浪费和调度效率问题被暂时掩盖。 “只要集群别崩、账单别炸,就算交差。Infra 工程这类支撑团队的价值, 当时被等同于运维,没人当回事。 ”某大模型实验室算力调度专家张桐坦言。 反转发生在 DeepSeek R1 出来之后。 据卢炳宁回忆,R1 发布后,行业都在琢磨一件事:DeepSeek 就那么点人,却做出了那么好的产品,赚了那么多钱,他们到底是怎么做到的? 后来答案的一部分,落在了 Infra 降本上。 大家发现,大模型推理烧的是真金白银,而且常常把账单烧穿。这时候做 Infra 降本,省下的每一分都是实打实的利润。 于是各家开始盯着 DeepSeek 挖人,薪酬基本都是敞开了聊。 做好 Infra 降本,算力开支能节省上千万 “Infra 现在的角色,就是给厂商省钱。省钱也是在赚钱。”卢炳宁说。 能省多少?据他估算,做好 Infra 降本,算力开支能省下至少几千万的成本。 落到具体方向上,算子是把单张卡榨到极致,推理是把各类资源调度结合起来,做成本优化、提高有效利用率。其中 PD 分离、专家并行、VLLM、SGlang 这几类优化,降本降得最狠。 要知道,大模型公司最贵的开销,几乎都压在这些卡上。 业内流传过这样一笔预算配比:AI 模型公司每投 100 块到 AI 训练上,40 块花在算力,30 块花在人才,20 块打广告,剩下 10 块买数据。 训练一次大模型、跑一晚推理,GPU 集群的采购、租赁和电费,往往吃掉 AI 业务成本的大头,有的公司甚至占到 6 成以上。 可钱花出去,卡却常常在空转。 张桐告诉雷峰网,行业里 GPU 的实际利用率长期偏低,平均只在 25% 到 27%,也就是说买来的算力有一大半没被真正跑起来。 而这,恰是 Infra 人才的用武之地,“同样是这批卡,好的Infra团队能把利用率拉到 40%, 这十几个百分点的差距,就是壁垒。” 简单算一笔账:B 卡 8 卡的一套机子,国内现货交割 1300 万,3 个月后的期货大概 1100 万,“但凡省 8 张卡,一千多万就省出来了”。 但省钱只是账面上最直观的一层。更深的一层是,大模型的技术竞赛,已经从拼算法创新,走到了拼底层系统工程的硬仗阶段。 AI行业阶段变了,Infra的价值权重也变了 在算法红利见顶的当下,底层系统工程成了性价比更高的杠杆。“你在 Infra 上抠出一点优化,带来的效率飞跃,远比死卷算法划算得多。”某大模型独角兽资深 AI Infra 工程师周岳坦言。 现在卷算法越来越难,因为大模型技术侧已经变了天。 大模型训练眼下近乎开卷考试。得益于开源模型普及,Transformer 等基础架构走向成熟收敛,行业比拼的重点, 已经从基

about image

订阅我们的时事通讯

获取更多更新