跳转至

AI Technology Value Stack

导言

最近我对应该长期研究什么技术产生了迷茫。我不喜欢人员管理：每个人的诉求和心思不同，统一理解、共情和换位思考会持续消耗精力。我更希望别人因为我的技术判断、工程能力和解决方案付费。

但“越底层越关键”“越难越值钱”“卖价越高工资越高”都不是可靠规律。AI 应用背后横跨算法、训练系统、推理服务、框架、操作系统、驱动、芯片、封装和晶圆制造；每一层的交易单位、商业模式、资本强度和劳动议价方式完全不同。本文用截至 2026 年 7 月 29 日可公开核验的价格、收入和工资数据，回答两个问题：钱在技术栈中如何流动，以及我应该站在哪个位置积累长期能力。

先说结论

客户不是为技术本身付费，而是为技术消除的昂贵后果付费。 这些后果通常只有四类：增加收入、降低持续成本、缩短上市时间、降低失败与合规风险。技术越难，如果离这四类后果越远、效果越难证明、替代方案越多，付费意愿仍然可能很低。

因此，不能用一个“最赚钱技术排行榜”决定职业方向。至少要同时看：

  1. 痛点成本：问题不解决，每年浪费多少算力、停机时间、研发工时或市场窗口？
  2. 可证明性：能否用同口径 A/B、Profiler、故障率、训练吞吐或客户指标证明效果？
  3. 复用范围：方案只覆盖一个模型的一个分支，还是能迁移到一类模型、框架和硬件？
  4. 技术所有权：结果能否沉淀成自己可维护的代码、工具、规范、基准和知识？
  5. 可替代性：换一个工程师、开源库或下一代模型，价值是否立即归零？

对我而言，最合适的主线不是纯应用、纯算法或纯硬件，而是：

从基础模型训练的昂贵失败点出发，建立模型—训练系统—框架—算子—加速器之间的跨层诊断与优化能力；用开源吸收共识，用真实训练验证价值，用可复用工具沉淀经验。

这不是人员管理路线，而是技术所有权路线。它仍然需要理解算法人员、客户和底层工程师的约束，但主要通过模型、指标、接口、设计文档和实验结果达成共识，而不是把大量精力用于人员情绪和组织协调。

四种价格

讨论“这一层值多少钱”之前，必须先把四种价格拆开：

信号 回答的问题 常用单位 不能推出什么
客户价格 客户愿意为一次使用、一个席位或一套设备付多少？ 元/月、美元/Token、美元/GPU·h、美元/台 不能直接推出供应商利润
公司价值捕获 供应商从该层获得多少收入与毛利？ 年收入、毛利率、续费率 不能直接推出某位工程师的贡献
劳动价格 雇主为某类岗位支付多少？ 工资、奖金、股权 不能直接推出技术的社会重要性
技术重要性 缺失该层会让多少系统失效？ 故障范围、替代时间、性能损失 不能直接推出直接收费能力

一个开源框架可以有极高的使用价值，却以 0 美元许可证价格被使用；一家云厂商可以把它包装成托管服务并收费。一个价值数亿美元的光刻设备需要大量工程角色协作，但设备价格不会按比例流到每位制造技术员的工资里。反过来，一段只改动几百行的调度代码，如果每年能减少数百万美元的空转算力，也可能具有很高的商业价值。

衡量个人方向时，可以用下面的定性启发式，但不能把它当成工资预测公式：

方向价值
    ~ 痛点年成本
    × 可消除比例
    × 证据置信度
    × 复用系数
    × 技术所有权
    ÷ 可替代性

这里每个对象都有明确含义：痛点成本来自账单、停机、延期和人工；可消除比例来自受控实验；证据置信度取决于复现和 A/B 质量；复用与所有权决定价值能否积累；可替代性描述市场上有多少等价的人和方案。这个式子只用于排序调研方向，不预测工资、股权或公司收入。

小黑操作四种价格的压力歧管并观察开源价值泄压

自绘示意图：客户价格、公司收入、个人工资和技术重要性是四只不同的表；开源可以让使用价值广泛扩散，却不会让交换价值自动回流给开发者。

逐层看价格

不同层没有统一的“单价”。下面只选公开、可核验的交易锚点，而不是制造一个虚假的横向价格排名。企业协议价、地区折扣、硬件供需和软件版本都会改变真实成交价。

应用与模型

应用层最接近用户效果，交易单位通常最小，也最容易形成持续订阅。2026 年 7 月，GitHub Copilot Business 和 Enterprise 的公开价格分别是 19 和 39 美元/用户/月；ChatGPT Business 年付价格是 20 美元/用户/月，月付为 25 美元。12 这里的价格不是在给 Transformer、推理框架或 GPU 单独定价，而是在给完整工作流、管理能力、安全和结果体验定价。

模型 API 把交易单位缩小到 Token。GPT-5.4 的公开价格是每百万 Token 2.50 美元输入、0.25 美元缓存输入、15 美元输出；同一模型的 Pro 档是 30 美元输入和 180 美元输出。3 这说明模型能力可以形成溢价，但最终账单还受 Token 效率、缓存率、工具调用和失败重试影响，不能只看每百万 Token 的标签。

基础模型训练则是另一种数量级。Meta 的 Llama 3.1 405B 模型卡披露了 3,084 万 H100 GPU 小时。AWS 当前列出的 H100 Capacity Block 价格约为每卡每小时 3.933–4.326 美元。两者相乘得到约 1.21–1.33 亿美元的公开云价等效算力成本。54

不是 Meta 的真实账单

这只是反事实的公有云等效值，不是 Meta 的内部现金成本。它没有计入数据、网络、存储、CPU、电力、失败实验、人员、后训练和评测，也没有扣除自建集群折旧、采购议价和利用率差异。它的作用是说明：基础模型训练中的 1% 效率、稳定性或重跑概率变化，可以对应非常大的经济量级。

层 公开交易锚点 付费对象 主要价值证据
AI 应用 19–39 美元/席位/月 工作流与团队能力 使用率、任务完成率、人工节省
模型 API 0.25–180 美元/百万 Token，不同模型与输入输出不同 能力、延迟与可靠性 单任务成本、质量、SLA
基础模型训练 Llama 3.1 405B 云价等效约 1.21–1.33 亿美元 一次训练工程 收敛、有效 Token、训练时间、失败率

集群与软件栈

AWS 的公开 Capacity Block 中，8 张 H100 的 p5.48xlarge 约为 31.464–34.608 美元/小时；连续运行一年约 27.6–30.3 万美元。8 张 B200 的 p6-b200.48xlarge 是 82.368 美元/小时。4 在大集群上，低 MFU、长尾通信、数据阻塞、故障恢复和 checkpoint 停顿都会以集群小时直接计费。

框架层却呈现相反表象。PyTorch 采用允许再分发和修改的 BSD 风格许可证，许可证价格是 0。6 但“代码免费”不代表生产责任免费：NVIDIA AI Enterprise 的一年期列表价是 4,500 美元/GPU/年，它出售的是验证、兼容、支持和责任边界。7

CUDA 与 CANN 也不适合硬造一个独立单价。CUDA Toolkit 官方文档列出了编译器、运行时、数学库和调试工具，并由专有 EULA 管理；CANN Community Edition 官方文档提供 Toolkit 下载并要求接受软件许可。89 截至本文调研日期，这两份官方资料都没有给出类似“每服务器/年”的独立目录价。这不等于它们是开源软件或经济价值为零，而是说明运行时生态的价值主要随 GPU/NPU 硬件、云实例、企业支持、兼容性和平台锁定被捕获。

操作系统也类似。Linux 内核源代码按 GPLv2 提供，不按每台服务器收许可证费；Red Hat Enterprise Linux Server 则把稳定版本、生命周期和支持打包，Standard 与 Premium 的一年公开价格分别约为 878.90 和 1,428.90 美元/服务器。1011

这组价格揭示了中间层的商业规律：

  • 通用代码趋向免费，因为生态需要低摩擦扩散。
  • 确定性可以收费，包括兼容矩阵、长期维护、安全更新、SLA 和事故响应。
  • 定制解决方案可以收费，尤其是它直接关联昂贵集群的利用率、稳定性和上线时间时。
  • 一次性补丁难以收费，如果它不能复用、无法进入正式版本、效果又没有受控证据。
层 免费部分 付费部分 容易陷入的低价值工作
AI Infra 框架 源码、基础能力、社区知识 托管、企业支持、定制优化 长期维护私有分叉
OS/运行时 内核、社区工具链 认证、生命周期、SLA 无指标的兼容性修补
集群服务 很少免费 GPU 小时、网络、存储、运维 只优化局部算子，不看端到端瓶颈

芯片与制造

硬件和制造层的交易额巨大，但公开的单卡、单片晶圆价格并不完整。与其引用渠道传闻，更可靠的做法是看公司披露的收入、毛利和资本开支，同时承认它们不是产品目录价。

NVIDIA 2026 财年数据中心收入达到 1,937 亿美元，公司 GAAP 毛利率为 71.1%。12 这表明加速计算平台在当前 AI 需求中捕获了很强的经济价值，但这个毛利率混合了芯片、系统、网络和软件，也不能用来推断某个驱动或算子工程师应得多少工资。

ASML 2025 年确认了 48 台 EUV 光刻系统、对应 116 亿欧元系统收入，简单相除约为每台 2.417 亿欧元；公司全年毛利率为 52.8%。13 这个派生值混合 NXE、EXE 等产品，不是报价单，却足以说明尖端设备的资本数量级。

TSMC 2025 年收入 1,224.2 亿美元、毛利率 59.9%、资本开支 409 亿美元；其亚利桑那规划总投资 1,650 亿美元，覆盖六座晶圆厂、两座先进封装设施和一个研发中心。1415 晶圆代工的真实合同价、良率、节点、封装和客户协议通常不公开，因此“每片多少钱”不能用一个数字代表这一层。

层 公开价值信号 主要壁垒 个人价值更可能来自
加速器平台 NVIDIA 数据中心年收入 1,937 亿美元 架构、生态、供给、网络 芯片/系统设计、软硬协同、平台采用
EUV 设备 派生平均确认系统收入约 2.42 亿欧元/台 极端工程、供应链、服务 核心模块、控制、光学、维护可靠性
晶圆制造 TSMC 年资本开支 409 亿美元 节点、良率、产能、客户信任 工艺研发、良率、设备与量产爬坡

工资在给什么定价

工资不是“所在技术层价格”的分红。它更接近以下变量的组合：岗位稀缺性、边际产出、承担的决策与失败责任、雇主利润池、地域、职级和议价能力。

中国国家统计局 2025 年规模以上企业数据提供了一个宽口径切片。信息传输、软件和信息技术服务业就业人员年平均工资是 242,019 元，其中专业技术人员是 275,504 元；制造业分别是 100,572 元和 151,997 元；科学研究和技术服务业分别是 173,855 元和 172,877 元。16

中国规模以上企业，2025 年 全体就业人员平均工资 专业技术人员平均工资
信息传输、软件和信息技术服务业 242,019 元 275,504 元
科学研究和技术服务业 173,855 元 172,877 元
制造业 100,572 元 151,997 元

这些是行业和岗位大类平均数，不是 AI Infra 工程师、芯片架构师或先进工艺工程师的市场报价；统计口径还不包含股权激励兑现收益。它只能说明软件与信息服务目前拥有更高的总体工资池，不能说明任何软件岗位都比任何硬件岗位值钱。

美国 BLS 的职业中位数能进一步显示层内差异。2024 年计算机硬件工程师中位年薪是 155,020 美元，计算机与信息研究科学家是 140,910 美元，软件开发者是 133,080 美元，电子工程师是 127,590 美元，半导体生产技术员则是 51,180 美元。1718192021

技术栈岗位代理，美国 2024 年 中位年薪 同一数据中的边界
计算机硬件工程师 155,020 美元 半导体制造行业中位数 162,460 美元
计算机与信息研究科学家 140,910 美元 软件出版行业中位数 237,990 美元
软件开发者 133,080 美元 软件出版行业中位数 149,990 美元
电子工程师（不含计算机） 127,590 美元 半导体制造行业中位数 142,760 美元
半导体生产技术员 51,180 美元 典型入门教育和职责不同

最关键的反例就在最后两行：晶圆厂极其昂贵，不代表所有身处晶圆厂的人都获得最高工资。 资本设备价格由设备稀缺、工艺壁垒和产能风险决定；个人工资还取决于岗位是否拥有稀缺知识、决策权和高替换成本。

同样，研究科学家整体中位数不是最高，但在软件出版行业的中位数达到 237,990 美元。雇主所处利润池和岗位位置，可能比抽象的“算法层还是 Infra 层”更重要。

开源的价值断层

AI 的开源氛围确实比许多传统行业强。Hugging Face 在 2025 年披露其 Hub 已提供超过 200 万个公开模型、50 万个公开数据集和 100 万个公开 Spaces。22 这种密度显著降低了学习、复现和组合创新的门槛，也让模型和框架迭代更快。

但开源创造的是使用价值扩散，不自动保证开发者获得交换价值。许可证允许别人复制代码时，源码本身很难按份收费；价值更容易被以下位置捕获：

  • 拥有客户关系和分发入口的应用；
  • 承担托管、SLA、安全与事故责任的云服务；
  • 控制稀缺算力、芯片和供应链的平台；
  • 能把通用代码适配到私有数据、流程和硬件的解决方案团队。

Redis 的许可证历史是一个直接案例。Redis 官方说明，2024 年许可证调整的动因之一，是托管服务商使用 BSD 版本并提供有限回馈；Redis 8 后又加入 AGPLv3，试图同时维持开源选项和商业可持续性。23 这不是“开源一定失败”的证据，而是说明高使用量与高收入不会自动流向同一个主体。

对个人工程师而言，开源投入至少要命中一种回报：

  1. 学习回报：通过真实代码建立稀缺能力。
  2. 声誉回报：让高质量提交成为可验证的公开履历。
  3. 上游回报：减少私有分叉和长期维护成本。
  4. 商业回报：由雇主、咨询、支持或产品为维护工作付费。
  5. 资产回报：沉淀成自己可以反复调用的工具、基准和方法。

如果一个开源工作既没有雇主资助，又不提升能力、声誉、上游影响或可复用资产，它可能只有社会价值，没有可持续的个人价值。不应把“社区需要”自动解释为“我应该无限义务维护”。

AI Infra 是否无止境

AI Infra 的工作会长期存在，但不能把它浪漫化为“每一次适配都能永久增值”。模型结构、模态、序列长度、并行策略、精度格式、训练范式和硬件都会变化，新的计算、显存、通信和可靠性问题会不断出现；与此同时，成功的接口、编译器和框架能力也会把旧问题商品化。

因此，应把 AI Infra 工作分成三类：

类型 例子 价值持续性 主要风险
重复出现的物理瓶颈 计算、显存、通信、I/O、故障恢复 高 需要端到端证据和多层能力
可复用的软件机制 并行抽象、调度器、Profiler、Checkpoint、算子库 中高 会被框架吸收并标准化
一次性兼容补丁 某模型某版本的私有分支适配 低 Case 小、维护久、指标收益弱

真正长期的不是某个框架 API，而是以下能力：

  • 把新模型结构翻译成计算图、状态、通信和生命周期；
  • 找到系统峰值，而不是只优化最显眼的算子；
  • 用相同训练语义进行可复现测量；
  • 在算法、框架、运行时和硬件之间选择正确的修改层；
  • 让一次优化进入上游或沉淀为可迁移模块。

AI 理论上能够进入千行万业，会持续产生新的工作负载；但行业真正付费的仍是可用性、成本、可靠性、安全和集成。“AI 能改变一切”只说明机会空间大，不证明任何 AI 项目都值得做。

适合我的技术位置

我不需要因为管理岗平均工资更高就强迫自己转向人员管理。更合适的做法，是把职业上升方式从“管理更多人”改为“拥有更昂贵、更宽的技术责任边界”。

技术所有权

技术所有权不是“最难的代码归我写”，而是对一个昂贵结果负责：

  • 能定义基线、口径和成功条件；
  • 能解释模型、框架、运行时和硬件各自承担什么；
  • 能在错误的修改层出现时及时止损；
  • 能交付可维护实现、验证、回滚和文档；
  • 能把一次客户问题抽象成下一次可复用的能力。

这条路线仍需要沟通，但沟通围绕对象和证据展开：模型配置、性能账本、接口、Trace、复现脚本、设计取舍和验收指标。它比人员管理更符合我的兴趣，也能降低“理解所有人的心思”带来的消耗。

训练系统主线

基础模型训练是适合我的主战场，因为它同时满足五个条件：

小黑在变化模型与昂贵集群之间修复可测瓶颈并产出复用资产

自绘示意图：技术所有权不是站在某一层写最难的代码，而是跨过模型与集群边界，对可测的昂贵结果负责，并把一次修复变成可复用资产。
  1. 痛点昂贵：一次长时间重跑、1% 大集群利用率或故障恢复差异都有明确成本。
  2. 问题持续变化：MoE、长序列、多模态、线性注意力、强化学习和新精度不断改变系统路径。
  3. 效果可测：MFU、tokens/s、step time、显存峰值、故障恢复时间和收敛一致性可以受控比较。
  4. 需要跨层能力：单靠算法、框架或算子中的任意一层都难以完成端到端判断。
  5. 能够沉淀资产：性能模型、Profiler、并行策略、算子、Checkpoint 和验证流程可以复用。

个人定位可以写成三层，而不是一个含糊的“AI Infra 架构师”：

层次 我负责什么 核心产物
工作负载理解 读懂模型结构、训练目标、数据形状和收敛语义 计算/显存/通信/状态账本
系统诊断与设计 找到端到端瓶颈，选择并行、调度、容错和 I/O 方案 可复现实验、设计文档、性能模型
软硬协同落地 修改框架、算子、编译或运行时，完成 NPU/GPU 验证 上游补丁、工具、基准、回滚方案

这条路线也保留了面向应用的出口：当训练和部署能力成熟后，可以把低成本、可靠、可定制的基础模型能力交给制造、金融、医疗、科研和内容等行业。赋能千行万业不是从行业口号开始，而是从把一个昂贵、不稳定的模型系统做成可交付能力开始。

不做一次性适配工

最大的职业风险不是技术太底层，而是长期停留在“别人模型变了，我修一下私有分支”的位置。下面三种任务需要主动设退出条件：

  • 覆盖面太小：只服务一个模型、一个版本、一个客户 Case，且无法抽象。
  • 指标链断裂：局部优化看似漂亮，端到端吞吐、成本或稳定性没有变化。
  • 所有权缺失：代码不能进入上游，工具不能复用，结果不能公开或进入正式版本。

遇到这类工作时，应至少争取一种转化：

  1. 抽象成框架接口或通用算子；
  2. 变成自动检测、迁移或性能建模工具；
  3. 用失败证据形成明确的适用边界；
  4. 进入上游版本，减少后续维护；
  5. 与客户成本或产品指标建立验收关系。

如果五种转化都做不到，就应该把它视为短期交付，而不是个人长期研究方向。

两年行动路线

路线应从最难场景出发，但每一步都留下可验证资产：

阶段 主要任务 必须留下的证据 退出条件
0–3 个月：建立基线 选择一个公开基础模型训练任务，建立计算、显存、通信、I/O 和故障账本 可复现脚本、性能基线、Trace、成本估算 口径不可复现时先修测量体系
3–6 个月：攻一个贵痛点 选择 OOM、低 MFU、通信长尾、数据阻塞或恢复慢中的一个 同语义 A/B、端到端收益、回归与回滚 只改善局部指标时停止扩张
6–12 个月：做成复用能力 把补丁抽象成上游接口、工具、算子或诊断规则 第二个模型或第二个后端复用 无法跨第二个 Case 时降低长期优先级
12–24 个月：拥有完整路径 从新模型结构分析到集群训练验收，独立承担技术闭环 设计、实现、性能、稳定性和成本全套证据 只剩协调、没有技术所有权时调整角色

每个项目结束时，至少沉淀四件东西：

  • 模型账本：结构、Tensor、状态、精度和训练语义；
  • 系统账本：计算、显存、通信、I/O、调度和故障；
  • 证据包：Baseline、A/B、Profiler、收敛、稳定性和适用边界；
  • 复用资产：代码、工具、文档、测试、基准或上游提交。

这样，开源不是无偿终点，而是经验入口；客户问题不是一次性交付，而是能力验证；芯片差异不是知识牢笼，而是训练跨层判断的真实约束。

总结

最关键和最赚钱不是同一个问题。 最底层的晶圆厂、光刻机和加速器拥有最强资本壁垒，但个人工资还取决于岗位稀缺性与责任；最上层应用最接近客户付费，但竞争、分发和产品能力可能比底层技术更重要；中间层框架大量开源，直接许可证价格低，却能通过支持、云服务、硬件和定制方案间接捕获价值。

对个人工程师，最值得长期投入的是：昂贵、重复出现、可测量、可复用、能形成技术所有权的瓶颈。

我的方向可以收束为：

挑战基础模型训练这一最难、最昂贵的场景，理解真实痛点，学习并参与开源，完成模型到 NPU/GPU 的跨层诊断和定制优化，把每次交付沉淀为可复用的训练系统能力，最终让可靠、低成本的 AI 能力进入千行万业。

这条路不要求我成为人员管理者，但要求我从“写某一层代码的人”成长为“对一个昂贵技术结果负责的人”。

参考资料

  1. GitHub Docs, About billing for GitHub Copilot in organizations and enterprises, accessed 2026-07-29. ↩

  2. OpenAI, Business Pricing, accessed 2026-07-29. ↩

  3. OpenAI, GPT-5.4 Model, accessed 2026-07-29. ↩

  4. AWS, Amazon EC2 Capacity Blocks for ML pricing, accessed 2026-07-29. Capacity-block prices vary by region and reservation date. ↩↩

  5. Meta, Llama 3.1 Model Card, released 2024-07-23. ↩

  6. PyTorch, LICENSE, accessed 2026-07-29. ↩

  7. NVIDIA, NVIDIA Enterprise Licensing Guide — Pricing, accessed 2026-07-29. ↩

  8. NVIDIA, CUDA Toolkit End User License Agreement, updated 2026-01-26, accessed 2026-07-29. ↩

  9. Huawei Ascend, CANN Community Edition — Quick Installation FAQ, accessed 2026-07-29. ↩

  10. Linux Kernel Documentation, Linux kernel licensing rules, accessed 2026-07-29. ↩

  11. Red Hat, Red Hat Enterprise Linux Server, accessed 2026-07-29. ↩

  12. NVIDIA, Financial Results for Fourth Quarter and Fiscal 2026, 2026-02-25. ↩

  13. ASML, 2025 Financial Results, 2026-01-28; EUV system revenue detail comes from its FY2025 investor presentation. ↩

  14. TSMC, 2025 Annual Report, 2026. ↩

  15. TSMC, TSMC Intends to Expand Its Investment in the United States to US$165 Billion, 2025-03-04. ↩

  16. 国家统计局, 2025 年城镇单位就业人员年平均工资情况, 2026-05-15. 表中工资为税前全部劳动报酬，不含股权激励兑现收益。 ↩

  17. U.S. Bureau of Labor Statistics, Computer Hardware Engineers, May 2024 wage data. ↩

  18. U.S. Bureau of Labor Statistics, Computer and Information Research Scientists, May 2024 wage data. ↩

  19. U.S. Bureau of Labor Statistics, Software Developers, Quality Assurance Analysts, and Testers, May 2024 wage data. ↩

  20. U.S. Bureau of Labor Statistics, Electrical and Electronics Engineers, May 2024 wage data. ↩

  21. U.S. Bureau of Labor Statistics, Semiconductor Processing Technicians, May 2024 wage data. ↩

  22. Hugging Face, huggingface_hub v1.0: Five Years of Building the Foundation of Open Machine Learning, 2025-10-27. ↩

  23. Redis, Licenses, accessed 2026-07-29. The cloud-provider explanation is Redis Ltd.'s stated rationale, not an independent causal audit. ↩

评论