对比 · HBM 对比 GDDR，价格相近
A100 PCIe 还是 L40S？
两者都是独享服务器，都按月计费，开通都无需身份核验。区别在于显存、带宽，以及每月 $377 的价差——而这些差异是否重要，完全取决于您打算运行什么。
- $1,091/moA100 PCIe，单卡
- $714/moL40S，单卡
- 80 vs 48 GB每卡显存
- 2.2×带宽差距
简短的答案
该选哪一款，以及何时选
- 选择 A100 PCIe
- 当您的模型在单卡上需要超过 48 GB 时。这是一道门槛，而非个人偏好——低于这个门槛，多花的每月 $377 什么也买不到。
- 选择 L40S
- 当 48 GB 就能容纳您的模型时。这样每月能省下 $377，而用不上的显存，也是您掏钱买的显存。
- Neither, if
- 您的模型在任何一款单卡上都装不下。拆分会在每一层都产生同步开销——请参阅 互联指南 购买多 GPU 节点之前。
并排对比
| A100 PCIe | L40S | 差异 | |
|---|---|---|---|
| 架构 | Ampere | Ada Lovelace | Ampere 是不同的一代 |
| 单卡显存 | 80 GB HBM2e | 48 GB GDDR6 ECC | 多出 32 GB，优势归 A100 PCIe |
| 显存带宽 | 1,935 GB/s | 864 GB/s | 2.24×，优势归 A100 PCIe |
| 封装形式 | PCIe 插卡 | PCIe 插卡 | 相同 |
| 节点规格 | 1×, 2×, 4×, 8× | 1×, 2×, 4×, 8× | 单节点最高可达 640 GB |
| 起价，每月 | $1,091 | $714 | 相差 $377/月 |
每种节点规格的价格
| 节点 | A100 PCIe | L40S | 总显存 | |
|---|---|---|---|---|
| 1 × GPU | $1,091/mo | $714/mo | 80 GB / 48 GB | A100 PCIe L40S |
| 2 × GPU | $2,159/mo | $1,427/mo | 160 GB / 96 GB | A100 PCIe L40S |
| 4 × GPU | $4,157/mo | $2,754/mo | 320 GB / 192 GB | A100 PCIe L40S |
| 8 × GPU | $7,906/mo | $5,251/mo | 640 GB / 384 GB | A100 PCIe L40S |
各自在单卡上能容纳什么
在 8k 上下文下，选用能放得下的最佳精度。真正决定购买与否的是这一差异——而非规格表。
仅 A100 PCIe
没有。A100 PCIe 能在单卡容纳的每一款模型，L40S 也同样能容纳——两者的差异在于速度，而非能力。
仅 L40S
没有。A100 PCIe 能容纳 L40S 所能容纳的一切。
两者上运行同一模型：Llama 3.3 70B。
在 A100 PCIe 上，约为每秒 25 个 token（4-bit (AWQ, GPTQ) 时）；
在 L40S 上，约为 11。
此数据为单流保守估算——在连续批处理下，两者的总吞吐量都会高出数倍。请把比值而非绝对值当作有参考意义的数字。
每 GB 与每 TB/s 的成本
两项比率，帮您看穿规格表背后的真相：第一项告诉您显存的价格，第二项告诉您速度的价格。
这些比率用于给显卡排序，而不是替您做选择。如果一款显卡每 GB 更便宜，但显存总量根本不足以容纳您的模型，那这种便宜毫无意义——容量是一道门槛，而非一条渐变的曲线。请用这些比率，在两款都能装下您模型的显卡之间做取舍。
A100 PCIe 对比 L40S，简而言之
A100 PCIe 比 L40S 贵出的部分，值得吗？
每月贵 $377——即 53%——换来 多 32 GB 显存，以及124% 的显存带宽提升。两者在单卡上可容纳的模型集合相同，因此差异在于速度，而非能力。
在 LLM 推理方面，哪一款更快？
生成速度受限于显存带宽，因为每生成一个 token 都需要重新读取一次激活权重。A100 PCIe 的带宽为 1,935 GB/s，而对方为 864 GB/s，因此在双方都能容纳的模型上，A100 PCIe 的速度大约领先 124%。
两者都提供多 GPU 节点吗？
A100 PCIe: 1×, 2×, 4×, 8×. L40S: 1×, 2×, 4×, 8×. 两者都是 PCIe 显卡，通过总线点对点连接，而非通过 NVLink 连接。
这两款我都能在无需身份核验的情况下租用吗？
是的，两款都一样，条件完全相同。无论消费金额多少，都无需证件、无需自拍照、无需电话号码，也无需公司注册信息。付款以加密货币结算，每张账单都有专属地址，首次确认到账后 5 分钟以内 内即可获得 root 权限。