价格,按节点规格与租期
每一行只有一个数字,而且是全部费用:没有开通费,没有重装费,没有带宽费,没有支持套餐费。更长租期需一次性预付。
RTX A6000 服务器的月费,按节点规格与租期长度列出
| 节点 |
CPU 与内存 |
月付 |
3 个月 |
12 个月 |
|
| 1 × RTX A6000
共 48 GB · PCIe 5.0 |
AMD Ryzen 9 7950X16 c / 32 t · 128 GB · 2 × 2 TB NVMe |
$286/月
随时可取消
|
$272/月
每年节省 $42
|
$252/月
每年节省 $408
|
配置 |
| 2 × RTX A6000
共 96 GB · PCIe 5.0 ×16 |
AMD Threadripper 7960X24 c / 48 t · 256 GB · 2 × 3.84 TB NVMe |
$597/月
随时可取消
|
$567/月
每年节省 $90
|
$525/月
每年节省 $864
|
配置 |
| 4 × RTX A6000
共 192 GB · PCIe 5.0 ×16 |
AMD Threadripper 7970X32 c / 64 t · 512 GB · 4 × 3.84 TB NVMe |
$1,163/月
随时可取消
|
$1,105/月
每年节省 $174
|
$1,023/月
每年节省 $1,680
|
配置 |
| 8 × RTX A6000
共 384 GB · PCIe 5.0 ×16 |
2 × Intel Xeon Gold 6438Y+64 c · 1 TB · 8 × 3.84 TB NVMe |
$2,239/月
随时可取消
|
$2,127/月
每年节省 $336
|
$1,970/月
每年节省 $3,228
|
配置 |
以上每种配置在全部 6个数据中心均有现货,已上架并完成烤机,镜像随时可写入——这正是交付时间是 under 5 minutes 而非一个工作日的原因。
完整规格
GPUNVIDIA RTX A6000Ampere 架构,PCIe 插卡。
显存48 GB GDDR6 ECC768 GB/s 带宽——预测生成速度的数字,远比任何 teraflop 数值准确。
互联PCIe 5.0 ×16通过 PCIe 点对点通信。适合一卡一模型和流水线并行;用于张量并行时比 NVLink 慢。 您的任务需要哪一款.
节点规格1 × 显卡, 2 × 显卡, 4 × 显卡, 8 × 显卡PCIe 显卡在标准机箱中最多可装 8 张,仅低功耗显卡可达 10 张。
存储2 × 2 TB NVMe系统卷之外的存储以裸盘形式交付——我们不强制任何 RAID 级别。更多 NVMe 和归档 HDD 可按月加购。
网络1 Gbit/s,不限流量双向流量,不含流量额度,任何流量水平下都没有超额费用。1个 IPv4 地址,一段可路由的 IPv6 /64,交付时即开启 DDoS 过滤。
an RTX A6000 能运行什么
下方每个模型都能在 8k 上下文下放进单张显卡——无需拆分,也无需考虑互联。所示精度是能放下的最高精度;具体算法见显存容量计算指南,供您核对。
在 8k 上下文下能放进单张 RTX A6000 的语言模型
| 模型 | 能放下的最高精度 | 所需显存 | 预计 token/秒 |
| Llama 3.1 8B8B 参数 |
BF16 / FP16公版品质 |
20 GB48 GB 的 |
~22 |
| Llama 3.3 70B70B 参数 |
4-bit (AWQ, GPTQ)权重最小,缓存保持 FP16 |
43 GB48 GB 的 |
~10 |
| Qwen 3 32B32B 参数 |
FP8接近公版,Hopper 与 Blackwell |
38 GB48 GB 的 |
~11 |
| Mistral Small 24B24B 参数 |
FP8接近公版,Hopper 与 Blackwell |
28 GB48 GB 的 |
~14 |
| Gemma 3 27B27B 参数 |
FP8接近公版,Hopper 与 Blackwell |
33 GB48 GB 的 |
~13 |
| Phi-4 14B14B 参数 |
BF16 / FP16公版品质 |
34 GB48 GB 的 |
~12 |
在 8卡节点上,同样的模型分布在总共 384 GB 显存中,这彻底改变了可行的范围 ——最大可达 Llama 3.1 405B。拆分会在每一层都带来同步开销,所以能放进一张显卡的模型就应该留在一张显卡上。
预期吞吐量
生成速度受限于显存带宽:每个 token 都需要重新读取激活的权重。在 768 GB/s 下,这就是一个无论如何调优都无法突破的上限。
我们给出的数字是下限,而非承诺。
本页的估算值是根据已公开的测试数据校准的,并且刻意保守——它们衡量的是单流生成。在 vLLM 的连续批处理下,多个并发请求的总吞吐量会高出数倍。如果这里的数字比您见过的基准测试低,通常就是这个原因。
与相近显卡对比
与这张显卡价格最接近的三款显卡。显存决定能加载什么,带宽决定响应速度。
RTX A6000 与价格最接近的三款显卡对比
| 显卡 | 显存 | 带宽 | 互联 | 起 |
| RTX A6000 本页Ampere |
48 GB |
768 GB/s |
PCIe |
$286/月 |
| RTX 5090Blackwell |
32 GB |
1,792 GB/s |
PCIe |
$335/月 |
| RTX 4090Ada Lovelace |
24 GB |
1,008 GB/s |
PCIe |
$193/月 |
| A100 PCIeAmpere |
40 GB |
1,555 GB/s |
PCIe |
$392/月 |
并排查看全部 12 款显卡,或者让配置器根据您的模型和上下文长度来选择,而不是根据价格。
与其他显卡对比
面对 an RTX A6000,人们实际做出的权衡取舍,均基于价格、显存、带宽和可容纳的模型逐一得出。
包含内容
-
无需证件,无需自拍照,无需电话号码,无需公司注册信息。
无核验 · 不限消费
-
GPU 直通到一台服务器,这台服务器就是您的。
无 MIG · 无 vGPU · 无虚拟化管理程序
-
从第一分钟起即拥有完整 root 权限,另加远程电源控制与虚拟介质。
带外管理,独立 VLAN
-
没有包含流量额度,没有超额档位,没有需要盯着图表看的东西。
1 到 25 Gbit/s · 双向
-
可随时重装系统,切换到我们提供的任意操作系统。
$0 · 重装次数不限
-
取自同一机房内储备的备件,随时更换,硬盘保持原位不动。
四小时目标 · 24/7
在哪些机房可用
每一种 RTX A6000 配置在全部 6个数据中心均可提供。没有哪个机房的价格更高,也没有哪个机房缺货。
AMS
可用
阿姆斯特丹
荷兰
STO
可用
斯德哥尔摩
瑞典
ZRH
可用
苏黎世
瑞士
REY
可用
雷克雅未克
冰岛
YUL
可用
蒙特利尔
加拿大
SIN
可用
新加坡
新加坡
关于 RTX A6000 服务器的常见问题
RTX A6000 服务器每月费用是多少?
单卡 RTX A6000 服务器每月 $286,一切均已包含:128 GB 系统内存、2 × 2 TB NVMe、不限流量的 1 Gbit/s、1个 IPv4 地址和一段可路由的 IPv6 /64。没有开通费,也没有带宽费用。多 GPU 节点价格从 2卡 $597 起,最高至 8卡 $2,239。
RTX A6000 有多少显存,能放下什么模型?
每张显卡 48 GB GDDR6 ECC,带宽 768 GB/s。它在 8k 上下文下单卡能放下的最大模型是 Llama 3.3 70B(4-bit (AWQ, GPTQ))。8卡节点总共有 384 GB 显存,足以容纳 Llama 3.1 405B。
RTX A6000 是独享的,还是与其他客户共享?
独享。显卡直通给唯一一台物理机,只有您在其上拥有账户——没有 MIG 分区,没有 vGPU 层,同一芯片上也没有其他租户。在多 GPU 节点上,您获得整个节点,包括显卡之间的 PCIe 5.0 ×16 互联结构。
我租用 RTX A6000 需要核验身份吗?
不需要。无论消费金额多高,都无需上传证件、无需自拍照、无需手机号,也无需公司注册信息——8卡节点与最便宜的单卡在开通条件上完全相同。开户只需要邮箱地址、密码和账单地址,且一律不做核验。
我该如何付款,服务器交付需要多久?
仅接受加密货币:Bitcoin, Monero, Ethereum (ERC-20), Tether (ERC-20) 及其他币种。每笔账单都有独立的收款地址,金额按开具时显示的汇率固定,首次确认后机器即刻开通——under 5 minutes 内即可获得 root 权限,全天候不限时间。
我可以按小时租用 RTX A6000 吗?
不是的。本站所有价格都是月费,没有计量计费,也没有按秒计费。相较于典型的 $2.99/小时云服务,只要机器存在时间超过约 96 小时——三十天中约 4 天——按月租用就更划算。