메모리180 GB HBM3e대역폭 8,000 GB/s — 어떤 테라플롭 수치보다도 생성 속도를 잘 예측하는 값입니다.
인터커넥트NVLink 5 · 1.8 TB/s보드 위 모든 카드 간 올투올 통신입니다. 링크가 병목이 되지 않는 텐서 병렬화가 가능합니다. 작업에 맞는 선택.
노드 크기4 × 카드, 8 × 카드SXM 카드는 4장 또는 8장짜리 HGX 보드에 장착됩니다 — 2장도, 10장도 없습니다.
스토리지4 × 3.84 TB NVMe시스템 볼륨 외의 디스크는 그대로 넘겨 드립니다 — RAID 수준을 강제하지 않습니다. NVMe 추가와 아카이브용 HDD는 월 단위 옵션입니다.
네트워크10 Gbit/s, 무제한양방향 모두, 포함 용량도 없고 어떤 트래픽 수준에서도 초과 요금이 없습니다. IPv4 1개, 라우팅된 IPv6 /64, 제공 시점부터 켜져 있는 DDoS 방어.
a B200 SXM6에서 실행할 수 있는 모델
아래 모델은 모두 8k 컨텍스트에서 단일 카드에 들어갑니다 — 샤딩도, 고려할 인터커넥트도 없습니다. 표시된 정밀도는 들어가는 것 중 가장 좋은 값이며, 계산식은 VRAM 사이징 가이드에 있으니 직접 확인하실 수 있습니다.
8k 컨텍스트에서 B200 SXM6 카드 1장에 들어가는 언어 모델
모델
들어가는 최고 정밀도
필요 메모리
예상 초당 토큰
Llama 3.1 8B8B 파라미터
BF16 / FP16레퍼런스 품질
20 GB180 GB 중
~225
Llama 3.3 70B70B 파라미터
BF16 / FP16레퍼런스 품질
164 GB180 GB 중
~26
Qwen 3 32B32B 파라미터
BF16 / FP16레퍼런스 품질
76 GB180 GB 중
~56
Qwen 3 235B-A22B (MoE)총 235B 중 활성 22B
4-bit (AWQ, GPTQ)가장 작은 가중치, 캐시는 FP16 유지
137 GB180 GB 중
~59
Mixtral 8×22B (MoE)총 141B 중 활성 39B
FP8레퍼런스급, Hopper와 Blackwell
163 GB180 GB 중
~17
Mistral Small 24B24B 파라미터
BF16 / FP16레퍼런스 품질
57 GB180 GB 중
~75
Gemma 3 27B27B 파라미터
BF16 / FP16레퍼런스 품질
67 GB180 GB 중
~67
Phi-4 14B14B 파라미터
BF16 / FP16레퍼런스 품질
34 GB180 GB 중
~129
카드 8장 노드에서는 같은 모델을 총 1440 GB에 나누어 올리므로 가능한 범위가 완전히 달라집니다 — 최대 DeepSeek V3 671B-A37B (MoE). 샤딩은 레이어마다 동기화 비용을 치르므로, 카드 1장에 들어가는 모델은 카드 1장에 두는 편이 좋습니다.
예상 처리량
생성 속도는 메모리 대역폭에 묶여 있습니다: 토큰마다 활성 가중치를 다시 읽어야 하기 때문입니다. 8,000 GB/s에서는 어떤 튜닝으로도 넘을 수 없는 상한이 정해집니다.
당사의 수치는 하한이지, 약속이 아닙니다.
이 페이지의 추정치는 공개된 측정값에 맞춰 보정했으며 의도적으로 보수적입니다 — 단일 스트림 생성을 기준으로 계산합니다. vLLM의 연속 배칭을 쓰면 동시 요청 전체의 합계 처리량은 몇 배 더 높습니다. 여기 수치가 이미 보신 벤치마크보다 낮아 보인다면, 대개 그 차이 때문입니다.
가까운 카드와 비교
가격이 이 카드와 가장 가까운 카드 3종입니다. 무엇이 올라가는지는 메모리가 결정하고, 얼마나 빨리 응답하는지는 대역폭이 결정합니다.
B200 SXM6 구성은 모두 데이터센터 6곳 전체에서 제공됩니다. 카드 가격이 더 비싼 거점도, 제공하지 않는 거점도 없습니다.
AMS사용 가능
암스테르담
네덜란드
왕복 지연프랑크푸르트까지 7 ms, 런던까지 12 ms
시설Tier III · 100% 풍력
STO사용 가능
스톡홀름
스웨덴
왕복 지연프랑크푸르트까지 22 ms, 런던까지 31 ms
시설Tier III · 100% 수력
ZRH사용 가능
취리히
스위스
왕복 지연밀라노까지 9 ms, 프랑크푸르트까지 15 ms
시설Tier IV · 96% 무탄소
REY사용 가능
레이캬비크
아이슬란드
왕복 지연런던까지 18 ms, 뉴욕까지 40 ms
시설Tier III · 100% 지열 + 수력
YUL사용 가능
몬트리올
캐나다
왕복 지연뉴욕까지 12 ms, 토론토까지 19 ms
시설Tier III · 99% 수력
SIN사용 가능
싱가포르
싱가포르
왕복 지연도쿄까지 38 ms, 시드니까지 45 ms
시설Tier III · 전력망 + REC 상쇄
B200 SXM6 서버 관련 질문
B200 SXM6 서버의 월 요금은 얼마입니까?
카드 1장 B200 SXM6 서버는 월 $11,790입니다. 다음이 모두 포함됩니다: 시스템 RAM 512 GB, 4 × 3.84 TB NVMe, 무제한 10 Gbit/s, IPv4 주소 1개, 라우팅된 IPv6 /64. 설치비도 대역폭 요금도 없습니다. 멀티 GPU 노드는 카드 8장 $22,351부터 카드 8장 $22,351까지입니다.
B200 SXM6의 VRAM은 얼마이고, 무엇까지 들어갑니까?
카드당 HBM3e 180 GB, 대역폭 8,000 GB/s. 8k 컨텍스트에서 카드 1장에 올릴 수 있는 가장 큰 모델은 DeepSeek V3 671B-A37B (MoE)(4-bit (AWQ, GPTQ))입니다. 카드 8장 노드의 총 메모리는 1440 GB, DeepSeek V3 671B-A37B (MoE)까지 올릴 수 있는 용량입니다.
B200 SXM6 카드는 전용입니까, 다른 고객과 공유합니까?
전용입니다. 카드는 고객만 계정을 가진 단일 물리 머신에 그대로 전달됩니다 — MIG 분할도, vGPU 계층도, 같은 실리콘에 다른 테넌트도 없습니다. 멀티 GPU 노드에서는 카드 사이의 NVLink 5 · 1.8 TB/s 패브릭을 포함해 노드 전체를 제공합니다.
B200 SXM6 서버를 임대하려면 신원 확인이 필요합니까?
아닙니다. 지출 규모와 무관하게 서류 업로드도, 셀카도, 전화번호도, 사업자 등록도 없습니다 — 카드 8장 노드도 가장 저렴한 단일 카드와 완전히 동일한 조건으로 개설됩니다. 계정 개설에는 이메일 주소, 비밀번호, 청구지 주소가 필요하며, 어느 것도 확인하지 않습니다.
결제는 어떻게 하고, 서버는 얼마나 빨리 제공됩니까?
암호화폐로만 결제합니다: Bitcoin, Monero, Ethereum (ERC-20), Tether (ERC-20) 등. 청구서마다 고유 입금 주소가 발급되고, 금액은 발행 시점에 표시된 환율로 고정되며, 첫 승인 시 머신이 프로비저닝됩니다 — 시간에 관계없이 under 5 minutes 안에 root 권한이 발급됩니다.
B200 SXM6 서버를 시간 단위로 임대할 수 있습니까?
여기서는 제공하지 않습니다. 이 사이트의 모든 가격은 월 요금이며, 사용량 계측도 초당 과금도 없습니다. 시간당 $2.99 수준의 일반적인 클라우드와 비교하면, 머신이 단지 존재하기만 해도 약 3944시간을 넘는 시점부터 월 단위가 더 저렴합니다 — 30일 중 약 164일입니다.
고객 전용 A B200 SXM6, 월 $11,790부터.
데이터센터 6곳 전체에 랙 장착과 번인을 마치고 대기 중입니다. 암호화폐로 결제하시면 under 5 minutes 안에 고객의 것이 됩니다.