Сравнение · Дешёвая быстрая карта против дата-центровой

RTX 4090 или A100 PCIe?

Обе выделенные, обе помесячные, обе открываются без проверки личности. Их разделяют память, пропускная способность и $199 в месяц — а что из этого важно, полностью зависит от того, что вы собираетесь запускать.

$193/moRTX 4090, одна карта
$392/moA100 PCIe, одна карта
24 vs 40 GBпамять на карту
1.5×разрыв в пропускной способности

Коротко

Какая и когда

Выбрать RTX 4090: когда 24 GB вмещает вашу модель. Это экономит $199/мес, а неиспользуемая память — это память, за которую вы всё равно заплатили.
Выбрать A100 PCIe: когда вашей модели нужно больше 24 GB на одной карте. Это порог, а не предпочтение — ниже него доплата $199/мес не даёт ничего.
Neither, if: ваша модель не помещается на одну карту ни той, ни другой. Шардинг требует синхронизации на каждом слое — см. руководство по интерконнекту перед покупкой узла с несколькими GPU.

Бок о бок

RTX 4090 в сравнении с A100 PCIe
	RTX 4090	A100 PCIe	Разница
Архитектура	Ada Lovelace	Ampere	Ada Lovelace — другое поколение
Память на карту	24 GB GDDR6X	40 GB HBM2	16 GB в пользу A100 PCIe
Пропускная способность памятиПрогнозирует скорость генерации	1,008 GB/s	1,555 GB/s	1.54× в пользу A100 PCIe
Форм-фактор	Карта расширения PCIe	Карта расширения PCIe	Одинаково
Конфигурации узла	1×, 2×, 4×, 8×	1×, 2×, 4×, 8×	До 320 GB в одном узле
От, в месяц	$193	$392	$199/мес разницы

Цена при каждой конфигурации узла

Ежемесячная цена обеих карт при каждой доступной конфигурации узла
Узел	RTX 4090	A100 PCIe	Всего VRAM
1 × GPU	$193/mo	$392/mo	24 GB / 40 GB	RTX 4090 A100 PCIe
2 × GPU	$416/mo	$802/mo	48 GB / 80 GB	RTX 4090 A100 PCIe
4 × GPU	$814/mo	$1,556/mo	96 GB / 160 GB	RTX 4090 A100 PCIe
8 × GPU	$1,579/mo	$2,983/mo	192 GB / 320 GB	RTX 4090 A100 PCIe

Что вмещает каждая на одной карте

При контексте 8k — лучшая точность, которая помещается в память. Именно эта разница определяет покупку, а не таблица характеристик.

Только RTX 4090

Ничего. Любую модель, которую RTX 4090 вмещает на одной карте, вмещает и A100 PCIe — разница между ними в скорости, а не в возможностях.

Только A100 PCIe

Ничего. RTX 4090 вмещает всё то же, что и A100 PCIe.

Одна и та же модель на обеих: Qwen 3 32B. На RTX 4090 — примерно 28 токенов/с при 4-bit (AWQ, GPTQ); на A100 PCIe — примерно 22. Один поток, намеренно консервативно: при непрерывном батчинге суммарная скорость в разы выше на обеих картах. Полезное число — это соотношение, а не абсолютное значение.

Стоимость за GB и за TB/s

Два коэффициента, которые срезают путь через таблицу характеристик. Первый показывает, сколько стоит память; второй — сколько стоит скорость.

Стоимость гигабайта VRAM и терабайта в секунду пропускной способности
Карта	$/GB VRAM, в месяц	$/TB в секунду, в месяц	Лучше подходит для
RTX 4090	$8.04	$191	Оба коэффициента
A100 PCIe	$9.80	$252	Ни то, ни другое

Эти коэффициенты ранжируют карты, но не выбирают за вас. Карта, которая дешевле за гигабайт, бесполезна, если гигабайт у неё слишком мало, чтобы вообще вместить вашу модель — объём памяти это порог, а не плавная шкала. Используйте их, чтобы выбрать между двумя картами, которые обе подходят.

RTX 4090 против A100 PCIe, коротко

Стоит ли RTX 4090 доплаты по сравнению с A100 PCIe?

На самом деле она на $199 дешевле в месяц. A100 PCIe стоит дороже из-за памяти или пропускной способности; стоит ли это того, зависит от того, помещается ли ваша модель на RTX 4090.

Какая быстрее для инференса LLM?

Скорость генерации ограничена пропускной способностью памяти, потому что каждый токен требует повторного чтения активных весов. У RTX 4090 — 1,008 GB/s против 1,555 GB/s, поэтому A100 PCIe опережает примерно на 35% на модели, которую вмещают обе карты.

Предлагаются ли обе в виде узлов с несколькими GPU?

RTX 4090: 1×, 2×, 4×, 8×. A100 PCIe: 1×, 2×, 4×, 8×. Обе карты — PCIe, соединены peer-to-peer через шину, а не через NVLink.

Можно ли арендовать любую из них без проверки личности?

Да, обе, на одинаковых условиях. Ни документа, ни селфи, ни номера телефона, ни регистрации компании — при любом уровне расходов. Оплата в криптовалюте, у каждого инвойса свой адрес, а root-доступ появляется через менее 5 минут после первого подтверждения.

Другие сравнения

Обе уже установлены в стойки и готовы — во всех 6 дата-центрах.

Какую бы вы ни выбрали, она помесячная, оплачивается в криптовалюте, открывается без проверки личности и предоставляется через менее 5 минут.

Открыть конфигуратор Читать руководства