Инфраструктура

Что мы устанавливаем в стойки и что происходит при поломке.

Выделенный сервер — это обещание, касающееся физического объекта. Эта страница описывает этот объект: какие карты мы покупаем, как узел тестируется до того, как получает арендатора, и что мы делаем в день, когда одна из них выходит из строя.

12Модели GPU, которые мы эксплуатируем
72 hпрогрев узла до получения арендатора
4 hцелевой срок замены неисправного оборудования
0карт, перепроданных другим провайдером

Каждая карта, которую мы эксплуатируем

Это полный список — скрытого уровня нет, и нет карты, которую мы придерживаем для крупных клиентов. Пропускная способность памяти указана в таблице, поскольку для инференса она предсказывает итоговую пропускную способность гораздо точнее, чем любая цифра в терафлопс.

Модели GPU, архитектура, память, пропускная способность, конфигурации узлов и стартовая цена
Карта	Архитектура	Память	Пропускная способность	Конфигурации узла	От
L4 Карта расширения PCIe	Ada Lovelace	24 GB GDDR6	300 GB/s	1×, 2×, 4×, 8×, 10×	$125/мес
RTX 4090 Карта расширения PCIe	Ada Lovelace	24 GB GDDR6X	1,008 GB/s	1×, 2×, 4×, 8×	$193/мес
RTX 5090 Карта расширения PCIe	Blackwell	32 GB GDDR7	1,792 GB/s	1×, 2×, 4×, 8×	$335/мес
RTX A6000 Карта расширения PCIe	Ampere	48 GB GDDR6 ECC	768 GB/s	1×, 2×, 4×, 8×	$286/мес
L40S Карта расширения PCIe	Ada Lovelace	48 GB GDDR6 ECC	864 GB/s	1×, 2×, 4×, 8×	$714/мес
A100 PCIe Карта расширения PCIe	Ampere	40 GB HBM2	1,555 GB/s	1×, 2×, 4×, 8×	$392/мес
A100 PCIe Карта расширения PCIe	Ampere	80 GB HBM2e	1,935 GB/s	1×, 2×, 4×, 8×	$1,091/мес
H100 PCIe Карта расширения PCIe	Hopper	80 GB HBM3	2,000 GB/s	1×, 2×, 4×, 8×	$1,469/мес
A100 SXM4 Модуль SXM, плата HGX	Ampere	80 GB HBM2e	2,039 GB/s	4×, 8×	$4,395/мес
H100 SXM5 Модуль SXM, плата HGX	Hopper	80 GB HBM3	3,350 GB/s	4×, 8×	$6,061/мес
H200 SXM5 Модуль SXM, плата HGX	Hopper	141 GB HBM3e	4,800 GB/s	4×, 8×	$8,405/мес
B200 SXM6 Модуль SXM, плата HGX	Blackwell	180 GB HBM3e	8,000 GB/s	4×, 8×	$11,790/мес

Каждая карта — это розничная или OEM-деталь, купленная новой, с гарантией на наше имя. Мы не покупаем бывшие в майнинге карты и не покупаем карты, чью историю не можем проследить — б/у RTX 4090 дёшева не просто так, и причина проявится на четвёртый месяц.

Что окружает карты

GPU, которому не хватает CPU, RAM или пропускной способности диска — это дорогой способ ждать. Шасси подбирается под число карт, а не продаётся как путь для апгрейда.

Спецификация шасси по числу GPU
Узел	CPU	Системная RAM	Локальное хранилище	Порт
1 × GPU	AMD Ryzen 9 7950X 16 ядер / 32 потока · или Intel Xeon Silver 4410Y	128 GB	2 × 2 TB NVMeGen4 U.2, без навязанного RAID	1 Gbit/s
2 × GPU	AMD Threadripper 7960X 24 ядра / 48 потоков · или Intel Xeon Gold 5416S	256 GB	2 × 3.84 TB NVMeGen4 U.2, без навязанного RAID	2 Gbit/s
4 × GPU	AMD Threadripper 7970X 32 ядра / 64 потока · или 2 × Intel Xeon Gold 6438Y+	512 GB	4 × 3.84 TB NVMeGen4 U.2, без навязанного RAID	10 Gbit/s
8 × GPU	2 × Intel Xeon Gold 6438Y+ 64 ядра · или 2 × Intel Xeon Platinum 8462Y+	1 TB	8 × 3.84 TB NVMeGen4 U.2, без навязанного RAID	25 Gbit/s
10 × GPU	2 × Intel Xeon Platinum 8462Y+ 64 ядра · или 2 × Intel Xeon Platinum 8462Y+	1 TB	8 × 7.68 TB NVMeGen4 U.2, без навязанного RAID	25 Gbit/s

Если в списке указаны два CPU, вам может достаться любой из них — они совпадают по числу ядер и каналам памяти, и конфигуратор покажет, какой именно установлен на вашем узле, ещё до оплаты. Диски передаются «как есть»: мы не навязываем уровень RAID, потому что нужный уровень зависит от того, храните вы чекпоинты или датасет, который можно скачать заново.

Перед продажей узла

Машина попадает в каталог только после трёх дней, в течение которых она не сломалась. Почти каждая карта, которой суждено умереть рано, умирает здесь, в наших руках, а не в ваших.

ШАГ 1 · 2 ЧАСА

Сборка и учёт

Серийные номера каждой карты, модуля и диска фиксируются за конкретным шасси. Именно эта запись позволяет нам позже точно сказать, какая физическая деталь стоит в вашей машине.

ШАГ 2 · 24 ЧАСА

Прогон памяти и вычислений

Тесты ECC по всему объёму VRAM на каждой карте, затем длительное матричное умножение при загрузке 100 %. Одна неисправимая ошибка — и карта возвращается в коробку.

ШАГ 3 · 24 ЧАСА

Тепловой и энергетический прогон

Весь узел удерживается под полной нагрузкой, пока температура на входе поднимается до худшего случая для зала. Мы фиксируем частоту, которую карты реально держат, — а не значение буста на коробке, — и узел, снижающий частоту ниже спецификации, переустанавливают или меняют термопасту перед повторным тестом.

ШАГ 4 · 24 ЧАСА

Интерконнект и хранилище

Пропускная способность NVLink или PCIe peer-to-peer измеряется между картами, ресурс записи NVMe проверяется выборочно, порт удерживается на предельной скорости линка. Показатели сравниваются с другими узлами той же модели, потому что узел, который на 15 % медленнее, — это узел с проблемой.

ЗАТЕМ · В СТОЙКЕ И НАГОТОВЕ

Доступна, образ готов к записи

Именно поэтому доставка занимает менее 5 минут, а не рабочий день: при заказе ничего не собирается. Машина уже существует, включена и протестирована, а ваш платёж запускает запись образа, а не сборку.

Прошивка и драйверы

Стек драйверов Установлены, зафиксированы, вы вправе их менять Каждый Linux-образ поставляется с уже работающими актуальным драйвером NVIDIA, CUDA, cuDNN и NCCL. Ничто не мешает вам заменить всё это — это ваш root.

Обновления прошивки Никогда во время вашего срока BIOS, BMC и VBIOS настраиваются до того, как узел попадёт в каталог. Мы не обновляем прошивку на машине, которую кто-то арендует — это делается между арендаторами.

Частоты На складе и разблокирована для вас Мы отгружаем каждую карту на референсной частоте и с референсным лимитом мощности. Вы можете изменить их с помощью nvidia-smi; гарантийные последствия — наши, а не ваши.

Внеполосный доступ IPMI, в отдельной сети Удалённое питание, последовательная консоль и виртуальные носители, доступные, даже когда недоступна операционная система. Всё это в управляющем VLAN, который никогда не пересекается с вашим публичным портом.

Когда что-то выходит из строя

Оборудование ломается. Провайдеров отличает не то, случится ли это, а то, как выглядят следующие четыре часа.

Запасные части на месте

В каждом зале хранятся запасные карты, блоки питания, диски и одно полное шасси на каждую модель. Замена — это прогулка до соседнего ряда, а не заказ курьера.

Целевой показатель — четыре часа

От вашего сообщения до работающего оборудования, круглосуточно. Если мы не укладываемся, SLA автоматически продлевает ваш срок — заявку подавать не нужно.

Ваши диски остаются вашими

Отказавший GPU или блок питания меняются без затрагивания дисков — они остаются на месте. Мы спрашиваем разрешения, только если нужно тронуть хранилище, и только когда отказало именно оно.

Отказавший диск недоступен для чтения следующему арендатору. Диски, выводимые из эксплуатации, стираются, если ещё отвечают, и физически уничтожаются, если нет. Мёртвый диск нельзя очистить, поэтому он никогда не возвращается производителю по гарантии — мы берём эти расходы на себя, лишь бы диск, когда-то хранивший ваши данные, не покинул здание целым.

Между двумя арендаторами

Эта же машина будет сдана в аренду снова после вас. Всё, что описано ниже, происходит до того, как она вернётся в каталог — независимо от того, просит об этом кто-то или нет.

Этапы вывода из эксплуатации между двумя арендаторами
Шаг	Что происходит	Проверено
1. Сеть	Машина отключается от публичного порта в момент окончания срока. Пока она ждёт, ничего не остаётся доступным.	Состояние порта, с журналированием
2. Хранилище	Каждое устройство NVMe проходит полное криптографическое стирание, а затем однопроходную перезапись всего адресного пространства.	Выборочное считывание на каждом устройстве
3. Память GPU	Карты сбрасываются, их память очищается; счётчики ECC считываются и сравниваются со значениями, зафиксированными при прогреве.	Журнал сбросов `nvidia-smi`
4. Прошивка	Настройки BMC и BIOS перепрошиваются до нашего эталона, отбрасывая любые изменения, сделанные за время срока.	Контрольная сумма относительно эталона
5. Идентификация	Учётные данные IPMI сменены, IP-адреса возвращены в пул, rDNS очищен.	Адрес удерживается до полной очистки

Именно поэтому мы не можем ничего восстановить после окончания срока. Льготного периода, в течение которого ваши данные где-то ещё существуют, не бывает — шаг 2 уже выполнен. Если данные нужны, заберите их с машины до окончания срока.

Чего мы не будем делать

Разделять карту. Ни MIG, ни vGPU, ни time-slicing. Один арендатор на физический GPU — именно это делает воспроизводимой пропускную способность, указанную в объявлении.

Продавать узел нескольким арендаторам одновременно. На машине нет второго аккаунта и нет гипервизора между вами и железом.

Перепродавать чужие мощности. Каждая карта на этой странице куплена и установлена в стойку нами. Ничего здесь не является наценкой перепродавца поверх другого облака.

Подменять карту на другую. Если заказанную модель невозможно предоставить, мы не подсовываем тихо близкий аналог — мы сообщаем вам и возвращаем деньги за срок.

Заходить в вашу операционную систему. Root — только ваш. У нас есть IPMI, который может перезагрузить машину и подключить носитель; но у нас нет логина внутри вашей машины.

Хранить копию чего-либо. Мы не делаем резервных копий ваших дисков. Снэпшоты существуют только если вы их покупаете, и удаляются вместе с окончанием срока.

Характеристики в строке — это характеристики, которые вы получите.

Каждая карта выше доступна во всех 6 дата-центрах, установлена в стойку и прошла прогрев, с образом, готовым к записи.

Просмотреть каталог Читать руководства