アムステルダム
オランダ
帯域幅はホスティング事業者の説明が最も曖昧になりがちな部分です。だからこのページでは具体的に説明します。各ポートとは何か、上限に達した場合の費用、どこからトランジットを購入しているか、そして提供していないものは何かです。
ポートの帯域はシャーシに合わせて設計されています。カードを飽和させられるノードは、リンクも飽和させられるからです。すべてのポートは双方向で無制限です。込みの通信量もなければ、超過料金のプランもなく、グラフを気にする必要もありません。
| ノード | ポート | 月間トラフィック | アップグレード | アップグレード費用 |
|---|---|---|---|---|
| 1 × GPU | 1 Gbit/s | 無制限 | 10 Gbit/s | $49/mo |
| 2 × GPU | 2 Gbit/s | 無制限 | 10 Gbit/s | $49/mo |
| 4 × GPU | 10 Gbit/s | 無制限 | すでに10 Gbit/s以上 | — |
| 8 × GPU | 25 Gbit/s | 無制限 | すでに10 Gbit/s以上 | — |
| 10 × GPU | 25 Gbit/s | 無制限 | すでに10 Gbit/s以上 | — |
無制限とは文字どおりの意味です。1か月間、ポートを線速度で使い続けて構いません。1台のマシンが同じスペースにいる他のお客様の共有アップリンクを劣化させ始めた場合に限り、ご連絡させていただく権利を留保します。この5年間でそうした会話が発生したのは2回だけで、いずれも設定を誤ったミラーが原因でした。
すべてのサイトが、独立した2社以上のキャリアから回線を購入し、現地のインターネットエクスチェンジに接続しています。キャリア障害が起きても、それは経路の切り替えであって停止ではありません。だからこそ、契約書に99.9%と明記できるのです。
| データセンター | インターネットエクスチェンジ | トランジットキャリア | アップリンク |
|---|---|---|---|
| アムステルダム | AMS-IX, NL-ix | Cogent, Arelion, Lumen | 2 × 100 Gbit/s |
| ストックホルム | Netnod, STHIX | Arelion, GlobalConnect | 2 × 100 Gbit/s |
| チューリッヒ | SwissIX, CIXP | Init7, Cogent | 2 × 100 Gbit/s |
| レイキャビク | RIXレイキャビク | Farice, Síminn | 2 × 100 Gbit/s |
| モントリオール | QIXモントリオール | Cogent, Zayo | 2 × 100 Gbit/s |
| シンガポール | SGIX、Equinixシンガポール | Arelion, Singtel | 2 × 100 Gbit/s |
ボリューメトリックフィルタリングは、マシンの納品と同時に有効になります。オプションではなく、プランの一種でもなく、請求書に記載されることもありません。
スクラビングは各サイトのエッジ、当社のルーターの手前で行われます。検知はレートとシグネチャに基づき自動で行われ、人の判断を待つことはありません。
異常なパケットを検知してからフィルタリングが有効になるまで10秒未満、サイトのトランジット容量の上限まで対応します。正常なセッションがリセットされることはありません。
一部のホスティング事業者は、攻撃を受けるとお客様のIPを24時間停止する対応を取ります。当社はフィルタリングで対応します。マシンは接続可能な状態を保ち、それこそがフィルタリングに料金を支払う意味そのものです。
ノード内でカード同士を接続する方式が、大規模モデルが高速に動くか、かろうじて動くだけかを左右します。仕様のなかでもっとも質問が多い部分であり、他社の掲載情報でもっとも省略されがちな部分でもあります。
| フォームファクター | カード | GPU間 | 実務への影響 |
|---|---|---|---|
| HGXボード上のSXM | A100 SXM4 80 GB, H100 SXM5 80 GB, H200 SXM5 141 GB, B200 SXM6 180 GB | NVSwitch経由のNVLink | ボード全体にわたるテンソル並列処理でも、インターコネクトがボトルネックになりません。 |
| PCIeカード | L4 24 GB, RTX 4090 24 GB, RTX 5090 32 GB, RTX A6000 48 GB, L40S 48 GB, A100 PCIe 40 GB… | PCIe Gen4 ×16 または Gen5 ×16 | パイプライン並列処理、バッチ推論、1カード1モデルの推論には十分です。多数のカードにまたがるテンソル並列処理では、NVLinkより低速です。 |
どちらが自分のワークロードに必要か迷ったら、次を目安にしてください。1枚のカードに収まるモデルにNVLinkは不要で、4枚以上のカードに分割するモデルはほぼ確実にその恩恵を受けます。コンフィギュレーターの適合チェッカーが、支払いの前にどちらに該当するかを教えてくれます。
当社のルーターから記載都市までを往復で測定した、30日間の値です。これは中央値であり、最良値ではありません。
オランダ
スウェーデン
スイス
アイスランド
カナダ
シンガポール
支払い後に気づくのではなく、ここであらかじめお伝えします。これらのいずれかが必須要件である場合、当社は適切な提供者ではありません。今のうちに知っておくほうが、双方にとって無駄が少なくて済みます。
マルチノードInfiniBand。NVLinkは1つのノード内でカード同士を接続します。ノード間のファブリックは販売しておらず、1回の学習で32基のGPUを必要とするジョブには対応できません。
BGPセッションおよび持ち込みIPアドレス(BYOIP)。アナウンスするのは当社のアドレス空間のみです。お客様のプレフィックスを当社のルーターからアナウンスする方法はありません。
データセンター間のレイヤー2接続。プライベートVLANは、1つのサイト内のマシンを接続します。サイト間については、お客様ご自身でトンネルを構築していただきます。
コミット型トランジット、または専用アップリンク。ポートは無制限かつ上流回線は共有です。その上に専有帯域の契約を結ぶことはありません。
納品時点でのSMTP開放。ポート25の送信は、お申し出いただくまで閉じています。理由は上記のとおりです。
匿名化ネットワーク。フィルタリングはお使いのマシンを攻撃から保護するものです。プロキシではなく、トラフィックの送信先を隠すものでもなく、その点を偽ることもありません。