インフラ # ネットワークを、正確に説明します。 帯域幅はホスティング事業者の説明が最も曖昧になりがちな部分です。だからこのページでは具体的に説明します。各ポートとは何か、上限に達した場合の費用、どこからトランジットを購入しているか、そして提供していないものは何かです。 - 25 Gbit/s 8GPUノードで無制限 - $0 超過料金、通信量を問わず - /64 IPv6はすべてのマシンにルーティング - 6 サイト、各拠点が2社のキャリアとIXに接続 ## ポート速度とトラフィック ポートの帯域はシャーシに合わせて設計されています。カードを飽和させられるノードは、リンクも飽和させられるからです。すべてのポートは双方向で無制限です。込みの通信量もなければ、超過料金のプランもなく、グラフを気にする必要もありません。 **ポート速度、込みのトラフィック、利用可能なアップグレード（ノードサイズ別）** | ノード | ポート | 月間トラフィック | アップグレード | アップグレード費用 | |---|---|---|---|---| | 1 × GPU 128 GB RAM · 2 × 2 TB NVMe | 1 Gbit/s 全二重、専有 | 無制限上限なし、バースト課金なし | 10 Gbit/s | $49/mo | | 2 × GPU 256 GB RAM · 2 × 3.84 TB NVMe | 2 Gbit/s 全二重、専有 | 無制限上限なし、バースト課金なし | 10 Gbit/s | $49/mo | | 4 × GPU 512 GB RAM · 4 × 3.84 TB NVMe | 10 Gbit/s 全二重、専有 | 無制限上限なし、バースト課金なし | すでに10 Gbit/s以上 | — | | 8 × GPU 1024 GB RAM · 8 × 3.84 TB NVMe | 25 Gbit/s 全二重、専有 | 無制限上限なし、バースト課金なし | すでに10 Gbit/s以上 | — | | 10 × GPU 1024 GB RAM · 8 × 7.68 TB NVMe | 25 Gbit/s 全二重、専有 | 無制限上限なし、バースト課金なし | すでに10 Gbit/s以上 | — | 無制限とは文字どおりの意味です。1か月間、ポートを線速度で使い続けて構いません。1台のマシンが同じスペースにいる他のお客様の共有アップリンクを劣化させ始めた場合に限り、ご連絡させていただく権利を留保します。この5年間でそうした会話が発生したのは2回だけで、いずれも設定を誤ったミラーが原因でした。 ## トランジットとピアリング すべてのサイトが、独立した2社以上のキャリアから回線を購入し、現地のインターネットエクスチェンジに接続しています。キャリア障害が起きても、それは経路の切り替えであって停止ではありません。だからこそ、契約書に99.9%と明記できるのです。 **インターネットエクスチェンジおよびトランジットキャリア（データセンター別）** | データセンター | インターネットエクスチェンジ | トランジットキャリア | アップリンク | |---|---|---|---| | アムステルダム オランダ · Tier III | AMS-IX, NL-ix | Cogent, Arelion, Lumen | 2 × 100 Gbit/s経路も設備室も分散 | | ストックホルム スウェーデン · Tier III | Netnod, STHIX | Arelion, GlobalConnect | 2 × 100 Gbit/s経路も設備室も分散 | | チューリッヒ スイス · Tier IV | SwissIX, CIXP | Init7, Cogent | 2 × 100 Gbit/s経路も設備室も分散 | | レイキャビク アイスランド · Tier III | RIXレイキャビク | Farice, Síminn | 2 × 100 Gbit/s経路も設備室も分散 | | モントリオール カナダ · Tier III | QIXモントリオール | Cogent, Zayo | 2 × 100 Gbit/s経路も設備室も分散 | | シンガポール シンガポール · Tier III | SGIX、Equinixシンガポール | Arelion, Singtel | 2 × 100 Gbit/s経路も設備室も分散 | ## アドレス管理 IPv4 アドレス1つ（込み） マシンにルーティングされ、契約期間中はお客様専用です。追加のアドレスは1つにつき$3/月で、最大8つまで追加できます。 IPv6 /64（込み） ルーティングであり、ブリッジではありません。1台のマシンにつき1800京個のアドレスが無償で使え、その用途を説明する必要は一切ありません。 逆引きDNS お客様が設定 保有するすべてのアドレスの正引き・逆引きレコードを、お客様ご自身で変更でき、1分以内に反映されます。チケットの発行は不要です。 アドレス履歴 納品時点でクリーン 一度でもブラックリストに掲載されたアドレスは、そのリストから外れるまでプールに戻されません。他人の評判を引き継ぐことはありません。 **送信ポート25はデフォルトで閉じています。** お客様に不便をおかけするためではありません。SMTPを開放したGPUレンタルは数日でスパムの中継地点となり、そのアドレス帯全体がブラックリストに載ってしまいます。マシンからメールを送信する正当な理由がある場合は、ご連絡いただければそのアドレスで開放します。 ## DDoSフィルタリング ボリューメトリックフィルタリングは、マシンの納品と同時に有効になります。オプションではなく、プランの一種でもなく、請求書に記載されることもありません。 ### 常時稼働、L3およびL4 スクラビングは各サイトのエッジ、当社のルーターの手前で行われます。検知はレートとシグネチャに基づき自動で行われ、人の判断を待つことはありません。 ### 数秒で緩和 異常なパケットを検知してからフィルタリングが有効になるまで10秒未満、サイトのトランジット容量の上限まで対応します。正常なセッションがリセットされることはありません。 ### アドレスのヌルルーティングなし 一部のホスティング事業者は、攻撃を受けるとお客様のIPを24時間停止する対応を取ります。当社はフィルタリングで対応します。マシンは接続可能な状態を保ち、それこそがフィルタリングに料金を支払う意味そのものです。 ## GPUインターコネクト ノード内でカード同士を接続する方式が、大規模モデルが高速に動くか、かろうじて動くだけかを左右します。仕様のなかでもっとも質問が多い部分であり、他社の掲載情報でもっとも省略されがちな部分でもあります。 **GPU間のインターコネクト（カードのフォームファクター別）** | フォームファクター | カード | GPU間 | 実務への影響 | |---|---|---|---| | HGXボード上のSXM 4GPUおよび8GPUのノードのみ | A100 SXM4 80 GB, H100 SXM5 80 GB, H200 SXM5 141 GB, B200 SXM6 180 GB | NVSwitch経由のNVLink オールツーオール、カードあたり900 GB/s | ボード全体にわたるテンソル並列処理でも、インターコネクトがボトルネックになりません。 | | PCIeカード GPU 1〜10枚 | L4 24 GB, RTX 4090 24 GB, RTX 5090 32 GB, RTX A6000 48 GB, L40S 48 GB, A100 PCIe 40 GB… | PCIe Gen4 ×16 または Gen5 ×16 カードあたり32〜64 GB/s、ピアツーピア | パイプライン並列処理、バッチ推論、1カード1モデルの推論には十分です。多数のカードにまたがるテンソル並列処理では、NVLinkより低速です。 | どちらが自分のワークロードに必要か迷ったら、次を目安にしてください。1枚のカードに収まるモデルにNVLinkは不要で、4枚以上のカードに分割するモデルはほぼ確実にその恩恵を受けます。[コンフィギュレーター](https://gpuserver.io/ja/configure)の適合チェッカーが、支払いの前にどちらに該当するかを教えてくれます。 ## サイト間レイテンシ 当社のルーターから記載都市までを往復で測定した、30日間の値です。これは中央値であり、最良値ではありません。 AMS 正常稼働中 ### アムステルダム オランダ 往復 フランクフルトまで7ms、ロンドンまで12ms IX AMS-IX, NL-ix 当社の入居開始 2021 STO 正常稼働中 ### ストックホルム スウェーデン 往復 フランクフルトまで22ms、ロンドンまで31ms IX Netnod, STHIX 当社の入居開始 2022 ZRH 正常稼働中 ### チューリッヒ スイス 往復 ミラノまで9ms、フランクフルトまで15ms IX SwissIX, CIXP 当社の入居開始 2023 REY 正常稼働中 ### レイキャビク アイスランド 往復 ロンドンまで18ms、ニューヨークまで40ms IX RIXレイキャビク 当社の入居開始 2024 YUL 正常稼働中 ### モントリオール カナダ 往復 ニューヨークまで12ms、トロントまで19ms IX QIXモントリオール 当社の入居開始 2023 SIN 正常稼働中 ### シンガポール シンガポール 往復 東京まで38ms、シドニーまで45ms IX SGIX、Equinixシンガポール 当社の入居開始 2025 ## 提供していないもの 支払い後に気づくのではなく、ここであらかじめお伝えします。これらのいずれかが必須要件である場合、当社は適切な提供者ではありません。今のうちに知っておくほうが、双方にとって無駄が少なくて済みます。 **マルチノードInfiniBand。**NVLinkは1つのノード内でカード同士を接続します。ノード間のファブリックは販売しておらず、1回の学習で32基のGPUを必要とするジョブには対応できません。 **BGPセッションおよび持ち込みIPアドレス(BYOIP)。**アナウンスするのは当社のアドレス空間のみです。お客様のプレフィックスを当社のルーターからアナウンスする方法はありません。 **データセンター間のレイヤー2接続。**プライベートVLANは、1つのサイト*内*のマシンを接続します。サイト間については、お客様ご自身でトンネルを構築していただきます。 **コミット型トランジット、または専用アップリンク。**ポートは無制限かつ上流回線は共有です。その上に専有帯域の契約を結ぶことはありません。 **納品時点でのSMTP開放。**ポート25の送信は、お申し出いただくまで閉じています。理由は上記のとおりです。 **匿名化ネットワーク。**フィルタリングはお使いのマシンを攻撃から保護するものです。プロキシではなく、トラフィックの送信先を隠すものでもなく、その点を偽ることもありません。 ## 上記のポートはすべて、すべてのマシンに搭載されています。 選べるネットワークプランはありません。GPUを選び、サイトを選べば、ポートはシャーシに標準で付属します。 [カタログを見る](https://gpuserver.io/ja/#catalog) [ガイドを読む](https://gpuserver.io/ja/guides) ## 関連ページ - [ハードウェアポリシー 運用する12種類のNVIDIA GPU、ノード販売前の72時間バーンイン、4時間以内の交換目標、そしてテナント間でのディスク消去の方法。](https://gpuserver.io/ja/hardware) - [サービスステータス gpuserver.ioの全コンポーネントと全データセンターのライブステータス。5都市から60秒ごとに監視プローブで測定し、90日間の稼働率と2022年以降のインシデントログを掲載。](https://gpuserver.io/ja/status) - [サービスレベル契約 稼働率99.9%の約束：何がダウンタイムとみなされるか、外部からどう測定するか、失った1分につき契約期間を5分延長する仕組み、そして適用除外の全内容。](https://gpuserver.io/ja/legal/sla) - [ドキュメント 最初のSSH接続、ハードウェアの検証、CUDAコンテナ、vLLMでのモデル提供、RAID、ファイアウォール設定、IPMI、再インストールまで。実際に使うコマンドで解説します。](https://gpuserver.io/ja/docs) --- 出典: https://gpuserver.io/ja/network/。このファイルはウェブサイトと同じデータから生成されています。ここに記載された数値がページの内容と異なる場合、ページの内容が正となり、このファイルは古い情報です。正式な出典はhttps://gpuserver.io/です。