Documentación # Desde el pago confirmado hasta el primer token. Qué llega en su mensaje de entrega, qué viene ya instalado y los comandos exactos para la primera hora. Todo lo de abajo se ejecuta como root en una máquina recién entregada. - en menos de 5 minutos desde el pago hasta el mensaje de abajo - 10 imágenes que puede pedir que le escribamos - root sin sudo, sin jump host, sin consola - 22 el único puerto abierto en la entrega ## Qué llega Un solo mensaje, en menos de 5 minutos después de confirmarse el pago. Contiene todo lo que necesita y nada que tenga que aceptar haciendo clic. SSH Dirección, puerto 22 y su contraseña de root La contraseña es la que **usted** estableció en el configurador. Nunca la generamos nosotros, nunca la vemos después en texto claro, y no podemos restablecérsela. Red Dirección IPv4, puerta de enlace y su /64 de IPv6 Ya está configurado en la máquina. El bloque se muestra para que pueda planificar direcciones adicionales en él. IPMI Una dirección independiente y sus propias credenciales En una VLAN de gestión. Alimentación remota, consola serie y medios virtuales, accesibles incluso cuando el sistema operativo no lo está. Hardware La CPU, las tarjetas y los discos exactos de su nodo Modelo y número de serie de cada tarjeta, para que la máquina que verifica sea demostrablemente la que se le vendió. **No podemos recuperar su contraseña de root.** La establece usted y solo se guarda el tiempo necesario para escribirla en la imagen. Si la pierde, el camino de vuelta es IPMI: arranque la imagen de rescate desde medios virtuales y restablézcala usted mismo. Eso es una consecuencia de no conservar sus credenciales, y también es un inconveniente real: guárdela ya en un gestor de contraseñas. ## Primera conexión Nada que aceptar, ningún agente que instalar. Si nos indicó una clave pública en el configurador, ya está en `/root/.ssh/authorized_keys`. Su máquina, primer inicio de sesión ``` $ ssh root@203.0.113.42 # Después, antes que nada: la huella en el mensaje de entrega # debe coincidir con la que se imprime aquí: $ ssh-keygen -lf /etc/ssh/ssh_host_ed25519_key.pub ``` Si envió una clave, desactive la contraseña. Cuesta un único comando y elimina la única credencial que se puede adivinar. Acceso solo con clave ``` # Confirme PRIMERO que su clave funciona, en una segunda terminal, sin cerrar la sesión aquí. $ sed -i 's/^#\?PasswordAuthentication.*/PasswordAuthentication no/' /etc/ssh/sshd_config $ systemctl reload ssh ``` ## Verificar el hardware Hágalo en los primeros diez minutos. Tiene una máquina que no ha visto, y el reloj del SLA para un fallo de hardware empieza a contar en cuanto nos avisa. Tarjetas, memoria y el enlace entre ellas ``` $ nvidia-smi --query-gpu=index,name,serial,memory.total,pcie.link.gen.current --format=csv index, name, serial, memory.total [MiB], pcie.link.gen.current 0, NVIDIA H100 80GB HBM3, 1650123456789, 81559 MiB, 5 1, NVIDIA H100 80GB HBM3, 1650123456790, 81559 MiB, 5 # En un nodo multi-GPU, compruebe que la topología coincide con lo que pagó. # NV# significa NVLink; PIX/PHB/SYS significan que el tráfico va por PCIe. $ nvidia-smi topo -m ``` Rendimiento sostenido, no una cifra boost ``` # Mantenga todas las tarjetas a plena carga durante dos minutos y observe la frecuencia en la que se estabilizan. $ nvidia-smi -q -d PERFORMANCE,TEMPERATURE,CLOCK | grep -E 'Slowdown|SW Power|Graphics *:' # Discos: compruebe la cantidad y el modelo con el mensaje de entrega. $ lsblk -d -o NAME,MODEL,SIZE,ROTA $ nvme list ``` **Si algo no coincide, avísenos de inmediato.** Una tarjeta equivocada, un disco que falta, un enlace funcionando a Gen3 en lugar de Gen5: avísenos dentro del primer día y cambiamos el nodo o le reembolsamos el plazo, sin discusión. Pasado un mes de uso, el mismo aviso es un caso de soporte y no una disputa de entrega, y es más lento para los dos. ## Qué está preinstalado Elija un sistema operativo en el configurador y, opcionalmente, una pila sobre él. Todo lo de abajo se escribe antes de la entrega, no se descarga en el primer arranque. **Imágenes preinstaladas, qué contienen y la tarjeta mínima que necesitan** | Imagen | Para qué sirve | VRAM mínima | SO | |---|---|---|---| | vLLM 0.11 Servidor compatible con OpenAI, procesamiento continuo por lotes | Servir grandes modelos de lenguaje | 24 GB | Linux | | SGLang 0.5 Decodificación estructurada, caché RadixAttention | Servir grandes modelos de lenguaje | 24 GB | Linux | | Text Generation Inference Pila de servicio Hugging Face | Servir grandes modelos de lenguaje | 24 GB | Linux | | Ollama 0.12 Un solo comando, con modelos cuantizados incluidos | Servir grandes modelos de lenguaje | 8 GB | Linux | | Axolotl 0.8 Fine-tuning con LoRA y QLoRA | Entrenamiento y fine-tuning | 24 GB | Linux | | PyTorch 2.9 · CUDA 12.8 Framework básico, cuDNN 9, NCCL | Entrenamiento y fine-tuning | 8 GB | Linux | | ComfyUI SDXL, Flux, SD 3.5, nodos de vídeo | Generación de imágenes y vídeo | 12 GB | Linux | | JupyterLab · CUDA Notebooks sobre una pila CUDA básica | Entrenamiento y fine-tuning | 8 GB | Linux | | Blender 4.5 Renderizado por GPU con Cycles, sin interfaz gráfica | Renderizado 3D | 8 GB | Linux o Windows | | Su propia imagen de Docker Cualquier registro público o privado | Lo que usted traiga | Sin mínimo | Linux | Todas las imágenes Linux, sea cual sea la pila que elija, ya tienen un controlador de NVIDIA, CUDA, cuDNN y NCCL funcionando. Es libre de sustituirlo todo: es su root, y reinstalar no cuesta nada ni tiene límite de frecuencia. ## Contenedores y CUDA Docker y el NVIDIA Container Toolkit están instalados y configurados. La comprobación de abajo merece treinta segundos, porque un contenedor que no ve las tarjetas falla de forma confusa mucho más tarde. ¿Ve un contenedor las tarjetas? ``` $ docker run --rm --gpus all nvidia/cuda:12.8.0-base-ubuntu24.04 nvidia-smi # Las tareas multi-GPU también necesitan memoria compartida e IPC, que los límites predeterminados rompen. # Estos tres flags son la causa habitual de un bloqueo silencioso de NCCL: $ docker run --rm --gpus all --ipc=host --shm-size=16g --ulimit memlock=-1 … ``` ## Servir un modelo El camino útil más corto entre una máquina entregada y un endpoint compatible con OpenAI. Sustituya su propio modelo: lo que importa son los flags. vLLM en una sola tarjeta ``` $ docker run -d --name vllm --gpus all --ipc=host -p 8000:8000 \ vllm/vllm-openai:latest \ --model meta-llama/Llama-3.3-70B-Instruct \ --max-model-len 8192 \ --gpu-memory-utilization 0.92 # En un nodo multi-GPU, reparta la carga entre todas las tarjetas del equipo: $ … --tensor-parallel-size 4 # Después, desde su propia máquina: $ curl http://203.0.113.42:8000/v1/models ``` **Ese endpoint no tiene autenticación.** Publicado en una dirección pública, es un servidor de inferencia abierto, y se encontrará en cuestión de horas. Vincúlelo a localhost y acceda a él mediante un túnel SSH, o colóquelo detrás de las reglas de cortafuegos de la siguiente sección, antes de dejarlo en marcha. Que un modelo determinado quepa en una máquina determinada es aritmética, no opinión: pesos, más una caché KV que crece con la longitud de contexto. El configurador hace esa aritmética para cada configuración antes de que pague, y la [guía de dimensionamiento de VRAM](https://gpuserver.io/es/guides/vram-sizing) muestra la fórmula para que pueda comprobar la nuestra. ## Discos y almacenamiento Los discos se entregan en bruto más allá del volumen del sistema. No imponemos ningún nivel de RAID, porque el adecuado depende de si guarda checkpoints que no puede permitirse perder o un conjunto de datos que puede volver a descargar en una hora. Un volumen temporal en striping, repartido entre los NVMe sobrantes ``` # Compruebe antes qué está sin usar: esto destruye los datos de los dispositivos indicados. $ lsblk $ mdadm --create /dev/md0 --level=0 --raid-devices=2 /dev/nvme1n1 /dev/nvme2n1 $ mkfs.ext4 -E lazy_itable_init=0,lazy_journal_init=0 /dev/md0 $ mkdir -p /scratch && mount /dev/md0 /scratch $ echo '/dev/md0 /scratch ext4 defaults,noatime 0 2' >> /etc/fstab ``` El NVMe adicional, el HDD de archivo y las instantáneas fuera de la máquina son opciones mensuales, que se añaden en el configurador o más adelante. Los discos locales no los respaldamos nosotros, y nunca lo haremos: consulte [instantáneas](https://gpuserver.io/es/docs#snapshots) más abajo. ## Cortafuegos y puertos Todo el tráfico entrante está abierto, salvo lo que bloquee su propia máquina: no hay ningún filtro de red delante de usted, y es deliberado, porque pone la responsabilidad aquí. El puerto 25 saliente es la única excepción, cerrado en origen hasta que usted lo solicite. Un conjunto de reglas mínimo: SSH desde cualquier lugar, un servicio desde una dirección ``` $ ufw default deny incoming $ ufw default allow outgoing $ ufw allow 22/tcp $ ufw allow from 198.51.100.7 to any port 8000 proto tcp $ ufw --force enable # Más seguro que abrir un puerto: mantenga el servicio en localhost # y acceda a él mediante un túnel desde su propia máquina. $ ssh -N -L 8000:127.0.0.1:8000 root@203.0.113.42 ``` ## IPMI y reinstalación El acceso fuera de banda está presente en cada máquina, en su propia dirección. Es la manera de recuperar una máquina de la que se ha quedado fuera, a las tres de la madrugada, sin pedirle nada a nadie. ### Alimentación Ciclo de encendido forzado, apagado ordenado, y el estado de alimentación del chasis, con independencia de si el sistema operativo responde. ### Consola serie y KVM La pantalla que la máquina mostraría en un monitor, incluidos el gestor de arranque y un kernel panic. Aquí es donde se repara un `fstab` roto. ### Medios virtuales Monte cualquier ISO por red y arránquela. Eso incluye una imagen de rescate, y también un sistema operativo que no ofrecemos. Una reinstalación limpia con cualquier imagen que ofrezcamos se solicita a través de nosotros y tarda aproximadamente lo mismo que la entrega original. No cuesta nada, no hay límite de frecuencia, y la máquina conserva sus direcciones. Destruye todo lo que hay en los discos: ese es el objetivo de una reinstalación, y no tiene marcha atrás. ## Instantáneas Opcionales, mensuales, fuera de la máquina. Si no las contrata, no existe ninguna copia de sus datos en ningún sitio salvo en sus propios discos: la opción correcta por defecto para la mayoría de lo que se ejecuta en una GPU, y un desastre para el resto. Qué se captura A nivel de bloque, cada noche El volumen del sistema completo, capturado mientras la máquina está en marcha. Los arrays de scratch que haya creado usted mismo se incluyen solo si lo indica. Dónde reside Otro edificio, mismo país Nunca en la máquina que protege. Un chasis averiado no se lleva consigo sus propias instantáneas. Conservación 30 días, de forma continua Después se sobrescribe. No hay archivo a largo plazo ni manera de solicitarlo después. Al final del plazo Se elimina junto con la máquina Las instantáneas no sobreviven al servidor al que pertenecen. Descargue lo que necesite antes de que finalice el plazo. ## Fin del plazo Un plazo mensual termina al final del mes pagado, sin periodo de preaviso ni penalización por cancelación. Lo que ocurre después no tiene marcha atrás, así que se explica aquí y no en una nota a pie de página. 1. **Nada se renueva solo.** No hay ninguna tarjeta registrada ni domiciliación bancaria: un plazo continúa únicamente porque usted ha pagado el siguiente. 2. **El puerto público se corta en el momento en que termina el plazo.** La máquina deja de ser accesible de inmediato, no al final de un día de gracia. 3. **Los discos se borran en el plazo de una hora.** Borrado criptográfico y, después, una sobrescritura completa. No hay ninguna ventana de tiempo en la que sus datos sigan existiendo en algún sitio. 4. **Las instantáneas desaparecen con ella.** Si las compró, se eliminan en la misma operación. 5. **La dirección vuelve al grupo.** Tras un periodo de retención, y solo cuando está limpia. **Copie sus datos antes del último día, no ese mismo día.** No podemos restaurar nada después: ni pagando, ni como favor. El borrado ya se ha ejecutado, y la razón por la que podemos prometer una máquina limpia al siguiente inquilino es que se ejecuta sin que nadie lo apruebe. ## Todo lo anterior funciona en todas las máquinas del catálogo. No hay ningún nivel en el que IPMI, las reinstalaciones o el ancho de banda sin contador cuesten más. Elija una tarjeta, elija una ubicación, y el resto de esta página se aplica. [Explorar el catálogo](https://gpuserver.io/es/#catalog) [Leer las guías](https://gpuserver.io/es/guides) ## Páginas relacionadas - [Guías Ocho guías prácticas: VRAM, NVLink frente a PCIe, imagen y vídeo, mensual frente a por horas, autoalojamiento frente a API, Llama 70B y QLoRA.](https://gpuserver.io/es/guides) - [Política de hardware Las doce GPU NVIDIA que operamos, el rodaje de 72 h antes de vender un nodo, el objetivo de reemplazo en cuatro horas y cómo se borran los discos entre inquilinos.](https://gpuserver.io/es/hardware) - [Red Puertos sin contador hasta 25 Gbit/s, dos operadores y un IX por sede, filtrado DDoS permanente, IPv6 enrutado — y las cuatro cosas que no ofrecemos, dichas ya.](https://gpuserver.io/es/network) - [Sobre nosotros Quién dirige gpuserver.io, por qué compramos el hardware en vez de revenderlo, y las cuatro reglas que no torcemos — incluidas las que nos cuestan ventas.](https://gpuserver.io/es/about) --- Fuente: https://gpuserver.io/es/docs/. Este archivo se genera a partir de los mismos datos que el sitio web; si una cifra aquí difiere de la de una página, prevalece la página y este archivo está desactualizado: la fuente canónica es https://gpuserver.io/.