ES ▾

Uncensored Model HubAPI de alojamiento LLM: lo que obtienes y lo que te saltas

API de alojamiento LLM: lo que obtienes y lo que te saltas

Una API de alojamiento de LLM significa que alguien más posee las GPUs, carga el modelo y mantiene el servidor activo, y tú envías peticiones HTTP. Pagas por token y omites la infraestructura. Esta página enumera lo que se gestiona por ti, lo que aún depende de ti y la primera petición en tres lenguajes.

Actualizado

Torre de servidor de vidrio conectada por un cable brillante a un portátil, representando una API de LLM alojada
Enlaces de cadena de vidrio conectando bloques modulares a un cubo de servidor, ilustrando LangChain con una API de modelo de pesos abiertos

Puntos clave

  1. El alojamiento cubre GPUs, carga del modelo, agrupación, escalado y el endpoint HTTP; tú proporcionas prompts y una clave.
  2. La interfaz es compatible con OpenAI: cambia la URL base a https://api.uncensoredmodelhub.com/v1 y usa el modelo uncensored.
  3. Se admite streaming, llamadas a funciones y modo JSON; no hay endpoint de imágenes, audio, embedding ni fine-tuning.
  4. Límites a tener en cuenta: 100.000 tokens de ventana de contexto, 8 peticiones simultáneas y 300 por minuto con una clave completa.

Lo que gestiona el alojamiento por ti

Ejecutar un modelo de lenguaje en producción implica más que descargar pesos. Una API alojada asume lo siguiente para que tu código no tenga que hacerlo:

Gestionado por el proveedorAún tuyo
GPUs, controladores y el servidor de inferenciaEscribir y probar tus prompts
Cargar el modelo y mantenerlo activoElegir temperatura, max_tokens y otros ajustes
Agrupar muchas peticiones juntasLógica de reintento para respuestas 429
Autenticación y límite de peticionesMantener tu clave de API en secreto
Medición y saldo prepagoVigilar tu gasto
Actualizaciones de software en el lado del servicioManejar la salida del modelo en tu aplicación

El servicio aquí es una API de chat compatible con OpenAI que sirve un único modelo de pesos abiertos, gestionado por un proveedor independiente. No es la API oficial de ningún proveedor de modelos ni un router entre varios. Solo texto: sin generación de imágenes, audio o vídeo, sin embeddings ni fine-tuning.

Tu primera petición

Crea una cuenta con Google o con correo electrónico y contraseña, luego copia una clave desde la página de clave de API. Reclamar la prueba con un clic añade $0,50 de crédito, válido por 7 días, sin tarjeta.

curl

curl https://api.uncensoredmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}]
  }'

Python

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredmodelhub.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredmodelhub.com/v1",
  apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Explain what a hosted LLM API does in two sentences." }],
});
console.log(resp.choices[0].message.content);

Los mismos endpoints también incluyen POST /v1/responses y GET /v1/models. La documentación enumera los parámetros.

Streaming, herramientas y modo JSON

La mayor parte de lo que usan los desarrolladores de una API de chat está disponible.

  • Streaming. Establece stream: true para recibir eventos enviados por el servidor a medida que se generan tokens; el uso se informa al final. Las interfaces de chat dependen de esto.
  • Llamadas a funciones. Pasa tools y tool_choice, lee tool_calls de la respuesta (también hacen streaming) y devuelve los resultados como mensajes con role: "tool".
  • Modo JSON. response_format: {"type":"json_object"} hace que el modelo devuelva un objeto JSON, útil para extracción y clasificación.
  • Controles de muestreo. temperature, top_p, stop, seed y las penalizaciones se pasan directamente.

Una llamada con streaming en Python se ve así:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a four-line poem about servers."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Las bibliotecas que ya hablan el formato OpenAI, como LangChain, funcionan cambiando la URL base; nuestra página sobre LangChain con modelos de código abierto muestra un ejemplo.

Límites y cómo gestionarlos

El alojamiento es compartido, por lo que hay límites. Conócelos antes de construir un bucle alrededor de la API.

  • Contexto: 100.000 tokens, prompt más completación. La completación puede usar lo que deje sin usar el prompt, y max_tokens es opcional.
  • Concurrencia y tasa: una clave completa permite 8 peticiones simultáneas y 300 por minuto; una clave de prueba permite 2 y 60. Una petición en streaming mantiene su espacio hasta que finalice el streaming.
  • Tamaño del cuerpo: 8 MB por petición.
  • Respuestas 429: el código de error es rate_limited para peticiones por minuto, concurrency para demasiadas a la vez, y aparece un encabezado Retry-After: 5 en sobrecarga temporal.

Un reintento simple que espera y vuelve a intentarlo es suficiente en la mayoría de las aplicaciones. Si una petición falla porque el prompt es demasiado largo, la página sobre errores de ventana de contexto excedida cubre soluciones como resumir o truncar el historial.

Los encabezados de respuesta ayudan con el monitoreo: X-Request-Id para citarlo en un ticket de soporte, X-RateLimit-Limit-Requests y X-RateLimit-Limit-Concurrency para tus límites, y X-Balance-USD para lo que queda.

Mover una aplicación existente

Si tu código ya usa un cliente de OpenAI, rara vez necesitarás reescribirlo. Los SDK oficiales leen dos variables de entorno, por lo que un cambio puede ocurrir fuera del código:

export OPENAI_BASE_URL="https://api.uncensoredmodelhub.com/v1"
export OPENAI_API_KEY="YOUR_KEY"

Luego establece el nombre del modelo en uncensored donde tu código nombre un modelo. Tres cosas vale la pena verificar antes de ir a producción:

  • Funciones de las que dependes. Chat, streaming, herramientas y modo JSON funcionan. Las llamadas a embeddings, imágenes o endpoints de audio no, porque este es un servicio solo de texto.
  • Longitud del prompt. Cualquier cosa por encima de 100.000 tokens en total debe cortarse o resumirse primero.
  • Concurrencia. Si tu aplicación puede enviar más de 8 peticiones a la vez, coloca una cola o semáforo delante del cliente para no activar errores 429 en picos.

Mantén la clave en el servidor. Nunca la envíes en código de navegador o en una aplicación móvil, porque cualquiera que la extraiga puede gastar tu saldo. Almacénala en una variable de entorno o en un gestor de secretos, y rótala si se filtra.

Coste y facturación

La facturación es por token: $0,15 por 1M de entrada y $0,50 por 1M de salida. El crédito es prepago y no caduca, y no hay suscripción. Las peticiones fallidas o rechazadas no se cobran.

Un ejemplo rápido. Una petición con 2.000 tokens de entrada y 500 de salida cuesta 2.000 × $0,15 / 1M + 500 × $0,50 / 1M = $0,0003 + $0,00025 = $0,00055. Eso son 1.818 de esas peticiones por dólar. Las recargas son cualquier cantidad entera desde $20 hasta $500, con cripto (USDT en TRC20, USDC en Base), con un bono del +5% desde $50, +10% desde $100 y +15% desde $200. Consulta la página de precios.

Para comprobar tu saldo en código, llama a GET /v1/balance o la variante estilo OpenAI GET /v1/dashboard/billing/credit_grants, o lee X-Balance-USD de cualquier respuesta.

Alojado o autoalojado: una verificación rápida

Una API alojada encaja cuando quieres lanzar rápido, tienes tráfico irregular o no quieres operar GPUs. Renuncias a la elección del modelo y a la capacidad de hacer fine-tuning. Los prompts se envían al proveedor, aunque no se usan para entrenamiento.

Si lo comparas con ejecutar tu propio hardware, compara las cifras por token anteriores con tu presupuesto. Para contexto sobre el tipo de modelo, lee qué es un modelo de IA sin censura. En cuanto al contenido, el modelo está ajustado para responder sin rechazos para uso adulto lícito, con un límite estricto: nada sexual que involucre a menores de edad.

Preguntas y respuestas

¿Qué es una API de alojamiento de LLM?

Un servicio que ejecuta un modelo de lenguaje en sus propias GPUs y lo expone mediante HTTP. Envías prompts y pagas por token sin gestionar servidores.

¿Es compatible con el SDK de OpenAI?

Sí. Configura la base URL en https://api.uncensoredmodelhub.com/v1, usa tu clave y el ID de modelo uncensored.

¿Cuáles son los límites de velocidad?

Una clave completa permite 8 peticiones simultáneas y 300 por minuto. Una clave de prueba permite 2 y 60. Al superar un límite, obtienes HTTP 429.

¿Puedo hacer fine-tuning o generar imágenes?

No. Es una API solo de texto sin fine-tuning, embeddings ni generación de imágenes, audio o vídeo.

Tu clave está a un formulario de distancia

Crea una cuenta, copia la clave, cambia la URL base. Esa es toda la configuración.

Obtener clave de API