FR ▾

Uncensored Model HubAPI d’hébergement LLM : ce que vous obtenez et ce que vous évitez

API d'hébergement LLM : ce que vous obtenez et ce que vous évitez

Une API d’hébergement LLM signifie que quelqu’un d’autre possède les GPU, charge le modèle et maintient le serveur en fonctionnement, et vous envoyez des requêtes HTTP. Vous payez par token et évitez l’infrastructure. Cette page liste ce qui est géré pour vous, ce qui vous incombe encore, et la première requête dans trois langues.

Mis à jour le

Tour de serveur en verre connectée par un câble lumineux à un ordinateur portable, représentant une API LLM hébergée
Chaînes de verre reliant des blocs modulaires à un cube de serveur, illustrant LangChain avec une API de modèle à poids ouverts

Points clés

  1. L'hébergement couvre les GPU, le chargement du modèle, le regroupement, la mise à l'échelle et l'endpoint HTTP ; vous fournissez les prompts et une clé.
  2. L’interface est compatible OpenAI : changez l’URL de base vers https://api.uncensoredmodelhub.com/v1 et utilisez le modèle uncensored.
  3. Le streaming, l’appel d’outils et le mode JSON sont pris en charge ; il n’y a pas d’endpoint pour les images, l’audio, les embeddings ou l’ajustement fin.
  4. Limites à planifier : 100 000 tokens de contexte, 8 requêtes concurrentes et 300 par minute sur une clé complète.

Ce que l'hébergement gère pour vous

Faire tourner un modèle de langage en production implique plus que de télécharger des poids. Une API hébergée prend en charge les éléments suivants afin que votre code n'ait pas à le faire :

Géré par l'hébergeurQui vous reste
GPU, pilotes et serveur d'inférenceRédaction et test de vos prompts
Chargement du modèle et maintien en veilleChoix de la température, max_tokens et autres paramètres
Regroupement de plusieurs requêtesLogique de nouvelle tentative pour les réponses 429
Authentification et limite de débitConserver votre clé API secrète
Comptage et solde prépayéSurveiller vos dépenses
Mises à jour logicielles côté serviceTraitement de la sortie du modèle dans votre application

Le service ici est une API de chat compatible OpenAI servant un seul modèle à poids ouverts, géré par un fournisseur indépendant. Ce n'est pas l'API officielle de n'importe quel vendeur de modèle et ce n'est pas un routeur entre plusieurs. Texte uniquement : pas de génération d'images, audio ou vidéo, pas d'embeddings ni d'affinement.

Votre première requête

Créez un compte avec Google ou avec email et mot de passe, puis copiez une clé depuis la page Clé API. Réclamer l’essai en un clic ajoute 0,50 $ de crédit, valable 7 jours, sans carte.

curl

curl https://api.uncensoredmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}]
  }'

Python

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredmodelhub.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredmodelhub.com/v1",
  apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Explain what a hosted LLM API does in two sentences." }],
});
console.log(resp.choices[0].message.content);

Les mêmes endpoints incluent également POST /v1/responses et GET /v1/models. La documentation liste les paramètres.

Streaming, outils et mode JSON

La plupart des fonctionnalités utilisées par les développeurs depuis une API de chat sont disponibles.

  • Streaming. Définissez stream: true pour recevoir des événements envoyés par le serveur au fur et à mesure de la génération des tokens ; l'utilisation est rapportée à la fin. Les interfaces de chat en dépendent.
  • Appel d’outils. Transmettez tools et tool_choice, lisez tool_calls dans la réponse (ils sont aussi en streaming), et retournez les résultats en tant que messages avec role: "tool".
  • Mode JSON. response_format: {"type":"json_object"} amène le modèle à retourner un objet JSON, utile pour l'extraction et la classification.
  • Contrôles d'échantillonnage. temperature, top_p, stop, seed et les pénalités sont transmis tels quels.

Un appel en streaming en Python ressemble à ceci :

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a four-line poem about servers."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Les bibliothèques qui parlent déjà le format OpenAI, comme LangChain, fonctionnent en changeant l’URL de base ; notre page sur LangChain avec des modèles open source montre un exemple.

Limites et comment les gérer

L'hébergement est partagé, donc il y a des limites. Connaissez-les avant de construire une boucle autour de l'API.

  • Contexte : 100 000 tokens, prompt plus complétion. La complétion peut utiliser tout ce que le prompt laisse de libre, et max_tokens est optionnel.
  • Concurrence et débit : une clé complète permet 8 requêtes simultanées et 300 par minute ; une clé d’essai en permet 2 et 60. Une requête en streaming occupe sa place jusqu’à la fin du streaming.
  • Taille du corps : 8 Mo par requête.
  • Réponses 429 : le code d'erreur est rate_limited pour les requêtes par minute, concurrency pour trop de requêtes à la fois, et un en-tête Retry-After: 5 apparaît en cas de surcharge temporaire.

Un simple réessai qui attend et réessaie suffit dans la plupart des applications. Si une requête échoue car le prompt est trop long, la page sur les erreurs de fenêtre de contexte dépassée couvre les correctifs tels que le résumé ou la troncature de l’historique.

Les en-têtes de réponse aident à la surveillance : X-Request-Id à citer dans un ticket de support, X-RateLimit-Limit-Requests et X-RateLimit-Limit-Concurrency pour vos plafonds, et X-Balance-USD pour ce qui reste.

Déplacer une application existante

Si votre code utilise déjà un client OpenAI, vous avez rarement besoin de le réécrire. Les SDK officiels lisent deux variables d'environnement, donc un changement peut se faire en dehors du code :

export OPENAI_BASE_URL="https://api.uncensoredmodelhub.com/v1"
export OPENAI_API_KEY="YOUR_KEY"

Définissez ensuite le nom du modèle sur uncensored partout où votre code nomme un modèle. Trois points méritent d'être vérifiés avant la mise en production :

  • Fonctionnalités sur lesquelles vous comptez. Chat, streaming, outils et mode JSON fonctionnent. Les appels aux endpoints d’embeddings, d’images ou d’audio ne fonctionneront pas, car il s’agit d’un service texte uniquement.
  • Longueur du prompt. Tout ce qui dépasse 100 000 tokens au total doit être coupé ou résumé au préalable.
  • Concurrence. Si votre application peut envoyer plus de 8 requêtes à la fois, placez une file d'attente ou un sémaphore devant le client afin de ne pas déclencher d'erreurs 429 lors des pics.

Gardez la clé sur le serveur. Ne l’expédiez jamais dans le code du navigateur ou une application mobile, car quiconque l’extrait peut dépenser votre solde. Stockez-la dans une variable d’environnement ou un gestionnaire de secrets, et faites-la pivoter si elle fuit.

Coût et facturation

La facturation est par token : 0,15 $ par 1M d’entrée et 0,50 $ par 1M de sortie. Le crédit est prépayé et n’expire jamais, et il n’y a pas d’abonnement. Les requêtes échouées ou refusées ne sont pas facturées.

Un exemple rapide. Une requête avec 2 000 tokens en entrée et 500 tokens en sortie coûte 2 000 × 0,15 $ / 1M + 500 × 0,50 $ / 1M = 0,0003 $ + 0,00025 $ = 0,00055 $. Cela représente 1 818 requêtes de ce type par dollar. Les recharges sont un montant entier de 20 $ à 500 $, par crypto (USDT sur TRC20, USDC sur Base), avec un bonus de +5 % à partir de 50 $, +10 % à partir de 100 $ et +15 % à partir de 200 $. Voir la page tarifs.

Pour vérifier votre solde en code, appelez GET /v1/balance ou le GET /v1/dashboard/billing/credit_grants de style OpenAI, ou lisez X-Balance-USD dans n’importe quelle réponse.

Hébergé ou exécuté en local : une vérification rapide

Une API hébergée convient lorsque vous voulez livrer rapidement, avez un trafic irrégulier, ou ne voulez pas gérer des GPU. Vous renoncez au choix du modèle et à la capacité d'affiner. Les prompts sont envoyés au fournisseur, bien qu'ils ne soient pas utilisés pour l'entraînement.

Si vous le comparez à l’exécution de votre propre matériel, comparez les chiffres par token ci-dessus avec votre devis pour le matériel. Pour le contexte sur le type de modèle, lisez ce qu’est un modèle d’IA sans censure. En termes de contenu, le modèle est ajusté pour répondre sans refus pour un usage adulte légal, avec une limite stricte : rien de sexuel impliquant des mineurs.

Questions et réponses

Qu’est-ce qu’une API d’hébergement LLM ?

Un service qui exécute un modèle de langage sur ses propres GPU et l’expose via HTTP. Vous envoyez des prompts et payez par token sans gérer de serveurs.

Est-ce compatible avec le SDK OpenAI ?

Oui. Définissez l’URL de base sur https://api.uncensoredmodelhub.com/v1, utilisez votre clé et l’ID de modèle « uncensored ».

Quelles sont les limites de débit ?

Une clé complète permet 8 requêtes concurrentes et 300 requêtes par minute. Une clé d’essai permet 2 et 60. Au-delà d’une limite, vous obtenez un HTTP 429.

Puis-je affiner ou générer des images ?

Non. Il s’agit d’une API textuelle uniquement, sans affinement, ni embeddings, ni génération d’images, d’audio ou de vidéo.

Votre clé est à un formulaire d'ici

Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.

Obtenir une clé API