Ce que l'hébergement gère pour vous
Faire tourner un modèle de langage en production implique plus que de télécharger des poids. Une API hébergée prend en charge les éléments suivants afin que votre code n'ait pas à le faire :
| Géré par l'hébergeur | Qui vous reste |
|---|---|
| GPU, pilotes et serveur d'inférence | Rédaction et test de vos prompts |
| Chargement du modèle et maintien en veille | Choix de la température, max_tokens et autres paramètres |
| Regroupement de plusieurs requêtes | Logique de nouvelle tentative pour les réponses 429 |
| Authentification et limite de débit | Conserver votre clé API secrète |
| Comptage et solde prépayé | Surveiller vos dépenses |
| Mises à jour logicielles côté service | Traitement de la sortie du modèle dans votre application |
Le service ici est une API de chat compatible OpenAI servant un seul modèle à poids ouverts, géré par un fournisseur indépendant. Ce n'est pas l'API officielle de n'importe quel vendeur de modèle et ce n'est pas un routeur entre plusieurs. Texte uniquement : pas de génération d'images, audio ou vidéo, pas d'embeddings ni d'affinement.
Votre première requête
Créez un compte avec Google ou avec email et mot de passe, puis copiez une clé depuis la page Clé API. Réclamer l’essai en un clic ajoute 0,50 $ de crédit, valable 7 jours, sans carte.
curl
curl https://api.uncensoredmodelhub.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}]
}'
Python
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredmodelhub.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}],
)
print(resp.choices[0].message.content)
Node
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredmodelhub.com/v1",
apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Explain what a hosted LLM API does in two sentences." }],
});
console.log(resp.choices[0].message.content);
Les mêmes endpoints incluent également POST /v1/responses et GET /v1/models. La documentation liste les paramètres.
Streaming, outils et mode JSON
La plupart des fonctionnalités utilisées par les développeurs depuis une API de chat sont disponibles.
- Streaming. Définissez
stream: truepour recevoir des événements envoyés par le serveur au fur et à mesure de la génération des tokens ; l'utilisation est rapportée à la fin. Les interfaces de chat en dépendent. - Appel d’outils. Transmettez
toolsettool_choice, liseztool_callsdans la réponse (ils sont aussi en streaming), et retournez les résultats en tant que messages avecrole: "tool". - Mode JSON.
response_format: {"type":"json_object"}amène le modèle à retourner un objet JSON, utile pour l'extraction et la classification. - Contrôles d'échantillonnage. temperature, top_p, stop, seed et les pénalités sont transmis tels quels.
Un appel en streaming en Python ressemble à ceci :
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a four-line poem about servers."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Les bibliothèques qui parlent déjà le format OpenAI, comme LangChain, fonctionnent en changeant l’URL de base ; notre page sur LangChain avec des modèles open source montre un exemple.
Limites et comment les gérer
L'hébergement est partagé, donc il y a des limites. Connaissez-les avant de construire une boucle autour de l'API.
- Contexte : 100 000 tokens, prompt plus complétion. La complétion peut utiliser tout ce que le prompt laisse de libre, et
max_tokensest optionnel. - Concurrence et débit : une clé complète permet 8 requêtes simultanées et 300 par minute ; une clé d’essai en permet 2 et 60. Une requête en streaming occupe sa place jusqu’à la fin du streaming.
- Taille du corps : 8 Mo par requête.
- Réponses 429 : le code d'erreur est
rate_limitedpour les requêtes par minute,concurrencypour trop de requêtes à la fois, et un en-têteRetry-After: 5apparaît en cas de surcharge temporaire.
Un simple réessai qui attend et réessaie suffit dans la plupart des applications. Si une requête échoue car le prompt est trop long, la page sur les erreurs de fenêtre de contexte dépassée couvre les correctifs tels que le résumé ou la troncature de l’historique.
Les en-têtes de réponse aident à la surveillance : X-Request-Id à citer dans un ticket de support, X-RateLimit-Limit-Requests et X-RateLimit-Limit-Concurrency pour vos plafonds, et X-Balance-USD pour ce qui reste.
Déplacer une application existante
Si votre code utilise déjà un client OpenAI, vous avez rarement besoin de le réécrire. Les SDK officiels lisent deux variables d'environnement, donc un changement peut se faire en dehors du code :
export OPENAI_BASE_URL="https://api.uncensoredmodelhub.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
Définissez ensuite le nom du modèle sur uncensored partout où votre code nomme un modèle. Trois points méritent d'être vérifiés avant la mise en production :
- Fonctionnalités sur lesquelles vous comptez. Chat, streaming, outils et mode JSON fonctionnent. Les appels aux endpoints d’embeddings, d’images ou d’audio ne fonctionneront pas, car il s’agit d’un service texte uniquement.
- Longueur du prompt. Tout ce qui dépasse 100 000 tokens au total doit être coupé ou résumé au préalable.
- Concurrence. Si votre application peut envoyer plus de 8 requêtes à la fois, placez une file d'attente ou un sémaphore devant le client afin de ne pas déclencher d'erreurs 429 lors des pics.
Gardez la clé sur le serveur. Ne l’expédiez jamais dans le code du navigateur ou une application mobile, car quiconque l’extrait peut dépenser votre solde. Stockez-la dans une variable d’environnement ou un gestionnaire de secrets, et faites-la pivoter si elle fuit.
Coût et facturation
La facturation est par token : 0,15 $ par 1M d’entrée et 0,50 $ par 1M de sortie. Le crédit est prépayé et n’expire jamais, et il n’y a pas d’abonnement. Les requêtes échouées ou refusées ne sont pas facturées.
Un exemple rapide. Une requête avec 2 000 tokens en entrée et 500 tokens en sortie coûte 2 000 × 0,15 $ / 1M + 500 × 0,50 $ / 1M = 0,0003 $ + 0,00025 $ = 0,00055 $. Cela représente 1 818 requêtes de ce type par dollar. Les recharges sont un montant entier de 20 $ à 500 $, par crypto (USDT sur TRC20, USDC sur Base), avec un bonus de +5 % à partir de 50 $, +10 % à partir de 100 $ et +15 % à partir de 200 $. Voir la page tarifs.
Pour vérifier votre solde en code, appelez GET /v1/balance ou le GET /v1/dashboard/billing/credit_grants de style OpenAI, ou lisez X-Balance-USD dans n’importe quelle réponse.
Hébergé ou exécuté en local : une vérification rapide
Une API hébergée convient lorsque vous voulez livrer rapidement, avez un trafic irrégulier, ou ne voulez pas gérer des GPU. Vous renoncez au choix du modèle et à la capacité d'affiner. Les prompts sont envoyés au fournisseur, bien qu'ils ne soient pas utilisés pour l'entraînement.
Si vous le comparez à l’exécution de votre propre matériel, comparez les chiffres par token ci-dessus avec votre devis pour le matériel. Pour le contexte sur le type de modèle, lisez ce qu’est un modèle d’IA sans censure. En termes de contenu, le modèle est ajusté pour répondre sans refus pour un usage adulte légal, avec une limite stricte : rien de sexuel impliquant des mineurs.

