Was das Hosting für dich erledigt
Ein Sprachmodell im Produktivbetrieb zu betreiben, bedeutet mehr, als Gewichte herunterzuladen. Eine gehostete API übernimmt Folgendes, damit dein Code das nicht muss:
| Vom Host erledigt | Noch bei dir |
|---|---|
| GPUs, Treiber und der Inference-Server | Schreiben und Testen deiner Prompts |
| Das Modell laden und warmhalten | Auswahl von Temperatur, max_tokens und anderen Einstellungen |
| Batching mehrerer Anfragen | Retry-Logik für 429-Antworten |
| Authentifizierung und Ratenlimit | Deinen API-Schlüssel geheim halten |
| Abrechnung und Prepaid-Guthaben | Deine Ausgaben im Auge behalten |
| Software-Updates auf der Serving-Seite | Verarbeitung der Modellausgabe in deiner App |
Der Dienst hier ist eine OpenAI-kompatible Chat-API, die ein Open-Weight-Modell bereitstellt, betrieben von einem unabhängigen Anbieter. Es ist nicht die offizielle API eines Modellherstellers und kein Router über mehrere Modelle hinweg. Nur Text: keine Bild-, Audio- oder Videogenerierung, keine Embeddings und kein Fine-Tuning.
Deine erste Anfrage
Erstelle ein Konto mit Google oder mit E-Mail und Passwort, kopiere dann einen Schlüssel von der API-Schlüssel-Seite. Das Annehmen des One-Click-Tests dort fügt $0,50 Guthaben hinzu, 7 Tage gültig, ohne Karte.
curl
curl https://api.uncensoredmodelhub.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}]
}'
Python
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredmodelhub.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}],
)
print(resp.choices[0].message.content)
Node
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredmodelhub.com/v1",
apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Explain what a hosted LLM API does in two sentences." }],
});
console.log(resp.choices[0].message.content);
Die gleichen Endpunkte umfassen auch POST /v1/responses und GET /v1/models. Die Dokumentation listet Parameter auf.
Streaming, Tools und JSON-Modus
Die meisten Funktionen, die Entwickler von einer Chat-API nutzen, sind verfügbar.
- Streaming. Setze
stream: true, um Server-Sent-Events zu erhalten, während Tokens generiert werden; die Nutzung wird am Ende gemeldet. Chat-UIs hängen davon ab. - Tool-Calling. Übergebe
toolsundtool_choice, lesetool_callsaus der Antwort (sie streamen ebenfalls) und gib Ergebnisse als Nachrichten mitrole: "tool"zurück. - JSON-Modus.
response_format: {"type":"json_object"}lässt das Modell ein JSON-Objekt zurückgeben, nützlich für Extraktion und Klassifizierung. - Sampling-Steuerungen. temperature, top_p, stop, seed und die Strafen werden durchgereicht.
Ein Streaming-Aufruf in Python sieht so aus:
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a four-line poem about servers."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Bibliotheken, die bereits das OpenAI-Format sprechen, wie LangChain, funktionieren durch Ändern der Basis-URL; unsere Seite über LangChain mit Open-Source-Modellen zeigt ein Beispiel.
Limits und wie man sie handhabt
Das Hosting ist geteilt, also gibt es Limits. Kenne sie, bevor du eine Schleife um die API baust.
- Kontext: 100.000 Token, Prompt plus Antwort. Die Antwort kann das nutzen, was der Prompt übrig lässt, und
max_tokensist optional. - Parallelität und Ratenlimit: ein vollständiger Schlüssel erlaubt 8 parallele Anfragen und 300 pro Minute; ein Test-Schlüssel erlaubt 2 und 60. Eine gestreamte Anfrage hält ihren Slot bis zum Ende des Streams.
- Body-Größe: 8 MB pro Anfrage.
- 429-Antworten: der Fehlercode ist
rate_limitedfür Anfragen pro Minute,concurrencyfür zu viele gleichzeitig, und einRetry-After: 5-Header erscheint bei temporärer Überlastung.
Ein einfacher Retry, der wartet und es erneut versucht, reicht in den meisten Apps. Wenn eine Anfrage fehlschlägt, weil der Prompt zu lang ist, behandelt die Seite zu Kontextfenster-Überschreitungsfehlern Fixes wie Zusammenfassen oder Kürzen des Verlaufs.
Antwort-Header helfen bei der Überwachung: X-Request-Id zum Zitieren in einem Support-Ticket, X-RateLimit-Limit-Requests und X-RateLimit-Limit-Concurrency für deine Limits, und X-Balance-USD für das verbleibende Guthaben.
Eine bestehende App umziehen
Wenn dein Code bereits einen OpenAI-Client verwendet, musst du ihn selten umschreiben. Die offiziellen SDKs lesen zwei Umgebungsvariablen aus, sodass ein Wechsel außerhalb des Codes erfolgen kann:
export OPENAI_BASE_URL="https://api.uncensoredmodelhub.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
Setze dann den Modellnamen überall dort auf uncensored, wo dein Code ein Modell benennt. Drei Dinge sind vor dem Go-Live wichtig zu prüfen:
- Funktionen, auf die du dich verlässt. Chat, Streaming, Tools und JSON-Modus funktionieren. Aufrufe an Embeddings-, Bild- oder Audio-Endpunkte funktionieren nicht, da dies ein reiner Textdienst ist.
- Prompt-Länge. Alles über 100.000 Token insgesamt muss zuerst gekürzt oder zusammengefasst werden.
- Parallelität. Wenn deine App mehr als 8 Anfragen gleichzeitig auslösen kann, setze eine Warteschlange oder ein Semaphor vor den Client, damit du bei Spitzen keine 429-Fehler auslöst.
Behalte den Schlüssel auf dem Server. Versende ihn niemals in Browser-Code oder einer mobilen App, da jeder, der ihn extrahiert, dein Guthaben ausgeben kann. Speichere ihn in einer Umgebungsvariablen oder einem Secrets Manager und wechsle ihn, wenn er geleakt wird.
Kosten und Abrechnung
Abrechnung pro Token: $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token. Guthaben ist Prepaid und verfällt nie, und es gibt kein Abonnement. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet.
Ein kurzes Beispiel. Eine Anfrage mit 2.000 Token Input und 500 Token Output kostet 2.000 × $0,15 / 1M + 500 × $0,50 / 1M = $0,0003 + $0,00025 = $0,00055. Das sind 1.818 solcher Anfragen pro Dollar. Aufladungen sind jeder volle Betrag von $20 bis $500, per Krypto (USDT auf TRC20, USDC auf Base), mit +5% Bonus ab $50, +10% ab $100 und +15% ab $200. Siehe die Preisseite.
Um dein Guthaben im Code zu prüfen, rufe GET /v1/balance oder die OpenAI-kompatible GET /v1/dashboard/billing/credit_grants auf, oder lese X-Balance-USD aus jeder Antwort.
Gehostet oder selbst betrieben: eine schnelle Prüfung
Eine gehostete API passt, wenn du schnell ausliefern willst, ungleichen Traffic hast oder keine GPUs betreiben willst. Du gibst die Wahl des Modells und die Möglichkeit zum Fine-Tuning auf. Prompts werden an den Anbieter gesendet, werden aber nicht zum Training verwendet.
Wenn du es gegen den Betrieb deiner eigenen Hardware abwägst, vergleiche die Token-Preise oben mit deinem eigenen Hardware-Angebot. Für den Hintergrund zum Modelltyp lies was ein unzensiertes KI-Modell ist. Inhaltlich ist das Modell darauf abgestimmt, ohne Ablehnungen für die rechtmäßige Nutzung durch Erwachsene zu antworten, mit einer harten Grenze: nichts Sexuelles mit Minderjährigen.

