DE ▾

Uncensored Model HubLLM-Hosting-API: Was du bekommst und was du überspringst

LLM-Hosting-API: Was du bekommst und was du überspringst

Eine LLM-Hosting-API bedeutet, dass jemand anderes die GPUs besitzt, das Modell lädt und den Server betreibt, während du HTTP-Anfragen sendest. Du zahlst pro Token und sparst dir die Infrastruktur. Diese Seite listet auf, was für dich erledigt wird, was noch bei dir liegt, und die erste Anfrage in drei Sprachen.

Aktualisiert

Gläserner Serverturm, der über ein leuchtendes Kabel mit einem Laptop verbunden ist, repräsentiert eine gehostete LLM-API
Glasketten, die modulare Blöcke mit einem Serverwürfel verbinden, veranschaulichen LangChain mit einer Open-Weight-Modell-API

Wichtige Punkte

  1. Das Hosting umfasst GPUs, Modellladen, Batching, Skalierung und den HTTP-Endpunkt; du lieferst Prompts und einen Schlüssel.
  2. Die Schnittstelle ist OpenAI-kompatibel: Ändere die Base URL auf https://api.uncensoredmodelhub.com/v1 und verwende das Modell uncensored.
  3. Streaming, Function Calling und JSON-Modus werden unterstützt; es gibt keine Endpunkte für Bilder, Audio, Embeddings oder Fine-Tuning.
  4. Grenzwerte zur Planung: 100.000 Token Kontext, 8 parallele Anfragen und 300 pro Minute bei einem vollständigen Schlüssel.

Was das Hosting für dich erledigt

Ein Sprachmodell im Produktivbetrieb zu betreiben, bedeutet mehr, als Gewichte herunterzuladen. Eine gehostete API übernimmt Folgendes, damit dein Code das nicht muss:

Vom Host erledigtNoch bei dir
GPUs, Treiber und der Inference-ServerSchreiben und Testen deiner Prompts
Das Modell laden und warmhaltenAuswahl von Temperatur, max_tokens und anderen Einstellungen
Batching mehrerer AnfragenRetry-Logik für 429-Antworten
Authentifizierung und RatenlimitDeinen API-Schlüssel geheim halten
Abrechnung und Prepaid-GuthabenDeine Ausgaben im Auge behalten
Software-Updates auf der Serving-SeiteVerarbeitung der Modellausgabe in deiner App

Der Dienst hier ist eine OpenAI-kompatible Chat-API, die ein Open-Weight-Modell bereitstellt, betrieben von einem unabhängigen Anbieter. Es ist nicht die offizielle API eines Modellherstellers und kein Router über mehrere Modelle hinweg. Nur Text: keine Bild-, Audio- oder Videogenerierung, keine Embeddings und kein Fine-Tuning.

Deine erste Anfrage

Erstelle ein Konto mit Google oder mit E-Mail und Passwort, kopiere dann einen Schlüssel von der API-Schlüssel-Seite. Das Annehmen des One-Click-Tests dort fügt $0,50 Guthaben hinzu, 7 Tage gültig, ohne Karte.

curl

curl https://api.uncensoredmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}]
  }'

Python

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredmodelhub.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredmodelhub.com/v1",
  apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Explain what a hosted LLM API does in two sentences." }],
});
console.log(resp.choices[0].message.content);

Die gleichen Endpunkte umfassen auch POST /v1/responses und GET /v1/models. Die Dokumentation listet Parameter auf.

Streaming, Tools und JSON-Modus

Die meisten Funktionen, die Entwickler von einer Chat-API nutzen, sind verfügbar.

  • Streaming. Setze stream: true, um Server-Sent-Events zu erhalten, während Tokens generiert werden; die Nutzung wird am Ende gemeldet. Chat-UIs hängen davon ab.
  • Tool-Calling. Übergebe tools und tool_choice, lese tool_calls aus der Antwort (sie streamen ebenfalls) und gib Ergebnisse als Nachrichten mit role: "tool" zurück.
  • JSON-Modus. response_format: {"type":"json_object"} lässt das Modell ein JSON-Objekt zurückgeben, nützlich für Extraktion und Klassifizierung.
  • Sampling-Steuerungen. temperature, top_p, stop, seed und die Strafen werden durchgereicht.

Ein Streaming-Aufruf in Python sieht so aus:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a four-line poem about servers."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Bibliotheken, die bereits das OpenAI-Format sprechen, wie LangChain, funktionieren durch Ändern der Basis-URL; unsere Seite über LangChain mit Open-Source-Modellen zeigt ein Beispiel.

Limits und wie man sie handhabt

Das Hosting ist geteilt, also gibt es Limits. Kenne sie, bevor du eine Schleife um die API baust.

  • Kontext: 100.000 Token, Prompt plus Antwort. Die Antwort kann das nutzen, was der Prompt übrig lässt, und max_tokens ist optional.
  • Parallelität und Ratenlimit: ein vollständiger Schlüssel erlaubt 8 parallele Anfragen und 300 pro Minute; ein Test-Schlüssel erlaubt 2 und 60. Eine gestreamte Anfrage hält ihren Slot bis zum Ende des Streams.
  • Body-Größe: 8 MB pro Anfrage.
  • 429-Antworten: der Fehlercode ist rate_limited für Anfragen pro Minute, concurrency für zu viele gleichzeitig, und ein Retry-After: 5-Header erscheint bei temporärer Überlastung.

Ein einfacher Retry, der wartet und es erneut versucht, reicht in den meisten Apps. Wenn eine Anfrage fehlschlägt, weil der Prompt zu lang ist, behandelt die Seite zu Kontextfenster-Überschreitungsfehlern Fixes wie Zusammenfassen oder Kürzen des Verlaufs.

Antwort-Header helfen bei der Überwachung: X-Request-Id zum Zitieren in einem Support-Ticket, X-RateLimit-Limit-Requests und X-RateLimit-Limit-Concurrency für deine Limits, und X-Balance-USD für das verbleibende Guthaben.

Eine bestehende App umziehen

Wenn dein Code bereits einen OpenAI-Client verwendet, musst du ihn selten umschreiben. Die offiziellen SDKs lesen zwei Umgebungsvariablen aus, sodass ein Wechsel außerhalb des Codes erfolgen kann:

export OPENAI_BASE_URL="https://api.uncensoredmodelhub.com/v1"
export OPENAI_API_KEY="YOUR_KEY"

Setze dann den Modellnamen überall dort auf uncensored, wo dein Code ein Modell benennt. Drei Dinge sind vor dem Go-Live wichtig zu prüfen:

  • Funktionen, auf die du dich verlässt. Chat, Streaming, Tools und JSON-Modus funktionieren. Aufrufe an Embeddings-, Bild- oder Audio-Endpunkte funktionieren nicht, da dies ein reiner Textdienst ist.
  • Prompt-Länge. Alles über 100.000 Token insgesamt muss zuerst gekürzt oder zusammengefasst werden.
  • Parallelität. Wenn deine App mehr als 8 Anfragen gleichzeitig auslösen kann, setze eine Warteschlange oder ein Semaphor vor den Client, damit du bei Spitzen keine 429-Fehler auslöst.

Behalte den Schlüssel auf dem Server. Versende ihn niemals in Browser-Code oder einer mobilen App, da jeder, der ihn extrahiert, dein Guthaben ausgeben kann. Speichere ihn in einer Umgebungsvariablen oder einem Secrets Manager und wechsle ihn, wenn er geleakt wird.

Kosten und Abrechnung

Abrechnung pro Token: $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token. Guthaben ist Prepaid und verfällt nie, und es gibt kein Abonnement. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet.

Ein kurzes Beispiel. Eine Anfrage mit 2.000 Token Input und 500 Token Output kostet 2.000 × $0,15 / 1M + 500 × $0,50 / 1M = $0,0003 + $0,00025 = $0,00055. Das sind 1.818 solcher Anfragen pro Dollar. Aufladungen sind jeder volle Betrag von $20 bis $500, per Krypto (USDT auf TRC20, USDC auf Base), mit +5% Bonus ab $50, +10% ab $100 und +15% ab $200. Siehe die Preisseite.

Um dein Guthaben im Code zu prüfen, rufe GET /v1/balance oder die OpenAI-kompatible GET /v1/dashboard/billing/credit_grants auf, oder lese X-Balance-USD aus jeder Antwort.

Gehostet oder selbst betrieben: eine schnelle Prüfung

Eine gehostete API passt, wenn du schnell ausliefern willst, ungleichen Traffic hast oder keine GPUs betreiben willst. Du gibst die Wahl des Modells und die Möglichkeit zum Fine-Tuning auf. Prompts werden an den Anbieter gesendet, werden aber nicht zum Training verwendet.

Wenn du es gegen den Betrieb deiner eigenen Hardware abwägst, vergleiche die Token-Preise oben mit deinem eigenen Hardware-Angebot. Für den Hintergrund zum Modelltyp lies was ein unzensiertes KI-Modell ist. Inhaltlich ist das Modell darauf abgestimmt, ohne Ablehnungen für die rechtmäßige Nutzung durch Erwachsene zu antworten, mit einer harten Grenze: nichts Sexuelles mit Minderjährigen.

Fragen und Antworten

Was ist eine LLM-Hosting-API?

Ein Dienst, der ein Sprachmodell auf eigenen GPUs ausführt und über HTTP bereitstellt. Du sendest Prompts und zahlst pro Token, ohne Server verwalten zu müssen.

Ist es mit dem OpenAI SDK kompatibel?

Ja. Lege die Basis-URL auf https://api.uncensoredmodelhub.com/v1 fest, verwende deinen Schlüssel und die Modell-ID uncensored.

Was sind die Ratenlimits?

Ein vollständiger Schlüssel erlaubt 8 parallele Anfragen und 300 pro Minute. Ein Test-Schlüssel erlaubt 2 und 60. Über einem Limit erhältst du HTTP 429.

Kann ich Feintuning durchführen oder Bilder generieren?

Nein. Es ist eine reine Text-API ohne Fine-Tuning, Embeddings oder Bild-, Audio- oder Videogenerierung.

Dein Schlüssel ist nur ein Formular entfernt

Erstelle ein Konto, kopiere den Schlüssel, ändere die Base URL. Das ist die gesamte Einrichtung.

API-Schlüssel erhalten