PT ▾

Uncensored Model HubAPI de Hospedagem LLM: O Que Você Tem e O Que Pula

API de Hospedagem LLM: O Que Você Tem e O Que Pula

Uma API de hospedagem LLM significa que outra pessoa possui as GPUs, carrega o modelo e mantém o servidor em execução, e você envia solicitações HTTP. Você paga por token e ignora a infraestrutura. Esta página lista o que é gerenciado para você, o que ainda é responsabilidade sua e a primeira solicitação em três idiomas.

Atualizado

Torre de servidor de vidro conectada por um cabo brilhante a um laptop, representando uma API LLM hospedada
Elos de corrente de vidro conectando blocos modulares a um cubo de servidor, ilustrando LangChain com uma API de modelo de pesos abertos

Pontos principais

  1. A hospedagem cobre GPUs, carregamento do modelo, agrupamento, escalonamento e o endpoint HTTP; você fornece prompts e uma chave.
  2. A interface é compatível com OpenAI: altere a URL base para https://api.uncensoredmodelhub.com/v1 e use o modelo uncensored.
  3. Streaming, chamada de funções e modo JSON são suportados; não há endpoint de imagem, áudio, embedding ou fine-tune.
  4. Limites a considerar: 100.000 tokens de janela de contexto, 8 requisições simultâneas e 300 por minuto em uma chave completa.

O que a hospedagem cuida para você

Executar um modelo de linguagem em produção envolve mais do que baixar pesos. Uma API hospedada assume o seguinte para que seu código não precise:

Cuidado pelo hostAinda é seu
GPUs, drivers e o servidor de inferênciaEscrever e testar seus prompts
Carregar o modelo e mantê-lo ativoEscolher temperatura, max_tokens e outras configurações
Agrupar várias solicitaçõesLógica de retry para respostas 429
Autenticação e limite de requisiçõesManter sua chave de API em segredo
Medição e saldo pré-pagoAcompanhar seus gastos
Atualizações de software no lado do serviçoManipular a saída do modelo no seu aplicativo

O serviço aqui é uma API de chat compatível com OpenAI que serve um único modelo de pesos abertos, executado por um provedor independente. Não é a API oficial de nenhum fornecedor de modelo e não é um roteador entre vários. Apenas texto: sem geração de imagem, áudio ou vídeo, sem embeddings e sem fine-tune.

Sua primeira requisição

Crie uma conta com o Google ou com e-mail e senha, depois copie uma chave na página chave de API. Resgatar o teste com um clique lá adiciona $0,50 de crédito, válido por 7 dias, sem cartão.

curl

curl https://api.uncensoredmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}]
  }'

Python

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredmodelhub.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredmodelhub.com/v1",
  apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Explain what a hosted LLM API does in two sentences." }],
});
console.log(resp.choices[0].message.content);

Os mesmos endpoints também incluem POST /v1/responses e GET /v1/models. A documentação lista os parâmetros.

Streaming, ferramentas e modo JSON

A maior parte do que os desenvolvedores usam de uma API de chat está disponível.

  • Streaming. Defina stream: true para receber eventos enviados pelo servidor conforme os tokens são gerados; o uso é relatado no final. Interfaces de chat dependem disso.
  • Chamada de ferramentas. Passe tools e tool_choice, leia tool_calls da resposta (eles também fazem streaming) e retorne os resultados como mensagens com role: "tool".
  • Modo JSON. response_format: {"type":"json_object"} faz o modelo retornar um objeto JSON, útil para extração e classificação.
  • Controles de amostragem. temperature, top_p, stop, seed e as penalidades são passados diretamente.

Uma chamada de streaming em Python se parece com isto:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a four-line poem about servers."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Bibliotecas que já falam o formato OpenAI, como LangChain, funcionam alterando a URL base; nossa página sobre LangChain com modelos de código aberto mostra um exemplo.

Limites e como gerenciá-los

A hospedagem é compartilhada, então há limites. Conheça-os antes de criar um loop em torno da API.

  • Contexto: 100.000 tokens, prompt mais conclusão. A conclusão pode usar o que o prompt deixar disponível, e max_tokens é opcional.
  • Concorrência e limite de requisições: uma chave completa permite 8 requisições simultâneas e 300 por minuto; uma chave de teste grátis permite 2 e 60. Uma requisição em streaming ocupa sua vaga até o fim do streaming.
  • Tamanho do corpo: 8 MB por solicitação.
  • Respostas 429: o código de erro é rate_limited para solicitações por minuto, concurrency para muitas ao mesmo tempo, e um cabeçalho Retry-After: 5 aparece em sobrecarga temporária.

Uma simples nova tentativa (retry) que espera e tenta de novo é suficiente na maioria dos apps. Se uma requisição falhar porque o prompt é muito longo, a página sobre erros de janela de contexto excedida cobre correções como resumir ou truncar o histórico.

Cabeçalhos de resposta ajudam no monitoramento: X-Request-Id para citar em um ticket de suporte, X-RateLimit-Limit-Requests e X-RateLimit-Limit-Concurrency para seus limites, e X-Balance-USD para o que resta.

Migrando um aplicativo existente

Se seu código já usa um cliente OpenAI, raramente precisará reescrevê-lo. Os SDKs oficiais leem duas variáveis de ambiente, então uma mudança pode acontecer fora do código:

export OPENAI_BASE_URL="https://api.uncensoredmodelhub.com/v1"
export OPENAI_API_KEY="YOUR_KEY"

Então defina o nome do modelo para uncensored onde seu código nomeia um modelo. Três coisas valem a pena verificar antes de ir para produção:

  • Recursos dos quais você depende. Chat, streaming, ferramentas e modo JSON funcionam. Chamadas para embeddings, imagem ou endpoints de áudio não funcionarão, pois este é um serviço apenas de texto.
  • Comprimento do prompt. Qualquer coisa acima de 100.000 tokens no total deve ser cortada ou resumida primeiro.
  • Concorrência. Se seu aplicativo puder disparar mais de 8 solicitações ao mesmo tempo, coloque uma fila ou semáforo na frente do cliente para não acionar erros 429 nos picos.

Mantenha a chave no servidor. Nunca a envie no código do navegador ou em um aplicativo móvel, porque qualquer pessoa que a extrair pode gastar seu saldo. Armazene-a em uma variável de ambiente ou gerenciador de segredos e faça rotação se ela vazar.

Custo e faturamento

A cobrança é por token: $0,15 por 1M de entrada e $0,50 por 1M de saída. O crédito é pré-pago e nunca expira, e não há assinatura. Requisições falhas ou recusadas não são cobradas.

Um exemplo rápido. Uma requisição com 2.000 tokens de entrada e 500 tokens de saída custa 2.000 × $0,15 / 1M + 500 × $0,50 / 1M = $0,0003 + $0,00025 = $0,00055. Isso são 1.818 dessas requisições por dólar. Recargas são qualquer valor inteiro de $20 a $500, por cripto (USDT em TRC20, USDC em Base), com bônus de +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Veja a página de preços.

Para verificar seu saldo no código, chame GET /v1/balance ou a variante estilo OpenAI GET /v1/dashboard/billing/credit_grants, ou leia X-Balance-USD de qualquer resposta.

Hospedado ou auto-executado: uma verificação rápida

Uma API hospedada se encaixa quando você quer lançar rapidamente, tem tráfego irregular ou não quer operar GPUs. Você abre mão da escolha do modelo e da capacidade de fazer fine-tune. Os prompts são enviados ao provedor, embora não sejam usados para treinamento.

Se você está comparando com executar seu próprio hardware, compare as figuras por token acima com sua cotação de hardware próprio. Para o contexto sobre o tipo de modelo, leia o que é um modelo de IA sem censura. Em termos de conteúdo, o modelo é ajustado para responder sem recusas para uso adulto legal, com um limite rígido: nada sexual envolvendo menores de idade.

Perguntas e respostas

O que é uma API de hospedagem de LLM?

Um serviço que executa um modelo de linguagem em suas próprias GPUs e o expõe via HTTP. Você envia prompts e paga por token sem gerenciar servidores.

É compatível com o SDK da OpenAI?

Sim. Defina a base URL para https://api.uncensoredmodelhub.com/v1, use sua chave e o ID do modelo uncensored.

Quais são os limites de requisição?

Uma chave completa permite 8 requisições simultâneas e 300 por minuto. Uma chave de teste permite 2 e 60. Ao ultrapassar o limite, você recebe HTTP 429.

Posso fazer fine-tuning ou gerar imagens?

Não. É uma API apenas de texto, sem fine-tuning, embeddings ou geração de imagens, áudio ou vídeo.

Sua chave está a um formulário de distância

Crie uma conta, copie a chave e altere a URL base. Essa é toda a configuração.

Obter chave de API