AR ▾

Uncensored Model Hubواجهة برمجة استضافة LLM: ما تحصل عليه وما تتخطاه

واجهة برمجة تطبيقات استضافة نماذج اللغات الكبيرة: ما تحصل عليه وما تتخطاه

يعني استضافة API للـ LLM أن يملك شخص آخر وحدات معالجة الرسومات، ويحمّل النموذج، ويُبقي الخادم يعمل، وأنت ترسل طلبات HTTP. تدفع مقابل كل رمز وتتخطى البنية التحتية. تُدرِج هذه الصفحة ما يتم إدارته لك، وما يزال يقع على عاتقك، وطلبك الأول بثلاث لغات.

تم التحديث

خادم زجاجي على شكل برج متصل بكابل متوهج واحد بجهاز لابتوب، مما يمثل واجهة برمجة تطبيقات استضافة نماذج اللغات الكبيرة
سلاسل زجاجية تربط كتلًا معيارية بمكعب خادم، توضح LangChain مع واجهة برمجة تطبيقات نموذج مفتوح الأوزان

نقاط رئيسية

  1. تغطي الاستضافة وحدات معالجة الرسومات، تحميل النموذج، التجميع، التوسع ونقطة النهاية HTTP؛ أنت توفر الموجّهات والمفتاح.
  2. الواجهة متوافقة مع OpenAI: غيّر عنوان URL الأساسي إلى https://api.uncensoredmodelhub.com/v1 واستخدم النموذج uncensored.
  3. البث المتدفق، استدعاء الدوال ووضع JSON مدعومان؛ لا توجد نقطة نهاية للصور أو الصوت أو التضمين أو الضبط الدقيق.
  4. الحدود التي يجب أن تأخذها في الاعتبار: 100,000 رمز من السياق، و8 طلبات متزامنة و300 في الدقيقة على المفتاح الكامل.

ما تتعامل معه الاستضافة لك

تشغيل نموذج لغات في الإنتاج يتضمن أكثر من تحميل الأوزان. تتولى واجهة برمجة التطبيقات المستضافة ما يلي حتى لا تضطر شيفرتك إلى:

ما يتعامل معه المضيفما يزال ملكك
وحدات معالجة الرسومات، وبرامج التشغيل، وخادم الاستنتاجكتابة واختبار الموجّهات
تحميل النموذج وإبقاؤه دافئاًاختيار درجة الحرارة وmax_tokens وإعدادات أخرى
تجميع العديد من الطلبات معًامنطق إعادة المحاولة لاستجابات 429
المصادقة وحدّ المعدلإبقاء مفتاح API سريًا
القياس ورصيد مسبق الدفعمراقبة الإنفاق
تحديثات البرمجيات على جانب الاستضافةالتعامل مع مخرجات النموذج في تطبيقك

الخدمة هنا هي واجهة برمجة تطبيقات دردشة متوافقة مع OpenAI تخدم نموذجًا واحدًا مفتوح الأوزان، وتشغّلها مزود مستقل. ليست واجهة برمجة التطبيقات الرسمية لأي بائع نماذج وليست وسيطًا بين عدة نماذج. نص فقط: لا توليد للصور أو الصوت أو الفيديو، ولا تضمينات ولا ضبط دقيق.

طلبك الأول

أنشئ حساباً باستخدام Google أو عبر البريد الإلكتروني وكلمة المرور، ثم انسخ مفتاحاً من صفحة مفتاح API. المطالبة بالتجربة بنقرة واحدة هناك تضيف رصيداً بقيمة $0.50، صالح لمدة 7 أيام، دون بطاقة.

curl

curl https://api.uncensoredmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}]
  }'

Python

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredmodelhub.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredmodelhub.com/v1",
  apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Explain what a hosted LLM API does in two sentences." }],
});
console.log(resp.choices[0].message.content);

نقاط النهاية نفسها تشمل أيضاً POST /v1/responses وGET /v1/models. توثيق يسرد المعاملات.

البث المتدفق، الأدوات ووضع JSON

معظم ما يستخدمه المطورون من واجهة برمجة تطبيقات الدردشة متاح.

  • البث المتدفق. اضبط stream: true لتلقي أحداث الإرسال من الخادم (SSE) كما يتم إنشاء الرموز؛ يُبلغ عن الاستخدام في النهاية. تعتمد واجهات المستخدم للدردشة على هذا.
  • استدعاء الدوال. مرر tools وtool_choice، اقرأ tool_calls من الرد (هي أيضاً تتدفق)، وأعد النتائج كرسائل مع role: "tool".
  • وضع JSON. response_format: {"type":"json_object"} يجعل النموذج يعيد كائن JSON، وهو مفيد للاستخراج والتصنيف.
  • ضوابط أخذ العينات. تُمرّر درجة الحرارة وtop_p وstop وseed والعقوبات كما هي.

يبدو استدعاء البث المتدفق في Python كما يلي:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a four-line poem about servers."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

المكتبات التي تدعم بالفعل تنسيق OpenAI، مثل LangChain، تعمل بتغيير عنوان URL الأساسي؛ صفحتنا حول LangChain مع النماذج مفتوحة المصدر تعرض مثالاً.

الحدود وكيفية التعامل معها

الاستضافة مشتركة، لذا توجد حدود. اعرفها قبل أن تبني حلقة حول واجهة برمجة التطبيقات.

  • السياق: 100,000 رمز، الموجّه بالإضافة إلى الإكمال. يمكن للإكمال استخدام أي شيء يتركه الموجّه غير مستخدم، وmax_tokens اختيارية.
  • التزامن والمعدل: المفتاح الكامل يسمح بـ 8 طلبات متزامنة و300 طلب في الدقيقة؛ ويسمح المفتاح التجريبي بـ 2 و60. يحمل الطلب المُدفق مكانه حتى ينتهي التدفق.
  • حجم نص الطلب: 8 MB لكل طلب.
  • استجابات 429: رمز الخطأ هو rate_limited للطلبات في الدقيقة، وconcurrency لعدد كبير جدًا في وقت واحد، ويظهر رأس HTTP Retry-After: 5 عند الحمل الزائد المؤقت.

محاولة إعادة بسيطة تنتظر وتحاول مرة أخرى كافية في معظم التطبيقات. إذا فشل الطلب لأن الموجّه طويل جداً، تغطي الصفحة حول أخطاء تجاوز نافذة السياق الإصلاحات مثل تلخيص أو تقطيع السجل.

تساعد رؤوس الاستجابة في المراقبة: X-Request-Id للاستشهاد به في تذكرة دعم، وX-RateLimit-Limit-Requests وX-RateLimit-Limit-Concurrency لحدودك، وX-Balance-USD للباقي.

نقل تطبيق موجود

إذا كان كودك يستخدم بالفعل عميل OpenAI، فنادراً ما تحتاج إلى إعادة كتابته. تقرأ حزم SDK الرسمية متغيرين للبيئة، لذا يمكن أن يحدث التبديل خارج الكود:

export OPENAI_BASE_URL="https://api.uncensoredmodelhub.com/v1"
export OPENAI_API_KEY="YOUR_KEY"

ثم اضبط اسم النموذج على uncensored في أي مكان يحدد فيه الكود نموذجًا. هناك ثلاثة أشياء تستحق التحقق منها قبل النشر:

  • الميزات التي تعتمد عليها. تعمل الدردشة، والبث المتدفق، والأدوات، ووضع JSON. لن تعمل مكالمات نقاط النهاية الخاصة بالتضمين أو الصور أو الصوت، لأن هذه خدمة نصية فقط.
  • طول الموجّه. يجب قطع أو تلخيص أي شيء يتجاوز 100,000 رمز في المجموع أولاً.
  • التزامن. إذا كان تطبيقك يمكنه إطلاق أكثر من 8 طلبات في وقت واحد، ضع طابورًا أو مفتاحًا (semaphore) أمام العميل حتى لا تتسبب في أخطاء 429 أثناء الذروات.

احتفظ بالمفتاح على الخادم. لا ترسله أبدًا في كود المتصفح أو تطبيق الهاتف المحمول، لأن أي شخص يستخرجه يمكنه إنفاق رصيدك. احفظه في متغير بيئة أو مدير أسرار، وغيّره إذا تم تسريبه.

التكلفة والفوترة

الفوترة تكون لكل رمز: $0.15 لكل مليون رمز مدخل و$0.50 لكل مليون رمز مُخرج. الرصيد مسبق الدفع ولا ينتهي، ولا يوجد نظام اشتراك. الطلبات الفاشلة أو المرفوضة لا تُحسب.

مثال سريع. طلب يحتوي على 2,000 رمز مدخل و500 رمز مخرج يكلف 2,000 × $0.15 / 1M + 500 × $0.50 / 1M = $0.0003 + $0.00025 = $0.00055. هذا يعني 1,818 طلباً من هذا النوع لكل $1. الشحنات هي أي مبلغ صحيح من $20 إلى $500، بالعملات المشفرة فقط (USDT على TRC20، USDC على Base)، مع مكافأة +5% من $50، +10% من $100 و+15% من $200. انظر صفحة التسعير.

للتحقق من رصيدك في الكود، اتصل بـ GET /v1/balance أو بأسلوب OpenAI GET /v1/dashboard/billing/credit_grants، أو اقرأ X-Balance-USD من أي استجابة.

مستضاف أو تشغيل ذاتي: فحص سريع

تناسب API المستضاف عندما تريد إطلاق المنتج بسرعة، أو لديك حركة مرور غير منتظمة، أو لا تريد تشغيل وحدات معالجة الرسومات. تتنازل عن اختيار النموذج والقدرة على ضبطه. تُرسل الموجّهات إلى المزوّد، على الرغم من أنها لا تُستخدم للتدريب.

إذا كنت تقارنها بتشغيل عتادك الخاص، قارن الأرقام لكل رمز أعلاه بعرض سعر العتاد الخاص بك. للخلفية حول نوع النموذج، اقرأ ما هو نموذج الذكاء الاصطناعي بدون رقابة. من حيث المحتوى، النموذج مضبوط للإجابة بدون رفض للاستخدام القانوني للبالغين، مع حد واحد صارم: يُحظر أي محتوى جنسي يتضمن قاصرين.

أسئلة وأجوبة

ما هو API استضافة LLM؟

خدمة تشغّل نموذج لغوي على وحدات معالجة الرسومات الخاصة بها وتعرّضها عبر HTTP. ترسل الموجّه وتدفع مقابل كل رمز دون إدارة الخوادم.

هل هي متوافقة مع SDK الخاص بـ OpenAI؟

نعم. اضبط عنوان URL الأساسي إلى https://api.uncensoredmodelhub.com/v1، واستخدم مفتاحك ومعرف النموذج uncensored.

ما هي حدود المعدل؟

المفتاح الكامل يسمح بـ 8 طلبات متزامنة و300 في الدقيقة. يسمح المفتاح التجريبي بـ 2 و60. عند تجاوز الحدّ، تحصل على HTTP 429.

هل يمكنني ضبط النموذج بدقة أو إنشاء صور؟

لا. إنها واجهة برمجة للنصوص فقط، بدون ضبط دقيق للنموذج، أو تضمين، أو توليد صور أو صوت أو فيديو.

مفتاحك على بُعد نموذج تعبئة واحد

أنشئ حساباً، وانسخ المفتاح، ثم غيّر URL الأساسي. هذه هي الإعدادات الكاملة.

احصل على مفتاح API