ما تتعامل معه الاستضافة لك
تشغيل نموذج لغات في الإنتاج يتضمن أكثر من تحميل الأوزان. تتولى واجهة برمجة التطبيقات المستضافة ما يلي حتى لا تضطر شيفرتك إلى:
| ما يتعامل معه المضيف | ما يزال ملكك |
|---|---|
| وحدات معالجة الرسومات، وبرامج التشغيل، وخادم الاستنتاج | كتابة واختبار الموجّهات |
| تحميل النموذج وإبقاؤه دافئاً | اختيار درجة الحرارة وmax_tokens وإعدادات أخرى |
| تجميع العديد من الطلبات معًا | منطق إعادة المحاولة لاستجابات 429 |
| المصادقة وحدّ المعدل | إبقاء مفتاح API سريًا |
| القياس ورصيد مسبق الدفع | مراقبة الإنفاق |
| تحديثات البرمجيات على جانب الاستضافة | التعامل مع مخرجات النموذج في تطبيقك |
الخدمة هنا هي واجهة برمجة تطبيقات دردشة متوافقة مع OpenAI تخدم نموذجًا واحدًا مفتوح الأوزان، وتشغّلها مزود مستقل. ليست واجهة برمجة التطبيقات الرسمية لأي بائع نماذج وليست وسيطًا بين عدة نماذج. نص فقط: لا توليد للصور أو الصوت أو الفيديو، ولا تضمينات ولا ضبط دقيق.
طلبك الأول
أنشئ حساباً باستخدام Google أو عبر البريد الإلكتروني وكلمة المرور، ثم انسخ مفتاحاً من صفحة مفتاح API. المطالبة بالتجربة بنقرة واحدة هناك تضيف رصيداً بقيمة $0.50، صالح لمدة 7 أيام، دون بطاقة.
curl
curl https://api.uncensoredmodelhub.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}]
}'
Python
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredmodelhub.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain what a hosted LLM API does in two sentences."}],
)
print(resp.choices[0].message.content)
Node
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredmodelhub.com/v1",
apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Explain what a hosted LLM API does in two sentences." }],
});
console.log(resp.choices[0].message.content);
نقاط النهاية نفسها تشمل أيضاً POST /v1/responses وGET /v1/models. توثيق يسرد المعاملات.
البث المتدفق، الأدوات ووضع JSON
معظم ما يستخدمه المطورون من واجهة برمجة تطبيقات الدردشة متاح.
- البث المتدفق. اضبط
stream: trueلتلقي أحداث الإرسال من الخادم (SSE) كما يتم إنشاء الرموز؛ يُبلغ عن الاستخدام في النهاية. تعتمد واجهات المستخدم للدردشة على هذا. - استدعاء الدوال. مرر
toolsوtool_choice، اقرأtool_callsمن الرد (هي أيضاً تتدفق)، وأعد النتائج كرسائل معrole: "tool". - وضع JSON.
response_format: {"type":"json_object"}يجعل النموذج يعيد كائن JSON، وهو مفيد للاستخراج والتصنيف. - ضوابط أخذ العينات. تُمرّر درجة الحرارة وtop_p وstop وseed والعقوبات كما هي.
يبدو استدعاء البث المتدفق في Python كما يلي:
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a four-line poem about servers."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
المكتبات التي تدعم بالفعل تنسيق OpenAI، مثل LangChain، تعمل بتغيير عنوان URL الأساسي؛ صفحتنا حول LangChain مع النماذج مفتوحة المصدر تعرض مثالاً.
الحدود وكيفية التعامل معها
الاستضافة مشتركة، لذا توجد حدود. اعرفها قبل أن تبني حلقة حول واجهة برمجة التطبيقات.
- السياق: 100,000 رمز، الموجّه بالإضافة إلى الإكمال. يمكن للإكمال استخدام أي شيء يتركه الموجّه غير مستخدم، و
max_tokensاختيارية. - التزامن والمعدل: المفتاح الكامل يسمح بـ 8 طلبات متزامنة و300 طلب في الدقيقة؛ ويسمح المفتاح التجريبي بـ 2 و60. يحمل الطلب المُدفق مكانه حتى ينتهي التدفق.
- حجم نص الطلب: 8 MB لكل طلب.
- استجابات 429: رمز الخطأ هو
rate_limitedللطلبات في الدقيقة، وconcurrencyلعدد كبير جدًا في وقت واحد، ويظهر رأس HTTPRetry-After: 5عند الحمل الزائد المؤقت.
محاولة إعادة بسيطة تنتظر وتحاول مرة أخرى كافية في معظم التطبيقات. إذا فشل الطلب لأن الموجّه طويل جداً، تغطي الصفحة حول أخطاء تجاوز نافذة السياق الإصلاحات مثل تلخيص أو تقطيع السجل.
تساعد رؤوس الاستجابة في المراقبة: X-Request-Id للاستشهاد به في تذكرة دعم، وX-RateLimit-Limit-Requests وX-RateLimit-Limit-Concurrency لحدودك، وX-Balance-USD للباقي.
نقل تطبيق موجود
إذا كان كودك يستخدم بالفعل عميل OpenAI، فنادراً ما تحتاج إلى إعادة كتابته. تقرأ حزم SDK الرسمية متغيرين للبيئة، لذا يمكن أن يحدث التبديل خارج الكود:
export OPENAI_BASE_URL="https://api.uncensoredmodelhub.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
ثم اضبط اسم النموذج على uncensored في أي مكان يحدد فيه الكود نموذجًا. هناك ثلاثة أشياء تستحق التحقق منها قبل النشر:
- الميزات التي تعتمد عليها. تعمل الدردشة، والبث المتدفق، والأدوات، ووضع JSON. لن تعمل مكالمات نقاط النهاية الخاصة بالتضمين أو الصور أو الصوت، لأن هذه خدمة نصية فقط.
- طول الموجّه. يجب قطع أو تلخيص أي شيء يتجاوز 100,000 رمز في المجموع أولاً.
- التزامن. إذا كان تطبيقك يمكنه إطلاق أكثر من 8 طلبات في وقت واحد، ضع طابورًا أو مفتاحًا (semaphore) أمام العميل حتى لا تتسبب في أخطاء 429 أثناء الذروات.
احتفظ بالمفتاح على الخادم. لا ترسله أبدًا في كود المتصفح أو تطبيق الهاتف المحمول، لأن أي شخص يستخرجه يمكنه إنفاق رصيدك. احفظه في متغير بيئة أو مدير أسرار، وغيّره إذا تم تسريبه.
التكلفة والفوترة
الفوترة تكون لكل رمز: $0.15 لكل مليون رمز مدخل و$0.50 لكل مليون رمز مُخرج. الرصيد مسبق الدفع ولا ينتهي، ولا يوجد نظام اشتراك. الطلبات الفاشلة أو المرفوضة لا تُحسب.
مثال سريع. طلب يحتوي على 2,000 رمز مدخل و500 رمز مخرج يكلف 2,000 × $0.15 / 1M + 500 × $0.50 / 1M = $0.0003 + $0.00025 = $0.00055. هذا يعني 1,818 طلباً من هذا النوع لكل $1. الشحنات هي أي مبلغ صحيح من $20 إلى $500، بالعملات المشفرة فقط (USDT على TRC20، USDC على Base)، مع مكافأة +5% من $50، +10% من $100 و+15% من $200. انظر صفحة التسعير.
للتحقق من رصيدك في الكود، اتصل بـ GET /v1/balance أو بأسلوب OpenAI GET /v1/dashboard/billing/credit_grants، أو اقرأ X-Balance-USD من أي استجابة.
مستضاف أو تشغيل ذاتي: فحص سريع
تناسب API المستضاف عندما تريد إطلاق المنتج بسرعة، أو لديك حركة مرور غير منتظمة، أو لا تريد تشغيل وحدات معالجة الرسومات. تتنازل عن اختيار النموذج والقدرة على ضبطه. تُرسل الموجّهات إلى المزوّد، على الرغم من أنها لا تُستخدم للتدريب.
إذا كنت تقارنها بتشغيل عتادك الخاص، قارن الأرقام لكل رمز أعلاه بعرض سعر العتاد الخاص بك. للخلفية حول نوع النموذج، اقرأ ما هو نموذج الذكاء الاصطناعي بدون رقابة. من حيث المحتوى، النموذج مضبوط للإجابة بدون رفض للاستخدام القانوني للبالغين، مع حد واحد صارم: يُحظر أي محتوى جنسي يتضمن قاصرين.

