قم بتوصيل LangChain في أربعة أسطر
إذا كنت تريد استخدام نماذج LangChain مفتوحة المصدر دون استضافة أي شيء، فإن أقصر مسار هو واجهة برمجة تطبيقات متوافقة مع OpenAI. لا تهتم فئة الدردشة الخاصة بـ OpenAI في LangChain بمن يجيب، طالما أن نقطة النهاية تتحدث نفس البروتوكول. تقوم بتغيير base URL والمفتاح، ويبقى باقي سلاسلك وموجّهاتك ووكلائك كما هي.
تستضيف هذه الخدمة نموذجًا واحدًا مفتوح الأوزان، يشغله مزود مستقل ومضبط للإجابة بدون رفض المحتوى للاستخدام القانوني للبالغين. إنها ليست واجهة برمجة التطبيقات الرسمية لأي بائع نماذج وليست موجّهًا (router) بين البائعين. قم بتثبيت الحزمة وأنشئ كائن النموذج:
pip install langchain-openai langchain-core
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="uncensored",
base_url="https://api.uncensoredmodelhub.com/v1",
api_key="YOUR_API_KEY",
temperature=0.7,
)
print(llm.invoke("Give me three names for a fantasy tavern.").content)
هذا هو الاتصال الكامل. احتفظ بالمفتاح في متغير بيئة في المشاريع الحقيقية واقرأه باستخدام os.environ بدلاً من كتابته في الملف. إذا لم يكن لديك مفتاح بعد، يعرض صفحة المفاتيح كيفية التسجيل والحصول على $0.50 من رصيد تجريبي، دون الحاجة إلى بطاقة.
Node.js و LangChain.js
يتبع حزمة JavaScript نفس الفكرة، مع تمرير Base URL عبر كائن تكوين.
import { ChatOpenAI } from "@langchain/openai";
const llm = new ChatOpenAI({
model: "uncensored",
apiKey: process.env.API_KEY,
temperature: 0.7,
configuration: { baseURL: "https://api.uncensoredmodelhub.com/v1" },
});
const reply = await llm.invoke("Summarize the plot of a heist film in two lines.");
console.log(reply.content);
إذا رأيت خطأ 404 أو صفحة HTML، فإن Base URL يكون عادةً غير صحيح. يجب أن ينتهي بـ /v1. نقطتا النهاية الأساسيتان خلف الكواليس هما POST /v1/chat/completions و GET /v1/models، ولا يحتاج نموذج الدردشة في LangChain إلى غير ذلك.
هل يكون نموذج مفتوح المصدر في LangChain أفضل عند استضافته أم محلياً؟
يمكن لـ LangChain أيضاً تشغيل النماذج المفتوحة على جهازك الخاص، على سبيل المثال عبر Ollama أو خادم محلي. هذه الطريقة لها مزايا حقيقية، ومن الصدق ذكر ذلك. النماذج المحلية لا تكلف رسوماً لكل رمز، وتعمل دون اتصال، وتحفظ كل بايت على عتادك. الثمن هو العتاد: تحتاج إلى ذاكرة GPU كافية للنموذج الذي تختاره، وتحافظ على بيئة التشغيل، ومعدل الإرسال محدود بجهازك.
| السؤال | خادم محلي | هذا الـ API المستضاف |
|---|---|---|
| التكلفة الأولية | عتاد أو GPU مستأجر | لا شيء؛ رصيد مسبق الدفع من $20 |
| تكلفة لكل رمز | لا شيء، لكن استهلاك الطاقة وتآكل العتاد | $0.15 لكل مليون رمز وارد، و$0.50 لكل مليون رمز صادر |
| نافذة السياق | يعتمد على الذاكرة المتاحة لديك | 100,000 رمز (token) |
| الطلبات المتزامنة | يعتمد على إعدادك | 8 على مفتاح كامل |
| موقع البيانات | جهازك | مستضاف؛ لا تُستخدم الموجّهات للتدريب |
نمط شائع هو النمذجة الأولية مقابل نقطة النهاية المستضافة، ثم اتخاذ القرار بناءً على عدد الرموز الحقيقي ما إذا كان النشر المحلي مناسبًا. لأن الجانبين يتكلمان بـ بروتوكول OpenAI، فإن التبديل هو تغيير سطر واحد في base_url، والسلاسل التي بنيتها تبقى دون تغيير. الصفحة حول ما هو النموذج بدون رقابة تشرح ما تغير في السلوك بسبب ضبط النموذج.
الأدوات ووكيل بسيط
يتم استدعاء الأداة عبر حقل tools القياسي على طراز OpenAI، ويقوم bind_tools في LangChain ببنائه لك من دالة Python مزينة. يعيد النموذج طلبات استدعاء الأداة، وتعود النتائج كرسائل role: "tool".
from langchain_core.tools import tool
from langgraph.prebuilt import create_react_agent
@tool
def word_count(text: str) -> int:
'''Count the words in a piece of text.'''
return len(text.split())
agent = create_react_agent(llm, [word_count])
result = agent.invoke({"messages": [("user", "How many words are in 'the quick brown fox jumps'?")]})
print(result["messages"][-1].content)
حلقة الوكيل تستدعي النموذج، وتشغل الأداة عند الطلب، وترسل المخرجات مرة أخرى حتى يجيب النموذج بالنص العادي. ينطبق تحذيران. امنح كل أداة وصفًا وظيفيًا مكتوبًا للنموذج، لأن هذا النص هو ما يقرأه لاختيار أداة. وحدد حدًا للتكرار في الوكلاء حتى لا يستمر التشغيل المربك في إنفاق الرصيد؛ يقبل LangGraph recursion_limit في التكوين.
للتحكم المباشر بدون وكيل، استخدم llm.bind_tools([word_count]) وفحص .tool_calls في الرسالة المرتجعة بنفسك.
المخرجات المهيكلة بوضع JSON
لأعمال الاستخراج، مرر معلمة وضع JSON عبر bind. يجب أن يخبر الموجّه النموذج بالمفاتيح التي تريدها، لأن وضع JSON يدفعه فقط لإنتاج كائن JSON صالح.
import json
from langchain_core.prompts import ChatPromptTemplate
json_llm = llm.bind(response_format={"type": "json_object"})
prompt = ChatPromptTemplate.from_messages([
("system", "Return a JSON object with keys title, genre and summary."),
("human", "{idea}"),
])
chain = prompt | json_llm
raw = chain.invoke({"idea": "A lighthouse keeper finds a door in the sea floor."})
data = json.loads(raw.content)
تحقق من النتيجة باستخدام Pydantic أو فحص مفتاح عادي قبل استخدامها. لا يفرض الوضع مخططاً، لذا من الممكن أن يكون هناك حقل مفقود، وعادةً ما يصلح ذلك بإعادة المحاولة بموجّه أكثر وضوحاً.
البث المتدفق والتزامن
يعمل البث المتدفق عبر أحداث مُرسَلة من الخادم (SSE) ويتوافق مع طريقة stream القياسية. يُرسَل الاستخدام في نهاية البث.
for chunk in llm.stream("Write a four-line poem about rain on a tin roof."):
print(chunk.content, end="", flush=True)
عند معالجة العديد من العناصر، يعمل batch عليها بالتوازي، وهذا هو المكان الذي تكون فيه الحدود مهمة. المفتاح الكامل يسمح بـ 8 طلبات متزامنة و300 طلب في الدقيقة. يسمح مفتاح التجربة بـ 2 و60. يحتفظ الطلب المتدفق بمكانه حتى ينتهي البث. مرر حدًا حتى لا يتجاوز LangChain ما يسمح به مفتاحك:
prompts = [f"Write a one-line tagline for product {i}." for i in range(40)]
results = llm.batch(prompts, config={"max_concurrency": 6})
إذا رأيت خطأ HTTP 429 بعد ذلك، فإن رمز الخطأ يخبرك أي حد ضربته: rate_limited للطلبات في الدقيقة، concurrency للكثير في وقت واحد. يشير 429 مع رأس Retry-After: 5 إلى الحمل الزائد المؤقت. يحتوي ChatOpenAI على خيار max_retries الذي يعيد المحاولة في مثل هذه الأخطاء مع تأخير؛ اضبطه على 3 أو 4 لمهام المعالجة الدفعية.
سلسلة الاسترجاع بدون نقطة نهاية للتضمينات (embeddings)
تغطي هذه API التوليد فقط، لذا تحتاج سلسلة الاسترجاع إلى مزوّدَين: واحد للتضمينات وواحد لخطوة الدردشة. يسهّل LangChain ذلك، لأن مستودع المتجهات ونموذج الدردشة كائنان منفصلان. استخدم أي نموذج تضمين تفضله، من مكتبة محلية أو خدمة أخرى، لفهرسة مستنداتك. ثم مرر النص المسترجع إلى نموذج الدردشة عبر الموجّه.
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
prompt = ChatPromptTemplate.from_messages([
("system", "Answer using only the context. If the answer is not there, say so.\n\nContext:\n{context}"),
("human", "{question}"),
])
chain = prompt | llm | StrOutputParser()
answer = chain.invoke({"context": "\n\n".join(top_chunks), "question": "What is the refund window?"})
هنا top_chunks هو ما أعاده المسترجع الخاص بك. ابقِ الأمر على عدد قليل من المقاطع ذات الأهمية. تضيف أربعة أجزاء بحجم 300 رمز (token) 1,200 رمز (token) لكل استدعاء، وهو أمر جيد، لكن أربعين جزءًا تضيف 12,000 رمز (token) وتجعل كل طلب أثقل بعشر مرات.
قائمة استكشاف الأخطاء
- أخطاء المصادقة: تأكد من أن المفتاح موجود في
api_key، وليس في معلمة أخرى، وأن متغير البيئةOPENAI_API_KEYلا يتجاوز بصمت ما قصدت تمريره. - النموذج غير موجود: معرف النموذج هو بالضبط
uncensored. قم باستدعاءGET /v1/modelsلترى ما يسرده الخادم. - وسائط الأداة الغريبة: اقرأ سلسلة الوسائط الخام، شدّد وصف الأداة، وخفض درجة الحرارة إلى حوالي 0.2 لتشغيل الوكلاء.
- التتبع والتصحيح: فعّل وضع التفصيل أو التصحيح في LangChain محليًا لرؤية كل موجّه (prompt) يُرسَل وكل ردّ يعود.
- اختبارات قابلة للتكرار: مرر
seedودرجة حرارة منخفضة عند مقارنة إصدارات الموجّه (prompt)، بحيث تأتي الاختلافات من تغييرك لا من حظ العينة.
تكلفة عمل LangChain
الفوترة لكل رمز من الرصيد المسبق الدفع. لا يوجد اشتراك، الطلبات الفاشلة أو المرفوضة لا تُحسب، ولا ينتهي الرصيد. الشحنات هي أي مبلغ صحيح من $20 إلى $500، عبر العملات المشفرة (USDT على TRC20، USDC على Base)، مع مكافأة 5٪ من $50، و10٪ من $100 و15٪ من $200. يحتوي صفحة الأسعار على التفاصيل.
لنحسب مثالًا. يجيب مساعد الدعم على 2,000 سؤال في اليوم. يرسل كل طلب حوالي 1,500 رمز (موجه النظام، مقاطع مسترجعة، سؤال) ويعيد حوالي 250 رمزًا.
- الإدخال: 2,000 × 1,500 = 3,000,000 رمز (token)، إذن 3 × $0.15 = $0.45.
- الإخراج: 2,000 × 250 = 500,000 رمز (token)، إذن 0.5 × $0.50 = $0.25.
- المجموع: $0.70 في اليوم لـ 2,000 إجابة، أو $0.00035 لكل إجابة.
سلاسل الاسترجاع هي حيث يمكن أن تنحرف التكاليف، لأن كل قطعة مسترجعة إضافية تضيف رموز إدخال إلى كل استدعاء. سجل usage_metadata من الاستجابات، راقب متوسط حجم الموجّه، وقص عدد القطع قبل التوسع. يدرج مستندات API كل معلمة مدعومة إذا أردت التعمق أكثر.
