راهنمای یکپارچه‌سازی: تکمیل‌های چت بدون سانسور

URL پایه و احراز هویت

بنیان یکپارچه‌سازی شما با URL پایه شروع می‌شود. از https://api.loginllm.com/v1 برای تمام درخواست‌ها. این نقطه پایانی کاملاً با OpenAI سازگار است، به این معنی که می‌توانید کلیدهای موجود خود را بدون بازنویسی منطق کلاینت جایگزین کنید.

احراز هویت به یک کلید API واحد متکی است. این کلید را از طریق دریافت کلید API صفحه را با استفاده از حساب گوگل یا رمز عبور ایمیل باز کنید. سیستم برای هر حساب فقط یک کلید فعال صادر می‌کند؛ صدور کلید جدید بلافاصله کلید قبلی را نامعتبر می‌کند. این کلید را محرمانه نگه دارید، زیرا کنترل اعتبارات پیش‌پرداخت شما را بر عهده دارد.

کلید را در Authorization هدر به عنوان یک توکن Bearer. برای خود API به جریان‌های پیچیده OAuth یا کوکی‌های جلسه نیاز نیست.

می‌توانید اتصال را بلافاصله با یک دستور curl ساده تست کنید. این اطمینان حاصل می‌کند که شبکه شما به ترافیک HTTPS خروجی به سرورهای ما اجازه می‌دهد، پیش از آنکه بقیه برنامه خود را بسازید.

اندپوینت chat/completions

پیام‌ها را به POST /v1/chat/completions نقطه پایانی. این رابط استاندارد برای تولید متن است. مدل را به عنوان uncensored و یک لیست از پیام‌ها را در بدنه درخواست ارائه دهید.

هر پیام نیاز به نقش (system, user, یا assistant) و محتوا. سیستم این ورودی‌ها را پردازش کرده و یک تکمیل را برمی‌گرداند. شما نیازی به مدیریت مسیریابی مدل یا انتخاب از بین چندین نسخه ندارید؛ ما یک مدل وزن‌باز اختصاصی که برای خروجی بدون محدودیت بهینه‌سازی شده است را میزبانی می‌کنیم.

این رویکرد کد شما را ساده نگه می‌دارد. شما از سربار مدیریت نسخه‌های مختلف مدل یا مدیریت ویژگی‌های خاص ارائه‌دهنده اجتناب می‌کنید. ساختار پاسخ با فرمت OpenAI مطابقت دارد که سازگاری گسترده با SDKها را تضمین می‌کند.

موجودی خود را به طور منظم بررسی کنید. اعتبارات بر اساس مصرف واقعی توکن کسر می‌شوند و خطاها اعتبار مصرف نمی‌کنند.

استریم با رویدادهای ارسالی سرور

برای تجربه‌های کاربری بلادرنگ، حالت استریم را با تنظیم stream: true در درخواست شما. API یک جریان از رویدادهای ارسالی سرور (SSE) به جای یک شیء JSON واحد برمی‌گرداند.

هر تکه رویداد شامل بخشی از متن تولیدشده است. می‌توانید این متن را به‌صورت تدریجی در رابط کاربری خود رندر کنید که تأخیر ادراک‌شده را برای کاربر نهایی به‌طور قابل‌توجهی کاهش می‌دهد. تکه نهایی در استریم شامل مجموع مصرف توکن برای درخواست است.

این قابلیت برای رابط‌های چت که کاربران انتظار بازخورد فوری دارند، ضروری است. این به برنامه شما اجازه می‌دهد پاسخ‌های طولانی را بدون بلوک کردن رشته اصلی مدیریت کند.

یک شنونده رویداد ساده پیاده‌سازی کنید تا این بخش‌ها را جمع‌آوری کند. آن‌ها را به هم بچسبانید تا پاسخ کامل را تشکیل دهند، یا آن‌ها را به‌صورت زنده هنگام رسیدن نمایش دهید.

فراخوانی تابع و ابزارها

این API از استفاده ساختاریافته ابزارها پشتیبانی می‌کند. توابع را در tools آرایه در درخواست خود. مدل می‌تواند سپس بر اساس ورودی کاربر تصمیم به فراخوانی یک تابع بگیرد.

هنگامی که مدل یک فراخوانی تابع تولید می‌کند، نام تابع و آرگومان‌ها را در یک قالب ساختاریافته برمی‌گرداند. برنامه شما تابع را اجرا می‌کند و نتیجه را برای پاسخ نهایی به مدل ارسال می‌کند.

این قابلیت جریان‌های کاری پیچیده را بدون کدنویسی منطق سخت امکان‌پذیر می‌سازد. می‌توانید منابع داده خارجی، ماشین‌حساب‌ها یا منطق کسب‌وکار سفارشی را مستقیماً در مکالمه ادغام کنید.

اطمینان حاصل کنید که تعاریف ابزار شما دقیق هستند. مدل به این طرحواره‌ها تکیه می‌کند تا قالب‌های ورودی و خروجی مورد انتظار برای هر تابع را درک کند.

پنجره زمینه و محدودیت‌ها

مدل از پنجره زمینه ۱۰۰,۰۰۰ توکن پشتیبانی می‌کند. این پنجره شامل هر دو prompt و completion است. می‌توانید حداکثر طول خروجی را با استفاده از max_tokens پارامتر.

اگر max_tokens تنظیم نشده باشد، پاسخ می‌تواند تا انتهای پنجره ادامه یابد. تنظیم مقدار بالاتر اجازه می‌دهد پاسخ‌های طولانی‌تری دریافت کنید، تا حد محدودیت 100,000 توکن. این برای تولید گزارش‌های دقیق یا قطعات کد مفید است.

محدودیت‌های نرخ را به دقت پایش کنید. API اجازه 300 درخواست در دقیقه و 8 درخواست همزمان به ازای هر کلید را می‌دهد. تجاوز از این محدودیت‌ها منجر به خطای 429 می‌شود.

اندازه بدنه درخواست به 8 مگابایت محدود است. پنجره‌های بستر بزرگ اعتبار بیشتری مصرف می‌کنند، بنابراین نیازهای حافظه خود را با بودجه خود متعادل کنید.

مدیریت خطا و مصرف توکن

خطاها را به شیوه‌ای مناسب مدیریت کنید تا تجربه کاربری روانی حفظ شود. خطای ۴۰۱ نشان‌دهنده کلید API نامعتبر یا منقضی شده است. مجددا احراز هویت کنید یا کلید جدیدی از داشبورد خود ایجاد کنید.

خطای ۴۰۲ به این معنی است که اعتبار پیش‌پرداخت شما ناکافی است. با USDT (TRC20) یا USDC (Base) شارژ کنید تا خدمات از سر گرفته شود. اعتبار‌ها هرگز منقضی نمی‌شوند، بنابراین می‌توانید هر زمان که مایل هستید وجه اضافه کنید.

خطای ۴۲۹ نشان می‌دهد که به محدودیت نرخ دسترسی پیدا کرده‌اید. در کلاینت خود بازگشت نمایی (exponential backoff) را برای تلاش مجدد خودکار درخواست‌ها پیاده‌سازی کنید. همیشه برای اطلاعات درباره سهمیه باقی‌مانده، سربرگ‌های پاسخ را بررسی کنید.

مصرف توکن در آخرین قطعه استریم یا پاسخ تکمیل گزارش می‌شود. از این داده‌ها برای بهینه‌سازی پرامپت‌ها و مدیریت هزینه‌ها به طور موثر استفاده کنید.

cURL

Copycurl https://api.loginllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix syntax error in python loop"}]
  }'

پایتون

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.loginllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.loginllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

جریان‌سازی

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)