מדריך אינטגרציה: השלמות בצ'אט ללא צנזורה

כתובת URL בסיסית ואימות

הבסיס של האינטגרציה שלך מתחיל בכתובת הבסיס. השתמש https://api.loginllm.com/v1 לכל הבקשות. נקודת הסיום הזו תואמת לחלוטין ל-OpenAI, כלומר ניתן להחליף את המפתחות הקיימים שלך ללא כתיבת לוגיקת הלקוח מחדש.

האימות מסתמך על מפתח API יחיד. צרו מפתח זה דרך ה- קבל מפתח API דף באמצעות Google או סיסמת דוא"ל. המערכת מנפיקה מפתח פעיל אחד לחשבון; הנפקת מפתח חדש מבטלת מיד את המפתח הקודם. שמרו על המפתח הזה מאובטח, שכן הוא שולט באשראי ששולם מראש.

העבר את המפתח ב Authorization כותרת כטוקן Bearer. אין צורך בזרימות OAuth מורכבות או עוגיות סשן עבור ה-API עצמו.

ניתן לבדוק חיבוריות מיד עם פקודת curl פשוטה. זה מבטיח שהרשת שלך מאפשרת תעבורת HTTPS יוצאת לשרתים שלנו לפני שאתה בונה את שאר היישום.

נקודת הקצה להשלחות צ'אט

שלם הודעות ל POST /v1/chat/completions נקודת קצה. זהו הממשק הסטנדרטי ליצירת טקסט. אתה מגדיר את המודל כ uncensored והספק רשימה של הודעות בגוף הבקשה.

כל הודעה דורשת תפקיד (system, user, או assistant) ותוכן. המעבד מעבד קלטים אלו ומחזיר השלמה. אינך צריך לנהל הפניית מודלים או לבחור בין מספר וריאנטים; אנו מארחים מודל אחד פתוח במשקל (open-weight) המותאם לפלט לא מוגבל.

גישה זו שומרת על הקוד שלך פשוט. אתה נמנע מהעומס של ניהול גרסאות מודל מרובות או התמודדות עם תכונות ייחודיות לספק. מבנה התגובה תואם את הפורמט של OpenAI, מה שמבטיח תאימות רחבה עם SDKs.

בדקו את יתרת החשבון באופן קבוע. נקודות נדרות בהתבסס על שימוש בפועל בטוקנים, ושגיאות אינן צורכות נקודות.

זרימה עם אירועים מוגשים מהשרת

לחוויות משתמש בזמן אמת, הפעל זרם נתונים (streaming) על ידי הגדרת stream: true בבקשה שלך. ה-API מחזיר זרם של אירועים שנשלחו על ידי השרת (SSE) במקום אובייקט JSON בודד.

כל מקטע אירוע מכיל חלק מהטקסט שנוצר. ניתן להציג טקסט זה באופן מדורגי בממשק המשתמש שלכם, מה שמפחית משמעותית את תחומת השהייה עבור המשתמש הסופי. המקטע הסופי בזרם כולל את צריכת הסימונים הכוללת לבקשה.

תכונה זו חיונית לממשקי צ'אט שבהם משתמשים מצפים למשוב מיידי. זה מאפשר לאפליקציה שלך לטפל בתגובות ארוכות מבלי לחסום את השרשור הראשי.

יישמו מאזין אירועים פשוט לאיסוף החלקים הללו. חברו אותם כדי ליצור את התגובה המלאה, או הצגו אותם בזמן אמת ככל שהם מגיעים.

פקודות פונקציה וכלים

ה-API תומך בשימוש מבני בכלים. הגדר פונקציות ב- tools מערך בתוך הבקשה שלך. המודל יכול אז להחליט לקרוא לפונקציה בהתבסס על קלט המשתמש.

כאשר המודל מייצר קריאה לפונקציה, הוא מחזיר את שם הפונקציה והארגומנטים בפורמט מבני. היישום שלך מבצע את הפונקציה ושולח את התוצאה בחזרה למודל לתגובה סופית.

יכולת זו מאפשרת תהליכי עבודה מורכבים ללא קידוד לוגיקה קבועה. ניתן לשלב מקורות נתונים חיצוניים, מחשבונים או לוגיקת עסקים מותאמת אישית ישירות לתוך השיחה.

ודא שהגדרות הכלים שלך מדויקות. המודל מסתמך על סכמות אלו כדי להבין את פורמטי הקלט והפלט הצפויים לכל פונקציה.

חלון ההקשר ומגבלות

המודל תומך בחלון הקשר של 100,000 טוקנים. חלון זה כולל הן את הפרומפט והן את ההשלמה. ניתן לציין אורך פלט מקסימלי באמצעות ה- max_tokens פרמטר.

אם max_tokens לא מוגדר, התגובה יכולה להימשך עד לסוף החלון. הגדרת ערך גבוה יותר מאפשרת תגובות ארוכות יותר, עד למגבלה של 100,000 טוקנים. זה שימושי ליצירת דוחות מפורטים או קטעי קוד.

עקבו בקפידה אחר מגבלות הקצב. ה-API מאפשר 300 בקשות לדקה ו-8 בקשות מקבילות למפתח. חריגה ממגבלות אלו תוביל לשגיאת 429.

גודל גוף הבקשה מוגבל ל-8 MB. חלונות הקשר הגדולים צורכים יותר אשראי, כך שאזן את דרישות הזיכרון שלך מול התקציב.

טיפול בשגיאות וצריכת טוקנים

טפלו בשגיאות בצורה חכמה כדי לשמור על חוויית משתמש חלקה. שגיאת 401 מציינת מפתח API לא חוקי או פג תוקף. התאמת אימות או צרו מפתח חדש מהלוח שלכם.

שגיאת 402 מציינת שהקרדיט המוקדם שלך אינו מספיק. הוסף קרדיט באמצעות USDT (TRC20) או USDC (Base) כדי להמשיך בשירות. הקרדיטים לא פגים תוקף, כך שניתן להוסיף כספים בכל נוחות.

שגיאת 429 מסמלת שחרגת ממגבלת הקצב. יישם backoff מעריכי בלקוח שלך כדי לנסות שוב בקשות באופן אוטומטי. תמיד בדוק את כותרות התגובה למידע על קוטות נותרת.

שימוש בטוקנים מדווח בפריסת הזרם הסופית או בתגובת ההשלמה. השתמש בנתונים אלו כדי לייעל את הפקודות שלך ולנהל עלויות ביעילות.

cURL

Copycurl https://api.loginllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix syntax error in python loop"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.loginllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.loginllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)