Посібник з інтеграції: завершення чату без цензури

Базова URL-адреса та аутентифікація

Основа вашої інтеграції починається з базового URL. Використовуйте https://api.loginllm.com/v1 для всіх запитів. Цей ендпоінт повністю сумісний з OpenAI, що означає, що ви можете замінити свої існуючі ключі без переписування логіки клієнта.

Аутентифікація покладається на один API-ключ. Згенеруйте цей ключ через Отримати API-ключ сторінку через Google або пароль електронної пошти. Система видає один активний ключ на обліковий запис; видача нового миттєво робить попередній ключ недійсним. Зберігайте цей ключ у безпеці, оскільки він керує вашими попередньо оплаченими кредитами.

Передайте ключ у Authorization header як Bearer token. Для самої API не потрібні складні OAuth-потоки або сесійні файли cookie.

Ви можете миттєво перевірити підключення за допомогою простої команди curl. Це гарантує, що ваша мережа дозволяє вихідний HTTPS-трафік до наших серверів, перш ніж ви почнете розробляти решту програми.

Ендпоінт chat/completions

Надсилайте повідомлення до POST /v1/chat/completions endpoint. Це стандартний інтерфейс для генерації тексту. Ви визначаєте модель як uncensored і надайте список повідомлень у тілі запиту.

Кожне повідомлення вимагає вказати роль (system, user, або assistant) та контент. Система обробляє ці входи та повертає завершення. Вам не потрібно керувати маршрутизацією моделі або обирати з кількох варіантів; ми хостуємо одну відкриту модель з відкритими вагами, оптимізовану для необмеженого виводу.

Цей підхід робить ваш код простим. Ви уникаєте накладних витрат на керування кількома версіями моделей або обробку специфічних особливостей постачальників. Структура відповіді відповідає формату OpenAI, що забезпечує широку сумісність SDK.

Регулярно перевіряйте баланс. Кредити списуються на основі фактичного використання токенів, а помилки не споживають кредити.

Потокова передача з подіями, що надсилаються сервером

Для інтерактивності в реальному часі увімкніть потокову передачу, встановивши stream: true у вашому запиті. API повертає потік подій, надісланих сервером (SSE), замість одного об'єкта JSON.

Кожен чанк події містить частину згенерованого тексту. Ви можете відображати цей текст поступово в інтерфейсі, що значно зменшує сприйняту затримку для кінцевого користувача. Останній чанк у потоці містить загальне використання токенів для запиту.

Ця функція необхідна для чат-інтерфейсів, де користувачі очікують миттєвого зворотного зв'язку. Вона дозволяє вашому додатку обробляти довгі відповіді без блокування основного потоку.

Реалізуйте простий слухач подій для збору цих фрагментів. Об’єднайте їх, щоб сформувати повну відповідь, або відображайте їх в режимі реального часу по мірі надходження.

Function Calling та інструменти

API підтримує структуроване використання інструментів. Визначте функції в tools масив у вашому запиті. Модель може вирішити викликати функцію на основі вводу користувача.

Коли модель генерує виклик функції, вона повертає назву функції та аргументи у структурованому форматі. Ваша програма виконує функцію та надсилає результат назад моделі для отримання фінальної відповіді.

Ця можливість дозволяє складні робочі процеси без жорсткого кодування логіки. Ви можете інтегрувати зовнішні джерела даних, калькулятори або власну бізнес-логіку безпосередньо в розмову.

Переконайтеся, що ваші визначення інструментів є точними. Модель покладається на ці схеми, щоб зрозуміти очікувані формати вводу та виводу для кожної функції.

Контекстне вікно та ліміти

Модель підтримує контекстне вікно розміром 100,000 токенів. Це вікно включає як запит, так і відповідь. Ви можете вказати максимальну довжину виводу за допомогою max_tokens параметр.

Якщо max_tokens не встановлено, відповідь може тривати до кінця вікна. Встановлення вищого значення дозволяє отримувати довші відповіді, до ліміту в 100,000 токенів. Це корисно для генерації детальних звітів або фрагментів коду.

Уважно відстежуйте ліміти швидкості. API дозволяє 300 запитів на хвилину і 8 одночасних запитів на ключ. Перевищення цих лімітів призведе до помилки 429.

Розмір тіла запиту обмежений до 8 МБ. Великі вікна контексту споживають більше кредиту, тому збалансуйте вимоги до пам'яті з вашим бюджетом.

Обробка помилок та використання токенів

Гарно обробляйте помилки, щоб підтримувати плавний користувацький досвід. Помилка 401 вказує на недійсний або прострочений API-ключ. Повторно автентифікуйтеся або згенеруйте новий ключ у вашій панелі керування.

Помилка 402 означає, що ваш попередньо оплачений кредит недостатній. Поповніть баланс за допомогою USDT (TRC20) або USDC (Base), щоб відновити службу. Кредити не мають строку дії, тому ви можете поповнювати їх в будь-який зручний час.

Помилка 429 сигналізує про перевищення ліміту швидкості. Реалізуйте експоненційний backoff у вашому клієнті для автоматичного повторного запиту. Завжди перевіряйте заголовки відповіді для отримання інформації про залишок квоти.

Використання токенів повідомляється в кінцевому чанку потоку або в відповіді на завершення. Використовуйте ці дані для оптимізації промптів та ефективного керування витратами.

cURL

Copycurl https://api.loginllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix syntax error in python loop"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.loginllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.loginllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)