Przewodnik integracji: uzupełnienia czatu bez cenzury

Bazowy URL i autoryzacja

Podstawą Twojej integracji jest adres URL bazowy. Użyj https://api.loginllm.com/v1 dla wszystkich żądań. Ten punkt końcowy jest w pełni kompatybilny z OpenAI, co oznacza, że możesz zamienić istniejące klucze bez przepisywania logiki klienta.

Uwierzytelnianie opiera się na jednym kluczu API. Wygeneruj ten klucz za pomocą Pobierz klucz API strony przy użyciu Google lub hasła e-mailowego. System wydaje jeden aktywny klucz na konto; wydanie nowego natychmiast unieważnia poprzedni klucz. Zachowaj ten klucz w sekrecie, ponieważ kontroluje on Twoje z góry opłacone kredyty.

Przekaż klucz w Authorization nagłówek jako token Bearer. Nie są wymagane skomplikowane przepływy OAuth ani ciasteczka sesyjne dla samego API.

Możesz przetestować łączność natychmiast za pomocą prostego polecenia curl. Zapewnia to, że Twoja sieć pozwala na ruch HTTPS wychodzący do naszych serwerów przed zbudowaniem reszty aplikacji.

Endpoint chat/completions

Wyślij wiadomości do POST /v1/chat/completions endpoint. To standardowy interfejs do generowania tekstu. Definiujesz model jako uncensored i podaj listę wiadomości w ciele żądania.

Każda wiadomość wymaga roli (system, user, lub assistant) oraz treść. System przetwarza te dane wejściowe i zwraca uzupełnienie. Nie musisz zarządzać trasowaniem modelu ani wybierać spośród wielu wariantów; hostujemy jeden dedykowany model open-weight zoptymalizowany pod kątem nieograniczonego wyjścia.

To podejście utrzymuje Twój kod prostym. Unikasz narzutu związanego z zarządzaniem wieloma wersjami modeli czy obsługą specyficznych niuansów dostawców. Struktura odpowiedzi odpowiada formatowi OpenAI, zapewniając szeroką kompatybilność z SDK.

Sprawdź swój balans regularnie. Kredyty są odliczane na podstawie rzeczywistego użycia tokenów, a błędy nie zużywają kredytów.

Strumieniowanie z Server-Sent Events

Dla doświadczeń użytkownika w czasie rzeczywistym włącz strumieniowanie, ustawiając stream: true w Twoim żądaniu. API zwraca strumień zdarzeń wysłanych przez serwer (SSE) zamiast pojedynczego obiektu JSON.

Każdy chunk zdarzenia zawiera część wygenerowanego tekstu. Możesz renderować ten tekst inkrementalnie w swoim interfejsie użytkownika, co znacząco zmniejsza postrzeganą opóźnienie dla użytkownika końcowego. Ostatni chunk w strumieniu zawiera całkowite zużycie tokenów dla żądania.

Ta funkcja jest niezbędna dla interfejsów czatu, gdzie użytkownicy oczekują natychmiastowej informacji zwrotnej. Pozwala Twojej aplikacji na obsługę długich odpowiedzi bez blokowania głównego wątku.

Wdróż prosty nasłuchiwalnik zdarzeń do zbierania tych fragmentów. Połącz je, aby utworzyć kompletną odpowiedź lub wyświetlaj je na żywo, gdy przybywają.

Wywoływanie funkcji i narzędzia

API obsługuje strukturalne używanie narzędzi. Zdefiniuj funkcje w tools tablicę w swoim żądaniu. Model może następnie zdecydować się na wywołanie funkcji na podstawie danych wejściowych użytkownika.

Gdy model generuje wywołanie funkcji, zwraca nazwę funkcji i argumenty w formacie strukturalnym. Twoja aplikacja wykonuje funkcję i wysyła wynik z powrotem do modelu w celu uzyskania ostatecznej odpowiedzi.

Ta możliwość umożliwia złożone przepływy pracy bez hardkodowania logiki. Możesz zintegrować zewnętrzne źródła danych, kalkulatory lub niestandardową logikę biznesową bezpośrednio w rozmowie.

Upewnij się, że Twoje definicje narzędzi są precyzyjne. Model polega na tych schematach, aby zrozumieć oczekiwane formaty wejścia i wyjścia dla każdej funkcji.

Okno kontekstu i limity

Model obsługuje okno kontekstowe o rozmiarze 100 000 tokenów. Okno to obejmuje zarówno prompt, jak i uzupełnienie. Możesz określić maksymalną długość wyjścia za pomocą max_tokens parametr.

Jeśli max_tokens nie jest ustawione, odpowiedź może sięgać do końca okna. Ustawienie wyższej wartości pozwala na dłuższe odpowiedzi, do limitu 100,000 tokenów. Jest to przydatne przy generowaniu szczegółowych raportów lub fragmentów kodu.

Monitoruj swoje limity szybkości uważnie. API pozwala na 300 żądań na minutę i 8 żądań równoległych na klucz. Przekroczenie tych limitów spowoduje błąd 429.

Rozmiar treści żądania jest ograniczony do 8 MB. Duże okna kontekstu zużywają więcej kredytu, więc zrównoważ swoje wymagania pamięciowe z budżetem.

Obsługa błędów i zużycie tokenów

Obsługuj błędy w sposób elegancki, aby utrzymać płynne doświadczenie użytkownika. Błąd 401 oznacza nieprawidłowy lub wygasły klucz API. Ponownie uwierzytelnij się lub wygeneruj nowy klucz ze swojego panelu.

Błąd 402 oznacza, że Twoje pre-paidowe środki są niewystarczające. Doładuj konto za pomocą USDT (TRC20) lub USDC (Base), aby wznowić usługę. Kredyty nie wygasają, więc możesz doładować środki w dogodnym momencie.

Błąd 429 oznacza, że przekroczyłeś limit szybkości. Zaimplementuj wykładnicze opóźnienie ponownych prób w swoim kliencie, aby automatycznie ponawiać żądania. Zawsze sprawdzaj nagłówki odpowiedzi, aby uzyskać informacje o pozostałym limicie.

Użycie tokenów jest raportowane w ostatnim kawałku strumienia lub odpowiedzi zakończenia. Użyj tych danych do optymalizacji promptów i skutecznego zarządzania kosztami.

cURL

Copycurl https://api.loginllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix syntax error in python loop"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.loginllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.loginllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)