Průvodce integrací: chat completions bez omezení

Základní URL a ověření

Základ vaší integrace začíná základní URL. Použijte https://api.loginllm.com/v1 pro všechny požadavky. Tento endpoint je plně kompatibilní s OpenAI, což znamená, že můžete vyměnit své existující klíče bez přepisování logiky klienta.

Ověření spoléhá na jediný klíč API. Vygenerujte tento klíč přes Získat API klíč stránku pomocí Google nebo hesla k e-mailu. Systém vydává jeden aktivní klíč na účet; vydáním nového se okamžitě zneplatní předchozí klíč. Tento klíč udržujte v bezpečí, protože řídí přístup k vašemu předplacenému kreditu.

Předložte klíč v Authorization hlavička jako Bearer token. Pro samotné API nejsou vyžadována složitá protokoly OAuth ani relaní cookies.

Okamžitě můžete otestovat připojení pomocí jednoduchého příkazu curl. To zajistí, že vaše síť umožňuje odchozí HTTPS provoz na naše servery, než začnete budovat zbytek aplikace.

Endpoint chat/completions

Pošlete zprávy na POST /v1/chat/completions endpoint. Toto je standardní rozhraní pro generování textu. Model definujete jako uncensored a poskytnout seznam zpráv v těle požadavku.

Každá zpráva vyžaduje roli (system, user, nebo assistant) a obsah. Systém zpracovává tyto vstupy a vrací dokončení. Nemusíte spravovat směrování modelu ani vybírat z více variant; hostujeme jeden dedikovaný model s otevřeným váham optimalizovaný pro neomezený výstup.

Tento přístup udržuje váš kód jednoduchým. Vyhněte se přídavným nákladům na správu více verzí modelů nebo řešení specifických zvláštností dodavatelů. Struktura odpovědi odpovídá formátu OpenAI, což zajišťuje širokou kompatibilitu se SDK.

Pravidelně kontrolujte svůj zůstatek. Kredity jsou odečítány na základě skutečného využití tokenů a chyby nepotřebují kredity.

Streamování s Server-Sent Events

Pro zážitky v reálném čase pro uživatele povolte streamování nastavením stream: true ve vaší žádosti. API vrací stream událostí zaslaných serverem (SSE) místo jednoho objektu JSON.

Každý chunk události obsahuje část vygenerovaného textu. Tento text můžete vykreslovat postupně ve svém uživatelském rozhraní, což výrazně snižuje vnímanou latenci pro koncového uživatele. Poslední chunk ve streamu obsahuje celkové využití tokenů pro požadavek.

Tato funkce je nezbytná pro chat rozhraní, kde uživatelé očekávají okamžitou zpětnou vazbu. Umožňuje vaší aplikaci zpracovávat dlouhé odpovědi bez blokování hlavního vlákna.

Implementujte jednoduchou obslužnou rutinu událostí pro sběr těchto částí. Spojte je do kompletní odpovědi nebo je zobrazujte živě, jak přicházejí.

Volání funkcí a nástroje

API podporuje strukturované používání nástrojů. Definujte funkce v tools pole ve vašem požadavku. Model se pak může rozhodnout zavolat funkci na základě vstupu uživatele.

Když model vygeneruje volání funkce, vrátí název funkce a argumenty ve strukturovaném formátu. Vaše aplikace funkci provede a výsledek odešle zpět modelu pro finální odpověď.

Tato schopnost umožňuje složité pracovní postupy bez hardcodování logiky. Můžete integrovat externí zdroje dat, kalkulačky nebo vlastní obchodní logiku přímo do konverzace.

Ujistěte se, že definice nástrojů jsou přesné. Model spoléhá na tato schémata k pochopení očekávaných formátů vstupu a výstupu pro každou funkci.

Okno kontextu a limity

Model podporuje kontextové okno o velikosti 100 000 tokenů. Toto okno zahrnuje jak prompt, tak dokončení. Maximální délku výstupu můžete zadat pomocí max_tokens parametr.

Pokud max_tokens není nastaveno, odpověď může trvat až do konce okna. Nastavení vyšší hodnoty umožňuje delší odpovědi až do limitu 100,000 tokenů. To je užitečné pro generování podrobných zpráv nebo úryvků kódu.

Sledujte své limity rychlosti pečlivě. API umožňuje 300 požadavků za minutu a 8 souběžných požadavků na klíč. Překročení těchto limitů povede k chybě 429.

Velikost těla žádosti je omezena na 8 MB. Velká okna kontextu spotřebovávají více kreditu, takže vyvažujte své požadavky na paměť s rozpočtem.

Zpracování chyb a využití tokenů

Chyby zpracovávejte elegantně, abyste udrželi plynulý uživatelský zážitek. Chyba 401 indikuje neplatný nebo expirovaný API klíč. Přihlaste se znovu nebo vygenerujte nový klíč z vaší ovládacího panelu.

Chyba 402 znamená, že vaše předplacené kredity jsou nedostatečné. Pro obnovení služby dobijte pomocí USDT (TRC20) nebo USDC (Base). Kredity nevyprší, takže prostředky můžete přidat kdykoli vám to vyhovuje.

Chyba 429 signalizuje překročení limitu rychlosti. Implementujte exponenciální zpomalování ve svém klientském kódu pro automatické opakování požadavků. Vždy kontrolujte hlavičky odpovědi pro informace o zbývající kvótě.

Spotřeba tokenů je hlášena v posledním bloku streamu nebo v odpovědi na dokončení. Použijte tato data k optimalizaci promptů a efektivní správě nákladů.

cURL

Copycurl https://api.loginllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix syntax error in python loop"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.loginllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.loginllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)