Integraatio-opas: sensuroimattomat keskustelulopetukset

Perus-URL ja todennus

Integraatiosi perusta alkaa base URL:sta. Käytä https://api.loginllm.com/v1 kaikkiin pyyntöihin. Tämä päätepiste on täysin OpenAI-yhteensopiva, mikä tarkoittaa, että voit vaihtaa olemassa olevat avaimet ilman asiakasohjelmiston logiikan uudelleenkirjoittamista.

Todennus perustuu yhteen API-avaimen. Luo tämä avain Hanki API-avain sivu joko Googlella tai sähköpostitunnuksella. Järjestelmä myöntää yhden aktiivisen avaimen tilille; uuden avaimen luominen mitätöi välittömästi edellisen avaimen. Säilytä tämä avain turvallisesti, sillä se ohjaa esimaksullisten krediittiesi käyttöä.

Välitä avain Authorization header Bearer-tokenina. Monimutkaisia OAuth-virtoja tai sessiopiksejä ei tarvita API:n itsensä osalta.

Voit testata yhteyttä välittömästi yksinkertaisella curl-komennolla. Tämä varmistaa, että verkkosi sallii ulospäin suuntautuvan HTTPS-liikenteen palvelimillemme ennen kuin rakennat loput sovelluksestasi.

chat/completions-päätepiste

Lähetä viestit osoitteeseen POST /v1/chat/completions päätepiste. Tämä on standardiliittymä tekstin luontiin. Määritä malli arvoksi uncensored and provide a list of messages in the request body.

Jokaiselle viestille tarvitaan rooli (system, user, tai assistant) ja sisältö. Järjestelmä käsittelee nämä syötteet ja palauttaa täydennyksen. Sinun ei tarvitse hallita mallin reititystä tai valita useista varianteista; isännöimme yhtä omistavaa avointa painomallia, joka on optimoitu rajoittamattomaan tuotantoon.

Tämä lähestymistapa pitää koodisi yksinkertaisena. Vältät monien malliversioiden hallinnan tai toimittajakohtaisten erikoispiirteiden käsittelyn aiheuttaman ylikuormituksen. Vastauksen rakenne vastaa OpenAI-muotoa, mikä varmistaa laajan SDK-yhteensopivuuden.

Tarkista saldo säännöllisesti. Kreditit vähennetään todellisen token-käytön perusteella, ja virheet eivät kuluta kredittejä.

Streaming with Server-Sent Events

Reaaliaikaiseen käyttäjäkokemukseen ota streamaus käyttöön asettamalla stream: true pyynnössäsi. API palauttaa Server-Sent Events (SSE) -virran yksittäisen JSON-objektin sijaan.

Jokainen tapahtumapalkka sisältää osan generoidusta tekstistä. Voit renderöidä tämän tekstin vaiheittain käyttöliittymässäsi, mikä vähentää merkittävästi havaittua viivettä lopulliselle käyttäjälle. Streamin viimeinen palikka sisältää pyynnön kokonaistokenkäytön.

Tämä ominaisuus on välttämätön chat-liittymille, joissa käyttäjät odottavat välitöntä palautetta. Se mahdollistaa sovelluksesi käsitellä pitkät vastaukset estämättä pääsäikeen.

Ota käyttöön yksinkertainen tapahtumakuuntelija näiden lohkojen keräämiseen. Yhdistä ne muodostaaksesi täydellisen vastauksen tai näytä ne reaaliajassa niiden saapuessa.

Funktikutsut ja työkalut

API tukee rakenteista työkalujen käyttöä. Määritä funktiot tools tietorakenteella pyynnössäsi. Malli voi sitten päättää kutsua funktiota käyttäjän syötteen perusteella.

Kun malli luo funktiokutsun, se palauttaa funktion nimen ja argumentit rakenteellisessa muodossa. Sovelluksesi suorittaa funktion ja lähettää tuloksen takaisin mallille lopullista vastausta varten.

Tämä ominaisuus mahdollistaa monimutkaisten työvuokojen suorittamisen ilman logiikan kovakoodausta. Voit integroida ulkoisia tietolähteitä, laskureita tai mukautettua liiketoimintalogiaa suoraan keskusteluun.

Varmista, että työkalumäärittelyt ovat tarkkoja. Malli luottaa näihin skeemoihin ymmärtääkseen kunkin funktion odotetut syöte- ja lähtömuodot.

Kontekstiluukku ja rajoitukset

Malli tukee 100 000 tokenin kontekstiikkunaa. Tämä ikkuna sisältää sekä syötteen että tuloksen. Voit määrittää enimmäistuotospituuden käyttämällä max_tokens parametri.

Jos max_tokens on asettamatta, vastaus voi ulottua ikkunan loppuun. Korkeamman arvon asettaminen mahdollistaa pidempiin vastauksiin, jopa 100,000 tokenin rajoja myöten. Tämä on hyödyllistä yksityiskohtaisten raporttien tai koodinpätkien luomisessa.

Seuraa nopeusrajoituksiasi huolellisesti. API sallii 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä per avain. Näiden rajojen ylittäminen johtaa virheeseen 429.

Pyyntöruuman koko on rajoitettu 8 MB:iin. Suuret kontekstit kuluttavat enemmän luottoa, joten tasapainota muistivaatimuksesi budjettisi kanssa.

Virheenkäsittely ja tokenkäyttö

Käsittele virheet joustavaksi säilyttääksesi sujuvan käyttökokemuksen. 401-virhe tarkoittaa virheellistä tai vanhentunutta API-avainta. Todenna uudelleen tai luo uusi avain hallintapaneelista.

Virhe 402 tarkoittaa, että esimaksukreditiittisi ei riitä. Jatka palvelua lisäämällä USDT:tä (TRC20) tai USDC:tä (Base). Kreditiitit vanhenevat koskaan, joten voit lisätä varoja milloin tahansa kätevästi.

Virhe 429 ilmoittaa, että olet ylittänyt nopeusrajoituksen. Toteuta asiakasohjelmassasi eksponentiaalinen taaksepäin hylkäys pyyntöjen automaattiseen uudelleenkäynnistämiseen. Tarkista aina vastausotsikot jäljellä olevan kiintiön tiedoista.

Token-käyttö ilmoitetaan streamin lopullisessa palassa tai täydennysvastauksessa. Käytä tätä dataa optimoidaksesi promptisi ja hallitaksesi kustannuksia tehokkaasti.

cURL

Copycurl https://api.loginllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix syntax error in python loop"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.loginllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.loginllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)