Panduan Pengintegrasian: penyelesaian chat tanpa sensor

URL Asas dan Pengesahan

Asas integrasi anda bermula dengan URL asas. Gunakan https://api.loginllm.com/v1 untuk semua permintaan. Endpoint ini sepenuhnya serasi dengan OpenAI, bermaksud anda boleh menukar kunci sedia ada tanpa menulis semula logik klien anda.

Pengesahihan bergantung pada satu kunci API. Jana kunci ini melalui Dapatkan kunci API halaman menggunakan sama ada Google atau kata laluan e-mel. Sistem mengeluarkan satu kunci aktif per akaun; mengeluarkan satu baharu serta-merta membatalkan kunci sebelumnya. Simpan kunci ini dengan selamat, kerana ia mengawal kredit pra-dibayar anda.

Luluskan kunci dalam Authorization pencap sebagai token Bearer. Tiada aliran OAuth kompleks atau kuki sesi diperlukan untuk API itu sendiri.

Anda boleh menguji sambungan serta-merta dengan arahan curl mudah. Ini memastikan rangkaian anda membenarkan trafik HTTPS keluar ke pelayan kami sebelum anda membina baki aplikasi anda.

Titik Akhir /chat/completions

Hantar mesej ke POST /v1/chat/completions endpoint. Ini adalah antara muka piawai untuk penjanaan teks. Anda menentukan model sebagai uncensored dan berikan senarai mesej dalam badan permintaan.

Setiap mesej memerlukan peranan (system, user, atau assistant) dan kandungan. Sistem memproses input ini dan mengembalikan penyelesaian. Anda tidak perlu menguruskan pengalihan model atau memilih daripada pelbagai varian; kami menghoskan satu model berat terbuka yang dioptimumkan untuk output tidak terhad.

Pendekatan ini mengekalkan kod anda ringkas. Anda mengelakkan beban menguruskan pelbagai versi model atau menangani keanehan khusus vendor. Struktur respons sepadan dengan format OpenAI, memastikan serasi dengan SDK yang luas.

Semak baki anda secara berkala. Kredit ditolak berdasarkan penggunaan token sebenar, dan ralat tidak menggunakan kredit.

Penghantaran berstrim dengan Server-Sent Events

Untuk pengalaman pengguna masa nyata, aktifkan penstriman dengan menetapkan stream: true dalam permintaan anda. API mengembalikan aliran Acara Dikirim Pelayan (SSE) bukannya objek JSON tunggal.

Setiap chunk acara mengandungi sebahagian teks yang dijana. Anda boleh memaparkan teks ini secara berperingkat dalam UI anda, yang secara ketara mengurangkan latensi yang dirasakan oleh pengguna akhir. Chunk terakhir dalam aliran termasuk jumlah penggunaan token keseluruhan untuk permintaan tersebut.

Ciri ini penting untuk antara muka sembang di mana pengguna mengharapkan maklum balas segera. Ia membolehkan aplikasi anda mengendalikan respons panjang tanpa menyekat benang utama (main thread).

Laksanakan pendengar acara mudah untuk mengumpul bahagian-bahagian ini. Gabungkan mereka untuk membentuk respons lengkap, atau papar mereka secara langsung sejurus tiba.

Panggilan Fungsi dan Alat

API ini menyokong penggunaan alat berstruktur. Takrifkan fungsi dalam tatasusunan tools dalam permintaan anda. Model kemudian boleh memutuskan untuk memanggil sesuatu fungsi berdasarkan input pengguna.

Apabila model menjana panggilan fungsi, ia mengembalikan nama fungsi dan hujah dalam format terstruktur. Aplikasi anda melaksanakan fungsi dan menghantar hasilnya kembali ke model untuk respons akhir.

Keupayaan ini membolehkan aliran kerja kompleks tanpa pengkodan logik secara keras. Anda boleh mengintegrasikan sumber data luar, kalkulator, atau logik perniagaan khusus terus ke dalam perbualan.

Pastikan definisi alat anda tepat. Model bergantung pada skema ini untuk memahami format input dan output yang dijangka untuk setiap fungsi.

Tetingkap Konteks dan Had

Model ini menyokong tetingkap konteks sebanyak 100,000 token. Tetingkap ini merangkumi kedua-dua prompt dan penyelesaian. Anda boleh menentukan panjang output maksimum menggunakan max_tokens parameter.

Jika max_tokens tidak ditetapkan, respons boleh berjalan sehingga akhir tetingkap. Menetapkan nilai yang lebih tinggi membolehkan respons yang lebih panjang, sehingga had 100,000 token. Ini berguna untuk menjana laporan terperinci atau petikan kod.

Pantau had kadar anda dengan teliti. API membenarkan 300 permintaan setiap minit dan 8 permintaan serentak per kunci. Melebihi had ini akan menghasilkan ralat 429.

Saiz badan permintaan terhad kepada 8 MB. Jendela konteks besar menggunakan lebih kredit, jadi seimbangkan keperluan memori anda dengan bajet anda.

Pengendalian Ralat dan Penggunaan Token

Tangani ralat dengan anggun untuk mengekalkan pengalaman pengguna yang lancar. Ralat 401 menunjukkan kunci API tidak sah atau telah luput. Sahkan semula atau jana kunci baharu dari papan pemuka anda.

Kesilapan 402 bermaksud kredit prabayar anda tidak mencukupi. Tambah baki menggunakan USDT (TRC20) atau USDC (Base) untuk menyambung perkhidmatan. Kredit tidak pernah luput, jadi anda boleh menambah dana bila-bila masa yang mudah untuk anda.

Kesilapan 429 menandakan bahawa anda telah melebihi had kadar. Laksanakan penundaan eksponen dalam klien anda untuk mencuba semula permintaan secara automatik. Sentiasa semak header respons untuk maklumat kuarota yang tinggal.

Penggunaan token dilaporkan dalam segmen aliran akhir atau respons penyelesaian. Gunakan data ini untuk mengoptimumkan prompt anda dan mengurus kos dengan berkesan.

cURL

Copycurl https://api.loginllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix syntax error in python loop"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.loginllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.loginllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)