Hướng dẫn Tích hợp: hoàn thành trò chuyện không kiểm duyệt

Base URL và Xác thực

Nền tảng cho việc tích hợp của bạn bắt đầu bằng URL cơ sở. Sử dụng https://api.loginllm.com/v1 cho tất cả các yêu cầu. Điểm cuối này hoàn toàn tương thích với OpenAI, nghĩa là bạn có thể thay thế các khóa hiện có của mình mà không cần viết lại logic máy khách của bạn.

Xác thực dựa trên một khóa API đơn lẻ. Tạo khóa này qua Lấy khóa API trang bằng Google hoặc mật khẩu email. Hệ thống cấp một khóa API hoạt động duy nhất cho mỗi tài khoản; việc cấp một khóa mới sẽ vô hiệu hóa ngay lập tức khóa trước đó. Hãy giữ khóa này an toàn vì nó kiểm soát tín dụng trả trước của bạn.

Định nghĩa khóa trong Authorization header dưới dạng mã Bearer. Không cần các luồng OAuth phức tạp hoặc cookie phiên cho chính API.

Bạn có thể kiểm tra kết nối ngay lập tức với một lệnh curl đơn giản. Điều này đảm bảo mạng của bạn cho phép lưu lượng HTTPS hướng ra các máy chủ của chúng tôi trước khi bạn xây dựng phần còn lại của ứng dụng.

Điểm cuối chat/completions

Gửi tin nhắn đến POST /v1/chat/completions endpoint. Đây là giao diện tiêu chuẩn cho việc tạo văn bản. Bạn xác định mô hình là uncensored và cung cấp một danh sách các tin nhắn trong thân yêu cầu.

Mỗi tin nhắn yêu cầu một vai trò (system, user, hoặc assistant) và nội dung. Hệ thống xử lý các đầu vào này và trả về phần hoàn thành. Bạn không cần quản lý việc định tuyến mô hình hoặc chọn từ nhiều biến thể; chúng tôi lưu trữ một mô hình trọng lượng mở chuyên dụng được tối ưu hóa cho đầu ra không hạn chế.

Phương pháp này giữ cho mã của bạn đơn giản. Bạn tránh được chi phí quản lý nhiều phiên bản mô hình hoặc xử lý các điểm khác biệt cụ thể của nhà cung cấp. Cấu trúc phản hồi khớp với định dạng OpenAI, đảm bảo tương thích rộng rãi với SDK.

Kiểm tra số dư của bạn thường xuyên. Tín dụng được khấu trừ dựa trên mức sử dụng token thực tế và lỗi không tiêu tốn tín dụng.

Streaming với Server-Sent Events

Đối với trải nghiệm người dùng theo thời gian thực, hãy kích hoạt chế độ streaming bằng cách đặt stream: true trong yêu cầu của bạn. API trả về luồng Sự kiện gửi máy chủ (SSE) thay vì một đối tượng JSON đơn lẻ.

Mỗi chunk sự kiện chứa một phần văn bản được tạo. Bạn có thể hiển thị văn bản này một cách tăng dần trong giao diện người dùng của mình, điều này giúp giảm đáng kể độ trễ cảm nhận đối với người dùng cuối. Chunk cuối cùng trong luồng bao gồm tổng số token đã sử dụng cho yêu cầu.

Tính năng này rất cần thiết cho các giao diện trò chuyện nơi người dùng mong đợi phản hồi ngay lập tức. Nó cho phép ứng dụng của bạn xử lý các phản hồi dài mà không chặn luồng chính.

Triển khai trình lắng nghe sự kiện đơn giản để thu thập các chunk này. Nối chúng lại để tạo thành phản hồi hoàn chỉnh, hoặc hiển thị chúng trực tiếp khi chúng đến.

Function Calling và các công cụ

API hỗ trợ sử dụng công cụ có cấu trúc. Định nghĩa các hàm trong tools mảng trong yêu cầu của bạn. Mô hình sau đó có thể quyết định gọi một hàm dựa trên đầu vào của người dùng.

Khi mô hình tạo ra một lệnh gọi hàm, nó trả về tên hàm và các đối số ở định dạng có cấu trúc. Ứng dụng của bạn thực thi hàm và gửi kết quả trở lại mô hình để có phản hồi cuối cùng.

Khả năng này cho phép các quy trình làm việc phức tạp mà không cần mã hóa logic cứng. Bạn có thể tích hợp các nguồn dữ liệu bên ngoài, máy tính hoặc logic kinh doanh tùy chỉnh trực tiếp vào cuộc trò chuyện.

Đảm bảo các định nghĩa công cụ của bạn chính xác. Mô hình dựa vào các lược đồ này để hiểu định dạng đầu vào và đầu ra dự kiến cho từng hàm.

Cửa sổ ngữ cảnh và giới hạn

Mô hình hỗ trợ cửa sổ ngữ cảnh 100.000 token. Cửa sổ ngữ cảnh này bao gồm cả prompt và completion. Bạn có thể chỉ định độ dài đầu ra tối đa bằng cách sử dụng max_tokens tham số.

Nếu max_tokens chưa được đặt, phản hồi có thể chạy đến hết cửa sổ. Việc đặt giá trị cao hơn cho phép phản hồi dài hơn, lên đến giới hạn 100,000 token. Điều này hữu ích cho việc tạo báo cáo chi tiết hoặc đoạn mã.

Theo dõi các giới hạn tốc độ của bạn cẩn thận. API cho phép 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời cho mỗi khóa. Vượt quá các giới hạn này sẽ dẫn đến lỗi 429.

Kích thước thân yêu cầu bị giới hạn ở 8 MB. Cửa sổ ngữ cảnh lớn tiêu tốn nhiều tín dụng hơn, vì vậy hãy cân bằng nhu cầu bộ nhớ của bạn với ngân sách của bạn.

Xử lý lỗi và Sử dụng token

Xử lý lỗi một cách tinh tế để duy trì trải nghiệm người dùng mượt mà. Lỗi 401 cho biết khóa API không hợp lệ hoặc đã hết hạn. Hãy xác thực lại hoặc tạo khóa mới từ bảng điều khiển của bạn.

Lỗi 402 có nghĩa là số dư trả trước của bạn không đủ. Hãy nạp tiền bằng USDT (TRC20) hoặc USDC (Base) để tiếp tục dịch vụ. Số dư không bao giờ hết hạn, vì vậy bạn có thể thêm tiền bất cứ khi nào thuận tiện.

Lỗi 429 cho biết bạn đã vượt quá giới hạn tốc độ. Hãy triển khai cơ chế tăng dần theo cấp số nhân trong máy khách của bạn để thử lại các yêu cầu tự động. Luôn kiểm tra các tiêu đề phản hồi để biết thông tin về số dư còn lại.

Sử dụng token được báo cáo trong chunk luồng cuối cùng hoặc phản hồi hoàn tất. Sử dụng dữ liệu này để tối ưu hóa prompt và quản lý chi phí hiệu quả.

cURL

Copycurl https://api.loginllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix syntax error in python loop"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.loginllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.loginllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)