Kết nối trong 3 dòng mã

Base URL và ID Mô hình

Bước đầu tiên của bạn là trỏ khách hàng của bạn vào máy chủ của chúng tôi. Sử dụng https://api.openaiapialternatives.com/v1 như URL cơ sở và đặt ID mô hình thành uncensored. Điểm cuối đơn lẻ này xử lý tất cả các hoàn tất hội thoại mà không yêu cầu cấu hình bổ sung cho embeddings hay âm thanh. Bạn có thể xác minh kết nối bằng cách truy cập điểm cuối models để xác nhận hệ thống đang hoạt động và sẵn sàng cho các yêu cầu của bạn.

Header Xác thực

Gửi khóa API của bạn trong Authorization header sử dụng lược đồ Bearer. Tạo khóa của bạn ngay lập tức qua Google hoặc email trên trang khóa mà không cần số điện thoại. Khóa này cấp quyền truy cập vào số dư tín dụng trả trước của bạn, vì vậy hãy giữ nó an toàn. Nếu bạn làm mất nó, hãy tạo một khóa mới để thay thế khóa đang hoạt động cũ ngay lập tức.

Hoàn thành Trò chuyện Tiêu chuẩn

Thực hiện yêu cầu POST tiêu chuẩn đến /v1/chat/completions với mảng thông điệp của bạn. Mô hình của chúng tôi trả về văn bản trực tiếp, hỗ trợ các tham số như temperature và top_p để kiểm soát. Lỗi như khóa không hợp lệ trả về 401, trong khi không đủ tín dụng kích hoạt 402. Sử dụng chế độ JSON cho các đầu ra có cấu trúc hoặc giữ nguyên văn bản thô cho các luồng hội thoại.

Phản hồi luồng

Bật phát trực tiếp bằng cách đặt stream: true trong phần tải trọng yêu cầu. Bạn nhận được các chunk Server-Sent Events (SSE) khi mô hình tạo văn bản. Chunk cuối cùng chứa tổng số token sử dụng để đảm bảo tính chính xác khi tính phí. Cách tiếp cận này giữ cho giao diện người dùng của bạn phản hồi trong khi chờ đợi các câu trả lời dạng dài từ mô hình không kiểm duyệt.

Công cụ Function Calling

Định nghĩa các công cụ trong yêu cầu của bạn để cho phép mô hình xuất dữ liệu có cấu trúc. Truyền tools mảng với các định nghĩa hàm, và mô hình sẽ trả về các lệnh gọi công cụ khi thích hợp. Bạn có thể buộc sử dụng công cụ cụ thể với tool_choice hoặc để mô hình quyết định. Tính năng này hoạt động liền mạch với các SDK OpenAI tiêu chuẩn cho các quy trình làm việc agent.

Giới hạn, Lỗi và Ngữ cảnh

Cửa sổ ngữ cảnh của bạn hỗ trợ 100.000 token tổng cộng, với đầu ra tối đa là 16.000 token cho mỗi yêu cầu. Giới hạn tốc độ giới hạn bạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời cho mỗi khóa. Xử lý lỗi 429 bằng cách triển khai backoff theo cấp số nhân. Yêu cầu thất bại một cách khéo léo nếu tín dụng hết, và tín dụng trả trước chưa sử dụng không bao giờ hết hạn.

cURL

Copycurl https://api.openaiapialternatives.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Translate the following French code comments to English."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternatives.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapialternatives.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)