3行のコードで接続

ベースURLとモデルID

最初のステップはクライアントをサーバーに接続することです。 https://api.openaiapialternatives.com/v1 ベースURLとして設定し、モデルIDを uncensoredこの単一エンドポイントは、埋め込みや音声の追加設定を必要とせずにすべてのチャット完了を処理します。modelsエンドポイントにアクセスすることで、システムがアクティブでリクエスト準備が整っていることを確認できます。

認証ヘッダー

APIキーを Authorization Bearerスキームを使用するヘッダー。キーページで電話番号不要のGoogleまたはメールアドレスでキーを即座に生成してください。このキーは前払いクレジット残高へのアクセス権限を与えるため、安全に保管してください。紛失した場合は、古いアクティブなキーを直ちに置き換えるために新しいキーを生成してください。

標準チャットコンプリーション

標準的なPOSTリクエストを /v1/chat/completions メッセージ配列を使用します。当社のモデルはテキストに直接応答し、 temperature および top_p 制御に対して。無効なキーなどのエラーは401を返し、クレジット不足は402をトリガーします。構造化出力にはJSONモードを使用し、会話フローにはプレーンテキストを使用します。

ストリーミングレスポンス

streamをtrueに設定してストリーミングを有効にする stream: true リクエストペイロードに指定します。モデルがテキストを生成する際にServer-Sent Events (SSE)チャンクを受け取ります。最終チャンクには請求の正確さのための総トークン使用量が含まれます。このアプローチにより、uncensoredモデルからの長文の回答を待っている間もUIの応答性を維持できます。

関数呼び出しのツール

構造化データを出力するためにモデルにリクエストにツールを定義します。 tools 関数定義を含む配列とし、モデルは適切な場合にツール呼び出しを返します。特定のツールの使用を強制するには tool_choice またはモデルに判断を委ねます。この機能はエージェントワークフロー用の標準OpenAI SDKとシームレスに連携します。

制限、エラー、コンテキスト

あなたのコンテキストウィンドウは合計100,000トークンをサポートし、リクエストごとの最大出力は16,000トークンです。レートリミットは1分あたり300リクエスト、キーあたり並列8リクエストに制限されます。429エラーには指数バックオフを実装して処理してください。クレジットが尽きた場合、リクエストは正常に失敗し、未使用の前払いクレジットは期限切れになりません。

cURL

Copycurl https://api.openaiapialternatives.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Translate the following French code comments to English."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternatives.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapialternatives.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ストリーミング

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)