Yhdistä 3 rivin koodilla

Perus-URL ja mallin tunnus

Ensimmäinen askel on osoittaa asiakas palvelimellemme. Käytä https://api.openaiapialternatives.com/v1 perusURL-osoitukseksi ja aseta mallin tunnus arvoksi uncensored. Tämä yksittäinen päätepiste käsittelee kaikki keskustelulopetukset ilman ylimääräistä määritystä upotuksille tai äänelle. Voit vahvistaa yhteyden iskemällä malleja-päätepisteeseen vahvistaaksesi järjestelmän olevan aktiivinen ja valmis pyyntöjäsi varten.

Todennusotsikko

Lähetä API-avaimesi Authorization header käyttäen Bearer-skeemaa. Luo avain välittömästi Google- tai sähköpostitilin kautta avainsivulla ilman puhelinnumeroa. Avain antaa pääsyn esimaksatun krediittisi saldoon, joten säilytä se turvassa. Jos menetät sen, luo uusi avain korvaamaan vanha aktiivinen avain välittömästi.

Vakiintunut keskustelun täydennykset

Tee vakio POST-pyyntö osoitteeseen /v1/chat/completions viestijonolla. Mallimme vastaa tekstillä suoraan, tueten parametreja kuten temperature ja top_p hallintaan. Virheet kuten virheellinen avain palauttavat 401, kun taas riittämätön saldo aiheuttaa 402. Käytä JSON-tilaa rakenteisiin tuloksiin tai pidä kiinni tekstimuodosta keskusteluvirtojen osalta.

Streamausvastaukset

Ota streamaus käyttöön asettamalla stream: true pyyntöpayloadissasi. Saat Server-Sent Events (SSE) -lohkoja, kun malli tuottaa tekstiä. Viimeinen lohko sisältää kokonaisten tokenien käytön laskutuksen tarkkuuden varmistamiseksi. Tämä lähestymistapa pitää käyttöliittymäsi responsiivisena odottaessa pitkän muotoisten vastausten tuotantoa uncensored-mallilta.

Funktikutsutyökalut

Määritä työkalut pyyntöön, jotta malli voi tuottaa rakenteellista dataa. Välitä tools tietorakenteella funktiomäärittelyineen, ja malli palauttaa työkalukutsuja tarvittaessa. Voit pakottaa tietyn työkalun käytön tool_choice tai anna mallin päättää. Tämä toiminto toimii saumattomasti standardien OpenAI-SDK:iden kanssa agenttityönkuluissa.

Rajoitukset, virheet ja konteksti

Kontekstikkonisi tukee yhteensä 100 000 tokenia, enimmäistulona 16 000 tokenia pyyntöä kohden. Nopeusrajoitukset rajoittavat sinut 300 pyyntöön minuutissa ja 8 samanaikaiseen pyyntöön avainta kohden. Käsittele 429-virheet käyttämällä eksponentiaalista viiveen kasvattamista. Pyynnöt epäonnistuvat sujuvasti, jos saldo loppuu, ja käyttämätön esimaksusaldo vanhenee koskaan.

cURL

Copycurl https://api.openaiapialternatives.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Translate the following French code comments to English."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternatives.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapialternatives.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)