Edellytykset: Asenna OpenAI-SDK
Aloita asentamalla virallinen OpenAI SDK kielellesi. Tämä kirjasto käsittelee todennuksen, uudelleenyritykset ja JSON-jäsennyksen, joten sinun ei tarvitse kirjoittaa HTTP-asiakasohjelmia alusta alkaen. APIomme käyttää samoja vakiokäyttöliittymiä kuin alkuperäinen palvelu, mikä tarkoittaa, että olemassa oleva koodilogiikkasi pysyy ennallaan.
Tarvitset vain kelvollisen Python- tai Node.js-ympäristön. SDK hoittaa raskaan työn puolestasi.
- Python:
pip install openai - Node.js:
npm install openai
Määritä perus-URL-osoitteesi ja API-avaimesi
Osoita asiakkaasi omalle päätepisteelle. Korvaa oletusperusosoite omalla tietyn domainillamme ohjataksesi liikenteen sensuroimattomiin malleihimme. Sinun on myös annettava API-avaimesi hallintapaneelista.
Tämä vaihe eristää pyyntösi muilta toimittajilta. Varmista, että käytät alla annettua tarkkaa base URL -osoitetta.
from openai import OpenAI
client = OpenAI(base_url="https://api.unrestrictedaigpt.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.unrestrictedaigpt.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Tee ensimmäinen POST /v1/chat/completions -pyyntösi
Lähetä tavallinen chat-valmiuspyyntö. Käytä mallin tunnistetta uncensored varmistamaan, että saat oikean mallin. API hyväksyy vakio-parametrit kuten temperature ja max_tokens.
curl https://api.unrestrictedaigpt.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Run python script to sort list numerically"}]
}'Vastaus sisältää luodun tekstin. Jos sinun täytyy käsitellä virheitä, tarkista tilakoodi.
Käsittele streamausvastaukset SSE:n kautta
Ota streamaus käyttöön asettamalla stream: true. Tämä palauttaa Server-Sent Events -virtauksen. Käsittele jokaista palaa sen saapuessa, mikä vähentää havaittua viivettä pitkissä tulosteissa.
Viimeinen palikka sisältää token-käyttötilastot. Tämä mahdollistaa kustannusten seurannan reaaliajassa.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Ota käyttöön työkalukutsut ja JSON-tila
Käytä tools parametri, joka ottaa käyttöön funktiokutsun. Määrittele funktion skeemasi ja anna mallin päättää, milloin sitä kutsutaan. Voit myös pakottaa JSON-tulosteen käyttämällä response_format tiukkoihin datarakenteisiin.
Molemmat ominaisuudet toimivat täsmälleen samoin kuin standardissa OpenAI API:ssa.
Rajoitukset, virheet ja kontekstiikkuna
APIemme asettaa tiukat rajat varmistamaan vakauden. Saat 100,000 tokenin kontekstiikkunan. Maksimitulostus pyyntöä kohden on 16,000 tokenia. Sinulla on oikeus tehdä 300 pyyntöä minuutissa. 401-virhe tarkoittaa, että avaimesi on virheellinen. 402-virhe tarkoittaa, että sinulla ei ole saldoa. 429-virhe tarkoittaa, että olet ylittänyt nopeusrajan. Virheet ja hylkäykset eivät kuluta saldoa.
