Todennus ja base URL -asetukset
Aloita avaimen luominen kojelaudan kautta ja osoita SDK:si määritettyyn päätepisteeseen. Perus-URL on HTTPS://api.claudetoken.cc/v1, joka korvaa standardin OpenAI-proxy-osoituksen määrityksessäsi. Tämä yksittäinen muutos ohjaa kaikki pyynnöt läpi puuttumattoman johtokuntamme, säilyttäen täyden yhteensopivuuden OpenAI-yhteensopivien asiakkaiden kanssa.
- Siirry avaimen luontisivulle ja valitse Jatka Googlella tai käytä sähköpostia ja salasanaa.
- Kopioa luotu API-avain välittömästi, koska se näkyy vain kerran.
- Aseta ympäristömuuttuja tai konfiguraatio-olio osoittamaan uuteen base URL:iin.
curl https://api.claudetoken.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the total token usage for this prompt"}]
}'Lähettämällä ensimmäinen chat-completion-pyyntö
Lähetä vakio chat-completion payload saadaksesi suodattamattoman vastauksen mallilta. Käytä mallitunnistetta uncensored varmistaaksesi, että osut omistettuun uncensored-painotukseen eikä standardiin välitykseen. Tämä pyynnön rakenne vastaa vakioita OpenAI-päätepisteitä, mikä mahdollistaa toimittajien vaihdon ilman sovelluslogiikan uudelleenkirjoittamista.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudetoken.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Vastaus sisältää luodun tekstin choices-taulukossa. Voit heti varmistaa avaamattomuuden kysymällä aikuisista tai kiistanalaisista aiheista, jotka standardimallit saattaisivat kieltää.
Lämpötilan, top_p:n ja seedien määrittäminen
Säädä uncensored-mallin luovuutta ja toistettavuutta käyttämällä yleisiä otanta-parametreja. Säädä lämpötila-arvoa vaikuttaaksesi satunnaisuuteen, kun taas top_p rajoittaa ytimenohtan (nucleus sampling) kynnystä. Seedin asettaminen varmistaa, että identtiset syötteet tuottavat identtiset tulokset, mikä on kriittistä debuggausta tai toistettavaa sisällöntuotantoa varten.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudetoken.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Nämä parametrit toimivat täsmälleen kuten OpenAI API:ssa. Voit hienosäätää tuotostyyliä alentamalla lämpötilaa deterministisiin vastauksiin tai nostamalla sitä luovempiin, vähemmän rajoittaviin tekstin tuotantoihin.
JSON-tilan ja toimintokutsujen käyttöönotto
Rakenna API-vuorovaikutuksesi ohjelmoitavaa käyttöä varten mahdollistamalla JSON-tila tai määrittelemällä työkalut funktiokutsuja varten. Aseta response_format arvoon json_object pakottaaksesi mallin tiukkaan JSON-lähtöön, mikä on ihanteellinen datan jäsentämiseen sovelluksissasi. Voit myös määritellä funktioskeemoja pyynnössäsi mahdollistaaksesi mallin suorittamaan tiettyjä toimia.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Tämä ominaisuus mahdollistaa sensuroimattoman LLM:n integroinnin automaattisiin työvuokoihin huolehtimatta muotoiluvirheistä. Malli noudattaa annettua skeemaa, varmistaen luotettavan datan erottelun jälkikäsittelyprosesseja varten.
Striimitettyjen vastausten ja käytön käsittely
Ota käyttöön streamaus, jotta saat tokenit vastaanotettua reaaliajassa Server-Sent Eventsin (SSE) kautta. Tämä menetelmä vähentää koettua viivettä ja mahdollistaa uncensored-tulosten näyttämisen niiden luomisen aikana. Streamin viimeinen palautus sisältää tokenkäyttotilastot, jotka vähennetään esimaksukrediitistäsi.
Virheet ja hylkäykset, jotka eivät johdu sisältösuodattimista, eivät kuluta tokenneja, mutta standardit nopeusrajoitukset pätevät. Tämä lähestymistapa varmistaa, että maksat vain todellisesta päättelytyöstä, välttäen hukkaa epäonnistuneissa yhteyksissä.
Ymmärrä nopeusrajoitukset ja kontekstiikkunat
Seuraa pyyntömäärääsi tiukkojen rajojen, 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä per avain, mukaisesti. Kontesttilaakso tukee jopa 100,000 tokenia yhdistetylle promptille ja tulokselle, ja maksimitulospituus on 16,000 tokenia pyyntöä kohden. Jos et määritä max_tokens-arvoa, oletusarvoinen tulospituusraja on 2,048 tokenia.
Virhe 429 tarkoittaa, että olet ylittänyt nopeusrajoituksen, kun taas virhe 401 tarkoittaa yleensä, että API-avaimesi on virheellinen tai vanhentunut. Varmista, että esimaksukreditiittisi on aktiivinen välttääksesi virheen 402, joka merkitsee riittämättömiä varoja päättelypyyntöön.
