Hitelesítés és base URL beállítás
Kezdje egy kulcs generálásával a műszerfalon, és állítsa be az SDK-ját a kijelölt végpontra. Az alap URL a HTTPS://api.claudetoken.cc/v1, amely felülírja a szabványos OpenAI proxy címet a konfigurációjában. Ez az egyetlen módosítás az összes kérést az uncensored (cenzúrázatlan) inference motorunkra irányítja, miközben teljes kompatibilitást biztosít az OpenAI-kompatibilis ügyfelekkel.
- Navigáljon a kulcsgenerálás oldalra, és válassza a Google-fiókos belépést, vagy használjon e-mailt és jelszót.
- Másolja ki az eredményül kapott API kulcsot azonnal, mivel csak egyszer jelenik meg.
- Állítsa be a környezeti változót vagy a konfigurációs objektumot az új alap URL-címre mutatva.
curl https://api.claudetoken.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the total token usage for this prompt"}]
}'Az első chat befejezési kérés küldése
Küldjön egy szabványos chat completion payloadt egy uncensored válasz fogadásához a modelltől. Használja az uncensored modellazonosítót, hogy biztosan a dedikált uncensored súlyokat érje el, nem pedig egy szabványos proxyt. Ez a kérésstruktúra tükrözi a szabványos OpenAI végpontokat, lehetővé téve a szolgáltatók cseréjét az alkalmazás logikájának átírása nélkül.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudetoken.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)A válasz a generált szöveget tartalmazza a choices tömbben. Az uncensored jelleg azonnal ellenőrizhető, ha olyan felnőtt vagy vitatott témákat kér, amelyeket a szabványos modellek elutasítanának.
A hőmérséklet, a top_p és a seed értékek konfigurálása
Az uncensored modell kreativitásának és reprodukálhatóságának szabályozása standard mintavételezési paraméterekkel. A temperature értékének beállításával befolyásolhatja a véletlenszerűséget, míg a top_p korlátozza a nucleus mintavételezési küszöbértéket. A seed beállítása biztosítja, hogy azonos bemenetek azonos kimeneteket eredményezzenek, ami kritikus fontosságú a hibakereséshez vagy a reprodukálható tartalomgeneráláshoz.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudetoken.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Ezek a paraméterek pontosan úgy működnek, mint az OpenAI API-ban. Finomhangolhatod a kimeneti stílust az alacsonyabb hőmérséklet beállításával a determinisztikus válaszokhoz, vagy emelésével a kreatívabb, kevésbé korlátozott szöveggeneráláshoz.
A JSON mód és a funkcióhívás engedélyezése
Strukturálja API-interakcióit programozott használatra a JSON mód engedélyezésével vagy eszközök definiálásával függvényhíváshoz. Állítsa be a response_format értéket json_object-re, hogy a modellt szigorú JSON kimenetre kényszerítse, ami ideális adatok feldolgozásához alkalmazásaiban. Ezenkívül definiálhat függvény-sémákat a kérésben, hogy lehetővé tegye a modell számára specifikus műveletek végrehajtását.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Ez a képesség lehetővé teszi a cenzúrázatlan LLM integrálását automatizált munkafolyamatokba anélkül, hogy aggódnia kellene a formázási hibák miatt. A modell betartja a megadott sémát, biztosítva a megbízható adat-kinyerést az utólagos folyamatokhoz.
Streamelt válaszok és felhasználás kezelése
A tokenok streamelése valós időben történő fogadását teszi lehetővé a Server-Sent Events (SSE) segítségével. Ez a módszer csökkenti az észlelt késést, és lehetővé teszi az uncensored kimenet megjelenítését generálás közben. A stream utolsó csomagja tartalmazza a tokenfelhasználási statisztikákat, amelyeket majd a előleges hitelkeretből levonnak.
A tartalom-szűrőktől nem származó hibák és visszautasítások nem fogyasztanak tokeneket, de a szabványos sebességkorlátok érvényesek. Ez a megközelítés biztosítja, hogy csak a tényleges inferencia-munkáért fizessen, elkerülve a sikertelen kapcsolatok miatti pazarlást.
Az átfutási korlátok és a kontextusablakok megértése
Kövesse a kérelem volumenét a szigorú korlátok ellenére: percenként 300 kérelem és kulcsonként 8 párhuzamos kérelem. A kontextusablak 100,000 tokenből áll a kombinált prompt és completion számára, a maximális kimeneti hossz 16,000 token kérelemenként. Ha nem adja meg a max_tokens értéket, a alap kimeneti limit 2,048 token.
A 429-es hiba azt jelzi, hogy elérte az átfogási limitet, míg a 401-es hiba általában azt jelenti, hogy az API-kulcs érvénytelen vagy lejárt. Győződjön meg arról, hogy a előre fizetett kreditje aktív, hogy elkerülje a 402-es hibát, amely a nem elegendő egyenleget jelzi az inference kéréshez.
