Autentificare și configurare URL de bază
Începeți prin a genera o cheie prin panoul de control și indicați SDK-ul către endpoint-ul designat. URL-ul de bază este HTTPS://api.claudetoken.cc/v1, care înlocuiește adresa standard de proxy OpenAI în configurația dvs. Această singură modificare rutează toate solicitările prin motorul nostru de inferență necenzurat, păstrând în același timp compatibilitatea deplină cu clienții compatibili cu OpenAI.
- Accesați pagina de generare a cheii și selectați Continuați cu Google sau utilizați e-mailul și parola.
- Copiază cheia API rezultată imediat, deoarece este afișată doar o dată.
- Stabilește variabila de mediu sau obiectul de configurare pentru a indica către noua URL de bază.
curl https://api.claudetoken.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the total token usage for this prompt"}]
}'Trimiterea primei tale cereri de completare de chat
Trimiteți un payload standard de completare chat pentru a primi un răspuns uncensored de la model. Utilizați identificatorul modelului uncensored pentru a vă asigura că accesați greutățile dedicate uncensored, în loc de un proxy standard. Această structură de solicitare imită endpoint-urile standard OpenAI, permițându-vă să schimbați furnizorii fără a rescrie logica aplicației dumneavoastră.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudetoken.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Răspunsul va conține textul generat în array-ul de opțiuni. Puteți verifica imediat natura fără cenzură solicitând subiecte adulte sau controversate pe care modelele standard ar putea să le refuze.
Configurarea temperaturii, top_p și seed-urilor
Controlează creativitatea și reproductibilitatea modelului uncensored folosind parametri standard de eșantionare. Ajustează valoarea temperature pentru a influența aleatorietatea, în timp ce top_p limitează pragul de eșantionare nucleu. Setarea unui seed asigură că intrările identice produc ieșiri identice, ceea ce este critic pentru depanare sau generarea de conținut reproductibil.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudetoken.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Acești parametri funcționează exact ca în API-ul OpenAI. Poți ajusta stilul de output scăzând temperatura pentru răspunsuri deterministe sau crescând-o pentru o generare de text mai creativă și mai puțin constraintă.
Activarea modului JSON și a apelării funcțiilor
Structurează interacțiunile cu API-ul pentru utilizare programatică activând modul JSON sau definind tooluri pentru apelarea de funcții. Setează response_format la json_object pentru a forca modelul într-un output JSON strict, ideal pentru analizarea datelor în aplicațiile tale. Poți defini, de asemenea, scheme de funcții în cererea ta pentru a permite modelului să execute acțiuni specifice.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Această capacitate îți permite să integrezi LLM-ul uncensored în fluxuri de lucru automate fără să te îngrijorezi de erorile de formatare. Modelul se conformează la schema furnizată, asigurând extragerea fiabilă a datelor pentru procesele tale downstream.
Gestionarea răspunsurilor de streaming și a utilizării
Activați streaming-ul pentru a primi tokeni în timp real prin Server-Sent Events (SSE). Această metodă reduce latența percepută și vă permite să afișați output-ul uncensored pe măsură ce este generat. Fragmentul final al fluxului conține statisticile de utilizare a tokenilor, care sunt apoi deduse din creditul tău preplătit.
Erorile și refuzurile care nu sunt cauzate de filtrele de conținut nu consumă tokeni, dar se aplică limitele standard de rată. Această abordare asigură că plătești doar pentru munca reală de inferență, evitând risipa pe conexiunile eșuate.
Înțelegerea limitelor de rată și a ferestrelor de context
Monitorați-vă volumul de solicitări împotriva limitelor stricte de 300 de solicitări pe minut și 8 solicitări concurente per cheie. Fereastra de context suportă până la 100,000 de tokeni pentru promptul și completarea combinate, cu o lungime maximă de output de 16,000 de tokeni per solicitare. Dacă nu specificați max_tokens, limita implicită de output este de 2,048 de tokeni.
Eroarea 429 indică faptul că ai atins limita de rată, în timp ce o eroare 401 înseamnă de obicei că cheia API este invalidă sau expirată. Asigură-te că creditul preplătit este activ pentru a evita o eroare 402, care semnalează fonduri insuficiente pentru cererea de inferență.
