הגדרת כתובת הבסיס ואימות
התחל על ידי יצירת מפתח דרך הדשבורד והכוון את ה-SDK שלך לנקודת הקצה המיועדת. כתובת הבסיס היא HTTPS://api.claudetoken.cc/v1, שמחליפה את כתובת הפרוקסי הסטנדרטית של OpenAI בתצורה שלך. שינוי יחיד זה מפנה את כל הבקשות למנוע ה-Inference הלא-צנזור שלנו תוך שמירה על תאימות מלאה עם לקוחות OpenAI-compatible.
- נווטו לדף יצירת המפתח ובחרו בהמשך עם Google או השתמשו באימייל וסיסמה.
- העתק את מפתח ה-API המתקבל מיד, שכן הוא מוצג רק פעם אחת.
- הגדר את משתנה הסביבה או את אובייקט התצורה כדי להפנות לכתובת הבסיס החדשה.
curl https://api.claudetoken.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the total token usage for this prompt"}]
}'שליחת בקשת השלמת הצ'אט הראשונה שלך
שלח פלט סטנדרטי להשלחת צ'אט כדי לקבל תשובה ללא סינון מהמודל. השתמש במזהה המודל uncensored כדי לוודא שאתה פוגש את המשקלים הייעודיים ל-uncensored ולא proxy סטנדרטי. מבנה בקשה זה משקף נקודות קצה סטנדרטיות של OpenAI, ומאפשר לך להחליף ספקים ללא כתיבת מחדש של לוגיקת היישום שלך.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudetoken.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)התגובה תכיל את הטקסט שנוצר במערך choices. ניתן לאמת מיד את אופי המודל ללא הצנזורה על ידי שאלה על נושאים בוגרים או שנויים במחלוקת שמודלים סטנדרטיים עשויים לסרב.
הגדרת טמפרטורה, top_p וזרעים
שלוו את היצירתיות והניתנות לשחזור של המודל ה-uncensored באמצעות פרמטרי דגימה סטנדרטיים. התאימו את ערך הטמפרטורה כדי להשפיע על האקראיות, בעוד ש-top_p מגביל את סף דגימת הגרעין. הגדרת seed מבטיחה שקלטים זהים יייצרו פלטות זהות, מה שחיוני לפתרון באגים או ליצירת תוכן בעל ניתנות לשחזור.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudetoken.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);פרמטרים אלו עובדים בדיוק כמו ב-OpenAI API. ניתן לעדן את סגנון הפלט על ידי הורדת הטמפרטורה לתגובות דטרמיניסטיות או העלאתה ליצירת טקסט יותר יצירתי ופחות מוגבל.
הפעלת מצב JSON ו-Function Calling
מבנה את אינטראקציות ה-API שלך לשימוש תכנותי על ידי הפעלת מצב JSON או הגדרת כלים לקריאת פונקציות. הגדר את response_format ל-json_object כדי לאלץ את המודל לפלט JSON קפדני, מה אידיאלי לניתוח נתונים באפליקציות שלך. אתה יכול גם להגדיר סכמות פונקציות בבקשה שלך כדי לאפשר למודל לבצע פעולות ספציפיות.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)יכולת זו מאפשרת לכם לשלב את ה-LLM ללא צנזור בתהליכי עבודה אוטומטיים ללא חשש מטעויות פורמט. המודל נאמן לסכמה שסופקה, מה שמבטיח חילוץ נתונים אמין לתהליכים הבאים.
טיפול בתגובות זרם וצריכה
אפשרו זרם כדי לקבל אסימונים בזמן אמת באמצעות אירועים שנשלחים מהשרת (SSE). שיטה זו מקטין את השהייה התפוסה ומאפשרת לכם להציג את הפלט ללא צנזורה ככל שהוא נוצר. החלק הסופי של הזרם מכיל את סטטיסטיקות שימוש האסימונים, אשר מנוכסים מאזון ההטבה המוקדם שלכם.
שגיאות וסירובים שאינם עקסי מסנני תוכן אינם צורכים טוקנים, אך חלים מגבלות קצב סטנדרטיות. גישה זו מבטיחה שאתה משלם רק על עבודת היסק אמיתית, ומונע בזבוז על חיבורים כושלים.
הBנת מגבלות קצב וחלונות הקשר
נטר את נפח הבקשות שלך מול המגבלות המחמירות של 300 בקשות לדקה ו-8 בקשות מקבילות לכל מפתח. חלון ההקשר תומך בעד 100,000 טוקנים עבור הפרומפט וההשלמה המשולבים, עם אורך פלט מרבי של 16,000 טוקנים לכל בקשה. אם לא תציין max_tokens, מגבלת הפלט המובנית היא 2,048 טוקנים.
שגיאת 429 מציינת שחרגת ממגבלת הקצב, בעוד ששגיאת 401 מציינת בדרך כלל שהמפתח שלך לא תקין או פג תוקף. ודא שהקרדיט המוקדם שלך פעיל כדי להימנע משגיאת 402, המציינת אי-סufficiency של כספים לבקשת ה-Inference.
