प्रमाणीकरण और बेस URL सेटअप
डैशबोर्ड के माध्यम से एक कुंजी जनरेट करें और अपने SDK को निर्दिष्ट एंडपॉइंट की ओर इशारा करें। बेस URL HTTPS://api.claudetoken.cc/v1 है, जो आपकी कॉन्फ़िगरेशन में मानक OpenAI प्रॉक्सी पता को बदल देता है। यह एकल परिवर्तन सभी अनुरोधों को हमारे अनसेंसर्ड इनफ़रेंस इंजन के माध्यम से रूट करता है जबकि OpenAI-संगत क्लाइंट्स के साथ पूर्ण संगतता बनाए रखता है।
- कुंजी जनरेशन पेज पर जाएं और Google के साथ जारी रखें या ईमेल और पासवर्ड का उपयोग करें।
- परिणामी API key को तुरंत कॉपी करें, क्योंकि इसे केवल एक बार दिखाया जाता है।
- पर्यावरण चर या कॉन्फ़िगरेशन ऑब्जेक्ट को नए बेस URL की ओर इशारा करने के लिए सेट करें।
curl https://api.claudetoken.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the total token usage for this prompt"}]
}'
अपनी पहली चैट कंप्लीशन रिक्वेस्ट भेजना
मॉडल से uncensored प्रतिक्रिया प्राप्त करने के लिए एक मानक चैट कंप्लीशन पेलोड भेजें। सुनिश्चित करें कि आप समर्पित uncensored वेट्स को हिट कर रहे हैं, न कि एक मानक प्रॉक्सी को, मॉडल पहचानकर्ता uncensored का उपयोग करें। यह रिक्वेस्ट संरचना मानक OpenAI एंडपॉइंट्स को दर्शाती है, जिससे आपको अपने एप्लिकेशन लॉजिक को फिर से लिखे बिना प्रदाताओं को बदलने की अनुमति मिलती है।
from openai import OpenAI
client = OpenAI(base_url="https://api.claudetoken.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)प्रतिक्रिया में चयनों (choices) सरणी में उत्पन्न टेक्स्ट शामिल होगा। आप अनसेंसर्ड प्रकृति की तुरंत जांच कर सकते हैं कि मानक मॉडल अक्सर अस्वीकार कर देने वाले वयस्क या विवादास्पद विषयों के लिए पूछकर।
तापमान, top_p, और सीड कॉन्फ़िगर करना
मानक सैंपलिंग पैरामीटर का उपयोग करके uncensored मॉडल की रचनात्मकता और पुनरुत्पादकता को नियंत्रित करें। यादृच्छिकता को प्रभावित करने के लिए तापमान मान को समायोजित करें, जबकि top_p न्यूक्लियस सैंपलिंग थ्रेशोल्ड को सीमित करता है। एक seed सेट करने से यह सुनिश्चित होता है कि समान इनपुट समान आउटपुट उत्पन्न करते हैं, जो डिबगिंग या पुनरुत्पादक सामग्री जनरेशन के लिए महत्वपूर्ण है।
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudetoken.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);ये पैरामीटर बिल्कुल वैसे ही काम करते हैं जैसे OpenAI API में करते हैं। आप निर्धारणात्मक रिस्पॉन्स के लिए टेम्परेचर कम करके या अधिक रचनात्मक, कम प्रतिबंधित टेक्स्ट जनरेशन के लिए इसे बढ़ाकर आउटपुट शैली को फाइन-ट्यून कर सकते हैं।
JSON मोड और फ़ंक्शन कॉलिंग सक्षम करना
प्रोग्रामेटिक उपयोग के लिए अपनी API इंटरैक्शन को संरचित करें, JSON मोड सक्षम करके या फ़ंक्शन कॉलिंग के लिए टूल्स परिभाषित करके। response_format को json_object पर सेट करें ताकि मॉडल को कठोर JSON आउटपुट में मजबूर किया जा सके, जो आपके एप्लिकेशन में डेटा पार्स करने के लिए आदर्श है। आप अपने अनुरोध में फ़ंक्शन स्कीमा भी परिभाषित कर सकते हैं ताकि मॉडल विशिष्ट क्रियाओं को निष्पादित कर सके।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)यह क्षमता आपको uncensored LLM को फॉर्मेटिंग त्रुटियों के बारे में चिंता किए बिना स्वचालित वर्कफ़्लो में एकीकृत करने की अनुमति देती है। मॉडल प्रदान किए गए स्कीमा का पालन करता है, जिससे आपके डाउनस्ट्रीम प्रक्रियाओं के लिए विश्वसनीय डेटा एक्सट्रैक्शन सुनिश्ित होता है।
स्ट्रीमिंग रिस्पॉन्सेस और यूज़ेज हैंडल करना
स्ट्रीमिंग को सक्षम करें ताकि टोकन सर्वर-सेंट इवेंट्स (SSE) के माध्यम से रियल-टाइम पर प्राप्त हो सकें। इस विधि से प्रतीत होने वाली विलंबता कम होती है और आपको uncensored आउटपुट को जनरेट होते ही प्रदर्शित करने की अनुमति मिलती है। स्ट्रीम का अंतिम चंक टोकन उपयोग सांख्यिकी शामिल करता है, जिन्हें फिर आपके प्रीपेड क्रेडिट से काटा जाता है।
त्रुटियां और अस्वीकृतियां जो सामग्री फिल्टर के कारण नहीं हैं, वे टोकनों का उपभोग नहीं करतीं, लेकिन मानक दर सीमाएं लागू होती हैं। यह दृष्टिकोण सुनिश्चित करता है कि आप केवल वास्तविक इनफरेंस वर्क के लिए भुगतान करें, विफल कनेक्शन पर बर्बादी से बचते हुए।
रेट सीमाओं और कॉन्टेस्ट विंडो को समझना
अपने अनुरोध वॉल्यूम को 300 अनुरोध प्रति मिनट और प्रति कुंजी 8 समवर्ती अनुरोधों की कठोर सीमाओं के खिलाफ निगरानी करें। संदर्भ विंडो संयुक्त प्रॉम्प्ट और पूर्णता के लिए 100,000 टोकन तक का समर्थन करती है, जिसमें प्रत्येक अनुरोध के लिए अधिकतम आउटपुट लंबाई 16,000 टोकन है। यदि आप max_tokens निर्दिष्ट नहीं करते हैं, तो डिफ़ॉल्ट आउटपुट सीमा 2,048 टोकन है।
429 त्रुटि संकेत देती है कि आपने रेट लिमिट को छू लिया है, जबकि 401 त्रुटि आमतौर पर संकेत देती है कि आपकी API कुंजी अमान्य या समाप्त हो गई है। 402 त्रुटि से बचने के लिए सुनिश्चित करें कि आपका पूर्वभुगतान क्रेडिट सक्रिय है, जो इनफरेंस अनुरोध के लिए अपर्याप्त फंड को दर्शाती है।