Uwierzytelnianie i konfiguracja URL bazowego
Zacznij od wygenerowania klucza przez panel i wskazania Twojego SDK na wyznaczony punkt końcowy. Podstawowy adres URL to HTTPS://api.claudetoken.cc/v1, który zastępuje standardowy adres proxy OpenAI w Twojej konfiguracji. Ta pojedyncza zmiana kieruje wszystkie żądania przez nasz silnik wnioskowania bez cenzury, zachowując pełną kompatybilność z klientami kompatybilnymi z OpenAI.
- Przejdź do strony generowania klucza i wybierz Kontynuuj z Google lub użyj adresu e-mail i hasła.
- Skopiuj wynikowy klucz API natychmiast, ponieważ jest wyświetlany tylko raz.
- Ustaw zmienną środowiskową lub obiekt konfiguracji, aby wskazać nowy adres bazowy URL.
curl https://api.claudetoken.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the total token usage for this prompt"}]
}'Wysyłanie twojego pierwszego żądania chat completion
Standardowy payload chat completion, aby otrzymać niefiltrowaną odpowiedź od modelu. Użyj identyfikatora modelu uncensored, aby upewnić się, że trafasz do dedykowanych wag uncensored, a nie do standardowego proxy. Ta struktura żądania odzwierciedla standardowe endpointy OpenAI, pozwalając na wymianę dostawców bez przepisywania logiki aplikacji.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudetoken.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Odpowiedź będzie zawierać wygenerowany tekst w tablicy choices. Możesz natychmiast zweryfikować charakter bez cenzury, pytając o tematy dla dorosłych lub kontrowersyjne, które standardowe modele mogą odrzucić.
Konfigurowanie temperatury, top_p i seedów
Kontroluj kreatywność i powtarzalność modelu uncensored za pomocą standardowych parametrów próbkowania. Dostosuj wartość temperature, aby wpłynąć na losowość, podczas gdy top_p ogranicza próg próbkowania jądra. Ustawienie seed zapewnia, że identyczne wejścia generują identyczne wyjścia, co jest krytyczne przy debugowaniu lub generowaniu treści wymagających powtarzalności.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudetoken.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Te parametry działają dokładnie tak samo jak w API OpenAI. Możesz dostrajać styl wyjścia, obniżając temperaturę dla odpowiedzi deterministycznych lub podnosząc ją dla bardziej kreatywnego, mniej ograniczonego generowania tekstu.
Włączanie trybu JSON i wywoływania funkcji
Zstrukturuj swoje interakcje API do użytku programistycznego, włączając tryb JSON lub definiując narzędzia do wywoływania funkcji. Ustaw response_format na json_object, aby wymusić na modelu ścisły output JSON, co jest idealne do parsowania danych w Twoich aplikacjach. Możesz również zdefiniować schematy funkcji w swoim żądaniu, aby umożliwić modelowi wykonywanie konkretnych akcji.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Ta możliwość pozwala Ci zintegrować LLM bez cenzury z automatycznymi przepływami pracy bez obaw o błędy formatowania. Model przestrzega dostarczonego schematu, zapewniając niezawodne wyodrębnianie danych dla Twoich procesów downstream.
Obsługa odpowiedzi strumieniowych i użycia
Włącz strumieniowanie, aby otrzymywać tokeny w czasie rzeczywistym za pomocą zdarzeń wysyłanych serwerowo (SSE). Ta metoda zmniejsza postrzeganą opóźnienie i pozwala wyświetlać wynik uncensored w miarę jego generowania. Ostatni fragment strumienia zawiera statystyki zużycia tokenów, które są następnie pobierane z Twojego konta z góry opłaconego.
Błędy i odrzucenia, które nie wynikają z filtrów treści, nie zużywają tokenów, ale obowiązują standardowe limity szybkości. To podejście zapewnia, że płacisz tylko za rzeczywistą pracę wnioskowania, unikając marnotrawstwa na nieudanych połączeniach.
Zrozumienie limitów szybkości i okien kontekstowych
Monitoruj objętość zapytań względem ścisłych limitów 300 zapytań na minutę i 8 równoległych zapytań na klucz. Okno kontekstowe obsługuje do 100,000 tokenów dla połączonego promptu i uzupełnienia, z maksymalną długością danych wyjściowych 16,000 tokenów na żądanie. Jeśli nie określisz max_tokens, domyślny limit danych wyjściowych wynosi 2,048 tokenów.
Błąd 429 oznacza, że przekroczyłeś limit szybkości, podczas gdy błąd 401 zwykle oznacza, że Twój klucz API jest nieprawidłowy lub wygasł. Upewnij się, że Twój kredyt pre-paidowy jest aktywny, aby uniknąć błędu 402, który oznacza niewystarczające środki na żądanie wnioskowania.
