Налаштування автентифікації та базового URL
Почніть із генерації ключа через панель керування та вказівки вашого SDK на відповідний кінцевий пункт. Базова URL-адреса — HTTPS://api.claudetoken.cc/v1, яка замінює стандартну адресу проксі OpenAI у вашій конфігурації. Ця єдина зміна маршрутизує всі запити через наш інженер без цензури, зберігаючи повну сумісність із клієнтами, сумісними з OpenAI.
- Перейдіть на сторінку генерації ключів та оберіть «Увійти через Google» або введіть електронну пошту та пароль.
- Скопіюйте отриманий API-ключ одразу, оскільки він показується лише один раз.
- Встановіть змінну середовища або об’єкт конфігурації, щоб вказати новий базовий URL.
curl https://api.claudetoken.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the total token usage for this prompt"}]
}'Надсилання вашого першого запиту на завершення чату
Надішліть стандартний запит chat completion для отримання невідфільтрованої відповіді від моделі. Використовуйте ідентифікатор моделі uncensored, щоб переконатися, що ви звертаєтеся до виділених ваг uncensored, а не до стандартного проксі. Ця структура запиту імітує стандартні кінцеві пункти OpenAI, дозволяючи вам змінювати постачальників без переписування логіки вашої програми.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudetoken.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Відповідь міститиме згенерований текст у масиві choices. Ви можете миттєво перевірити нецензурований характер, запитавши про дорослі або суперечливі теми, які стандартні моделі можуть відхилити.
Налаштування temperature, top_p та seed
Керуйте креативністю та відтворюваністю uncensored моделі за допомогою стандартних параметрів вибірки. Налаштуйте значення temperature, щоб вплинути на випадковість, тоді як top_p обмежує поріг вибірки nucleus. Встановлення seed гарантує, що ідентичні входи дають ідентичні результати, що є критично важливим для налагодження або генерації відтворюваного контенту.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudetoken.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Ці параметри працюють так само, як і в API OpenAI. Ви можете тонко налаштувати стиль виводу, знизивши температуру для детермінованих відповідей або підвищивши її для більш креативної, менш обмеженої генерації тексту.
Увімкнення режиму JSON та виклику функцій
Налаштуйте свої API-взаємодії для програмного використання, увімкнувши режим JSON або визначивши інструменти для виклику функцій. Встановіть response_format у json_object, щоб примусити модель до суто виводу JSON, що ідеально підходить для парсингу даних у ваших додатках. Ви також можете визначити схеми функцій у своєму запиті, щоб дозволити моделі виконувати конкретні дії.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Ця можливість дозволяє інтегрувати uncensored LLM у автоматизовані робочі процеси без турбот про помилки форматування. Модель дотримується наданої схеми, забезпечуючи надійне витягування даних для ваших подальших процесів.
Обробка потокових відповідей та використання
Увімкніть потокову передачу, щоб отримувати токени в реальному часі через події, що надсилаються сервером (SSE). Цей метод зменшує сприйняту затримку та дозволяє відображати нецензурований вивід по мірі його генерації. Останній фрагмент потоку містить статистику використання токенів, яка потім списується з вашого передоплаченого кредитного балансу.
Помилки та відмови, які не пов’язані з фільтрами контенту, не споживають токени, але застосовуються стандартні ліміти швидкості. Цей підхід гарантує, що ви платите лише за фактичну роботу інференсу, уникаючи марнування на невдалі з’єднання.
Розуміння обмежень швидкості та вікон контексту
Моніторьте обсяг запитів суворими лімітами 300 запитів на хвилину та 8 одночасних запитів на ключ. Контекстне вікно підтримує до 100,000 токенів для поєднаного запиту та відповіді, з максимальною довжиною виходу 16,000 токенів на запит. Якщо ви не вказали max_tokens, типовий ліміт виходу становить 2,048 токенів.
Помилка 429 вказує на перевищення ліміту швидкості, тоді як помилка 401 зазвичай означає, що ваш API-ключ недійсний або прострочений. Переконайтеся, що ваш попередньо оплачений кредит активний, щоб уникнути помилки 402, яка сигналізує про недостатність коштів для запиту на інференс.
