Аутентификация и установка базового URL
Начните с генерации ключа через панель управления и укажите SDK на соответствующий конечный пункт. Базовый URL — HTTPS://api.claudetoken.cc/v1, который заменяет стандартный адрес прокси OpenAI в вашей конфигурации. Это единственное изменение направляет все запросы через наш движок инференса без цензуры, сохраняя полную совместимость с клиентами, совместимыми с OpenAI.
- Перейдите на страницу генерации ключа и выберите «Продолжить с Google» или используйте электронную почту и пароль.
- Copy the resulting API key immediately, as it is shown only once.
- Установите переменную окружения или объект конфигурации, указав новый базовый URL.
curl https://api.claudetoken.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the total token usage for this prompt"}]
}'Отправка вашего первого запроса на завершение чата
Отправьте стандартный полезный запрос chat completion для получения нефильтрованного ответа от модели. Используйте идентификатор модели uncensored, чтобы убедиться, что вы обращаетесь к выделенным весам uncensored, а не к стандартному прокси. Эта структура запроса зеркально отражает стандартные конечные пункты OpenAI, позволяя вам менять провайдеров без переписывания логики приложения.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudetoken.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Ответ будет содержать сгенерированный текст в массиве choices. Вы можете сразу проверить отсутствие цензуры, запросив темы для взрослых или спорные вопросы, которые стандартные модели могут отклонить.
Настройка temperature, top_p и seeds
Управляйте креативностью и воспроизводимостью uncensored модели с помощью стандартных параметров выборки. Регулируйте значение temperature, чтобы влиять на случайность, в то время как top_p ограничивает порог выборки по ядру. Установка seed гарантирует, что идентичные входные данные дают идентичные результаты, что критично для отладки или воспроизводимой генерации контента.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudetoken.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Эти параметры работают точно так же, как в API OpenAI. Вы можете тонко настраивать стиль вывода, снижая температуру для детерминированных ответов или повышая ее для более креативной и менее ограниченной генерации текста.
Включение режима JSON и вызова функций
Структурируйте взаимодействия с API для программной обработки, включив режим JSON или определив инструменты для вызова функций. Установите response_format в json_object, чтобы принудительно задать модели строгий вывод в формате JSON, что идеально подходит для разбора данных в ваших приложениях. Вы также можете определить схемы функций в запросе, чтобы позволить модели выполнять определённые действия.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Эта возможность позволяет вам интегрировать uncensored LLM в автоматизированные рабочие процессы без беспокойства об ошибках форматирования. Модель придерживается предоставленной схемы, обеспечивая надежное извлечение данных для ваших последующих процессов.
Обработка потоковых ответов и использования
Включите потоковую передачу, чтобы получать токены в реальном времени через события, отправляемые сервером (SSE). Этот метод снижает воспринимаемую задержку и позволяет отображать uncensored вывод по мере его генерации. Последний чанк потока содержит статистику использования токенов, которая затем вычитается из вашего предоплаченного кредита.
Ошибки и отказы, не связанные с фильтрами контента, не消耗 токены, но применяются стандартные ограничения частоты запросов. Такой подход гарантирует, что вы платите только за фактическую работу инференса, избегая трат на неудачные соединения.
Понимание ограничений частоты запросов и контекстных окон
Следите за объемом запросов в рамках строгих лимитов: 300 запросов в минуту и 8 одновременных запросов на ключ. Размер контекстного окна поддерживает до 100,000 токенов для объединенного промпта и завершения, с максимальной длиной вывода 16,000 токенов на запрос. Если вы не указываете max_tokens, лимит вывода по умолчанию составляет 2,048 токенов.
Ошибка 429 указывает на достижение лимита частоты запросов, тогда как ошибка 401 обычно означает, что ваш API-ключ недействителен или истёк. Убедитесь, что ваш предоплаченный баланс активен, чтобы избежать ошибки 402, которая означает недостаточность средств для запроса на инференс.
