Authentication and base URL setup
เริ่มต้นด้วยการสร้างคีย์ผ่านแดชบอร์ดและชี้ SDK ของคุณไปยัง endpoint ที่กำหนด base URL คือ HTTPS://api.claudetoken.cc/v1 ซึ่งแทนที่ที่อยู่ proxy OpenAI มาตรฐานในการกำหนดค่าของคุณ การเปลี่ยนแปลงเพียงอย่างเดียวนี้จะกำหนดเส้นทางคำขอทั้งหมดผ่านเครื่องอนุมาน uncensored ของเราขณะที่ยังคงความเข้ากันได้เต็มรูปแบบกับไคลเอนต์ที่เข้ากันได้กับ OpenAI
- ไปที่หน้าการสร้างคีย์แล้วเลือกดำเนินการต่อด้วย Google หรือใช้อีเมลและรหัสผ่าน
- คัดลอกคีย์ API ที่ได้มาทันที เนื่องจากจะแสดงเพียงครั้งเดียว
- ตั้งค่าตัวแปรสภาพแวดล้อมหรือวัตถุการกำหนดค่าเพื่อชี้ไปยัง URL ฐานใหม่
curl https://api.claudetoken.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the total token usage for this prompt"}]
}'
การส่ง chat completion request ครั้งแรกของคุณ
ส่งแพย์โหลด chat completion มาตรฐานเพื่อรับคำตอบที่ไม่มีการกรองจากโมเดล ใช้ตัวระบุโมเดล uncensored เพื่อให้แน่ใจว่าคุณเข้าถึงน้ำหนัก uncensored เฉพาะทางแทนพร็อกซีมาตรฐาน โครงสร้างคำขอนี้สะท้อนเอนด์พอยต์มาตรฐานของ OpenAI ทำให้คุณสามารถเปลี่ยนผู้ให้บริการได้โดยไม่ต้องเขียนตรรกะแอปพลิเคชันใหม่
from openai import OpenAI
client = OpenAI(base_url="https://api.claudetoken.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)การตอบกลับจะประกอบด้วยข้อความที่สร้างขึ้นในอาร์เรย์ choices คุณสามารถตรวจสอบลักษณะไร้เซ็นเซอร์ได้ทันทีโดยถามคำถามเกี่ยวกับผู้ใหญ่หรือหัวข้อที่ถกเถียงซึ่งโมเดลมาตรฐานอาจปฏิเสธ
กำลังกำหนดค่า temperature, top_p และ seeds
ควบคุมความสร้างสรรค์และความสามารถในการทำซ้ำของโมเดล uncensored โดยใช้พารามิเตอร์การสุ่มมาตรฐาน ปรับค่า temperature เพื่อส่งผลต่อความสุ่ม ในขณะที่ top_p จำกัดเกณฑ์การสุ่มแบบ nucleus การตั้งค่า seed รับประกันว่าอินพุตที่เหมือนกันจะผลิตผลลัพธ์ที่เหมือนกัน ซึ่งสำคัญต่อการแก้ไขข้อบกพร่องหรือการสร้างเนื้อหาที่สามารถทำซ้ำได้
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudetoken.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);พารามิเตอร์เหล่านี้ทำงานเหมือนกับ API ของ OpenAI คุณสามารถปรับแต่งสไตล์เอาท์พุตโดยลดอุณหภูมิสำหรับการตอบสนองที่กำหนดได้ หรือเพิ่มมันสำหรับการสร้างข้อความที่สร้างสรรค์และจำกัดน้อยลง
เปิดใช้งานโหมด JSON และการเรียกใช้ฟังก์ชัน
จัดโครงสร้างการโต้ตอบ API สำหรับการใช้งานแบบโปรแกรมโดยการเปิดใช้งานโหมด JSON หรือกำหนดเครื่องมือสำหรับการเรียกฟังก์ชัน ตั้งค่า response_format เป็น json_object เพื่อบังคับให้โมเดลสร้างผลลัพธ์ JSON ที่เข้มงวด ซึ่งเหมาะสำหรับการวิเคราะห์ข้อมูลในแอปพลิเคชันของคุณ คุณยังสามารถกำหนดสคีมาฟังก์ชันในคำขอเพื่อให้โมเดลดำเนินการการกระทำเฉพาะได้
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)ความสามารถนี้ช่วยให้คุณผสานรวม LLM แบบไม่มีเซนเซอร์เข้ากับเวิร์กโฟลว์อัตโนมัติโดยไม่ต้องกังวลเกี่ยวกับข้อผิดพลาดในการจัดรูปแบบ โมเดลปฏิบัติตามสคีมาที่จัดเตรียมไว้ เพื่อให้แน่ใจว่าการดึงข้อมูลที่น่าเชื่อถือสำหรับกระบวนการ downstream ของคุณ
การจัดการการตอบกลับแบบสตรีมและการใช้งาน
เปิดใช้งานการสตรีมเพื่อรับโทเค็นแบบเรียลไทม์ผ่าน Server-Sent Events (SSE) วิธีนี้ช่วยลดความล่าช้าที่ผู้ใช้รู้สึกได้และอนุญาตให้คุณแสดงผลลัพธ์ uncensored ทันทีที่สร้าง ชิ้นสุดท้ายของสตรีมมีสถิติการใช้โทเค็น ซึ่งจะถูกหักจากเครดิตที่ชำระเงินล่วงหน้าของคุณ
ข้อผิดพลาดและการปฏิเสธที่ไม่เกิดจากตัวกรองเนื้อหาไม่ใช้โทเค็น แต่จะบังคับใช้ขีดจำกัดอัตรามาตรฐาน วิธีการนี้ทำให้คุณจ่ายเฉพาะงานอนุมานจริง หลีกเลี่ยงการเสียเปล่ากับการเชื่อมต่อที่ล้มเหลว
ทำความเข้าใจขีดจำกัดอัตราและหน้าต่างบริบท
ตรวจสอบปริมาณคำขอของคุณตามขีดจำกัดที่เข้มงวดของ 300 ครั้งต่อนาที และ 8 การเรียกใช้พร้อมกันต่อคีย์ หน้าต่างบริบทรองรับสูงสุด 100,000 โทเค็นสำหรับการรวมกันของคำขอและผลลัพธ์ โดยมีขนาดผลลัพธ์สูงสุด 16,000 โทเค็นต่อคำขอ หากคุณไม่ได้ระบุ max_tokens ขีดจำกัดผลลัพธ์เริ่มต้นคือ 2,048 โทเค็น
รหัสข้อผิดพลาด 429 ระบุว่าคุณเกินขีดจำกัดอัตราแล้ว ในขณะที่รหัสข้อผิดพลาด 401 มักหมายความว่าคีย์ API ของคุณไม่ถูกต้องหรือหมดอายุ ตรวจสอบให้แน่ใจว่าเครดิตแบบเติมเงินของคุณเปิดใช้งานเพื่อหลีกเลี่ยงข้อผิดพลาด 402 ซึ่งบ่งชี้ว่าเงินทุนไม่เพียงพอสำหรับคำขอ inference