คำขอแรกในห้านาที

Base URL & การตรวจสอบสิทธิ์

ชี้ SDK ของ OpenAI หรือไคลเอนต์ที่เข้ากันได้ใดๆ ไปยัง Base URL ของเรา คุณไม่จำเป็นต้องใช้ไลบรารีเฉพาะ เครื่องมือใดๆ ที่ยอมรับคีย์ API มาตรฐานก็สามารถใช้งานได้ รับคีย์ของคุณจากแดชบอร์ดหลังจากเข้าสู่ระบบด้วย Google หรืออีเมล คีย์จะแสดงทันทีและเป็นข้อมูลประจำตัวเพียงอย่างเดียวที่ต้องการสำหรับคำขอทั้งหมด

ตั้งค่า Base URL เป็น https://api.ollamaapi.top/v1 ใช้รหัสโมเดล uncensored สำหรับการสร้างข้อความสนทนาทั้งหมด โมเดลนี้เป็นโมเดลแบบเปิดน้ำหนัก ปรับแต่งเพื่อลดการปฏิเสธ และแตกต่างจากโมเดลของผู้ขายรายใหญ่ มันไม่ใช่ GPT, Claude หรือโมเดลที่เป็นกรรมสิทธิ์อื่นใด การตรวจสอบสิทธิ์ขึ้นอยู่กับส่วนหัวโทเคน Bearer เท่านั้น

คำขอแรก

ส่งคำขอการสร้างข้อความสนทนามาตรฐานเพื่อทดสอบการเชื่อมต่อ เอนด์พอยต์รับโหลด JSON ที่มี messages, model และพารามิเตอร์เสริมเช่น temperature หรือ max_tokens รหัสโมเดลคือ uncensored เสมอ การตอบสนองจะคืนค่า JSON ที่มีโครงสร้างรวมถึงเนื้อหาของผู้ช่วยและเมตริกการใช้งานโทเคน

หากคำขอสำเร็จ คุณจะได้รับคำตอบ 200 OK หากการตรวจสอบสิทธิ์ล้มเหลว คุณจะได้รับข้อผิดพลาด 401 หากคุณไม่มีเงินเพียงพอ คุณจะได้รับข้อผิดพลาด 402 ข้อผิดพลาดเหล่านี้ฟรี ดังนั้นคุณจ่ายเฉพาะสำหรับการใช้งานโทเคนที่สำเร็จ ใช้ตัวอย่างนี้เพื่อตรวจสอบการกำหนดค่าของคุณก่อนรวมเข้ากับแอปพลิเคชันของคุณ

Copycurl https://api.ollamaapi.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK

ใช้ไลบรารี Python OpenAI อย่างเป็นทางการหรือไคลเอนต์ที่เข้ากันได้ใดๆ เริ่มต้นไคลเอนต์ด้วย Base URL และคีย์ API ของคุณ ตั้งค่าโมเดลเป็น uncensored ส่งข้อความของคุณเป็นรายการของคำศัพท์ที่มี role และ content ไลบรารีจัดการการแปลงข้อมูลและการแยกวิเคราะห์การตอบสนองโดยอัตโนมัติ

การตอบสนองแบบสตรีมมิงรองรับผ่านพารามิเตอร์ stream สิ่งนี้ช่วยให้คุณประมวลผลโทเคนเมื่อถูกสร้างขึ้น ซึ่งจะมีประโยชน์สำหรับเอาต์พุตที่ยาวนานหรือการอัปเดต UI แบบเรียลไทม์ ชิ้นสุดท้ายมีการใช้งานโทเคนทั้งหมดสำหรับการเรียกเก็บเงิน ตรวจสอบให้แน่ใจว่าคุณจัดการข้อยกเว้นอย่างเหมาะสม เนื่องจากข้อผิดพลาดของเครือข่ายไม่มีการเรียกเก็บเงิน

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.top/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

ติดตั้งแพ็คเกจ npm openai หรือใช้ wrapper ที่อิงตาม fetch กำหนดค่าไคลเอนต์ด้วย Base URL https://api.ollamaapi.top/v1 และคีย์ API ของคุณ รหัสโมเดลยังคงเป็น uncensored ส่งร่างคำขอด้วย messages และการตั้งค่าเสริมเช่น top_p หรือ seed

ผู้ใช้ Node.js สามารถใช้รูปแบบ async/await เพื่อเขียนโค้ดที่สะอาดตา วัตถุการตอบสนองรวมถึง choices, usage และ id คุณสามารถดึงข้อความของผู้ช่วยจากการเลือกแรก การจัดการข้อผิดพลาดควรคำนึงถึงขีดจำกัดอัตรา (429) และเครดิตไม่เพียงพอ (402) ข้อผิดพลาดเหล่านี้ไม่ใช้โทเคน ดังนั้นยอดคงเหลือแบบเติมเงินล่วงหน้าของคุณจะยังคงสมบูรณ์จนกว่าจะมีการสร้างการตอบสนองที่สำเร็จ

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapi.top/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การตอบสนองแบบสตรีมมิง

เปิดใช้งานสตรีมมิงโดยการตั้งค่า stream: true ในคำขอของคุณ API คืนค่าสตรีม Server-Sent Events (SSE) แต่ละชิ้นมีเนื้อหาบางส่วน ทำให้คุณสามารถแสดงโทเคนเมื่อถูกสร้างขึ้น สิ่งนี้ลดความล่าช้าที่รับรู้สำหรับผู้ใช้และปรับปรุงประสบการณ์สำหรับการสร้างข้อความแบบยาว

ชิ้นสุดท้ายในสตรีมรวมถึงข้อมูลการใช้งานโทเคนที่สมบูรณ์ คุณสามารถใช้สิ่งนี้เพื่อติดตามการบริโภคแบบเรียลไทม์ โปรดทราบว่าสตรีมมิงไม่เปลี่ยนโมเดลการชำระเงิน; คุณยังคงจ่ายต่อ 1M โทเคนอินพุตและเอาต์พุต ข้อผิดพลาดระหว่างสตรีมมิงก็ฟรีเช่นกัน หากการเชื่อมต่อหลุด คุณสามารถดำเนินการต่อหรือเริ่มคำขอใหม่โดยไม่มีการลงโทษ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ขีดจำกัด ข้อผิดพลาด & บริบท

หน้าต่างบริบทมีขนาด 100,000 โทเคนรวม ทั้งพรอมต์และการสร้างผลลัพธ์ จำนวนโทเคนสูงสุดต่อคำขอคือ 32,000 โทเคน (2,048 หาก max_tokens ไม่ได้กำหนด) หากเกินหน้าต่างบริบท คำขอจะล้มเหลว ข้อผิดพลาดรวมถึง 401 สำหรับคีย์ที่ไม่ถูกต้อง 402 สำหรับเครดิตไม่เพียงพอ และ 429 สำหรับขีดจำกัดอัตรา ขีดจำกัดอัตราคือ 300 คำขอต่อนาทีและ 8 คำขอพร้อมกันต่อคีย์ ขนาดร่างกายคำขอจำกัดที่ 8 MB ข้อผิดพลาดเป็นแบบฟรี หมายความว่าคุณไม่ต้องจ่ายสำหรับคำขอที่ล้มเหลวหรือการปฏิเสธ เครดิตไม่หมดอายุและไม่จำเป็นต้องสมัครสมาชิก