เอกสาร API: เริ่มต้นอย่างรวดเร็ว

Base URL และการตรวจสอบสิทธิ์

API ของ serverless llm ใช้โครงสร้างเอนด์พอยต์ที่เข้ากันได้กับมาตรฐาน OpenAI เริ่มต้นใช้งานโดยต้องมีข้อมูลสองส่วน: Base URL และคีย์ API ของคุณ

ใช้ Base URL ต่อไปนี้สำหรับคำขอทั้งหมด:

https://api.serverlessllmapi.com/v1

การตรวจสอบสิทธิ์ดำเนินการผ่าน Authorization header สร้างบัญชีในหน้ารับคีย์ API เพื่อรับคีย์ของคุณ คุณสามารถสร้างคีย์ใหม่ได้ตลอดเวลา ซึ่งจะยกเลิกคีย์เก่าทันที เก็บคีย์ของคุณให้ปลอดภัยเนื่องจากคีย์นี้ให้สิทธิ์เข้าถึงเครดิตแบบเติมเงินล่วงหน้าของคุณโดยตรง

คำขอแรก: การเติมเต็มแชท

ส่งคำขอเติมเต็มแชทมาตรฐานไปยังเอนด์พอยต์ /v1/chat/completions API รับชื่อโมเดล รายการข้อความ และพารามิเตอร์เพิ่มเติม ID โมเดลเริ่มต้นของเราคือ uncensored ซึ่งปรับแต่งสำหรับการตอบกลับที่มีคุณภาพสูงและไม่มีข้อจำกัด

นี่คือตัวอย่างพื้นฐานโดยใช้ curl เพื่อสร้างการตอบกลับ:

Copycurl https://api.serverlessllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

การตอบกลับจะปฏิบัติตามรูปแบบ JSON มาตรฐานของ OpenAI หากคำขอสำเร็จ คุณจะรับวัตถุการเติมเต็มที่มีข้อความที่สร้าง ความเรียบง่ายนี้ทำให้คุณสามารถเปลี่ยนเอนด์พอยต์ของเราเป็นการกำหนดค่า Python SDK ที่มีอยู่ได้โดยการเปลี่ยน Base URL และคีย์

การผสานรวม Python SDK

การใช้ Python SDK ทางการของ OpenAI เป็นวิธีที่เร็วที่สุดในการผสานรวม เนื่องจาก API ของเราเป็น openai compatible api คุณเพียงแค่ต้องแทนที่ Base URL และคีย์ API เพื่อให้โค้ดที่มีอยู่ทำงานได้โดยไม่ต้องแก้ไข

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.serverlessllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

แนวทางนี้ช่วยให้คุณใช้ไลบรารี Python ที่คุ้นเคยในขณะที่ได้รับประโยชน์จากโมเดลที่ไม่มีการเซ็นเซอร์ของเรา หน้าต่างบริบทรองรับโทเคนได้สูงสุด 100,000 โทเคน ทำให้มีความยาวอินพุตและเอาต์พุตจำนวนมากภายในคำขอเดียว ตรวจสอบให้แน่ใจว่าอาร์เรย์ข้อความของคุณมีพรอมต์ระบบและผู้ใช้ที่จำเป็นเพื่อแนะนำโมเดลได้อย่างมีประสิทธิภาพ

การผสานรวม Node.js SDK

สำหรับนักพัฒนา JavaScript และ TypeScript OpenAI Node SDK ให้เส้นทางการผสานรวมที่เรียบง่าย กำหนดค่าไคลเอนต์ด้วย Base URL และคีย์ API ของคุณเพื่อเริ่มส่งคำขอได้ทันที

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.serverlessllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การตั้งค่านี้เหมาะสำหรับฟังก์ชันไร้เซิร์ฟเวอร์หรือบริการแบ็กเอนด์ที่ต้องการการโต้ตอบ LLM แบบเรียลไทม์ ราคาแบบจ่ายตามการใช้งานหมายความว่าคุณจ่ายเฉพาะสิ่งที่ใช้โดยไม่มีการสมัครรายเดือน เครดิตไม่หมดอายุ ดังนั้นคุณสามารถหยุดใช้งานระหว่างโครงการได้โดยไม่สูญเสียยอดเงินคงเหลือ

การตอบกลับแบบสตรีมมิง (SSE)

เปิดใช้งานสตรีมมิงโดยการตั้งค่า stream: true ในคำขอของคุณ API จะส่งคืนสตรีม Server-Sent Events (SSE) ทำให้คุณสามารถแสดงโทเคนเมื่อสร้างเสร็จ สิ่งนี้ลดความล่าช้าที่รับรู้สำหรับผู้ใช้ปลายทางและปรับปรุงประสบการณ์สำหรับแอปพลิเคชันแชท

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

จัดการเหตุการณ์สตรีมในโค้ดไคลเอนต์ของคุณเพื่อสะสมการตอบกลับสุดท้าย สตรีมมิงทำงานได้ทั้งกับ Python และ Node SDK เมื่อกำหนดค่าถูกต้อง คุณสมบัตินี้มีประโยชน์เป็นพิเศษสำหรับการสร้างเนื้อหาแบบยาวซึ่งการตอบกลับทันทีมีค่า

ขีดจำกัดอัตราและข้อจำกัด

ทำความเข้าใจข้อจำกัดเพื่อให้การผสานรวมราบรื่น API กำหนดขีดจำกัดอัตราของ 300 คำขอต่อนาที ต่อคีย์ API แต่ละคำขอต้องมีขนาดไม่เกิน 8 MB หากคุณเกินขีดจำกัดอัตรา คุณจะรับสถานะ 429

ข้อผิดพลาดในการตรวจสอบสิทธิ์จะคืนสถานะ 401 ซึ่งบ่งชี้ว่าคีย์ไม่ถูกต้องหรือถูกยกเลิก หากเครดิตแบบเติมเงินล่วงหน้าของคุณหมด คำขอจะคืนสถานะ 402 ID โมเดล uncensored ไม่รองรับการฝังตัว การสร้างภาพ หรือการปรับแต่งเฉพาะ ใช้การเติมเต็มแชบแบบข้อความเท่านั้นเพื่อให้ได้ประสิทธิภาพสูงสุด