Tài liệu API: Bắt đầu nhanh

Base URL và Xác thực

API serverless llm sử dụng cấu trúc endpoint tương thích chuẩn với OpenAI. Để bắt đầu, bạn cần hai thông tin: base URL và khóa API của bạn.

Sử dụng base URL sau cho tất cả các yêu cầu:

https://api.serverlessllmapi.com/v1

Xác thực được xử lý qua tiêu đề Authorization. Tạo tài khoản trên trang Lấy khóa API để nhận khóa của bạn. Bạn có thể tạo lại khóa này bất cứ lúc nào, điều này sẽ thu hồi ngay lập tức khóa cũ. Giữ khóa của bạn an toàn vì nó cung cấp quyền truy cập trực tiếp vào tín dụng trả trước của bạn.

Yêu cầu đầu tiên: Hoàn thành Chat

Gửi yêu cầu hoàn thành chat tiêu chuẩn đến endpoint /v1/chat/completions. API chấp nhận tên mô hình, danh sách tin nhắn và các tham số tùy chọn. ID mô hình mặc định của chúng tôi là uncensored, được tối ưu hóa cho các phản hồi chất lượng cao, không hạn chế.

Dưới đây là một ví dụ cơ bản sử dụng curl để tạo phản hồi:

Copycurl https://api.serverlessllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Phản hồi tuân theo định dạng JSON OpenAI tiêu chuẩn. Nếu yêu cầu thành công, bạn sẽ nhận được một đối tượng hoàn thành chứa văn bản được tạo. Sự đơn giản này cho phép bạn thay thế endpoint của chúng tôi vào các cấu hình SDK OpenAI hiện có chỉ bằng cách thay đổi base URL và khóa.

Tích hợp SDK Python

Sử dụng SDK Python chính thức của OpenAI là cách nhanh nhất để tích hợp. Vì API của chúng tôi tương thích với OpenAI, bạn chỉ cần ghi đè base URL và khóa API. Điều này đảm bảo mã hiện tại của bạn hoạt động mà không cần sửa đổi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.serverlessllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Cách tiếp cận này cho phép bạn tận dụng các thư viện Python quen thuộc đồng thời hưởng lợi từ mô hình không kiểm duyệt của chúng tôi. Cửa sổ ngữ cảnh hỗ trợ tối đa 100,000 token, cho phép độ dài đầu vào và đầu ra đáng kể trong một yêu cầu. Đảm bảo mảng messages của bạn bao gồm các prompt hệ thống và người dùng cần thiết để hướng dẫn mô hình hiệu quả.

Tích hợp SDK Node.js

Đối với các nhà phát triển JavaScript và TypeScript, SDK Node.js OpenAI cung cấp một đường tích hợp rõ ràng. Cấu hình khách hàng với base URL của chúng tôi và khóa API của bạn để bắt đầu thực hiện các yêu cầu ngay lập tức.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.serverlessllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Cấu hình này lý tưởng cho các hàm serverless hoặc dịch vụ backend yêu cầu tương tác LLM theo thời gian thực. Giá theo mức sử dụng có nghĩa là bạn chỉ trả tiền cho những gì bạn sử dụng, không có đăng ký hàng tháng. Tín dụng không hết hạn, vì vậy bạn có thể tạm dừng sử dụng giữa các dự án mà không mất số dư.

Phản hồi truyền phát (SSE)

Bật truyền phát bằng cách đặt stream: true trong yêu cầu của bạn. API sẽ trả về luồng Sự kiện được gửi bởi máy chủ (SSE), cho phép bạn hiển thị token khi chúng được tạo. Điều này giảm độ trễ cảm nhận đối với người dùng cuối và cải thiện trải nghiệm cho các ứng dụng chat.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý các sự kiện luồng trong mã khách hàng của bạn để tích lũy phản hồi cuối cùng. Truyền phát hoạt động với cả SDK Python và Node.js khi được cấu hình đúng. Tính năng này đặc biệt hữu ích cho việc tạo nội dung dài hạn nơi phản hồi ngay lập tức có giá trị.

Giới hạn tốc độ và Ràng buộc

Hiểu các ràng buộc để đảm bảo tích hợp mượt mà. API áp dụng giới hạn tốc độ 300 yêu cầu mỗi phút cho mỗi khóa API. Mỗi thân yêu cầu không được vượt quá 8 MB. Nếu bạn vượt quá giới hạn tốc độ, bạn sẽ nhận được mã trạng thái 429.

Lỗi xác thực trả về mã 401, cho biết khóa không hợp lệ hoặc đã bị thu hồi. Nếu tín dụng trả trước của bạn đã cạn kiệt, các yêu cầu sẽ trả về mã 402. ID mô hình uncensored không hỗ trợ nhúng, tạo hình ảnh hoặc tinh chỉnh. Hãy sử dụng các hoàn thành chat dựa trên văn bản để có hiệu suất tối ưu.