API 文件：快速入門

Base URL 與認證

無伺服器 LLM API 使用標準的 OpenAI 相容端點結構。要開始使用，你需要兩項資訊：Base URL 和 API 金鑰。

請對所有請求使用以下 Base URL：

https://api.serverlessllmapi.com/v1

驗證透過 Authorization 標頭處理。前往取得 API 金鑰頁面建立帳戶以取得金鑰。你可隨時重新產生此金鑰，舊金鑰將立即失效。妥善保管金鑰，因為它可直接存取你的預付額度。

第一個請求：聊天完成

向 /v1/chat/completions 端點發送標準聊天完成請求。API 接受模型名稱、訊息列表及選用參數。我們的預設模型 ID 為 uncensored，已針對高品質、無限制的回應進行最佳化。

以下是使用 curl 產生回應的基本範例：

Copycurl https://api.serverlessllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

回應遵循標準的 OpenAI JSON 格式。如果請求成功，你將收到包含產生文字的完成物件。這種簡易性允許你只需更改 Base URL 和金鑰，即可將我們的端點置換到現有的 OpenAI SDK 設定中。

Python SDK 整合

使用官方 OpenAI Python SDK 是整合的最快方式。由於我們的 API 為與 OpenAI 相容的 API，你只需覆寫 Base URL 與 API 金鑰即可。這能確保現有程式碼無需修改即可運作。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.serverlessllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

此方法可讓你利用熟悉的 Python 函式庫，同時享有我們的無審查模型優勢。上下文視窗支援高達 100,000 token，允許在單一請求中擁有大量的輸入與輸出長度。請確保 messages 陣列包含必要的 system 與 user 提示詞，以有效引導模型。

Node.js SDK 整合

對於 JavaScript 和 TypeScript 開發者，OpenAI Node SDK 提供了直觀的整合路徑。使用我們的 Base URL 和 API 金鑰設定用戶端，即可立即開始發送請求。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.serverlessllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

此設定非常適合需要即時 LLM 互動的無伺服器函式或後端服務。按用量計費的定價意味著你只需為使用的部分付費，無需月費。額度不會過期，因此你可以在專案之間暫停使用而不損失餘額。

串流回應 (SSE)

在請求中設定 stream: true以啟用串流輸出。API 將回傳 Server-Sent Events (SSE) 串流，讓你能即時顯示正在產生的 token。這可降低最終使用者的感知延遲，並改善聊天應用程式的體驗。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

在你的用戶端程式碼中處理串流事件以累積最終回應。正確設定後，串流輸出可在 Python 和 Node SDK 中使用。此功能對於需要即時回饋的長篇內容產生特別有用。

速率限制與約束

了解約束條件以確保整合順利。API 對每個 API 金鑰實施 每分鐘 300 次請求 的速率限制。每個請求主體不得超過 8 MB。如果你超過速率限制，將收到 429 狀態碼。

認證錯誤會回傳 401 狀態，表示金鑰無效或已撤銷。如果你的預付額度已耗盡，請求將回傳 402 狀態。模型 ID uncensored 不支援嵌入、圖片產生或微調。請堅持使用基於文字的聊天完成以獲得最佳效能。