https://api.serverlessllmapi.com/v1
API 文档:快速入门
几分钟内即可开始使用无服务器 LLM API。本快速入门指南涵盖身份验证、聊天请求、流式输出以及使用我们兼容 OpenAI 的接口进行函数调用。
Base URL 和身份验证
无服务器 LLM API 使用标准的兼容 OpenAI 的接口结构。要开始使用,你需要两项信息:你的 Base URL 和 API 密钥。
对所有请求使用以下 Base URL:
https://api.serverlessllmapi.com/v1
身份验证通过 Authorization 标头处理。在获取 API 密钥页面创建账户以获取密钥。你可以随时重新生成此密钥,这将立即使旧密钥失效。请妥善保管密钥,因为它可直接访问你的预付额度。
首次请求:聊天补全
向 /v1/chat/completions 接口发送标准的聊天补全请求。API 接受模型名称、消息列表和可选参数。我们的默认模型 ID 为 uncensored,该模型针对高质量、无限制的响应进行了优化。
以下是使用 curl 生成响应的示例:
curl https://api.serverlessllmapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
}'响应遵循标准的 OpenAI JSON 格式。如果请求成功,你将收到一个包含生成文本的补全对象。这种简洁性允许你只需更改 Base URL 和密钥,即可将我们的接口替换到现有的 OpenAI SDK 配置中。
Python SDK 集成
使用官方 OpenAI Python SDK 是集成最快的方式。由于我们的 API 兼容 OpenAI 接口,你只需覆盖 Base URL 和 API 密钥即可。这确保你现有的代码无需修改即可工作。
from openai import OpenAI
client = OpenAI(base_url="https://api.serverlessllmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)这种方法让你可以利用熟悉的 Python 库,同时受益于我们的无审查模型。上下文窗口支持最多 100,000 个 token,允许在单个请求中进行大量的输入和输出。确保你的消息数组包含必要的系统提示词和用户提示词,以有效引导模型。
Node.js SDK 集成
对于 JavaScript 和 TypeScript 开发者,OpenAI Node SDK 提供了直接的集成路径。使用我们的 Base URL 和 API 密钥配置客户端,即可立即开始发送请求。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.serverlessllmapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);此设置非常适合需要实时 LLM 交互的无服务器函数或后端服务。按量付费意味着你只需为实际使用的部分付费,无需月度订阅。额度不会过期,因此你可以在项目之间暂停使用而不会丢失余额。
流式响应 (SSE)
通过在请求中设置 stream: true 启用流式输出。API 将返回服务器发送事件 (SSE) 流,允许你显示正在生成的 token。这降低了最终用户的感知延迟,并改善了聊天应用的体验。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)在你的客户端代码中处理流事件以累积最终响应。正确配置后,流式输出在 Python 和 Node SDK 中均可用。此功能对于需要即时反馈的长文本生成特别有用。
速率限制和约束
了解约束条件以确保集成顺畅。API 对每个 API 密钥实施 每分钟 300 个请求 的速率限制。每个请求正文不得超过 8 MB。如果超出速率限制,你将收到 429 状态码。
身份验证错误返回 401 状态,表示密钥无效或已撤销。如果你的预付额度已用完,请求将返回 402 状态。模型 ID uncensored 不支持嵌入、图像生成或微调。请坚持使用基于文本的聊天补全以获得最佳性能。
接口能力与限制
所有限制、功能与价格一览。
| 项目 | 说明 |
|---|---|
| 接口格式 | 兼容 OpenAI:任何 OpenAI SDK 或客户端只需更换 base URL 和密钥 |
| 模型 ID | uncensored |
| 认证 | Authorization: Bearer YOUR_KEY |
| Base URL | https://api.serverlessllmapi.com/v1 |
| 接口 | POST /v1/chat/completions · GET /v1/models |
| 函数调用 | 支持 tools、tool_choice;回复包含 tool_calls(流式同样支持),结果以 role: tool 消息返回 |
| 流式输出 | 支持 SSE,最后一块包含 token 用量 |
| 上下文窗口 | 100,000 tokens(输入与输出合计) |
| 采样参数 | temperature、top_p、stop、seed、presence_penalty、frequency_penalty |
| 最大输出 | 不单独限制输出;提示+回复共 100,000 个 token 窗口内,max_tokens 可选 |
| JSON 模式 | response_format: {"type": "json_object"} |
| 并发 | 每个密钥同时最多 8 个请求 |
| 响应头 | X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests、X-RateLimit-Limit-Concurrency |
| 请求大小 | 每次请求不超过 8 MB |
| 速率限制 | 每个密钥每分钟 300 次请求 |
| 额度有效期 | 付费额度永不过期,无订阅 |
| 计费 | 预付额度,按实际 token 用量扣费;错误和拒绝不收费 |
| 免费试用 | $0.50,有效期 7 天,无需银行卡 · 试用密钥:2 个并发请求,每分钟 60 次;首次充值后恢复完整限额(8 和 300) |
| 价格 | 输入 $0.25 / 百万 tokens · 输出 $1.00 / 百万 tokens |
| 赠送额度 | 满 $50 送 5%,满 $100 送 10% |
| 充值 | USDT(TRC20)或 USDC(Base),$10–$500 任意整数金额 |
| 内容政策 | 允许成人内容;涉及未成年人的性内容一律拒绝 |
| 密钥 | 每个账户一个有效密钥;生成新密钥后旧密钥失效 |
| 登录 | Google 或邮箱 + 密码 |
错误说明
错误以 JSON 返回,type 字段固定;失败或被拒绝的请求不计费。
| 状态码 | 类型 | 含义 |
|---|---|---|
400 | bad_request | JSON 无效、消息为空、参数错误或超出上下文窗口 |
401 | missing_key · invalid_key · key_revoked | 缺少密钥、密钥错误或已被新密钥替换 |
402 | no_credit | 余额不足——充值后立即恢复 |
403 | content_blocked | 涉及未成年人的性内容——拒绝且不计费 |
404 | not_found | 未知接口 |
413 | request_too_large | 请求体超过 8 MB |
429 | rate_limited · concurrency | 超过每分钟 300 次或 8 个并发——稍后重试 |
503 | upstream_busy | 模型繁忙——几秒后重试 |
问答
阅读文档上下文窗口大小是多少?
上下文窗口支持输入提示词和输出补全合计最多 100,000 个 token。这允许在单个请求中进行长篇对话或处理大型文档。
如何在 Python 中处理流式输出?
在 API 调用中将 <code>stream</code> 参数设置为 <code>true</code>。SDK 将返回一个可迭代对象,在生成文本时逐块返回,从而实现响应的实时显示。
我可以将此 API 与其他 OpenAI SDK 一起使用吗?
是的,该 API 兼容 OpenAI 接口。任何支持 OpenAI API 格式的客户端都可以通过更新 Base URL 和 API 密钥进行连接。这包括 Node.js、Go 和其他语言的库。
只差一张表单,即可获得密钥
创建账户,复制密钥,更改 Base URL。这就是全部设置。