Документация API: Быстрый старт

Базовый URL и аутентификация

бессерверная LLM API использует стандартную структуру эндпоинтов, совместимую с OpenAI. Чтобы начать работу, вам понадобятся две вещи: базовый URL и ваш API-ключ.

Используйте следующий базовый URL для всех запросов:

https://api.serverlessllmapi.com/v1

Аутентификация осуществляется через заголовок Authorization. Зарегистрируйтесь на странице получения API-ключа, чтобы получить ключ. Вы можете перегенерировать этот ключ в любое время, что мгновенно аннулирует старый. Храните ключ в безопасности, так как он обеспечивает прямой доступ к вашему предоплаченному балансу.

Первый запрос: Завершение чата

Отправьте стандартный запрос на завершение чата на эндпоинт /v1/chat/completions. API принимает имя модели, список сообщений и необязательные параметры. Наш идентификатор модели по умолчанию — uncensored, который оптимизирован для высококачественных, неограниченных ответов.

Вот базовый пример с использованием curl для генерации ответа:

Copycurl https://api.serverlessllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Ответ следует стандартному формату JSON OpenAI. Если запрос успешен, вы получите объект завершения, содержащий сгенерированный текст. Эта простота позволяет вам заменить наш эндпоинт в существующих конфигурациях SDK OpenAI, просто изменив базовый URL и ключ.

Интеграция SDK Python

Использование официального Python SDK от OpenAI — самый быстрый способ интеграции. Поскольку наш API совместим с OpenAI, вам нужно только переопределить базовый URL и API-ключ. Это гарантирует, что ваш существующий код будет работать без изменений.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.serverlessllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Этот подход позволяет вам использовать знакомые библиотеки Python, одновременно пользуясь нашей безцензурной моделью. Контекстное окно поддерживает до 100 000 токенов, что позволяет иметь значительную длину ввода и вывода в одном запросе. Убедитесь, что ваш массив сообщений включает необходимые системные и пользовательские промпты для эффективного руководства моделью.

Интеграция SDK Node.js

Для разработчиков JavaScript и TypeScript SDK Node.js от OpenAI предоставляет простой путь интеграции. Настройте клиент с нашим базовым URL и вашим API-ключом, чтобы сразу начать отправку запросов.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.serverlessllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Эта настройка идеально подходит для бессерверных функций или бэкенд-сервисов, которым требуется взаимодействие с LLM в реальном времени. Тарификация по факту использования означает, что вы платите только за то, что используете, без ежемесячных подписок. Баланс не сгорает, поэтому вы можете приостановить использование между проектами без потери средств.

Потоковые ответы (SSE)

Включите потоковую передачу, установив stream: true в вашем запросе. API вернет поток Server-Sent Events (SSE), позволяя вам отображать токены по мере их генерации. Это снижает воспринимаемую задержку для конечных пользователей и улучшает опыт для приложений чата.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Обработайте события потока в коде вашего клиента, чтобы накопить окончательный ответ. Потоковая передача работает как с Python, так и с Node SDK при правильной настройке. Эта функция особенно полезна для генерации контента в длинном формате, где важна немедленная обратная связь.

Лимиты запросов и ограничения

Поймите ограничения, чтобы обеспечить плавную интеграцию. API накладывает лимит запросов в 300 запросов в минуту на каждый API-ключ. Тело каждого запроса не должно превышать 8 МБ. Если вы превысите лимит запросов, вы получите код статуса 429.

Ошибки аутентификации возвращают статус 401, указывающий на недействительный или аннулированный ключ. Если ваш предоплаченный кредит исчерпан, запросы вернут статус 402. Идентификатор модели uncensored не поддерживает эмбеддинги, генерацию изображений или дообучение. Придерживайтесь текстовых завершений чата для оптимальной производительности.