Dokumentasi API: Panduan Awal

Base URL dan Autentikasi

API llm serverless menggunakan struktur endpoint standar yang kompatibel dengan OpenAI. Untuk memulai, Anda memerlukan dua informasi: base URL dan kunci API Anda.

Gunakan base URL berikut untuk semua permintaan:

https://api.serverlessllmapi.com/v1

Autentikasi ditangani melalui header Authorization. Buat akun di halaman Dapatkan kunci API untuk menerima kunci Anda. Anda dapat membuat ulang kunci ini kapan saja, yang secara instan mencabut kunci lama. Jaga kunci Anda agar aman, karena kunci ini memberikan akses langsung ke saldo prabayar Anda.

Permintaan Pertama: Chat Completions

Kirimkan permintaan penyelesaian chat standar ke endpoint /v1/chat/completions. API menerima nama model, daftar pesan, dan parameter opsional. ID model default kami adalah uncensored, yang dioptimalkan untuk respons berkualitas tinggi tanpa batasan.

Berikut adalah contoh dasar menggunakan curl untuk menghasilkan respons:

Copycurl https://api.serverlessllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Respons mengikuti format JSON OpenAI standar. Jika permintaan berhasil, Anda akan menerima objek penyelesaian yang berisi teks yang dihasilkan. Kesederhanaan ini memungkinkan Anda mengganti endpoint kami ke konfigurasi SDK OpenAI yang ada hanya dengan mengubah base URL dan kunci.

Integrasi SDK Python

Menggunakan SDK Python OpenAI resmi adalah cara tercepat untuk mengintegrasikan. Karena API kami adalah openai compatible api, Anda hanya perlu mengganti base URL dan kunci API. Ini memastikan kode Anda yang ada berfungsi tanpa modifikasi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.serverlessllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pendekatan ini memungkinkan Anda memanfaatkan pustaka Python yang akrab sambil mendapatkan manfaat dari model tanpa sensor kami. Jendela konteks mendukung hingga 100.000 token, memungkinkan panjang input dan output yang substansial dalam satu permintaan. Pastikan array pesan Anda menyertakan prompt sistem dan pengguna yang diperlukan untuk membimbing model secara efektif.

Integrasi SDK Node.js

Untuk pengembang JavaScript dan TypeScript, SDK Node OpenAI menyediakan jalur integrasi yang mudah. Konfigurasikan klien dengan base URL kami dan kunci API Anda untuk mulai membuat permintaan segera.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.serverlessllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pengaturan ini ideal untuk fungsi serverless atau layanan backend yang memerlukan interaksi LLM real-time. Harga pay-as-you-go berarti Anda hanya membayar apa yang Anda gunakan, tanpa langganan bulanan. Saldo tidak pernah kedaluwarsa, sehingga Anda dapat menghentikan penggunaan di antara proyek tanpa kehilangan saldo Anda.

Respons Streaming (SSE)

Aktifkan streaming dengan mengatur stream: true dalam permintaan Anda. API akan mengembalikan aliran Server-Sent Events (SSE), memungkinkan Anda menampilkan token saat dihasilkan. Ini mengurangi latensi yang dirasakan bagi pengguna akhir dan meningkatkan pengalaman untuk aplikasi chat.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tangani peristiwa aliran dalam kode klien Anda untuk mengumpulkan respons akhir. Streaming berfungsi dengan SDK Python dan Node.js ketika dikonfigurasi dengan benar. Fitur ini sangat berguna untuk pembuatan konten panjang di mana umpan balik segera sangat berharga.

Batas Laju dan Kendala

Pahami kendala untuk memastikan integrasi yang lancar. API memberlakukan batas laju 300 permintaan per menit per kunci API. Setiap badan permintaan tidak boleh melebihi 8 MB. Jika Anda melebihi batas laju, Anda akan menerima kode status 429.

Kesalahan autentikasi mengembalikan status 401, menunjukkan kunci tidak valid atau dicabut. Jika saldo prabayar Anda habis, permintaan akan mengembalikan status 402. ID model uncensored tidak mendukung embedding, pembuatan gambar, atau fine-tuning. Tetap gunakan penyelesaian chat berbasis teks untuk kinerja optimal.