LLM Gateway · Self-hosted

Cổng API LLM hợp nhất

Kết nối nhiều nhà cung cấp, phân bổ token cho người dùng — tất cả qua một endpoint duy nhất.

• Một API key cho mọi mô hình AI
• Tương thích OpenAI & Anthropic SDK
• Streaming SSE độ trễ thấp
• Phân bổ hạn mức token minh bạch

POST /api/v1/chat/completions
{
  "model": "claude-opus",
  "stream": true
}