Chuyển từ OpenAI
Hầu hết ứng dụng OpenAI-compatible chỉ cần thay đổi ba cấu hình:
- Thay khóa API.
- Đặt Base URL thành
https://getrouter.ai/v1. - Chọn model ID có trên GetRouter.
Python
Trước khi chuyển:
Sau khi chuyển:
Node.js / TypeScript
Trước khi chuyển:
Sau khi chuyển:
Biến môi trường
Nếu ứng dụng đọc các biến môi trường OpenAI tiêu chuẩn, bạn thường có thể cập nhật cấu hình thời gian chạy mà không cần sửa mã nguồn:
Tên biến môi trường chính xác phụ thuộc vào từng ứng dụng. Hãy xác nhận SDK hoặc công cụ của bạn hỗ trợ Base URL tùy chỉnh.
Kiểm tra khả năng tương thích của tính năng
GetRouter hỗ trợ cấu trúc yêu cầu OpenAI-compatible, nhưng các khả năng còn phụ thuộc vào mô hình và endpoint đã chọn. Hãy kiểm tra những tính năng mà ứng dụng sử dụng:
- Chat Completions hoặc Responses API
- Streaming
- Gọi công cụ hoặc hàm
- Đầu ra có cấu trúc
- Thị giác hoặc dữ liệu đầu vào đa phương thức khác
- Embeddings, hình ảnh hoặc âm thanh
Trước tiên, hãy chuyển bằng một yêu cầu ngắn không streaming. Sau đó lần lượt bật streaming, công cụ, suy luận và các trường nâng cao khác.
Các sự cố thường gặp khi chuyển đổi
Yêu cầu vẫn được gửi đến nhà cung cấp ban đầu
Hãy xác nhận ứng dụng thực sự đọc Base URL tùy chỉnh. Một số ứng dụng chỉ tải biến môi trường khi khởi động.
URL chứa /v1/v1
Ứng dụng có thể tự động nối /v1. Hãy dùng định dạng Base URL mà client cụ thể đó yêu cầu.
Mô hình bị từ chối
Thay tên mô hình của nhà cung cấp ban đầu bằng một ID chính xác từ trang Mô hình GetRouter.
Trò chuyện hoạt động nhưng Responses không hoạt động
Hai API dùng các endpoint và định dạng sự kiện phản hồi khác nhau. Hãy xác nhận mô hình và tích hợp hỗ trợ POST /v1/responses.
