Tài liệuTích hợpMô hình & nhóm

Mô hình & nhóm

Ba khái niệm liên kết: key thuộc một nhóm, nhóm quyết định mô hình và hệ số, ID mô hình chọn mô hình cụ thể.

  • Nhóm: chọn khi tạo key; quyết định key gọi được mô hình nào và với hệ số nào. Phân biệt hai lỗi quyền: token không được phép dùng mô hình → 403 (kiểm tra danh sách mô hình cho phép / quyền của token); nhóm đã chọn không có kênh khả dụng cho mô hình → 503 / no available channel (đổi sang nhóm có chứa mô hình, hoặc xác nhận mô hình có kênh khả dụng trong nhóm hiện tại)
  • ID mô hình: phải khớp chính xác với trang (phân biệt hoa thường và hậu tố). Sao chép từ bảng mô hình hoặc qua /v1/models
  • Endpoint giao thức: một mô hình có thể phục vụ nhiều giao thức (Chat / Responses / Messages) — xem bảng thời gian thực bên dưới

Đang đồng bộ dữ liệu…

Mẫu chọn lọc & tìm kiếm: bảng mô hình. Tạo key: tạo key.