Tài liệuTham chiếu APITuyến · stream · timeout

Tuyến · luồng · timeout

Chọn host và chiến lược timeout; dạng Base ở trang giao thức.

  • Luồng (streaming) là bình thường; quá nhiều yêu cầu đồng thời sẽ gây 429
  • Timeout: chuyển sang jp, giảm max_tokens, chia nhỏ tác vụ, thử lại sau 2–5 giây
  • Các tuyến API vẫn có thể hoạt động ngay cả khi trang web không truy cập được

Liên quan