Güvenilir AI API: yönlendirme, hatalar ve üretim kontrolleri

Hesap yönlendirmesi ve sınırlı kurtarma

Ağ geçidi istenen grup ve modele uygun üst sağlayıcı hesaplarını seçer. Desteklenen istek yolları, uygun hatalardan sonra sınırlı tekrar kuralları içinde hesap değiştirebilir. Kapasite, sağlayıcı kotası ve seçilen grup hâlâ belirleyicidir; yönlendirme kullanılamayan bir modeli kullanılabilir yapmaz.

İndirim grubu ve farklı hizmet rotası ayrı seçeneklerdir. Üretimde kullanacağınız model, rota ve parametreleri test edin. Uygulamanız kendi fallback politikasını gerektiriyorsa geçiş koşullarını ve çıktı beklentilerini açıkça belirleyin.

İşlenebilir hatalar

Belgeler kimlik doğrulama, yetersiz bakiye, hız sınırı, eşzamanlılık sınırı ve üst sağlayıcı kapasite hatalarını açıklar. İlgili API ailesinin hata yapısını çözümleyin. Döndürüldüğünde Retry-After değerini izleyin, tekrarları sınırlayın ve istek kimliklerini kaydedin.

Görsel ve video işleri asenkrondur. Belgelenmiş son duruma kadar sorgulayın, hata kodlarını kontrol edin ve geçici bağlantı bitmeden çıktıyı indirin. Ağ zaman aşımından sonra ücretli işi yeniden göndermeden önce orijinal işin durumunu uzlaştırın.

Üretim kabul ölçütleri

Aynı model, grup, bağlam ve paralellikte tamamlanan yanıt oranını, ilk token gecikmesini, toplam süreyi ve ücreti ölçün. Akış bitişini, araç sonuçlarını ve medya indirmelerini kontrol edin. Başarısız istekleri de örnekleme dahil edin; HTTP 200 veya sağlık uç noktası kullanılabilir çıktı kanıtı değildir.

Küçük yükle başlayın ve trafiği artırmadan önce gözlemleyin. Belgeler ve [email protected] entegrasyona yardımcı olur. Bu sayfa kamuya açık bir uptime yüzdesi veya sözleşmesel SLA iddia etmez; garanti gereksinimleri hizmet şartları veya ayrı yazılı anlaşmayla belirlenir.

Sorular ve yanıtlar