Yapay zeka modelinin çalışması
Kontrol, hizmetinizi destekleyen modelin mevcut olup olmadığını ve yanıt verip vermediğini izler. Yapay zeka sağlayıcıları nadiren tamamen yok olur: daha sık modeli yayından kaldırırlar, anahtar geçersiz olur veya iki saniyede cevap veren yanıt kırk saniye almaya başlar. Normal HTTP kontrolü bunu fark etmez — sağlayıcının çalışan sitesini görür.
Tam olarak neyi kontrol etmeli
Bir seviye seçilir, işaret seti değil: iç içedir — "model yanıt veriyor" olmadan "sağlayıcı yanıt veriyor" olmaz. Listenin içeriği sağlayıcıya bağlıdır: "model belleğe yüklendi" yalnızca kendi sunucusunu sunar, çünkü bu işaret yalnızca kendisi geri verir.
| Seviye | Neyi kontrol ediyor | Fiyat |
|---|---|---|
| Sağlayıcı yanıt veriyor | Sağlayıcı model listesini geri verir ve yanıt analiz edilir. Erişilemeyen hizmet, yanlış adres ve iptal edilen anahtarı yakalar. | Ücretsiz |
| Model sağlayıcıda var | Aynı listede belirttiğiniz model var. Modelin yayından kaldırılmasını ve kendi sunucusundaki değiştirilmiş modeli yakalar. | Ücretsiz |
| Model belleğe yüklendi | Model yalnızca kaydolmakla kalmaz, aynı zamanda sunucu tarafından bellekte tutulur. Boş kalan model olayında ilk kullanıcıyla karşılaşmadan önce model hariç tutulmuş olarak algılar: hariç tutulan model yanıt verir, ancak önce yükleme için onlarca saniye harcayacaktır. Yalnızca kendi sunucusu vardır — genel sağlayıcı belleği hakkında rapor vermez. | Ücretsiz |
| Model isteği yürütüyor | Model bir kısa gerçek istek alır. "Listede var ama istek reddediliyor" ve modelin kendisinin yavaşlamasını yakalayan tek seviye. | Ücretlendirilir |
Form alanları
| Alan | Ne anlama geliyor | Ne yazmalı | Örnek |
|---|---|---|---|
| Ad | Kontrolün adı. | Hangi model ve neden sizin için önemli olduğunu belirtin. | Destek modeli |
| Grup | Görevi projeye veya bölüme atamanıza izin verir. | Görevleri proje bazında bir arada tutmak istiyorsanız grup seçin. | Ana proje |
| Sağlayıcı | Hizmetin konuştuğu API diyalekti. | Listeden satıcı seçin. Ollama ve LM Studio\'daki kendi sunucuları ayrı noktalar içerir: yalnızca model belleğe yüklenip yüklenmediğini gösterir. Diğer şey için — başka motor, ağ geçidi, daha az bilinen satıcı — "OpenAI-uyumlu API" alın. | OpenAI-uyumlu API |
| API adresi | Nereye başvurulacak. Uyumlu API ve kendi sunucusu sorulur — genel satıcılarda adres önceden bilinir. | Tam olarak yazılacak şey, alanın altında belirtilir: uyumlu API sürümle adres gerektirir, kendi sunucu — yol olmayan adres. | https://api.openai.com/v1 |
| API anahtarı | İstekte kullanılan anahtar. | Sağlayıcı kişisel hesabından anahtarı yapıştırın. GigaChat için bu proje yetkilendirme anahtarıdır — müşteri kimliği ve gizli ayrı değil. Yandex AI Studio — hizmet hesabının API anahtarı. Kendi sunucu anahtarı olmayabilir — o zaman alanı boş bırakın; sunucu proxy üzerinden kapalıysa, tokenini yazın. Görev değiştirilirken boş alan "eski anahtarı tutmak" anlamına gelir. | sk-… |
| Katalog | Modellerin çalıştığı bulut kataloğu. Yalnızca Yandex AI Studio sorulur. | Hizmet hesabı anahtarının oluşturulduğu katalog tanımlayıcısını yazın. Aynı zamanda model tanımlayıcısında gpt:// sonrasında yer alır. |
b1g… |
| API sürümü | Anahtarın erişim kapsamı. Yalnızca GigaChat sorulur. | Kişisel hesapta yetkilendirme anahtarının yanında belirtileni seçin: bireyler için, paketleri olan işletmeler için veya fiili ödeme. Bir sürümün anahtarı başka sürümde kabul edilmez. | Gerçek kişiler |
| Model | İzlediğimiz model tanımlayıcısı. | Sağlayıcı model listesinde verdiği şekilde yazın: kontrol kesin. Kendi sunucusunda bu genellikle yol veya takma ad olup, alışılmış kısa ad değil. Yandex AI Studio tanımlayıcısında katalog dahildir: gpt://<catalog>/yandexgpt/latest. |
gpt-4o-mini |
| Ne kontrol edilecek | Yukarıdaki kontrolün seviyesi. Hangilerinin mevcut olduğu sağlayıcıya bağlıdır. | İkincisinden başlayın. Modelin gerçekten yanıt verdiğini ve yalnızca sayıldığını bilmek önemli olduğunda sonuncuyu etkinleştirin. | Model sağlayıcıda var |
| İstek türü | Model hangi işi yapar: diyalog veya vektörler. Yalnızca son seviye sorulur. | Model için ne amaçlandığını seçin. Gömülme modeline yapılan diyalog isteği sağlayıcı yasal olarak reddeder ve kontrol sağlıklı modelde başarısız olur. | Diyalog isteği |
| Bekleme süresi | Kontrol tamamı için ne kadar zaman ayrıldı, herhangi bir seviyede. Aynı zamanda eşik: kontrol daha uzun süre hata olarak sayılır — yanıt veren ancak yavaş sağlayıcı da hatalı. | Soğuk yükleme için zaman ayırın: sunucu modeli ilk istekte yükleyen daha yavaş yanıt verir. | 1 dakika |
| Aralık | Kontrolü ne sıklıkta yapılacak. | Ücretsiz seviyelerde — sizin uygun olduğu gibi. Son seviyelerde unutmayın, her kontrol ücretlendirilir. | 5 dakika |
| Bildirim kanalları | Sorun ve kurtarma hakkında mesajları nereye göndermeli. | Bildirimler gerçekten okuduğunuz kanalları işaretleyin. | Telegram ve e-posta |
| Raporlar | Görev hakkında periyodik özetler. | Pano\'ya manuel giriş olmadan incelemeler almak istiyorsanız etkinleştirin. | Haftalık rapor |
Alarm ne zaman gelir
Seçilen kontrol başarısız olursa alarm gelir:
- sağlayıcı erişilemiyor, hatayla yanıt verdi veya anahtarı reddetti;
- belirtilen model listede yok — ikinci seviyeden başlayarak;
- model var ancak sunucu bellekte tutmuyor — "model belleğe yüklendi" seviyesinde;
- model reddetti — sonuncuda;
- kontrol bekleme süresi taşıdı — herhangi bir seviyede.
Kontrol ne zaman atlanır
Sağlayıcı daha seyrek istememizi isterse, görev düşmez ve yükselmez — kontrol atlanır, durum eski kalır. Bu tek böyle durumdur: frekans sınırlaması bizim kendi acıklığımızdan bahseder, modelinizin değil. Diğer her şey — sessiz ağ, sağlayıcı çöküşü, reddedilen anahtar — bu görev için model çalışmıyor anlamına gelir.
Bir görev — bir model
Beş modeli izlemek — beş görevdir. Ve model listesini sık kontrol etmek, canlı isteği nadiren yapılmak isterse, farklı seviyeler ve farklı aralıklarla iki görev oluşturun: görevde tek aralık ve tek uptime vardır, iki soruyu karıştırırsanız kimin olduğu anlaşılmayan uptime alırsınız.
Bildirimleri ayarlama
Görevde her bildirim kanalı için ek parametreler ayarlayabilirsiniz. Yalnızca DOWN olayları için geçerlidir.
| Parametre | Ne yapar |
|---|---|
| Etkin | Bu kanal üzerinden bu görev için bildirimleri göndermeyi izin verir veya yasaklar. |
| Şu kadar erteleme PRO | DOWN hakkında ilk bildirimi seçilen süre (12 saate kadar) geciktirir. Kısa süreli arızalar hakkında bildirim almamak uygun. |
| Şu aralıkta tekrarlat PRO | Görev DOWN durumunda kalırken bildirimi periyodik olarak tekrarlar (tekrarlar arasında 1 saate kadar). Uzun süreli arızayı kaçırmamak istediğinde uygun. |