Yapay zeka modelinin çalışması

Kontrol, hizmetinizi destekleyen modelin mevcut olup olmadığını ve yanıt verip vermediğini izler. Yapay zeka sağlayıcıları nadiren tamamen yok olur: daha sık modeli yayından kaldırırlar, anahtar geçersiz olur veya iki saniyede cevap veren yanıt kırk saniye almaya başlar. Normal HTTP kontrolü bunu fark etmez — sağlayıcının çalışan sitesini görür.

Tam olarak neyi kontrol etmeli

Bir seviye seçilir, işaret seti değil: iç içedir — "model yanıt veriyor" olmadan "sağlayıcı yanıt veriyor" olmaz. Listenin içeriği sağlayıcıya bağlıdır: "model belleğe yüklendi" yalnızca kendi sunucusunu sunar, çünkü bu işaret yalnızca kendisi geri verir.

Seviye Neyi kontrol ediyor Fiyat
Sağlayıcı yanıt veriyor Sağlayıcı model listesini geri verir ve yanıt analiz edilir. Erişilemeyen hizmet, yanlış adres ve iptal edilen anahtarı yakalar. Ücretsiz
Model sağlayıcıda var Aynı listede belirttiğiniz model var. Modelin yayından kaldırılmasını ve kendi sunucusundaki değiştirilmiş modeli yakalar. Ücretsiz
Model belleğe yüklendi Model yalnızca kaydolmakla kalmaz, aynı zamanda sunucu tarafından bellekte tutulur. Boş kalan model olayında ilk kullanıcıyla karşılaşmadan önce model hariç tutulmuş olarak algılar: hariç tutulan model yanıt verir, ancak önce yükleme için onlarca saniye harcayacaktır. Yalnızca kendi sunucusu vardır — genel sağlayıcı belleği hakkında rapor vermez. Ücretsiz
Model isteği yürütüyor Model bir kısa gerçek istek alır. "Listede var ama istek reddediliyor" ve modelin kendisinin yavaşlamasını yakalayan tek seviye. Ücretlendirilir
Son seviye paraya mal oluyor. Her kontrol sırasında modele gerçek bir istek yapar: sağlayıcıda ücretlendirilir, kendi sunucusunda kaynakları tüketir. Dakikada bir kontrol, ayda 40.000\'den fazla istektir. Sınır koymazdık: istekte ne kadar masraf olduğunu sadece siz bilirsiniz — ama aralık makul olarak 15 dakika veya daha uzun olmalıdır. Varsayılan olarak ikinci seviye seçilir, ücretsiz.
Lütfen dikkat edin: normal bir API anahtarı yeterlidir, zaten modellerle iletişim kurmak için kullandığınız. İdari kuruluş anahtarı gerekli değildir ve biz onu talep etmeyiz.
Model tanımlayıcısı tam olarak kontrol edilir. İkinci seviyeden başlayarak sağlayıcı listesinde yazıp yazdığınız tam diziyi arıyoruz. Bazı sağlayıcılarda listede yayın tarihi olan tanımlayıcılar vardır ve isteklerde kısa ad çalışır, ama listede gösterilmez — kontrol modelin olmadığını söyler, halbuki model canlı. Adı sağlayıcı listesinden alın, belgelerdeki örnek değil.
Kendi model iç ağda erişilemez. Kontrol bizim sunucularımızdan gider, bu nedenle yerel ağda veya VPN\'nin arkasında çalıştırılan model göremeyiz — hiç kimse de dışarıdan göremez. İnternetten erişilebilen şeyi izleyebilirsiniz.

Form alanları

Alan Ne anlama geliyor Ne yazmalı Örnek
Ad Kontrolün adı. Hangi model ve neden sizin için önemli olduğunu belirtin. Destek modeli
Grup Görevi projeye veya bölüme atamanıza izin verir. Görevleri proje bazında bir arada tutmak istiyorsanız grup seçin. Ana proje
Sağlayıcı Hizmetin konuştuğu API diyalekti. Listeden satıcı seçin. Ollama ve LM Studio\'daki kendi sunucuları ayrı noktalar içerir: yalnızca model belleğe yüklenip yüklenmediğini gösterir. Diğer şey için — başka motor, ağ geçidi, daha az bilinen satıcı — "OpenAI-uyumlu API" alın. OpenAI-uyumlu API
API adresi Nereye başvurulacak. Uyumlu API ve kendi sunucusu sorulur — genel satıcılarda adres önceden bilinir. Tam olarak yazılacak şey, alanın altında belirtilir: uyumlu API sürümle adres gerektirir, kendi sunucu — yol olmayan adres. https://api.openai.com/v1
API anahtarı İstekte kullanılan anahtar. Sağlayıcı kişisel hesabından anahtarı yapıştırın. GigaChat için bu proje yetkilendirme anahtarıdır — müşteri kimliği ve gizli ayrı değil. Yandex AI Studio — hizmet hesabının API anahtarı. Kendi sunucu anahtarı olmayabilir — o zaman alanı boş bırakın; sunucu proxy üzerinden kapalıysa, tokenini yazın. Görev değiştirilirken boş alan "eski anahtarı tutmak" anlamına gelir. sk-…
Katalog Modellerin çalıştığı bulut kataloğu. Yalnızca Yandex AI Studio sorulur. Hizmet hesabı anahtarının oluşturulduğu katalog tanımlayıcısını yazın. Aynı zamanda model tanımlayıcısında gpt:// sonrasında yer alır. b1g…
API sürümü Anahtarın erişim kapsamı. Yalnızca GigaChat sorulur. Kişisel hesapta yetkilendirme anahtarının yanında belirtileni seçin: bireyler için, paketleri olan işletmeler için veya fiili ödeme. Bir sürümün anahtarı başka sürümde kabul edilmez. Gerçek kişiler
Model İzlediğimiz model tanımlayıcısı. Sağlayıcı model listesinde verdiği şekilde yazın: kontrol kesin. Kendi sunucusunda bu genellikle yol veya takma ad olup, alışılmış kısa ad değil. Yandex AI Studio tanımlayıcısında katalog dahildir: gpt://<catalog>/yandexgpt/latest. gpt-4o-mini
Ne kontrol edilecek Yukarıdaki kontrolün seviyesi. Hangilerinin mevcut olduğu sağlayıcıya bağlıdır. İkincisinden başlayın. Modelin gerçekten yanıt verdiğini ve yalnızca sayıldığını bilmek önemli olduğunda sonuncuyu etkinleştirin. Model sağlayıcıda var
İstek türü Model hangi işi yapar: diyalog veya vektörler. Yalnızca son seviye sorulur. Model için ne amaçlandığını seçin. Gömülme modeline yapılan diyalog isteği sağlayıcı yasal olarak reddeder ve kontrol sağlıklı modelde başarısız olur. Diyalog isteği
Bekleme süresi Kontrol tamamı için ne kadar zaman ayrıldı, herhangi bir seviyede. Aynı zamanda eşik: kontrol daha uzun süre hata olarak sayılır — yanıt veren ancak yavaş sağlayıcı da hatalı. Soğuk yükleme için zaman ayırın: sunucu modeli ilk istekte yükleyen daha yavaş yanıt verir. 1 dakika
Aralık Kontrolü ne sıklıkta yapılacak. Ücretsiz seviyelerde — sizin uygun olduğu gibi. Son seviyelerde unutmayın, her kontrol ücretlendirilir. 5 dakika
Bildirim kanalları Sorun ve kurtarma hakkında mesajları nereye göndermeli. Bildirimler gerçekten okuduğunuz kanalları işaretleyin. Telegram ve e-posta
Raporlar Görev hakkında periyodik özetler. Pano\'ya manuel giriş olmadan incelemeler almak istiyorsanız etkinleştirin. Haftalık rapor

Alarm ne zaman gelir

Seçilen kontrol başarısız olursa alarm gelir:

  • sağlayıcı erişilemiyor, hatayla yanıt verdi veya anahtarı reddetti;
  • belirtilen model listede yok — ikinci seviyeden başlayarak;
  • model var ancak sunucu bellekte tutmuyor — "model belleğe yüklendi" seviyesinde;
  • model reddetti — sonuncuda;
  • kontrol bekleme süresi taşıdı — herhangi bir seviyede.

Kontrol ne zaman atlanır

Sağlayıcı daha seyrek istememizi isterse, görev düşmez ve yükselmez — kontrol atlanır, durum eski kalır. Bu tek böyle durumdur: frekans sınırlaması bizim kendi acıklığımızdan bahseder, modelinizin değil. Diğer her şey — sessiz ağ, sağlayıcı çöküşü, reddedilen anahtar — bu görev için model çalışmıyor anlamına gelir.

Bir görev — bir model

Beş modeli izlemek — beş görevdir. Ve model listesini sık kontrol etmek, canlı isteği nadiren yapılmak isterse, farklı seviyeler ve farklı aralıklarla iki görev oluşturun: görevde tek aralık ve tek uptime vardır, iki soruyu karıştırırsanız kimin olduğu anlaşılmayan uptime alırsınız.

Bildirimleri ayarlama

Görevde her bildirim kanalı için ek parametreler ayarlayabilirsiniz. Yalnızca DOWN olayları için geçerlidir.

Parametre Ne yapar
Etkin Bu kanal üzerinden bu görev için bildirimleri göndermeyi izin verir veya yasaklar.
Şu kadar erteleme PRO DOWN hakkında ilk bildirimi seçilen süre (12 saate kadar) geciktirir. Kısa süreli arızalar hakkında bildirim almamak uygun.
Şu aralıkta tekrarlat PRO Görev DOWN durumunda kalırken bildirimi periyodik olarak tekrarlar (tekrarlar arasında 1 saate kadar). Uzun süreli arızayı kaçırmamak istediğinde uygun.
"Erteleme" ve "Tekrarlama" parametreleri UP olaylarını ve kurtarma bildirimlerini etkilemez.
Görev türleri listesine