AIモデル動作

チェックは、あなたのサービスが依存しているモデルが利用可能で応答していることを監視します。 AIプロバイダは完全には停止することはめったにありません。むしろ、モデルが公開から削除されたり、キーが無効になったり、 2秒かかっていた応答が40秒かかるようになったりすることが多いです。通常のHTTPチェックはこれに気づきません — プロバイダのサイトが稼働しているのが見えるだけです。

具体的に何を確認するか

複数をマークするのではなく、1つの段階を選択します: これらは階層化されています — 「プロバイダが応答」なしの「モデルが応答」はあり得ません。リストの構成はプロバイダによって異なります: 「モデルはメモリにロード済み」は独自サーバーのみが提供しており、そのサーバーのみこの情報を返すためです。

段階 確認内容 コスト
プロバイダが応答 プロバイダがモデル一覧を返し、レスポンスが解析される。利用不可なサービス、無効なアドレス、失効したキーを検出できます。 無料
モデルはプロバイダにあります 同じ一覧に指定したモデルが存在します。モデルの公開取り下げと独自サーバーでのモデル置き換えを検出できます。 無料
モデルはメモリにロード済み モデルはリストにあるだけでなく、サーバーのメモリに保持されています。ロードされていないモデルを早期に検出できます — ロードされたモデルは応答しますが、最初にロードに数十秒を費やします。独自サーバーのみが提供 — 公開ベンダーは自身のメモリについて報告しません。 無料
モデルがリクエストを実行 モデルへ短い実際のリクエストが送信されます。この段階だけが「リストにあるが、リクエストに拒否で応答」 とモデル自体の遅延を検出します。 有料
最後の段階は有料です。 各チェックでモデルへ実際のリクエストを実行します: プロバイダでは料金が発生し、 独自サーバーではリソースが消費されます。1分ごとのチェックは月に40,000を超すリクエストを意味します。制限は設けていません: リクエストの価値はあなただけが知っているため — ただし、15分以上の間隔が妥当です。デフォルトでは2番目の段階 (無料)が選択されています。
注意: モデルにアクセスするために使用している通常のAPIキーで十分です。組織の管理キーは不要であり、 ご提供いただきません。
モデル識別子は文字単位で比較されます。 2番目の段階以降、プロバイダのリストで指定した正確な文字列を探します。 一部のプロバイダのリストはリリース日付付きの識別子を含んでいますが、 短い名前はリクエストで機能しており、リストに表示されません — チェックはモデルがないと報告します。 ただしモデルは稼働しています。プロバイダのリストから名前を取得し、ドキュメントの例ではなく使用してください。
独自モデルはプライベートネットワークでは利用できません。 チェックは私たちのサーバーから実行されるため、ローカルネットワークやVPN背後に立ち上げたモデルは 見えません — 誰も外部からは見えません。インターネットからアクセス可能なものを監視できます。

フォームフィールド

フィールド 意味 入力内容 例
タイトル チェックの名前。 どのモデルと、何のために重要かを指定してください。 サポートモデル
グループ タスクをプロジェクトやセクションに分類します。 プロジェクトごとのタスクをまとめて管理したい場合はグループを選択してください。 メインプロジェクト
プロバイダ サービスと交信するAPIの方言。 リストからベンダーを選択してください。OllamaとLM Studioは独立した項目があります: モデルがメモリにロード済みかどうかを示す唯一のベンダーです。その他すべて — 別のエンジン、ゲートウェイ、ほぼ未知のベンダー — 「OpenAI互換API」を取得します。 OpenAI互換API
APIアドレス 接続先。互換APIと独自サーバーで尋ねられます — 公開ベンダーのアドレスは事前にわかっています。 何を入力するかはフィールド下のヒントが示します: 互換APIにはバージョン付きアドレスが必要で、 独自サーバーにはパスなしのアドレスが必要です。 https://api.openai.com/v1
APIキー リクエストで使用されるキー。 プロバイダの個人アカウントからキーを貼り付けます。GigaChatの場合はプロジェクトの認証キー — クライアント識別子とシークレットを別々にではなく。Yandex AI Studioの場合はサービスアカウントのAPIキー。 独自サーバーにはキーがない場合があります — フィールドを空のままにしてください; サーバーがプロキシで保護されている場合は、トークンを入力します。タスク変更時、空のフィールドは 「前のキープを保つ」を意味します。 sk-…
カタログ モデルが動作するクラウドカタログ。Yandex AI Studioでのみ尋ねられます。 サービスアカウントキーがあるカタログIDを入力します。それはモデル識別子の gpt:// の後にもあります。 b1g…
APIバージョン キーのアクセススコープ。GigaChatでのみ尋ねられます。 個人アカウントで認証キーの隣に表示されているものを選択します: 個人向け、パッケージ付きビジネス、 または実績払いビジネス。あるバージョンのキーは別のバージョンでは受け入れられません。 個人
モデル 監視対象モデルの識別子。 プロバイダがリストで返す正確な方法で指定します: 比較は厳密です。独自サーバーでは これは多くの場合パスまたはエイリアスであり、通常の短い名前ではありません。Yandex AI Studio では 識別子にカタログが含まれます: gpt://<catalog>/yandexgpt/latest。 gpt-4o-mini
チェック内容 上記の説明チェック段階。どちらが利用可能かはプロバイダに依存します。 2番目から始めてください。モデルが実際に応答しているが、ただリストに記載されているだけではないことを知ることが重要な場合に 最後を有効にします。 モデルはプロバイダにあります
リクエストタイプ モデルが何をするか: 会話またはベクトル。最後の段階でのみ尋ねられます。 モデルの用途を選択してください。会話リクエストから埋め込みモデルへのプロバイダは 合法的に拒否でき、健全なモデルでもチェックが失敗します。 会話リクエスト
待機時間 チェック全体に割き当てられた時間 (いずれかの段階)。これはしきい値でもあります: チェックが長く続くと それは失敗です — 遅いが応答するプロバイダも不健全です。 コールドスタートのバッファを取ります: サーバーが最初のリクエストでモデルを立ち上げる場合、 通常より著しく遅く応答します。 1分
間隔 チェック実行頻度。 無料段階では— 好きなだけ。最後には、各チェックが料金であることを覚えておいてください。 5分
通知チャネル 問題と復旧メッセージの送信先。 実際に通知を読むチャネルをマークしてください。 Telegramとメール
レポート タスクの定期的なサマリー。 パネルに手動で入らずに概要を受け取りたい場合は有効にします。 週次レポート

アラートが発生するタイミング

選択したチェックが失敗した場合、アラートが発生します:

  • プロバイダが利用不可か、エラーで応答したか、キーを拒否した;
  • 指定したモデルが一覧にない — 2番目の段階以降;
  • モデルはあるが、サーバーはメモリに保持していない — 「モデルはメモリにロード済み」の段階;
  • モデルが拒否で応答した — 最後;
  • チェック全体が待機時間を超えた — いずれかの段階。

チェックがスキップされるタイミング

プロバイダがもっと頻度を低くするよう求めた場合、タスクは失敗せず上昇しません — チェックはスキップされ、ステータスは同じままです。これが唯一のような場合です: 周期制限は あなたのモデルではなく、私たち自身の執拗さを示しています。その他すべて — サイレントネットワーク、プロバイダの停止、拒否されたキー — このタスクでは モデルが動作していないことを意味しています。

1つのタスク — 1つのモデル

5つのモデルを監視する — 5つのタスクです。そして、モデル一覧を頻繁にチェックしたいが ライブリクエストはめったにしたくない場合は、2つのタスクと異なる段階および異なる間隔で作成してください: タスクは1つの間隔と1つの稼働時間を持ちます。2つの質問をミックスすると、誰のものかわからない 稼働時間を得ます。

通知設定

タスクの各通知チャネルに追加パラメータを設定できます。 これらはDOWNイベントにのみ適用されます。

パラメータ 動作
有効 このチャネルでのこのタスクの通知送信を許可または禁止します。
延期 PRO DOWNの最初の通知を指定時間(最大12時間)遅延させます。 一時的な障害の通知を受け取らないように便利です。
繰り返す PRO タスクが DOWN ステータスの間、通知を定期的に繰り返します(繰り返し間隔は最大1時間)。 長引く障害を見逃したくない場合に適しています。
「延期」と「繰り返す」パラメータはUPイベントおよび復旧通知には影響しません。
タスクタイプ一覧へ