Funcionamiento del modelo de IA

La verificación controla que el modelo en el que se basa tu servicio esté disponible y responda. Los proveedores de IA raramente se caen por completo: más a menudo el modelo se retira de la publicación, la clave deja de funcionar o una respuesta que tardaba dos segundos comienza a tardar cuarenta. Una verificación HTTP normal no lo notará — verá un sitio de proveedor que funciona.

Qué verificar exactamente

Se elige un nivel, no un conjunto de casillas: están anidados — "el modelo responde" sin "el proveedor responde" no sucede. El contenido de la lista depende del proveedor: "el modelo está cargado en memoria" solo ofrece su propio servidor, porque solo él devuelve este atributo.

Nivel Qué se verifica Precio
El proveedor responde El proveedor devuelve la lista de sus modelos y se analiza la respuesta. Detecta servicios no disponibles, direcciones incorrectas y claves revocadas. Gratis
El proveedor tiene el modelo El modelo que especificaste está en esta misma lista. Detecta retiros de modelos de la publicación y modelos falsificados en tu propio servidor. Gratis
El modelo está cargado en memoria El modelo no solo está listado, sino que el servidor lo mantiene en memoria. Detecta modelos descargados por inactividad antes de que el primer usuario los encuentre: un modelo descargado responderá, pero primero gastará decenas de segundos en cargar. Solo disponible en tu propio servidor — un proveedor público no revela información sobre su memoria. Gratis
El modelo ejecuta la solicitud Se envía una solicitud real corta al modelo. El único nivel que detecta "está en la lista, pero rechaza la solicitud" y ralentización del modelo en sí. Facturado
El último nivel cuesta dinero. Ejecuta una solicitud real al modelo en cada verificación: el proveedor la factura, tu propio servidor consume recursos. Verificar cada minuto son más de cuarenta mil solicitudes por mes. No imponemos límites: solo tú sabes cuánto cuesta la solicitud — pero el intervalo debería ser de 15 minutos o más. Por defecto se selecciona el segundo nivel, gratis.
Tenga en cuenta: basta con una clave de API normal, la misma que ya usas para acceder a los modelos. No necesitamos y no solicitamos una clave administrativa de la organización.
El identificador del modelo se verifica literalmente. Desde el segundo nivel buscamos exactamente la cadena que ingresaste en la lista del proveedor. Algunos proveedores tienen en la lista identificadores con fecha de lanzamiento, y el nombre corto funciona en solicitudes, pero no aparece en la lista — y la verificación dirá que el modelo no existe, aunque esté vivo. Toma el nombre de la lista del proveedor, no del ejemplo en la documentación.
Tu propio modelo en una red interna no está disponible. La verificación se ejecuta desde nuestros servidores, por lo que un modelo levantado en una red local o detrás de una VPN no será visible para nosotros — así como para cualquiera desde el exterior. Puedes monitorear solo lo que está disponible en internet.

Campos del formulario

Campo Significa Qué ingresar Ejemplo
Nombre Nombre de la verificación. Indica qué modelo es y por qué es importante para ti. Modelo de soporte
Grupo Permite asignar la tarea a un proyecto o sección. Selecciona un grupo si quieres mantener las tareas del proyecto juntas. Proyecto principal
Proveedor El dialecto de API que habla tu servicio. Elige el proveedor de la lista. Los servidores propios en Ollama y LM Studio tienen elementos separados: solo ellos muestran si el modelo está en memoria. Para todo lo demás — otro motor, puerta de enlace, proveedor menos conocido — elige "API compatible con OpenAI". API compatible con OpenAI
Dirección de API Adónde conectarse. Se solicita para API compatible y para servidor propio — los proveedores públicos tienen una dirección fija y conocida. Qué ingresar exactamente está indicado debajo del campo: la API compatible necesita la dirección con la versión, el servidor propio necesita la dirección sin ruta. https://api.openai.com/v1
Clave de API La clave con la que se realiza la solicitud. Inserta la clave del panel del proveedor. Para GigaChat es la clave de autorización del proyecto — no el identificador del cliente ni el secreto por separado. Para Yandex AI Studio — la clave API de la cuenta de servicio. Para tu propio servidor podría no haber clave en absoluto — entonces deja el campo vacío; si el servidor está detrás de un proxy, ingresa su token. Al editar una tarea, un campo vacío significa "mantener la clave anterior". sk-…
Directorio El directorio de nube donde operan los modelos. Solo se solicita para Yandex AI Studio. Ingresa el identificador del directorio donde se creó la cuenta de servicio con la clave. También aparece en el identificador del modelo después de gpt://. b1g…
Versión de API El alcance de acceso de la clave. Solo se solicita para GigaChat. Selecciona la que se indica en tu panel junto a la clave de autorización: para particulares, para negocios con paquetes o pago por realización. La clave de una versión no será aceptada en otra. Personas físicas
Modelo El identificador del modelo que monitoreamos. Especifícalo exactamente como el proveedor lo devuelve en la lista de modelos: la verificación es estricta. En tu servidor propio a menudo es una ruta o alias, no el nombre corto habitual. En Yandex AI Studio el identificador incluye el directorio: gpt://<directorio>/yandexgpt/latest. gpt-4o-mini
Qué verificar El nivel de verificación de los descritos arriba. Cuáles están disponibles depende del proveedor. Comienza con el segundo. Activa el último cuando es importante saber que el modelo realmente responde, no solo está listado. El proveedor tiene el modelo
Tipo de solicitud Qué hace el modelo: conversación o vectores. Solo se solicita en el último nivel. Elige para qué está diseñado el modelo. Una solicitud de conversación a un modelo de inserción será rechazada legítimamente por el proveedor, y la verificación fallará en un modelo sano. Solicitud de conversación
Tiempo de espera Cuánto tiempo se asigna para toda la verificación, en cualquier nivel. También es el umbral: una verificación más larga se considera un fallo — un proveedor que responde pero lentamente también está roto. Usa con margen para la carga fría: un servidor que carga el modelo en la primera solicitud responde notablemente más lento que lo normal. 1 minuto
Intervalo Con qué frecuencia ejecutar la verificación. En niveles gratis — como prefieras. En el último, recuerda que cada verificación es facturada. 5 minutos
Canales de notificación Dónde enviar mensajes sobre problemas y recuperación. Marca los canales donde realmente lees notificaciones. Telegram y correo
Reportes Resúmenes periódicos de la tarea. Activa si quieres recibir una descripción general sin entrar manualmente en el panel. Reporte semanal

Cuándo llega una alerta

Una alerta llega si la verificación seleccionada no pasa:

  • el proveedor no está disponible, respondió con error o rechazó la clave;
  • el modelo especificado no está en la lista — desde el segundo nivel;
  • el modelo existe pero el servidor no lo mantiene en memoria — en el nivel "el modelo está cargado en memoria";
  • el modelo respondió con rechazo — en el último nivel;
  • toda la verificación tardó más que el tiempo de espera — en cualquier nivel.

Cuándo se salta la verificación

Si el proveedor pidió ser consultado con menos frecuencia, la tarea no cae ni sube — la verificación se salta y el estado permanece igual. Este es el único caso así: la limitación de frecuencia habla de nuestra propia insistencia, no de tu modelo. Todo lo demás — red silenciosa, avería en el proveedor, clave rechazada — para esta tarea significa que el modelo no está funcionando.

Una tarea — un modelo

Monitorear cinco modelos son cinco tareas. Y si quieres verificar la lista de modelos frecuentemente, pero el live request raramente, crea dos tareas con niveles diferentes e intervalos diferentes: una tarea tiene un intervalo y un uptime, y si mezclas dos preguntas, obtuviste un uptime del que es poco claro de quién es.

Configuración de notificaciones

Para cada canal de notificación en la tarea, puedes configurar parámetros adicionales. Funcionan solo para eventos DOWN.

Parámetro Qué hace
Habilitado Permite o prohíbe enviar notificaciones a través de este canal para esta tarea.
Posponer hasta PRO Retrasa la primera notificación sobre DOWN el tiempo seleccionado (hasta 12 horas). Útil para no recibir alertas sobre fallos transitorios.
Repetir cada PRO Repite periódicamente la notificación mientras la tarea permanece en estado DOWN (hasta 1 hora entre repeticiones). Útil cuando es importante no perderse una falla prolongada.
Los parámetros "Posponer" y "Repetir" no afectan los eventos UP ni las notificaciones de recuperación.
Volver a lista de tipos de tareas