AI Evaluator
🔰 Primeros Pasos⭐⭐·10 min read

Conecta tu Propio Agente: Cualquier Endpoint HTTP

Configura el endpoint de tu agente, formatos de API (OpenAI, Claude, custom), headers de autenticación y resuelve problemas de conexión.

·By AI Evaluator
conectar agente ia al evaluadortest endpoint compatible openaiendpoint agente personalizadoformato api agente

Qué Vas a Aprender

  • Configurar endpoints de agente en diferentes formatos de API
  • Configurar headers de autenticación para tu agente
  • Depurar problemas comunes de conexión
  • Usar plantillas de request personalizadas para APIs no estándar

Formatos de API de Agente Soportados

AI Evaluator puede llamar a cualquier endpoint HTTP. Vos le decís qué formato espera tu agente:

FormatoEstructura del body del requestAPIs de ejemplo OpenAI{"messages": [{"role": "user", "content": "..."}], "max_tokens": 4096}OpenAI, LiteLLM, vLLM, Ollama, la mayoría open-source ClaudeIgual que OpenAI + header anthropic-versionAnthropic Claude CustomTemplate JSON definido por el usuarioCualquier API REST

Paso 1: Agentes Compatibles con OpenAI

La mayoría de los servidores LLM open-source son compatibles con OpenAI. Apuntá AI Evaluator a tu endpoint:

curl -X POST https://api.aievaluator.dev/api/v1/playground/evaluate \

-H "Content-Type: application/json" \

-H "X-API-Key: iae_your_key_here" \

-d '{

"queries": ["¿Cuánto es 2+2?"],

"agent": {

"url": "https://your-agent.com/v1/chat/completions",

"format": "openai"

},

"metrics": ["g_eval"]

}'

Tu agente recibe un request en formato OpenAI y AI Evaluator extrae la respuesta de choices[0].message.content.


Paso 2: Agentes Compatibles con Claude

Para Anthropic Claude o APIs compatibles, usá format: "claude". El motor agrega automáticamente el header anthropic-version: 2023-06-01.


Paso 3: Plantillas de Request Personalizadas

Si tu agente tiene un formato de API no estándar, usá plantillas personalizadas con placeholders {{message}} y {{max_tokens}}.


Paso 4: Headers de Autenticación

Si tu agente requiere una API key o token, pasalo como header:

curl -X POST https://api.aievaluator.dev/api/v1/evaluations/sync \

-H "X-API-Key: iae_your_key_here" \

-d '{

"rows": [{"input": "Hola"}],

"agent": {"url": "https://your-agent.com/v1/chat", "format": "openai"},

"agent_headers": {"Authorization": "Bearer sk-your-agent-key"},

"metrics": ["g_eval"]

}'

🔒 Seguridad: Tus headers de agente se almacenan encriptados en la base de datos.


Usando la UI del Dashboard

En el dashboard, andá a Evaluations → New y usá el campo Agent Endpoint para configurar URL, formato, headers y métricas.


Solución de Problemas de Conexión

ProblemaCausa probableSolución Cannot connect to agentURL del agente inaccesibleAsegurate de que sea públicamente accesible Agent returned HTTP 401Header de auth faltanteVerificá tus agent_headers Agent returned HTTP 404Path de endpoint incorrectoVerificá la URL completa Timeout después de 15sAgente muy lentoAumentá el timeout u optimizá tu agente

Probando Localmente

Si tu agente corre en localhost, usá el agente demo internamente o exponelo públicamente con ngrok:

ngrok http 8000

# Usá la URL de ngrok en AI Evaluator


🔗 Próximos Pasos