AI Evaluator
🔰 Primeros Pasos⭐⭐·10 min read

Crea tu Primer Dataset de Evaluación

Crea un dataset con input + expected_output + context. Buenas prácticas para datasets efectivos que capturen regresiones.

·By AI Evaluator
crear dataset evaluación llmmejores prácticas dataset test iadataset expected outputcsv evaluación iadiseño dataset llm

Qué Vas a Aprender

  • La anatomía de un buen dataset de evaluación
  • Cómo escribir filas de prueba efectivas (input, expected_output, context)
  • Subir datasets por API o dashboard
  • Mejores prácticas para diseño de datasets

Anatomía de un Dataset

Un dataset es una colección de filas, cada una representando un caso de prueba:

{

"input": "¿Cómo cancelo mi suscripción?",

"expected_output": "Andá a Configuración > Facturación > Cancelar plan. Tu acceso continúa hasta el final del período de facturación.",

"context": ["Política de soporte al cliente v2.3", "FAQ de Facturación"]

}

CampoRequeridoPropósito input✅La consulta/prompt enviada a tu agente expected_output❌Lo que el agente debería decir (usado para comparación) context❌Documentos/conocimiento de fondo (usado para Faithfulness)

Paso 1: Diseñá Buenas Filas de Prueba

Un conjunto pequeño de casos de prueba bien elegidos detecta más regresiones que uno grande y aleatorio. Incluí: Happy path, casos límite, ambiguos, adversariales y específicos del dominio.

Escribí expected_output como descripción de puntos clave, no como coincidencia exacta de string.


Paso 2: Creá un Dataset por API

curl -X POST https://api.aievaluator.dev/api/v1/datasets \

-H "X-API-Key: iae_your_key_here" \

-H "Content-Type: application/json" \

-d '{

"name": "Regresión de Soporte al Cliente",

"rows": [

{"input": "Quiero cancelar mi suscripción", "expected_output": "Explica cómo cancelar desde Configuración > Facturación, menciona acceso hasta fin del período."}

]

}'


Paso 3: Creá un Dataset por Dashboard

  1. Andá a Datasets en la barra lateral
  2. Cliqueá "New Dataset"
  3. Ponéle un nombre
  4. Agregá filas una por una o pegá JSON
  5. Cliqueá Create

Paso 4: Subí un Archivo CSV

Para datasets más grandes, subí un CSV con columnas input, expected_output, context.


Paso 5: Usá Contexto para Evaluación RAG

Si tu agente usa una base de conocimiento, proporcioná el contexto relevante. La métrica Faithfulness verificará si la respuesta está fundamentada en esos documentos.


Mejores Prácticas de Dataset

✅ Hacer❌ No hacer Empezar con 10-20 filas cubriendo escenarios claveCrear 500 filas aleatorias sin curación Incluir casos límite y modos de fallaSolo probar el happy path Escribir salidas esperadas como bullet pointsEsperar coincidencias exactas de string Versionar tus datasetsBorrar datasets viejos — guardalos para regresión

Qué Sigue Con Tu Dataset

Ahora podés usar tu dataset para ejecutar evaluaciones completas, configurar CI/CD quality gates, detectar regresiones y seguir mejoras en el tiempo.


🔗 Próximos Pasos