IA

agentes

fiabilidad

Agentes de IA que sí funcionan: cómo combinar criterio, código y control

Por qué los agentes confiables combinan modelos probabilísticos, procesos deterministas y criterio humano.

Muchas empresas están intentando construir agentes de IA antes de entender qué proceso quieren mejorar. Es una inversión en la dirección equivocada. El primer objetivo no debería ser tener un agente autónomo, sino eliminar una parte del trabajo que todos conocen, todos repiten y nadie quiere hacer.

Los mejores candidatos suelen ser tareas frecuentes, tediosas y propensas a errores: leer documentos con formatos distintos, revisar llamadas, preparar notas, clasificar solicitudes o detectar registros duplicados.

La automatización no empezó con la IA

La automatización existe desde mucho antes de los modelos generativos. Lo que cambió con los modelos multimodales es la clase de información que puede entrar en el proceso: texto, audio, video, imágenes y documentos que no vienen perfectamente estructurados.

Eso no vuelve obsoleto al código. Al contrario: hace más importante separar qué parte del proceso necesita reglas y qué parte necesita interpretación.

Empieza con la tarea que más detestas

Una buena primera automatización no es la más espectacular. Es la que tiene suficiente volumen para importar y suficiente claridad para poder medirla.

  • Ocurre con frecuencia y consume atención cada semana.
  • Es fácil equivocarse por cansancio o falta de contexto.
  • Usa información no estructurada o cambia de formato.
  • Permite revisar, corregir o revertir el resultado.
  • Tiene un criterio de éxito que puede observarse.

Este filtro también evita un error común: usar un agente para un proceso que un script, una consulta o una regla ya resolverían mejor.

Los agentes son buenos para las excepciones

Entrevistas, llamadas, notas de reuniones, revisión de código y procesamiento documental tienen algo en común: combinan conversación o contenido no estructurado con una acción posterior.

Un agente puede extraer los temas de una entrevista, proponer preguntas, detectar una contradicción en un contrato o preparar un borrador para actualizar un CRM. Pero no debería decidir solo qué cambios son irreversibles, sensibles o difíciles de auditar.

A reliable agentic workflowDeterministic code controls the process, an AI agent interprets ambiguous input, and a human reviews risky cases.CODErules · toolsvalidation · stateAGENTlanguage · audiodocuments · exceptionsHUMANrisk · contextaccountabilityfeedback, audit trail, and safe fallback
Un proceso confiable combina código, agentes y supervisión humana.

La confiabilidad se diseña alrededor del modelo

Un modelo de lenguaje es probabilístico. Puede producir respuestas diferentes ante entradas parecidas y también puede entregar una respuesta plausible pero incorrecta. Bajar la temperatura ayuda a la consistencia, pero no convierte al modelo en una función matemática perfectamente reproducible.

La solución es construir un sistema que limite el daño de una interpretación equivocada:

  • código para el estado, los permisos y las transiciones;
  • esquemas estructurados y validaciones deterministas;
  • evidencia y trazabilidad de cada decisión;
  • umbrales de confianza y revisión humana;
  • pruebas con ejemplos reales y monitoreo en producción.

Un ejemplo: descubrir que dos registros son la misma persona

Benjamin Hernández puede aparecer en otro sistema como Ben Hernández. Eso es un problema de entity resolution, no simplemente de comparar cadenas de texto.

Un pipeline sólido puede normalizar nombres y direcciones, encontrar candidatos con reglas y dejar que un modelo avanzado analice los pares ambiguos. El modelo debería considerar nombre, correo, teléfono, dirección y contradicciones entre campos; después, el sistema decide si fusiona, envía a revisión o conserva ambos registros.

La IA aporta criterio semántico. No debería tener permiso para convertir una conjetura en una verdad sin una capa de validación.

La pregunta para un founder

Antes de construir un agente, pregunta: ¿dónde está la ambigüedad que antes hacía demasiado caro automatizar este proceso? Si no existe, probablemente necesitas software convencional. Si existe, define qué puede interpretar el agente, qué debe comprobar el código y cuándo debe intervenir una persona.

No se trata de reemplazar la automatización por agentes. Se trata de usar código donde conocemos las reglas, modelos donde necesitamos interpretar ambigüedad y humanos donde el costo del error exige criterio.
I’m Arnold Moya. I write about software architecture, AI, systems, performance, and the tradeoffs behind building technology that works in the real world.