Construir sistemas donde las personas y la IA trabajan juntas
Construir sistemas donde las personas y la IA trabajan juntas
Agregar IA a un software es relativamente fácil. Diseñar un sistema donde las personas y la IA trabajen bien juntas es bastante más difícil.
Cuando la IA pasa a formar parte de un sistema de una empresa, la pregunta importante no es simplemente dónde podemos agregar IA. Una pregunta más interesante es: ¿qué debería hacer el software, qué debería hacer la IA y qué debería quedar en manos de las personas?
Esta distinción cambia la forma en que pienso el diseño y desarrollo de software.
Tres responsabilidades diferentes
Una forma útil de pensar un sistema que incorpora IA es separar tres tipos de responsabilidades. No es una división absoluta, pero ayuda a decidir qué rol debería cumplir cada parte.
El software aporta estructura
El software tradicional funciona muy bien para aquello que necesita ser determinístico, predecible y confiable. Reglas de negocio, permisos, estados, transacciones, workflows, integraciones, trazabilidad y datos estructurados siguen necesitando una base sólida de software.
Si una factura fue aprobada, un pago cambia de estado o un usuario no tiene permisos para realizar una acción, normalmente no necesitamos que una IA decida qué sucede. Necesitamos software que aplique reglas conocidas de manera consistente.
La IA aporta inteligencia
La IA empieza a ser especialmente útil cuando el sistema necesita trabajar con información difícil de representar mediante reglas determinísticas. Puede interpretar documentos, comprender lenguaje natural, buscar información relevante, clasificarla, estructurar datos, resumir grandes cantidades de contenido o detectar información faltante.
Esto permite que el sistema participe en partes de un proceso que antes requerían que una persona buscara, leyera, comparara, interpretara y organizara información manualmente.
También puede sugerir posibles acciones. Pero que pueda hacerlo no significa necesariamente que deba controlar todo el proceso.
Las personas aportan criterio
Las personas comprenden cosas que no siempre están completamente representadas dentro del sistema. Conocen el contexto de la organización, pueden resolver excepciones, evaluar consecuencias y aportar información que quizás no existe en ninguna base de datos.
Especialmente cuando una decisión tiene consecuencias importantes, una persona puede seguir siendo responsable de decidir qué debería suceder.
Esto tampoco significa que cada acción realizada por una IA necesite aprobación humana. El nivel adecuado de autonomía depende de la tarea, de la incertidumbre y del impacto de equivocarse. Definir ese límite también forma parte del diseño del sistema.
Un ejemplo en soporte técnico
Imaginemos una empresa que realiza mantenimiento de equipos industriales. Un cliente informa que una máquina dejó de funcionar y genera una incidencia.
En un sistema de soporte tradicional, el técnico podría recibir un ticket con algunas líneas describiendo el problema. Antes de poder resolverlo, quizás tenga que identificar el equipo, encontrar el manual correcto, revisar su historial de mantenimiento, buscar tickets anteriores, consultar documentación interna y pedirle al cliente la información que falta.
Recién después de reunir todo ese contexto puede empezar a analizar qué está sucediendo.
Un sistema que integra IA puede cambiar ese flujo. Cuando el cliente informa el problema, la IA puede interpretar la descripción, identificar el equipo, detectar qué información falta, recuperar el manual correspondiente, encontrar casos históricos similares y reunir conocimiento interno relacionado con la incidencia.
El técnico ya no empieza solamente con un ticket. Empieza con contexto.
A partir de ahí puede interactuar con la IA, hacer preguntas, corregir suposiciones, incorporar nueva información y evaluar alternativas antes de decidir qué debería suceder.
El flujo podría verse así:
Cliente → IA → Contexto → Técnico ↔ IA → Decisión humana → Acción
La IA no necesariamente reemplaza al técnico. Lo que cambia es en qué utiliza el técnico su tiempo y con cuánta información cuenta cuando necesita aplicar su experiencia y criterio.
El sistema importa más que el modelo
Por eso tampoco creo que construir software con IA consista principalmente en elegir un modelo. El modelo es una parte importante, pero sigue siendo solamente un componente dentro de un sistema más grande.
Hay que decidir a qué datos puede acceder la IA, qué contexto recibe, qué herramientas puede utilizar y qué acciones puede ejecutar. También hay que definir cuándo debería pedir más información, hacer una sugerencia, actuar por sí misma o requerir la intervención de una persona.
Y hay preguntas todavía más importantes: ¿qué sucede cuando se equivoca? ¿Cómo se registra lo que hizo? ¿Cómo puede una persona corregirla? ¿Cómo aprende el sistema de esas correcciones?
Estas no son solamente decisiones sobre IA. Son decisiones de producto, UX, arquitectura e ingeniería.
Y creo que se vuelven más importantes, no menos, a medida que los modelos adquieren mayores capacidades.
Diseñar la colaboración
El objetivo, entonces, no debería ser maximizar cuánto trabajo realiza la IA. Debería ser diseñar correctamente la colaboración entre software, IA y personas.
En algunas tareas, la IA podrá trabajar con un alto nivel de autonomía. En otras, su función será reunir y preparar información para una persona. Y frente a determinadas decisiones, podrá aportar contexto y proponer alternativas mientras alguien conserva la responsabilidad sobre la decisión final.
No existe una distribución universal. Depende del proceso, de la información disponible, del nivel de incertidumbre y de las consecuencias de una decisión equivocada.
Por eso, cuando pienso en construir software con IA, vuelvo siempre a tres preguntas:
¿Qué debería hacer el software?
¿Qué debería hacer la IA?
¿Qué deberían hacer las personas?
Una forma simple de resumirlo sería:
El software aporta estructura. La IA aporta inteligencia. Las personas aportan criterio.
Porque lo interesante no es simplemente agregar IA a una aplicación. Es diseñar un sistema donde los tres puedan trabajar bien juntos.