El 70% de los líderes prevé que el humano deje de ejecutar para pasar a supervisar agentes de IA

Con el 75% de las empresas españolas preparadas para implantar un agente de IA, las organizaciones ya no se preguntan si deben desplegar agentes, sino qué flujos de trabajo justifican el coste de operarlos y cómo llevarlos a producción. Esta es una de las principales conclusiones de “Agentic AI: La nueva alianza humano-máquina”, el último informe de MIOTI Tech & Business School, elaborado a partir de las respuestas de más de 70 líderes de Tecnología y Recursos Humanos de 25 sectores.

Según el estudio, que analiza qué esperan las empresas de estos sistemas, qué riesgos perciben y hasta qué punto están dispuestas a delegar en ellos durante los próximos dos años, el 90% de los ejecutivos quiere agentes capaces de aprender y recordar el contexto de trabajo, mientras que un 73% aún se muestra preocupado por las alucinaciones operativas de los modelos, una preocupación creciente ante el riesgo de que un error de la Inteligencia Artificial (IA) termine convirtiéndose en una acción real.

En cuanto a capacidades, más allá de la memoria persistente, la autonomía y el control por parte de los agentes, el estudio muestra que las empresas ya empiezan a exigir funcionalidades adicionales y cada vez más sofisticadas. La multimodalidad, que permite trabajar con diferentes tipos de información, como texto, imágenes, audio o vídeo, es señalada por 7 de cada 10 de los participantes como una de las claves fundamentales de cara al futuro, mientras que 5 de cada 10 destaca la capacidad de ejecución y orquestación de tareas.

El salto de la IA Generativa a la IA Agéntica cambia en gran medida la dimensión de los riesgos existentes. Hasta ahora, en un flujo principalmente conversacional, la respuesta generada por la IA llegaba normalmente a una persona, que podía revisarla antes de utilizarla o tomar una decisión a partir de ella; sin embargo, cuando a un agente tiene la autonomía suficiente para actuar, el error podría trasladarse a un proceso real sin revisión previa. Así, aparecen preocupaciones relacionadas con el control de la información y las decisiones: un 69% de los líderes señala la incertidumbre por dónde acaban los datos con los que la IA se alimenta y un 59% apunta a la falta de trazabilidad existente. Para poner solución a las alucinaciones, un 43% señala el gobierno del conocimiento como base necesaria para evitarlas.

“Hasta ahora hemos trabajado con una Inteligencia Artificial que nos ayudaba a generar, analizar o responder, pero los agentes introducen una diferencia importante: pueden actuar”, señala Fabiola Pérez, CEO y cofundadora de MIOTI. “Para las empresas esto abre muchas posibilidades, pero también exige saber con qué información trabaja un agente, entender por qué ha tomado una determinada decisión y definir claramente hasta dónde puede llegar sin intervención humana. La autonomía tiene que avanzar de la mano de la confianza y el control”.

Agent Managers: el nuevo rol del humano

La mayor autonomía de los agentes de IA no significa necesariamente que las empresas estén planteando sacar a las personas de los procesos. Lejos de esta redistribución, lo que empieza a cambiar es el papel que tendrán los humanos dentro de ellos. A medida que ciertas tareas puedan delegarse, los profesionales irán ganando peso en otras tareas esenciales como definición de objetivos, supervisión del trabajo y aportar criterio.

De hecho, MIOTI señala en su informe que el 7 de cada 10 líderes pretende mantener al humano en un rol de supervisión o control del agente, no de ejecución. Ante este nuevo rol del personal humano, un 37% identifica un papel protagonista como supervisor estratégico para evaluar el resultado final y un 33% como interventor operativo capaz de autorizar cada crítico paso. Para ello, un 47% pone el foco en el reskilling y upskilling de los profesionales hacia la formación deprompting avanzado y la gestión de agentes. En este sentido, la compañía augura que los humanos van a pasar de “People Managers a Agent Managers”, un nuevo perfil capaz de coordinar el trabajo de equipos que ya no solo gestiona personas, sino también agentes.

Nuevo negocio: dónde poner los esfuerzos

En este incipiente panorama, el siguiente paso será identificar qué tareas pueden asumir estos sistemas de principio a fin, cuáles necesitan puntos de validación y en qué momentos sigue siendo imprescindible la intervención humana. La transformación ya empieza a reflejarse en las prioridades de las compañías, y el 75% de los líderes señala el rediseño de los flujos de trabajo como una de las principales áreas en las que invertir. En la práctica, las empresas tendrán que decidir qué se puede delegar, qué información necesita un agente para actuar correctamente y dónde deben mantenerse controles humanos.

Los datos y el conocimiento interno adquieren así un papel especialmente relevante: cuanto mayor sea la autonomía de estos sistemas, más importante será que trabajen sobre información fiable, actualizada y correctamente gobernada. MIOTI sitúa precisamente los datos, la arquitectura, la gobernanza y las personas entre las bases necesarias para pasar de la experimentación con agentes a su integración real en el negocio.

Y no todas las áreas partirán del mismo punto. El 39% de los directivos espera que los primeros casos de éxito se produzcan en operaciones y finanzas y un 31% en marketing y ventas, por delante de otras áreas como recursos humanos, legal, logística o desarrollo de software. Más que extender los agentes de forma igualitaria por toda la organización, el informe plantea una evolución progresiva, empezando por procesos concretos en los que puedan demostrar su utilidad antes de escalar a otros departamentos.

“Estamos entrando en una etapa en la que incorporar Inteligencia Artificial ya no significa simplemente dar una nueva herramienta a los equipos. Los agentes van a formar parte de los propios procesos y eso obliga a pensar de nuevo cómo se distribuye el trabajo, qué podemos delegar y dónde necesitamos mantener el criterio humano. El reto para las empresas será combinar tecnología, conocimiento y talento para que esa autonomía se traduzca realmente en una mejora del negocio”, concluye Fabiola Pérez, CEO y cofundadora de MIOTI.

Nota:https://www.rrhhdigital.com/