La creciente adopción de IA agéntica está acelerando la automatización de procesos, pero también abre nuevos interrogantes sobre responsabilidad, supervisión y gestión del riesgo.

La velocidad de adopción de la inteligencia artificial supera en muchos casos la capacidad de las organizaciones para establecer mecanismos de control y gobernanza.

Los expertos alertan de que el principal desafío ya no es tecnológico, sino de supervisión, trazabilidad y responsabilidad sobre las decisiones automatizadas.

Babel considera que las empresas deberán aplicar a los agentes de IA criterios similares a los que hoy utilizan para gestionar accesos, permisos y riesgos operativos.

Babel, multinacional tecnológica española especializada en transformación digital, advierte de que la rápida adopción de la IA agéntica está abriendo una nueva etapa en la gestión del riesgo empresarial. Gartner prevé que el 40% de las aplicaciones empresariales incorporen agentes de IA específicos para tareas a finales de 2026, frente a menos del 5% en 2025, una evolución que acelerará la automatización de procesos, pero que también obligará a las compañías a revisar cómo gobiernan permisos, decisiones y responsabilidades.

La inteligencia artificial está dejando de ser una herramienta de apoyo para convertirse en un actor cada vez más presente en la ejecución de tareas y procesos dentro de las organizaciones. Los nuevos sistemas de IA agéntica son capaces de interactuar con aplicaciones, consultar información, ejecutar acciones y participar en procesos de decisión de forma autónoma.

Lo que hace apenas unos años parecía un escenario experimental empieza a incorporarse a la actividad cotidiana de muchas compañías. Y es precisamente ahí donde surge una nueva pregunta: ¿están preparadas las organizaciones para supervisar sistemas capaces de actuar por sí mismos?

McKinsey advierte de que los marcos tradicionales de ciberseguridad y gestión del riesgo no contemplan plenamente agentes autónomos capaces de actuar con discrecionalidad y adaptabilidad. La firma llega incluso a definir estos sistemas como "empleados digitales internos", ya que operan dentro de las organizaciones con distintos niveles de acceso y autoridad. Para las empresas, esto implica extender a los agentes de IA mecanismos que hasta ahora se aplicaban exclusivamente a personas, sistemas y procesos.

Mientras la automatización gana terreno, los mecanismos de supervisión avanzan a una velocidad diferente. Nunca las organizaciones han contado con más herramientas para automatizar procesos, pero tampoco habían necesitado establecer con tanta claridad quién puede tomar decisiones, bajo qué criterios y quién asume la responsabilidad cuando algo falla.

La preocupación ya no se limita a proteger infraestructuras o evitar accesos no autorizados. A medida que los agentes de IA adquieren mayor autonomía, las compañías deberán responder a cuestiones relacionadas con permisos, trazabilidad, auditoría, supervisión y capacidad de intervención sobre sistemas que operan de forma cada vez más independiente.

En paralelo, el entorno regulatorio continúa evolucionando. Normativas como NIS2, DORA o el Reglamento Europeo de Inteligencia Artificial están elevando las exigencias sobre gestión del riesgo, resiliencia operativa y gobierno tecnológico. Sin embargo, la adaptación organizativa necesaria para responder a estos nuevos requisitos sigue avanzando de forma desigual.

Para Xan Fernández, Head of Data & IA en Babel, la IA agéntica es algo imparable en el seno de la empresa, pero no está exenta de riesgos, el ejecutivo lo explica así: "Cada vez más organizaciones están incorporando agentes de IA capaces de ejecutar tareas y tomar decisiones de forma autónoma. La tendencia es clara: estos sistemas asumirán un papel creciente en procesos que hasta ahora dependían de la supervisión humana. El reto es que la gobernanza no está avanzando al mismo ritmo en todas las compañías. Muchas están centradas en explorar las oportunidades de la automatización, pero todavía no han definido con suficiente claridad cómo supervisar, auditar o limitar determinadas actuaciones de estos sistemas".

El reto no consiste únicamente en implantar nuevas tecnologías. También exige desarrollar modelos de gobierno capaces de garantizar que las decisiones automatizadas sean transparentes, trazables y coherentes con las políticas corporativas y regulatorias.

"La próxima brecha de seguridad puede no venir de un empleado, sino de un agente de IA con demasiados permisos", señala Xan. "Durante años hemos trabajado para controlar los accesos de las personas a los sistemas corporativos. Sin embargo, muchas organizaciones todavía no están aplicando el mismo nivel de exigencia a estas nuevas entidades digitales. Y eso puede convertirse en un problema mucho antes de lo que imaginamos".

Durante años la conversación sobre inteligencia artificial se ha centrado en lo que la tecnología era capaz de hacer. La siguiente fase será distinta. La cuestión ya no será únicamente qué decisiones pueden tomar estos sistemas, sino cómo se supervisan, quién responde por ellas y qué mecanismos existen para intervenir cuando algo no sale como estaba previsto.

Los agentes de IA seguirán ganando protagonismo dentro de las organizaciones. La diferencia estará en qué empresas consiguen desplegarlos manteniendo el control sobre sus actuaciones y cuáles descubren demasiado tarde que automatizar también implica asumir nuevas responsabilidades.