KnowBe4 ha anunciado la publicación de su nuevo informe de investigación, "Del Riesgo de los Agentes a las Victorias Humanas: Construyendo una Cultura de Seguridad en la Era de la IA Agéntica". Los resultados resaltan un reto fundamental para las organizaciones colombianas modernas: las herramientas de IA autónomas están ampliando la superficie de ataque de las empresas a un ritmo más rápido del que los equipos de seguridad pueden implementar medidas de protección.
El panorama empresarial ha superado la fase de experimentación teórica con la IA; las organizaciones colombianas ya han comenzado a incorporar agentes autónomos y automatización basada en la IA en sus flujos de trabajo. Ahora que la IA agéntica está ampliamente integrada en el trabajo diario, el 53% de las organizaciones encuestadas utiliza agentes de IA autónomos capaces de actuar de forma independiente.
Sin embargo, la falta de gobernanza está dejando a las organizaciones en una situación de vulnerabilidad; el informe revela que el 40% de los directivos admite que el uso de la IA en sus entornos no está autorizado en absoluto o carece de una gobernanza corporativa formal. Esta IA “en la sombra”, no gestionada, funciona, en la práctica, como una capa invisible de empleados “en la sombra” que manejan datos confidenciales de la organización sin supervisión alguna.
Principales conclusiones del informe para Colombia:
● A diferencia de la IA tradicional, que se limita a responder a indicaciones, la IA autónoma es capaz de tomar decisiones, ejecutar flujos de trabajo de varios pasos e interactuar con otros sistemas sin intervención humana, lo que supone un cambio fundamental en la plantilla de las empresas.
● Esta falta de supervisión tiene consecuencias tangibles: el 55% de los responsables de la toma de decisiones en materia de ciberseguridad afirman que el uso no autorizado de software externo y de aplicaciones de inteligencia artificial no aprobadas ha deteriorado directamente o ha puesto en peligro de forma activa la seguridad de su organización en los últimos 12 meses.
● Esta vulnerabilidad está estrechamente relacionada con el comportamiento de los usuarios. Más de un tercio (40%) de los trabajadores locales admite que, si las herramientas oficiales de IA de la empresa son demasiado restrictivas o lentas, buscarán activamente sus propias herramientas de IA autónoma no autorizadas para eludir los bloqueos administrativos, dando prioridad a la velocidad frente a la seguridad.
“La ciberseguridad ha entrado en una fase volátil en la que las organizaciones intentan proteger una plantilla híbrida, compuesta por personas e inteligencia artificial. Es un entorno dinámico que cambia más rápido de lo que los responsables de seguridad pueden ir”, afirma Perry Carpenter, Director de Estrategias de Engaño de KnowBe4.
Carpenter añade, que los atacantes son capaces de actuar a la velocidad y a la escala de una máquina, aprovechando estrategias multicanal que incluyen SMS, canales de colaboración corporativa, phishing hiperpersonalizado y deepfakes para atacar a los empleados.
“Con la creciente omnipresencia de la IA, el engaño incluye tácticas como la inyección de comandos para secuestrar agentes de IA. Dejar sin controlar más de la mitad del uso corporativo de la IA es una invitación abierta a los delincuentes”, afirma Carpenter.
El reporte "Del Riesgo de los Agentes a las Victorias Humanas: Construyendo una Cultura de Seguridad en la Era de la IA Agéntica" llega a la conclusión de que, para alcanzar el éxito, las organizaciones deben diseñar sistemas que orienten el comportamiento, fomenten culturas de apoyo y pasen de centrarse en el seguimiento de los fallos a reforzar las acciones positivas, además de extender una mentalidad que dé prioridad a la seguridad tanto a los agentes de IA como a las personas.
Metodología
Este estudio se basa en una encuesta global realizada por Vanson Bourne, en la que participaron 4.000 profesionales: 800 responsables de la toma de decisiones en materia de seguridad y 3.200 empleados, de las regiones de América, EMEA y APJ, que representan a organizaciones con 250 o más empleados.
