La evolución tecnológica ha transformado radicalmente el perímetro de la seguridad corporativa. Si en el pasado las organizaciones batallaban contra el fenómeno de la "Shadow IT" —con empleados utilizando plataformas de almacenamiento comercial como Dropbox fuera del control del servidor local— hoy la masificación de la inteligencia artificial que impulsó ChatGPT ha dado paso a un riesgo mucho más complejo y profundo: la "Shadow AI".
En este nuevo escenario, el peligro ya no radica únicamente en dónde se almacena un archivo, sino en el hecho de que los propios colaboradores están alimentando modelos públicos de IA con propiedad intelectual y datos financieros confidenciales de sus empresas, en la mayoría de las ocasiones sin notar que están cometiendo un error.
A diferencia de los ciberataques tradicionales, la adopción de herramientas no autorizadas de IA dentro de los departamentos corporativos no nace de una intención malintencionada, sino de un comportamiento humano que es puramente operativo.
De acuerdo con Dave Russell, Vicepresidente Senior y Director de Estrategia de Veeam Software, las personas acceden a las herramientas de IA en búsqueda de agilizar sus flujos de trabajo, ser más eficientes y responder con mayor rapidez a las exigencias competitivas del mercado actual. Sin embargo, este acto de optimizar la productividad está abriendo brechas críticas en los sistemas de gobernanza institucional.
"Al contrario del cibercrimen, donde los usuarios buscan obtener un beneficio de algo ilícito, la actividad en el Shadow AI no es maliciosa. Las personas están actuando basándose en un deseo de hacer el bien, de hacer mejor su trabajo, de ser más competitivas, de ser más rápidas al realizar sus labores en el mismo beneficio del negocio. Por lo tanto, se trata de un problema de un proceso que no está funcionando adecuadamente", explica Russell.
Haz clic aquí para ser parte de la Encuesta: Panorama del Mercado de Software de Gestión en México - Tu respuesta contribuye al análisis más completo del mercado ERP en la región.
La digitalización y el aumento del perímetro de ataque
Históricamente, el resguardo de la información empresarial se centraba en asegurar físicamente el centro de datos mediante una seguridad perimetral estricta. La posterior migración a la nube y los entornos de software como servicio (SaaS) expandieron estas fronteras. Ahora, con la introducción de modelos de lenguaje de libre acceso (como ChatGPT, Claude o Microsoft Copilot) eleva la exposición a un nuevo nivel debido al copiado y pegado inconsciente de fragmentos de documentos internos confidenciales.
Para dimensionar la gravedad actual, Russell utiliza la analogía de un maletín corporativo olvidado en la vía pública. En el pasado, si un empleado dejaba documentos físicos en un autobús o un restaurante, cabía la posibilidad de que nadie los leyera o de que el impacto se limitara únicamente a la persona que los encontrara en formato físico. Con la digitalización, y especialmente con la inteligencia artificial, esa contención ha desaparecido por completo.
"Más rápido de lo que puedes chasquear los dedos, esa información podría ser asimilada en un modelo de IA y volverse en un archivo que se puede compartir de forma instantánea. Ocurre tan rápido, a la velocidad de la máquina, que la capacidad de reaccionar o el potencial de exposición y filtración de datos es significativamente mayor, y tu capacidad para controlarlo después de que ocurre es mucho menor", advierte el ejecutivo.
Esta velocidad de procesamiento digital implica que los agentes y las herramientas de IA están operando fuera del perímetro tradicional de ataque y de la gobernanza central de TI, dando pie a una alta exposición de datos que debe ser calculada y mitigada con anticipación.
¿Qué pasa cuando el backup incluye errores ocasionados por la IA?
El uso de herramientas de IA no autorizadas por parte de los equipos de ingeniería y desarrollo de software para la generación de código puede introducir vulnerabilidades directamente en la empresa.
Si un desarrollador recurre a un modelo público en busca de un script o algoritmo para resolver un problema de forma ágil, y este código contiene brechas de seguridad ocultos, el error acaba incrustado en el producto final de la compañía y, en consecuencia, es respaldado de manera automática en las copias de seguridad, ¿esto hace que el backup sea poco confiable?
Pese a los riesgos evidentes, Russell matiza que las empresas no deben entrar en pánico ni asumir esto como un desafío insuperable: “Las organizaciones siempre han lidiado con el riesgo latente al reutilizar librerías de código ajenas o adquirir software mediante terceros. La diferencia principal reside en la velocidad a la que se introduce la falla. Para contrarrestarlo, el enfoque moderno debe centrarse en una adecuada "resiliencia de datos e IA", la cual permite contar con capacidades robustas de inspección, restauración rápida y la posibilidad de revertir fallas, borrados accidentales o corrupciones de aplicaciones provocadas por el uso indebido de modelos de IA”, destaca.
Que el riesgo no frene el ritmo de innovación
En la actualidad, los directores de tecnología (CIO) se encuentran atrapados en una fuerte tensión institucional. Por un lado, el CEO exige una adopción acelerada de IA para mantenerse competitivos. Por el otro, los directores de seguridad (CISO) se esfuerzan por restringir y bloquear accesos con el fin de evitar fugas masivas.
Como sucedió en el pasado con la migración a entornos de nube, el camino de la prohibición absoluta sólo puede llevar a las empresas al fracaso. Cuando los departamentos de TI colocan barreras que son imposibles de derribar, es donde los empleados e incluso los altos directivos del negocio encuentran vías alternativas para esquivarlas en su afán de cumplir con las metas, llevándolos justamente hacia el Shadow AI o prácticas incluso aún más vulnerables.
En su lugar, el Dave Russell sugiere que las empresas deben aceptar la realidad tecnológica y centrarse en construir marcos seguros. “No se trata de bloquear e ir contra corriente, las empresas deben crear estrategias más robustas basadas en tres pilares: educación continua a la fuerza laboral, implementación de mejores controles técnicos y el desarrollo de capacidades eficaces de recuperación de sistemas ante incidentes”.
Inteligencia Artificial para combatir IA maliciosa
Otro de los riesgos del Shadow AI es el uso que los cibercriminales hacen de la IA generativa para diseñar correos de phishing hiperpersonalizados. Lejos de las antiguas estafas genéricas fáciles de detectar, hoy en día los atacantes recopilan la información fragmentada que los propios empleados filtran en herramientas públicas de IA para estructurar correos comerciales convincentes y suplantaciones de identidad sumamente precisas.
Frente a esto, la tecnología puede asistir en la detección de anomalías, utilizando la misma IA empresarial para detectar IA maliciosa, sin embargo, sigue siendo indispensable el factor humano, reforzando la protección a través de mejores prácticas sencillas, cotidianas y que no generan costos adicionales como dobles verificaciones operativas, que pueden elevar drásticamente los niveles de protección.
Plan de Acción: Las primeras horas tras detección de Shadow AI son clave
Si un CIO descubre que algún empleado o incluso área de negocio utiliza herramientas de IA no autorizadas, el procedimiento inmediato sugerido por Dave Russell se divide en dos fases críticas:
Fase Reactiva: Verificar la integridad del inventario de datos corporativos, constatar que se dispone de copias de seguridad fidedignas y asegurar la capacidad logística para restablecer los entornos a un estado conocido y seguro si se detectan anomalías.
Fase Proactiva (Gobernanza del Prompt): Instruir y concientizar a los usuarios sobre cómo estructurar las peticiones (prompts) sin necesidad de divulgar variables financieras explícitas, cifras presupuestarias ni propiedad intelectual confidencial para obtener las respuestas automatizadas deseadas.
El futuro de la gestión empresarial de TI no consiste en aislarse del avance tecnológico, sino en asimilarlo con preparación anticipada. Con la combinación de educación, herramientas estratégicas de resiliencia de datos y una cultura corporativa consciente del valor de su información, la interacción con la inteligencia artificial se normalizará paulatinamente en los próximos años, integrándose de forma segura y natural en el núcleo operativo diario de los negocios.
Dave Russell, Vicepresidente Senior y Director de Estrategia de Veeam Software
