El uso de inteligencia artificial en las empresas plantea un desafío que va más allá de adoptar nuevas herramientas: construir las condiciones para confiar en su autonomía. Para Victoria Martínez Suárez, gerente de plataformas de AI de Red Hat para América Latina, esto exige repensar la forma en que se desarrollan los procesos, establecer mecanismos de gobernanza desde la arquitectura y reforzar los controles de seguridad durante todo el ciclo de uso de la IA. El objetivo no es frenar la innovación, sino permitir que avance con supervisión y genere valor para el negocio.
Según la ejecutiva, la región atraviesa una etapa de adopción más avanzada en la que las organizaciones comienzan a identificar los casos de uso que sean capaces de generar nuevos ingresos y transformar sus operaciones.
“Hay muchos informes que dicen que la inteligencia artificial todavía no puede demostrar el retorno de inversión, y esto tiene que ver con los casos de uso que se han hecho más experimentales, sin el propósito o con el impacto del negocio”, señala.
Esta situación pone en evidencia una de las principales dificultades de las estrategias empresariales de IA: utilizar la tecnología para replicar procesos existentes sin modificar la manera en que opera el negocio. De acuerdo con Martínez, una mala estrategia lleva a que algunas implementaciones terminen ejecutando las mismas tareas que antes, pero con mayores costos.
"Se debe abordar una estrategia de IA desde lo cultural, a nivel humano; desde los nuevos roles que se tienen que definir, hasta cómo el negocio se termina adaptado a esta tecnología”, explica. Para poder visualizar el retorno de inversión se deben replantear los procesos y encontrar oportunidades donde la IA contribuya a generar nuevos ingresos, no simplemente a acelerar tareas.
La gobernanza como condición para escalar
A medida que aumenta el número de modelos y agentes en las organizaciones, también crece la necesidad de establecer mecanismos de control. Para Martínez, implementar soluciones sin una estrategia común puede generar duplicidad de esfuerzos, inversiones innecesarias y desarrollos cuyo propósito no está claramente definido.
La seguridad representa otro desafío. La especialista advierte que los riesgos no aparecen únicamente cuando una solución entra en operación, sino durante cada interacción con los modelos.
“Lo que necesitamos es empezar a tener más conciencia es que la inferencia ocurre en otros dos momentos importantes. Uno es, en cada inferencia, ¿a qué estoy siendo expuesto? ¿A qué posible vulnerabilidad? Esto no se plantea al final del camino, es en la entrada, es a lo largo de todo el proyecto, todo el tiempo, cada vez que surge, todo el proceso”, afirma.
La ejecutiva cita un estudio de IDC, donde solo el 19% de las soluciones que utilizan algún modelo generativo está siendo monitoreado. Además, señala que el seguimiento suele concentrarse en el consumo de tokens, dejando de lado aspectos de seguridad y comportamiento.
Por ello, la supervisión debe contemplar no solo el consumo de recursos, sino también el comportamiento de los modelos y su exposición a posibles vulnerabilidades.
Agentes autónomos, pero bajo supervisión
La incorporación de agentes de IA también introduce una nueva dimensión en la gestión tecnológica. Hoy hay una premisa clara, entorno a que las organizaciones comienzan a delegar tareas y decisiones en sistemas que pueden actuar con distintos niveles de autonomía. Esto exige revisar los modelos tradicionales de seguridad, identidad y supervisión.
“A mí me gusta hablar mucho del verdadero poder que tiene la inteligencia artificial: su autonomía. Y ahí puedo tener otro retorno de inversión también. Pero para usarla con autonomía necesitamos confiar en ella”, sostiene Martínez.
Esa confianza debe construirse desde la arquitectura tecnológica, con puntos de control, gestión de identidades, evaluación de riesgos y monitoreo permanente. No basta con establecer políticas internas si estas no se traducen en mecanismos técnicos que permitan supervisar las acciones de los agentes.
“Y siempre, siempre el humano debe estar en el medio”, enfatiza. La autonomía, desde esta perspectiva, no significa eliminar la supervisión humana, sino establecer controles proporcionales a las capacidades y responsabilidades que se delegan a la IA.
Finalmente, Martínez advierte que la facilidad para desarrollar soluciones también puede convertirse en un riesgo si no viene acompañada de mayores controles y conciencia sobre la privacidad de los datos. “Pero el crear rápido significa que tengo que incrementar muchos más controles”, concluye.
La siguiente etapa de la IA empresarial en América Latina dependerá, por tanto, de algo más que la velocidad de adopción. Rediseñar procesos, proteger los datos, gobernar los agentes y medir el impacto serán condiciones para pasar de la experimentación a una transformación que genere valor sostenible.
