Mario Ulloa, Country Lead de SAS para México.
La inteligencia artificial (IA) empresarial está evolucionando de sistemas diseñados principalmente para generar respuestas hacia tecnologías capaces de recomendar, coordinar decisiones y ejecutar acciones dentro de procesos de negocio. Este avance abre una nueva discusión para las organizaciones conforme aumenta la autonomía de la IA: la confiabilidad en la IA ya no puede depender únicamente del modelo, sino de todo el sistema que sostiene sus decisiones.
“La discusión está evolucionando, las empresas están pasando de utilizar inteligencia artificial que responde preguntas a incorporar sistemas con capacidad de intervenir en decisiones y procesos. Eso exige preguntarnos no solamente qué tan bueno es un modelo, sino con qué datos trabaja, cómo explica sus resultados, qué controles tiene y en qué momento debe intervenir una persona”, señaló Mario Ulloa, Country Lead de SAS para México.
Últimos días para ser parte del estudio: Panorama del Mercado de Software de Gestión en México
Añadió que los desarrollos recientes de SAS apuntan precisamente hacia ese cambio. En conjunto, plantean al menos seis componentes alrededor de una IA empresarial confiable: datos gobernados, modelos especializados, explicabilidad, supervisión humana, gobernanza durante todo el ciclo de vida y agentes que operan bajo límites previamente establecidos.
Esto implica llevar la ética de la IA del terreno conceptual a mecanismos concretos. De acuerdo con Ulloa, interpretar cómo llegó un sistema a una decisión, identificar y mitigar sesgos, proteger información sensible, conservar trazabilidad y auditabilidad, establecer políticas y mantener supervisión son algunas de las capacidades que las empresas deben tomar en cuenta en sus procesos de gobernanza de IA.
“La ética no puede quedarse únicamente en una declaración de principios. Tiene que reflejarse en la forma en que una organización administra sus datos, entiende sus modelos, establece responsabilidades y controla lo que puede o no puede hacer un agente. Cuando esos mecanismos existen, la gobernanza deja de verse solamente como cumplimiento y empieza a convertirse en una condición para innovar con mayor confianza”, agregó Ulloa.
La oferta de SAS para una IA confiable
La calidad de los datos constituye otra parte clave en la nueva era de la IA que toma decisiones. En este sentido, SAS ofrece Data Management que incorpora linaje, transparencia, auditabilidad y control directamente en los flujos de información. El planteamiento adquiere mayor relevancia con la IA agéntica, debido a que un sistema puede contar con un modelo avanzado, pero si utiliza información cuya procedencia, calidad o transformación no puede verificarse, la confianza en sus decisiones también se debilita.
También está cambiando la discusión sobre qué modelos necesitan las empresas, por ello, SAS pone énfasis en modelos analíticos y agentes especializados en problemas e industrias concretas. SAS Supply Chain Agent, por ejemplo, puede evaluar escenarios de demanda y abastecimiento y explicar cómo llega a sus conclusiones; mientras que los modelos de fraude financiero de la compañía se apoyan en patrones procedentes de millones de eventos del sector.
“Un modelo puede tener enormes capacidades generales, pero en sectores regulados o procesos críticos el contexto es determinante. Las organizaciones necesitan combinar capacidad analítica, conocimiento especializado, datos confiables y controles que permitan comprender y supervisar las recomendaciones antes de convertirlas en acciones”, indicó Ulloa.
Por otro lado, se presenta SAS AI Navigator, que busca mantener visibilidad sobre los casos de IA, modelos y agentes utilizados por una organización, independientemente de si fueron desarrollados internamente o provienen de terceros.
Por último, los agentes SAS Customer Intelligence 360 operan con guardrails y requieren de puntos de intervención humana, mientras que las nuevas capacidades de SAS Viya buscan conectar copilotos y agentes con analítica gobernada y conocimiento específico de industria.
