Red Hat ha anunciado la creación de asago (AI Safety And Governance Orchestration), un proyecto comunitario de código abierto diseñado para automatizar la conversión de las políticas de gobernanza de la inteligencia artificial en controles operativos para sistemas desplegados en producción. La iniciativa pretende reducir la complejidad que afrontan las organizaciones al trasladar requisitos regulatorios y corporativos a entornos reales mediante un flujo de trabajo automatizado, auditable y trazable.
La iniciativa reúne a empresas tecnológicas, instituciones académicas y organizaciones de investigación, entre las que figuran Microsoft, NVIDIA, IBM Research, Brave Software, MIT Lincoln Laboratory, el Instituto Alan Turing, la Universidad Estatal de Carolina del Norte y la Interdisciplinary Transformation University Austria, además de otros colaboradores. El objetivo es desarrollar un estándar abierto que permita integrar la gestión de riesgos, el cumplimiento normativo y la seguridad en el ciclo de vida de los sistemas de inteligencia artificial.
La plataforma se estructura en cuatro fases. En primer lugar, interpreta automáticamente las políticas de gobernanza para identificar riesgos y relacionarlos con marcos de referencia como el NIST AI RMF, OWASP LLM Top 10 o la Ley de IA de la Unión Europea. Después genera escenarios de prueba adaptados a cada caso de uso, propone medidas de mitigación y, por último, orquesta los controles necesarios para desplegar los sistemas en infraestructuras como Kubernetes y entornos de nube híbrida.
Te puede interesar: IBM, Red Hat y Palo Alto Networks se alían contra las vulnerabilidades de software
Steven Huels, responsable de AI Engineering de Red Hat, ha afirmado que "a medida que las organizaciones pasan de pilotos experimentales de IA a agentes autónomos de larga duración, el establecimiento de límites operativos claros se convierte en un requisito crítico de infraestructura". Además, ha añadido que "asago complementa este esfuerzo y da el siguiente paso lógico para la IA empresarial al automatizar el enlace entre las definiciones de políticas corporativas y los agentes de producción en vivo", lo que, según ha explicado, proporciona a las organizaciones la confianza necesaria para ampliar el uso de la inteligencia artificial en la nube híbrida.
El proyecto busca resolver uno de los principales retos a los que se enfrentan las empresas que desarrollan o implantan soluciones de IA: convertir políticas corporativas y requisitos regulatorios en configuraciones técnicas aplicables. Según Red Hat, este proceso suele ralentizar la innovación y aumentar el riesgo de errores derivados de interpretaciones manuales, una situación que adquiere mayor relevancia con la entrada en vigor de normativas como la Ley de IA de la Unión Europea.
Entre las funcionalidades previstas figura la creación de un historial continuo de auditoría que vincule cada requisito de una política con las pruebas realizadas y los controles aplicados durante la ejecución. De esta forma, responsables de cumplimiento normativo, científicos de datos, desarrolladores, administradores de infraestructura y auditores podrán disponer de un registro unificado para verificar cómo se han implementado las medidas de seguridad en los sistemas de inteligencia artificial.
Stuart Battersby, arquitecto de seguridad y evaluación de modelos de IA en Red Hat, ha señalado que "el proyecto asago es un verdadero esfuerzo colaborativo de código abierto que reúne a actores del sector tecnológico, del ámbito académico y del gobierno". Asimismo, ha animado a "más colaboradores a unirse a este esfuerzo impulsado por la comunidad, particularmente desde jurisdicciones globales, para garantizar la máxima cobertura de los puntos de vista sobre la seguridad de la IA".
La iniciativa se publicará bajo licencia Apache 2.0 y se integrará con herramientas abiertas del ecosistema para generar configuraciones declarativas compatibles con Kubernetes, Terraform y Ansible. Según Red Hat, este enfoque permitirá mantener políticas homogéneas en infraestructuras multinube y entornos locales, al tiempo que facilitará la demostración del cumplimiento normativo mediante evidencias verificables.
Actualmente, asago se encuentra en fase de creación. Red Hat ha indicado que desarrolladores, investigadores y organizaciones interesadas ya pueden acceder al repositorio del proyecto y participar en su gobernanza comunitaria, con el objetivo de ampliar la colaboración en torno a un estándar abierto para la implantación segura de sistemas de inteligencia artificial.
