Foto: cortesía. Portal ERP LATAM.
Red Hat anunció la adquisición de Chatterbox Labs, reconocido en seguridad de modelos agnósticos de IA y mecanismos de protección para la IA generativa. Esta adquisición añade capacidades de "seguridad para la IA" al porfolio de Red Hat AI, a su vez que refuerza la plataforma de IA empresarial completa y de código abierto diseñada para la nube híbrida.
Este anuncio se suma a otras decisiones de Red Hat como la incorporación de Red Hat AI Inference Server y el lanzamiento de Red Hat AI 3. Clientes de todo el mundo y de todos los sectores están adoptando Red Hat AI para impulsar la innovación a través de aplicaciones de IA generativa, predictiva y agéntica.
Este enfoque en la seguridad y la confianza busca ayudar a los clientes a adoptar una mentalidad de seguridad como prioridad a medida que escalan la IA de manera responsable en entornos de nube híbrida. La integración de la tecnología de Chatterbox Labs crea una plataforma unificada donde la seguridad está integrada, reforzando la capacidad de Red Hat para habilitar cargas de trabajo de IA de producción con cualquier modelo, en cualquier acelerador, en cualquier lugar.
Abordando las repercusiones imprevistas de la IA
Fundada en 2011, Chatterbox Labs aporta experiencias críticas en seguridad y transparencia de la IA, así como aprendizaje automático a Red Hat.
Te puede interesar: Proofpoint completa la adquisición de Hornetsecurity
Por otra parte, ofrece capacidades automatizadas y personalizadas de pruebas de seguridad y protección de IA, proporcionando las métricas de riesgo objetivas que los líderes empresariales necesitan para aprobar el despliegue de la IA en producción. La tecnología ofrece un enfoque robusto y agnóstico al modelo para validar datos y modelos a través de:
· AIMI para IA generativa: Proporciona métricas cuantitativas de riesgo independientes para grandes modelos de lenguaje (LLM).
· AIMI para IA predictiva: Valida cualquier arquitectura de IA en pilares clave, incluyendo robustez, equidad y explicabilidad.
· Mecanismos de protección: Identifica y corrige prompts inseguros, tóxicos o sesgados antes de poner los modelos en producción.
Próxima generación de cargas de trabajo de IA
Esta adquisición se alinea con la visión de Red Hat de dar soporte a diversos modelos y entornos de despliegue en la nube híbrida. También complementa las capacidades introducidas en Red Hat AI 3, específicamente para la IA agéntica y el Protocolo de Contexto del Modelo (MCP). A medida que las empresas adoptan la IA agéntica, los modelos fiables y seguros se vuelven aún más críticos, dado el papel complejo y autónomo de los agentes de IA y su impacto potencial en los sistemas empresariales centrales.
“Al integrar Chatterbox Labs en el porfolio de Red Hat AI, reforzamos nuestra promesa a los clientes de proporcionar una plataforma completa y de código abierto que no solo les permite ejecutar cualquier modelo, en cualquier lugar, sino hacerlo con la confianza de que la seguridad está integrada desde el principio. Esta adquisición ayudará a habilitar una IA verdaderamente responsable y de producción a escala", afirma Steven Huels, vice president, AI Engineering and Product Strategy en Red Hat.
Por su parte, Stuart Battersby, Ph.D., co-founder and Chief Technology Officer, Chatterbox Labs, comentó: “A medida que extienden los sistemas de IA en todos los aspectos de los negocios y la sociedad, no podemos permitir que la seguridad se convierta en una caja negra propietaria. Es fundamental que los mecanismos de protección de la IA no solo se desplieguen; deben ser rigurosamente probados y contar con soporte por métricas demostrables”.
