Foto: cortesía
IBM y Groq anunciaron una alianza estratégica de comercialización y tecnología diseñada para brindar a los clientes acceso inmediato a la tecnología de inferencia de Groq, GroqCloud, y Watsonx Orchestrate. Esto les proporciona capacidades de inferencia de IA de alta velocidad a un costo que acelera la implementación de IA con agentes.
Como parte de esta alianza, Groq e IBM planean integrar y mejorar la tecnología vLLM de código abierto de Red Hat con la arquitectura LPU de Groq. También se prevé que los modelos IBM Granite sean compatibles con GroqCloud para los clientes de IBM.
Las empresas que trasladan sus agentes de IA de la fase piloto a la producción aún enfrentan desafíos de velocidad, costo y confiabilidad, especialmente en sectores críticos como la salud, las finanzas, la administración pública, el comercio minorista y la manufactura. Esta alianza combina la velocidad de inferencia, la rentabilidad y el acceso a los modelos de código abierto más recientes de Groq con la orquestación de IA agentic de IBM para brindar la infraestructura necesaria para ayudar a las empresas a escalar.
Gracias a su LPU personalizada, GroqCloud ofrece una inferencia 5 veces más rápida y rentable que los sistemas GPU tradicionales. El resultado es una latencia baja y constante y un rendimiento fiable, incluso con cargas de trabajo que escalan globalmente. Esto es especialmente eficaz para la IA con agentes en sectores regulados.
Esta tecnología también se aplica en industrias no reguladas. Clientes de IBM del sector minorista y de bienes de consumo envasados utilizan Groq para sus agentes de RR. S.S. con el fin de optimizar la automatización de sus procesos y aumentar la productividad de sus empleados.
Te puede interesar: IBM adquiere Cognitus para impulsar transformaciones de SAP a nivel global
“ Algunas grandes empresas cuentan con diversas opciones de inferencia de IA durante la fase experimental, pero al iniciar la producción, deben garantizar la correcta implementación de flujos de trabajo complejos para garantizar experiencias de alta calidad. Nuestra alianza con Groq subraya el compromiso de IBM de proporcionar a sus clientes las tecnologías más avanzadas para implementar la IA e impulsar el valor empresarial ”, afirmó Rob Thomas, vicepresidente sénior de Software y director comercial de IBM.
Por su parte, Jonathan Ross, CEO y fundador de Groq comentó que: " Gracias a la velocidad de Groq y la experiencia empresarial de IBM, estamos haciendo realidad la IA agentic para las empresas. Juntos, permitimos a las organizaciones aprovechar al máximo el potencial de las respuestas impulsadas por la IA con el rendimiento necesario para escalar. Más allá de la velocidad y la resiliencia, esta alianza busca transformar la forma en que las empresas trabajan con la IA, pasando de la experimentación a la adopción a nivel empresarial con confianza, y abriendo la puerta a nuevos patrones donde la IA puede actuar al instante y aprender continuamente ".
IBM ofrecerá acceso a las capacidades de GroqCloud a partir de inmediato y los equipos conjuntos se centrarán en brindar las siguientes capacidades a los clientes de IBM, que incluyen:
· Inferencia de gran velocidad y rendimiento que libera todo el potencial de los modelos de IA y la IA agente, impulsando casos de uso como atención al cliente, soporte a empleados y mejora de la productividad.
· Implementación de IA centrada en la seguridad y la privacidad diseñada para soportar los requisitos regulatorios y de seguridad más estrictos, lo que permite la ejecución efectiva de flujos de trabajo complejos.
· Integración con el producto agente de IBM , WatsonX Orchestrate, que proporciona a los clientes flexibilidad para adoptar patrones agentes diseñados específicamente para diversos casos de uso.
La alianza también planea integrar y mejorar la tecnología vLLM de código abierto de Red Hat con la arquitectura LPU de Groq para ofrecer diferentes enfoques a los desafíos comunes de IA que enfrentan los desarrolladores durante la inferencia. Se espera que la solución permita a Watsonx aprovechar las capacidades de forma habitual y que los clientes puedan usar sus herramientas preferidas mientras aceleran la inferencia con GroqCloud.
Juntos, IBM y Groq brindan un acceso mejorado a todo el potencial de la IA empresarial: una inteligencia artificial rápida y diseñada para tener un impacto en el mundo real.
