Los primeros signos de alarma surgieron en febrero, durante una presentación importante en Oslo ante legisladores noruegos y líderes tecnológicos. Jonathan Ross, CEO de Groq, una prometedora startup de chips de IA, estaba a punto de revelar su última innovación: un chatbot capaz de responder preguntas casi al instante. Sin embargo, durante la demostración, diseñada para revitalizar la empresa, el chatbot comenzó a mostrar un inexplicable retraso.
Este contratiempo desconcertó a Ross, quien estaba promocionando un centro de datos europeo que utilizaría los chips de Groq para potenciar estas respuestas ultrarrápidas. La causa de este inesperado problema se reveló poco después: un aluvión de nuevos usuarios, atraídos por un tuit viral que elogiaba la tecnología de Groq, había colapsado los servidores de la empresa, socavando la impecable demostración que Ross había planeado.
La visión de Ross al crear Groq hace ocho años era desarrollar chips de IA optimizados para la "inferencia". Esta etapa de la inteligencia artificial permite a las máquinas realizar tareas que van desde el reconocimiento de imágenes, como identificar un objeto en una foto, hasta la generación de contenido creativo, como la imagen viral del papa Francisco con un abrigo de Balenciaga. Es bastante diferente de la otra tarea computacional de la IA: entrenar los modelos masivos para empezar.
Pero hasta que OpenAI lanzó ChatGPT a fines de 2022, lo que desencadenó un frenesí mundial de IA, la demanda de inferencia superrápida era limitada y la empresa avanzaba con dificultad. "Groq estuvo a punto de morir muchas veces", dice Ross desde el interior del laboratorio de semiconductores de la startup en San José, California, recordando un punto bajo en 2019, cuando la startup estuvo a un mes de quedarse sin dinero.
Pero ahora, con la demanda de potencia computacional para construir y ejecutar modelos de IA tan intensa que está contribuyendo a una escasez mundial de electricidad, parece que llegó el momento de Groq, ya sea como potencial generador de ruido o como objetivo de adquisición para los gigantes de los chips tradicionales.
El lunes, la empresa le dijo en exclusiva a Forbes que recaudó una monstruosa ronda de Serie D de 640 millones de dólares, lo que la elevó a una valoración de 2.800 millones de dólares, frente a los 1.100 millones de dólares de 2021. La ronda, liderada por BlackRock Private Equity Partners, también incluye a Cisco Investments y al Samsung Catalyst Fund, una división de riesgo del gigante de la electrónica que se centra en la infraestructura y la IA.
“Groq estuvo a punto de morir muchas veces”
Jonathan Ross, director ejecutivo de Groq.
La necesidad de potencia informática es tan insaciable que disparó la capitalización de mercado de Nvidia a 3 billones de dólares con unos ingresos de 60.900 millones de dólares en 2023. Groq sigue siendo pequeña en comparación, con unas ventas en 2023 de tan solo 3,4 millones de dólares y una pérdida neta de 88,3 millones de dólares, según los documentos financieros a los que tuvo acceso Forbes.
Sin embargo, a medida que aumenta el interés por sus chips, la empresa pronosticó unas ventas quizás optimistas de 100 millones de dólares este año, según las fuentes, aunque tenían dudas de que la empresa pudiera alcanzar ese objetivo. Groq se negó a hacer comentarios sobre esas cifras.
Se espera que el mercado de chips de IA alcance los 1,1 billones de dólares en 2027, por lo que Ross ve una oportunidad de hacerse con una porción de la asombrosa cuota del 80% de Nvidia centrándose en la inferencia. Ese mercado debería valer unos 39.000 millones de dólares este año y se estima que aumentará a 60.700 millones de dólares en los próximos cuatro años, según la firma de investigación IDC. “La informática es el nuevo petróleo”, afirma Ross.
Los rivales como Groq son optimistas porque los chips de Nvidia ni siquiera fueron diseñados originalmente para IA. Cuando el director ejecutivo Jensen Huang presentó sus unidades de procesamiento gráfico (GPU) en 1999, estaban diseñadas para ejecutar videojuegos con uso intensivo de gráficos. Fue una casualidad que hayan sido los chips más adecuados para entrenar a la IA. Pero Groq y una nueva ola de nuevas empresas de chips de próxima generación, incluidas Cerebras (valorada en 4 mil millones de dólares) y SambaNova (valorada en 5,1 mil millones de dólares), ven una oportunidad. "Nadie que comenzó desde cero eligió hacer una GPU para este tipo de trabajo", dice Andrew Feldman, director ejecutivo de Cerebras.
No son sólo las startups las que buscan destronar a Nvidia. Tanto Amazon como Microsoft están construyendo sus propios chips de IA. Pero los chips de Groq, llamados Language Processing Units (LPU), son tan rápidos que la empresa cree que tiene una oportunidad de luchar. En una presentación a los inversores, la empresa los promociona como cuatro veces más rápidos, cinco veces más baratos y tres veces más eficientes energéticamente que las GPU de Nvidia cuando se utilizan para inferencia. Nvidia se negó a hacer comentarios sobre la afirmación.
“Sus velocidades de inferencia son claramente mejores que las de cualquier otra cosa en el mercado”, afirma Aemish Shah, cofundador de General Global Capital, que invirtió en múltiples rondas de financiación de Groq.
Groq empezó a vender sus chips hace dos años y desde entonces sumó clientes como Argonne National Labs, un centro de investigación federal con orígenes en el Proyecto Manhattan, que utilizó chips Groq para estudiar la fusión nuclear, el tipo de energía que alimenta al sol. Aramco Digital, la rama tecnológica de la petrolera saudí, también firmó una asociación para utilizar chips Groq.
En marzo, Groq lanzó GroqCloud, donde los desarrolladores pueden alquilar el acceso a sus chips sin comprarlos directamente. Para atraer a los desarrolladores, Groq ofreció acceso gratuito: en su primer mes, se registraron 70.000. Ahora hay 350.000 y el número sigue aumentando. El 30 de junio, la empresa activó los pagos y acaba de contratar a Stuart Pann, ex ejecutivo de Intel y ahora director de operaciones de Groq, para aumentar rápidamente los ingresos y las operaciones. Pann es optimista sobre el crecimiento: más de una cuarta parte de los tickets de los clientes de GroqCloud son solicitudes de pago por más potencia informática.
“El chip Groq realmente apunta a la yugular”, dice el científico jefe de Meta, Yann LeCun, ex profesor de informática de Ross en la Universidad de Nueva York, que recientemente se unió a Groq como asesor técnico. A fines del mes pasado, el director ejecutivo Mark Zuckerberg anunció que Groq sería una de las empresas que proporcionaría chips para ejecutar inferencias para el nuevo modelo Llama 3.1 de Meta, y calificó a la startup de “innovadores”.
“El chip Groq realmente va directo a la yugular”
Yann LeCun, científico jefe de Meta.
Ross se inició en Google, donde trabajó en el equipo que creó los semiconductores de la empresa, las "unidades de procesamiento tensor", que están optimizadas para el aprendizaje automático. Se fue en 2016 para fundar Groq, junto con su colega ingeniero de Google, Doug Wightman, quien se desempeñó como el primer director ejecutivo de la empresa. Ese año, Groq recaudó 10 millones de dólares del fondo de capital riesgo Social Capital. Pero a partir de ahí, encontrar nuevos inversores fue difícil. El cofundador de Groq, Wightman, se fue unos años más tarde y no respondió a las solicitudes de entrevistas.
Todavía hay muchos detractores. Un capitalista de riesgo que rechazó la próxima ronda de financiación de la empresa calificó el enfoque de Groq como "novedoso", pero no pensó que su propiedad intelectual fuera defendible a largo plazo. Mitesh Agrawal, responsable de la nube de Lambda Labs, una startup de infraestructura de inteligencia artificial valorada en 1.500 millones de dólares, dice que su empresa no tiene planes de ofrecer Groq ni ningún otro chip especializado en su nube. "Es muy difícil ahora mismo pensar más allá de Nvidia", dice. Otros cuestionan la rentabilidad de los chips de Groq a gran escala.
Ross sabe que es un camino cuesta arriba. “Es como si fuéramos el Novato del Año”, dice. “Todavía no estamos ni cerca de Nvidia. Así que todos los ojos están puestos en nosotros. Y nos preguntamos: ¿qué vamos a hacer a continuación?”, agrega.
*Con información de Forbes US.