Hace tres años, Gaurav Agarwal vivió un momento de vida o muerte que inspiraría el lanzamiento de su empresa, RagaAI. Agarwal circulaba por una autopista californiana a 65 mph en un vehículo semiautónomo y se dio cuenta de que los sistemas del auto no habían detectado escombros en la carretera y que no estaba retrasando la marcha. "Frené en el último momento: si no hubiera reaccionado, quizá no estaría aquí hoy", dice Agarwal, un experimentado en el sector tecnológico que trabajó con empresas como Nvidia, Texas Instruments y OLA.
La alarmante situación puso de relieve preocupaciones que Agarwal llevaba tiempo temiendo. "Se supone que la inteligencia artificial es una tecnología mágica, pero falla una y otra vez", reflexiona. "Esos errores amenazan con frenar la IA, sobre todo la generativa".
RagaAI, que Agarwal fundó en 2021 y que hoy anuncia una ronda de financiación semilla de 4,7 millones de dólares, es su intento de responder a este problema. "Hemos construido la plataforma de pruebas más completa del mundo", dice. "Nuestras pruebas garantizan la precisión, evitan contratiempos empresariales y aumentan la seguridad, lo que permite a las personas liberar todo el potencial de la IA".
La idea es bastante sencilla. Dirigida a científicos de datos e ingenieros de aprendizaje automático, la plataforma de RagaAI permite a los desarrolladores de IA probar sus productos y servicios a medida que se desarrollan e implementan. La plataforma puede utilizarse en áreas que incluyen grandes modelos lingüísticos, procesamiento del lenguaje natural y visión por ordenador, lo que permite a los desarrolladores identificar y corregir errores de IA antes de que causen problemas significativos.
"Es el tipo de trabajo de pruebas que los desarrolladores no tienen tiempo ni espacio para hacer por sí mismos", explica Agarwal, ahora CEO de la empresa. "Es comprensible que estén centrados en construir el modelo, pero con las prisas por desarrollar su IA, las pruebas a menudo se pasan por alto".
Por tanto, subcontratar ese trabajo a un tercero como RagaAI, que automatizó sus herramientas de prueba, tiene sentido. La plataforma somete los nuevos proyectos a más de 300 pruebas, que a grandes rasgos se dividen en tres categorías. RagaAI es capaz de examinar la calidad de los datos con los que se entrenó la IA, identificar problemas con su modelo, como el sesgo, y ejemplificar su uso operativo para detectar fallos también aquí.
Hasta ahora, la empresa subió a una decena de clientes en su fase inicial, lo que le proporcionó sus primeros ingresos. Entre ellos, un minorista que utiliza la plataforma de RagaAI para perfeccionar un chatbot basado en un gran modelo lingüístico, que desconfía de las estadísticas del sector que sugieren que una quinta parte de este tipo de herramientas simplemente se inventan cosas cuando trabajan con los clientes. Otro cliente, del sector de la automoción, está utilizando RagaAI para que le ayude a probar hasta qué punto sus sistemas de detección funcionan en diferentes condiciones de iluminación, exactamente el problema que el propio Agarwal había experimentado.
Es pronto para la empresa, pero Agarwal cree que la omnipresencia cada vez mayor de la IA -y la creciente inquietud por sus defectos- ofrecen un telón de fondo enormemente propicio para el negocio. Un estudio de Next Move sugiere que el mercado mundial de la IA podría alcanzar un valor de 2 billones de dólares al año en 2030, y Agarwal cree que hasta una cuarta parte de este gasto se destinará a garantizar que la IA sea segura y fiable.
"Las pruebas continuas, el escrutinio ético y las mejoras sucesivas son componentes esenciales en todos estos dominios de la IA para abordar los desafíos emergentes y mejorar el rendimiento general", afirma.
La competencia en el mercado de las pruebas de IA es, por ahora, relativamente limitada. Agarwal menciona rivales como Deepcheck, aunque cree que RagaAI ofrece un conjunto de pruebas más completo en su plataforma que cualquier otro servicio comparable. Espera llegar a los 100 clientes a finales de año y tiene previsto duplicar su plantilla de 40 a 80 empleados.
Los inversores de la empresa también se muestran optimistas. La ronda de hoy está liderada por pi Ventures y cuenta con la participación de inversores globales como Anorak Ventures, TenOneTen Ventures, Arka Ventures, Mana Ventures y Exfinity Venture Partners.
"En el escenario de rápida expansión de la IA, la importancia de los sistemas fiables e imparciales es crucial, y las pruebas de IA aparecen como el eje para garantizar la seguridad, la fiabilidad y la ética de los modelos complejos", afirma Manish Singhal, socio fundador de pi Ventures. "Impulsado por su tecnología de detección Drift pendiente de patente, RagaAI es muy adecuado para resolver estos problemas masivos".