El verdadero impacto de la inteligencia artificial (IA) solo se materializará si su poder está distribuido equitativamente, y no monopolizado por una única entidad que controla tanto los modelos como los vastos datos que estos utilizan. Actualmente, los modelos de IA están diseñados con miles de millones de parámetros que requieren ajustes meticulosos y entrenamiento intensivo, limitando su acceso a unas pocas manos bien resourcedas.
En este contexto, MosaicML emergió con una visión clara: democratizar el acceso a estos modelos avanzados. Fundada por Jonathan Frankle y el profesor Michael Carbin del MIT, la empresa no solo desarrolló una plataforma para que los usuarios entrenen, optimicen y supervisen modelos de código abierto con sus datos, sino que también construyeron modelos propios utilizando GPUs de Nvidia, ampliando la accesibilidad al aprendizaje profundo, una disciplina que apenas estaba emergiendo cuando MosaicML fue fundada.
El entusiasmo generado por la IA generativa y los modelos de lenguaje de gran tamaño, como Chat GPT-3.5, encontró en MosaicML una herramienta poderosa para que las empresas gestionen sus datos sin depender exclusivamente de proveedores externos. Esta capacidad se fortaleció aún más cuando Databricks, un líder global en análisis y almacenamiento de datos, adquirió MosaicML. Juntas, lanzaron DBRX, un modelo de lenguaje de propósito general y código abierto que ha redefinido los estándares en tareas de comprensión lectora y resolución de acertijos, ganando una reputación como uno de los modelos abiertos más rápidos disponibles y demostrando ser invaluable para grandes corporaciones.
Pero más allá de su utilidad, DBRX es significativo porque fue desarrollado con herramientas de Databricks, permitiendo que cualquier cliente de la empresa pueda alcanzar resultados similares con sus propios modelos, acelerando así el impacto de la IA generativa.
Eficiencia e innovación en los algoritmos
Jonathan Frankle, quien inició su viaje académico en Princeton antes de unirse al MIT para su doctorado, no anticipaba que el aprendizaje profundo iba a capturar el interés mundial como lo hizo. Sin embargo, la evolución de esta tecnología ha sido astronómica, particularmente después del desarrollo del modelo de arquitectura ‘Transformer’ por Google en 2017, que mostró una efectividad sorprendente en la traducción de idiomas y otras aplicaciones.
La historia de MosaicML es también la historia de cómo una serie de técnicas para acelerar el entrenamiento de modelos de IA pueden culminar en innovaciones significativas. Cuando Naveen Rao, junto a Hanlin Tang, se unió a Frankle y Carbin para fundar MosaicML, no buscaban un “gran truco” sino una serie de mejoras incrementales que, combinadas, lograron acelerar la clasificación de imágenes en una manera previamente inalcanzable.
El equipo no solo demostró que era posible optimizar la eficiencia de los modelos, sino que también lanzaron un modelo de lenguaje de gran tamaño en 2023, acompañado de una biblioteca de código abierto para sus métodos, ofreciendo nuevas herramientas de visualización para que los desarrolladores experimenten con diferentes configuraciones de entrenamiento y ejecución.
Este compromiso con la apertura y la democratización de la tecnología de IA resuena en el enfoque de Databricks, que, tras adquirir MosaicML, ha continuado ampliando las capacidades de los modelos abiertos, proporcionando a la industria una dirección clara hacia la innovación abierta y colaborativa. La visión compartida es clara: avanzar a través de la ciencia abierta y la colaboración, facilitando un futuro donde la tecnología avanzada de IA es accesible para todos, abriendo nuevas posibilidades para solucionar problemas específicos en múltiples dominios.
