En los últimos meses, los notables avances logrados en la innovación de la IA han desencadenado una ola de posibilidades transformadoras, y cautivaron la imaginación colectiva con la promesa de remodelar industrias y formas de trabajo.
Con tanta innovación en el terreno de la IA no sorprende que durante el Microsoft Inspire, el megaevento donde la empresa de Seattle da a conocer un gran abanico de novedades y estrategias, se hayan concentrado más de 40 anuncios sobre el tema.
Entre las primeras sorpresas se encuentra la alianza por la cual Meta y Microsoft anunciaron la compatibilidad con la familia Llama 2 de modelos de lenguaje extenso (LLM) en Azure y Windows. Llama 2 está diseñado para permitir a los desarrolladores y organizaciones crear herramientas y experiencias generativas basadas en IA.
De esta forma Meta y Microsoft mostraron que comparten el compromiso de democratizar la IA y sus beneficios. “Estamos entusiasmados de que Meta adopte un enfoque abierto con Llama 2. Ofrecemos a los desarrolladores opciones en los tipos de modelos que buscan, y estamos encantados de ser el socio preferido de Meta en el lanzamiento de su nueva versión de Llama 2 para clientes comerciales por primera vez”, se entusiasma Nadella.
Ahora los clientes de Azure podrán ajustar e implementar los modelos Llama 2 con parámetros 7B, 13B y 70B de manera fácil y segura en Azure, la plataforma para los modelos abiertos y de frontera más ampliamente adoptados. Además, Llama se optimizará para ejecutarse localmente en Windows. Los desarrolladores de Windows podrán usar Llama dirigiéndose al proveedor de ejecución de DirectML a través de ONNX Runtime, lo que permitirá un flujo de trabajo fluido a medida que traigan experiencias generativas de IA a sus aplicaciones.
Cómo es la alianza con Meta
Meta y Microsoft son socios en IA desde hace mucho tiempo; comenzaron con una colaboración para integrar ONNX Runtime con PyTorch para crear una excelente experiencia de desarrollador para PyTorch en Azure , y la elección de Meta de Azure como proveedor estratégico de la nube . El anuncio actual se basa en reunir sinergias para acelerar la innovación en la era de la IA y ampliar aún más el ecosistema de modelo abierto de Microsoft que busca centrar su posición como la plataforma mundial de supercomputación para la IA.
La plataforma de supercomputación de IA especialmente diseñada de Azure está pensada para ayudar a las organizaciones de IA líderes en el mundo a construir, entrenar e implementar algunas de las cargas de trabajo de IA más exigentes. La disponibilidad de los modelos Llama 2 con Azure AI permite a los desarrolladores aprovechar las poderosas herramientas de Azure AI para el entrenamiento, el ajuste fino, la inferencia y, en particular, las capacidades que respaldan la seguridad de la IA.
Para Microsoft, la inclusión de los modelos Llama 2 en Windows ayuda a impulsar a Windows como el mejor lugar para que los desarrolladores construyan experiencias de IA adaptadas a las necesidades de sus clientes y desbloqueen su capacidad de construir usando herramientas de clase mundial como Windows Subsystem for Linux (WSL), terminal de Windows , Microsoft Visual Studio y VS Code.
Expansión del catálogo de modelos de Azure AI y la disponibilidad de Windows
Llama 2 es la última incorporación al catálogo de modelos de Azure AI. El catálogo de modelos, actualmente en vista previa pública, sirve como un centro de modelos básicos y permite a los desarrolladores y profesionales de aprendizaje automático (ML) descubrir, evaluar, personalizar e implementar fácilmente grandes modelos de IA preconstruidos a escala.
El catálogo elimina la necesidad de que los usuarios administren todas las dependencias de la infraestructura al poner en funcionamiento Llama 2. Brinda soporte llave en mano para el ajuste y la evaluación del modelo, incluidas poderosas técnicas de optimización como DeepSpeed y ONNX Runtime, que pueden mejorar significativamente la velocidad del modelo. Afinación.
Los desarrolladores de Windows podrán crear fácilmente nuevas experiencias usando Llama 2 a las que se puede acceder a través de GitHub Repo . Con el Subsistema de Windows para Linux y las GPU de alta capacidad, los desarrolladores pueden ajustar los LLM para satisfacer sus necesidades específicas directamente en sus PC con Windows.
La IA y el sentido ético de su desarrollo
En Microsoft se jactan de tener a la IA responsable en el corazón de su enfoque. “Durante años, hemos invertido mucho en hacer de Azure el lugar para la innovación de IA de vanguardia y responsable, ya sea que los clientes construyan sus propios modelos o utilicen modelos preconstruidos y personalizables de Microsoft, Meta, OpenAI y el ecosistema de código abierto”, comenta Nadella.
En Microsoft comentan que mitigan los riesgos potenciales que presenta el uso de modelos de lenguaje extenso a través de un enfoque iterativo en capas que incluye experimentación y medición. “Los clientes de Azure AI pueden probar Llama 2 con sus propios datos de muestra para ver cómo funciona para su caso de uso particular. Luego, los clientes pueden utilizar ingeniería rápida y técnicas de recuperación de generación aumentada (RAG) para desarrollar, evaluar y optimizar meta-indicaciones para su aplicación y brindar experiencias más seguras y confiables para los usuarios finales”, asegura Nadella.
Los servicios como Azure AI Content Safety agregan otra capa de protección, lo que ayuda a garantizar una experiencia en línea más segura con las aplicaciones de IA. Parte de nuestra colaboración con Meta llevó a combinar las técnicas de seguridad de Meta con Azure AI Content Safety para que, de manera predeterminada, las implementaciones de los modelos Llama 2 en Azure AI tengan un enfoque de seguridad en capas.
Quienes estén interesados en conocer todas las posibilidades que se ofrecen dentro de la infraestructura de Microsoft pueden visitar el catálogo de modelos de Azure AI.