Durante el evento Microsoft Build 2023, Qualcomm Technologies, Inc. presentó sus últimas innovaciones en IA en dispositivos, incluyendo la ejecución de IA generativa en plataformas de cálculo Snapdragon, así como nuevas opciones para los desarrolladores que crean aplicaciones para PC con Windows 11 alimentadas por Snapdragon.
“Para que la IA generativa se vuelva realmente convencional, gran parte de la inferencia deberá ejecutarse en dispositivos periféricos”, dijo Ziad Asghar, vicepresidente senior de gestión de productos de Qualcomm Technologies, Inc. “Nuestro hardware y software de IA de primera clase capacita a los desarrolladores para aprovechar al máximo nuestras potentes capacidades de IA, brindando increíbles experiencias de usuario en computadoras portátiles, teléfonos y otros dispositivos con Snapdragon”.
El futuro de la Inteligencia artificial debe incluir tanto la IA en dispositivos como en la nube. Ejecutar aplicaciones de IA en dispositivos mejora la eficiencia de costos, la privacidad, la personalización y la latencia. Las plataformas Snapdragon incluyen un Qualcomm AI Engine dedicado para procesar cargas de trabajo de inteligencia artificial de manera más eficiente que cuando se procesan únicamente en la CPU o la GPU, lo que hace posible la IA en el dispositivo, incluso en los pequeños, delgados y livianos.
En Microsoft Build, Qualcomm Technologies mostrará demostraciones y ofrecerá herramientas para ayudar a desarrollar inteligencia artificial generativa en la próxima generación de PC con Windows 11. Stable Diffusion, un modelo de inteligencia artificial generativa de texto a imagen con más de mil millones de parámetros, ahora se ejecuta completamente en el dispositivo, y la compañía afirma tener un claro camino hacia la ejecución de modelos con hasta diez mil millones de parámetros en dispositivos en los próximos meses, incluidos modelos de lenguaje extenso (LLM, por sus siglas en inglés). Para mejorar el Qualcomm AI Stack y ayudar a los desarrolladores a crear la próxima generación de experiencias de IA en dispositivos, el Qualcomm AI Engine Direct SDK estará disponible al público por primera vez en Build. Con ONNX Runtime y Qualcomm AI Stack, puedes ejecutar tus cargas de trabajo de IA hoy en el Snapdragon 8cx Gen 3 AI Engine tanto en Surface Pro 9 5G como en Lenovo ThinkPad x13s.
“Tanto el procesamiento en la nube como el procesamiento en dispositivos son necesarios para ampliar la IA en todo el vasto universo de dispositivos y aplicaciones”, dijo Pavan Davuluri, Vicepresidente Corporativo del departamento de Silicon and Sistem Integration de Windows en Microsoft. “Al reunir el liderazgo de Microsoft en la IA en la nube y las capacidades de la plataforma Windows con la experiencia de Qualcomm Technologies en IA en dispositivos, aceleraremos las oportunidades para experiencias de inteligencia artificial generativa”.
Qualcomm Technologies también mostrará en Build las mejoras de rendimiento que se obtienen cuando las aplicaciones más populares se compilan de forma nativa para Snapdragon, además de estrenar un nuevo portal para desarrolladores [https://www.qualcomm.com/developer/windows-on-snapdragon] que reúne herramientas críticas, recursos y soporte para el desarrollo de Windows en Snapdragon en un solo lugar de fácil acceso.
Para obtener más información haz clic aquí.