"La IA está transformando todas las industrias, y el ASUS Ascent GX10 está diseñado para proporcionar este poder transformador a todos los desarrolladores", ha dicho KuoWei Chao, Gerente General de ASUS IoT y NUC Business Group. "Al integrar el superchip NVIDIA Grace Blackwell, estamos proporcionando una herramienta potente pero compacta que permite a los desarrolladores, científicos de datos e investigadores de IA innovar y ampliar los límites de la IA desde sus escritorios".
A medida que crecen el tamaño y la complejidad de los modelos de IA generativa, los esfuerzos de desarrollo local se enfrentan a retos cada vez mayores. La creación de prototipos y el ajuste y la inferencia de grandes modelos requieren una gran memoria y un rendimiento informático considerable. Ascent GX10 se ha diseñado para dar respuesta a estas necesidades y ofrecer a los desarrolladores una solución de sobremesa potente y económica preparada para afrontar cualquier reto en IA.
Rendimiento de IA sin precedentes
El ASUS Ascent GX10 ofrece hasta 1.000 TOPS [i] de rendimiento de IA para potenciar grandes cargas de trabajo en inteligencia artificial. Con hasta 128 GB de memoria de sistema unificada y compatibilidad con el formato de datos FP4, es capaz de gestionar modelos de IA de hasta 200.000 millones de parámetros. Esto permite a los desarrolladores de IA crear prototipos, afinar e inferir los últimos modelos de pensamiento de IA -hasta 70.000 millones de parámetros- directamente en su escritorio. Gracias a las tarjetas de interfaz de red (NIC) NVIDIA ConnectX ® integradas, es posible conectar dos sistemas GX10 para manejar modelos aún mayores, como Llama 3.1 con 405.000 millones de parámetros.
Tecnología NVIDIA Grace Blackwell
El núcleo del nuevo ASUS Ascent GX10 es el superchip avanzado GB10 de NVIDIA, diseñado con la arquitectura Grace Blackwell y optimizado para un tamaño compacto. Este potente chip GB10 incluye una robusta GPU Blackwell con Tensor Cores de quinta generación y soporte FP4, que proporciona hasta 1.000 TOPS de potencia de procesamiento de IA. Además, incorpora una CPU Grace Arm de 20 núcleos de alto rendimiento que mejora el preprocesamiento y la orquestación de datos, acelerando el ajuste de los modelos y la inferencia en tiempo real. El Superchip GB10 emplea NVIDIA NVLink ™ -C2C para proporcionar un modelo de memoria cohesiva CPU+GPU con un ancho de banda cinco veces superior al de PCIe® 5.0.
Desarrollo local, implantación escalable
ASUS Ascent GX10 proporciona una plataforma de experimentación potente y económica para que los desarrolladores creen prototipos de modelos y aplicaciones de IA, liberando recursos de cálculo esenciales en sus clústeres, que son más adecuados para entrenar e implantar modelos de producción. El usodel software de IA de NVIDIA permite a los usuarios de Ascent GX10 trasladar sin problemas sus modelos de entornos de escritorio a NVIDIA DGX Cloud oa cualquier infraestructura acelerada de nube o centro de datos prácticamente sin ajustes de código, lo que facilita los procesos de creación de prototipos, puesta a punto e iteración.
Tu opinión enriquece este artículo: