El gran paso adelante de Huawei

Según SCMP , un nuevo informe técnico muestra que el procesador Ascend AI de Huawei superó el rendimiento de las GPU de Nvidia en la prueba del modelo de inteligencia artificial DeepSeek R1. Este resultado representa un importante avance para la compañía china ante las órdenes de control tecnológico de EE. UU.

El artículo, coescrito por investigadores de Huawei y la startup de infraestructura de IA SiliconFlow, detalla la arquitectura del centro de datos CloudMatrix 384. Se trata de un «supersistema de IA en un chip» diseñado específicamente para gestionar cargas de trabajo masivas de modelos de lenguaje de gran tamaño (LLM).

CloudMatrix 384 consta de 384 procesadores Ascend 910C y 192 CPU Kunpeng, conectados entre sí mediante un sistema de bus unificado de baja latencia y alto ancho de banda. Huawei espera que esta arquitectura transforme la base de la infraestructura de IA.

El sistema CloudMatrix-Infer, basado en esta plataforma, muestra un rendimiento excepcional al implementar el modelo DeepSeek R1. En la fase de prellenado, el sistema alcanzó un rendimiento de 6688 tokens/segundo por NPU al procesar una solicitud de 4000 tokens de un usuario. Este rendimiento equivale a 4,45 tokens/segundo por TFLOPS (billones de operaciones por segundo).

Durante la fase de decodificación, CloudMatrix registró un rendimiento de 1943 tokens/segundo por NPU, con un tiempo de respuesta inferior a 50 milisegundos por token. Este rendimiento de 1,29 tokens/segundo por TFLOPS es superior al del sistema SGLang de Nvidia con GPU H100 y también al de la plataforma de GPU H800 con DeepSeek R1.

Según Zuo Pengfei, autor principal del estudio y miembro del programa "Genius Youth" de Huawei, el objetivo del informe es ayudar a la industria a comprender plenamente las capacidades de la NPU Ascend, desarrollada en China. En cuanto a la plataforma Zhihu, afirmó que el informe es una clara demostración de las capacidades tecnológicas de Huawei CloudMatrix.

Esta es la primera vez que Huawei revela detalles técnicos sobre el acelerador de IA Ascend 910C. El informe también reitera las recientes declaraciones del fundador de Huawei, Ren Zhengfei, de que los chips Ascend aún están "una generación por detrás" de sus homólogos estadounidenses. Sin embargo, afirmó que la aplicación de métodos como el apilamiento y la agrupación en clústeres ha ayudado a Huawei a lograr un rendimiento informático comparable al de los sistemas de IA más avanzados de la actualidad.

Mientras tanto, el CEO de Nvidia, Jensen Huang, también admitió en una entrevista con CNBC que la IA es un problema de procesamiento paralelo y que necesitarán más procesadores si no tienen suficiente poder de procesamiento.

Fuente: https://znews.vn/buoc-tien-lon-cua-huawei-post1562828.html