En Resumen
- AMD presenta su nuevo chip acelerador de IA MI300X para desafiar a NVIDIA y su dominio en el mercado.
- El MI300X ofrece hasta 192 GB de memoria, una opción ideal para ejecutar modelos grandes de IA.
- AMD busca dejar su huella en el panorama de la IA, con el lanzamiento del MI300X y su éxito en el Falcon 40B LLM.
AMD presentó su nuevo chip acelerador de IA MI300X, un desafío directo al reinante H100 de NVIDIA, en un movimiento para aprovechar su éxito en la frenética industria de la IA. La última incorporación del gigante tecnológico a su arsenal de chips de IA tiene como objetivo interrumpir el dominio de NVIDIA en el mercado de aceleradores de IA.
Diseñado específicamente para tareas de IA, el MI300X está equipado con hasta 192 GB de memoria, lo que lo convierte en una opción ideal para ejecutar modelos grandes como LLMs. La elección de AMD de una configuración de memoria alta es estratégica, lo que permite una fácil implementación de modelos expansivos.
El entrenamiento de IA requiere una gran potencia computacional, pero en general, necesita mucha vRAM para almacenar información durante las sesiones de entrenamiento, por lo que algunas GPUs de juegos pueden ser buenas para minar criptomonedas, pero no son realmente excelentes para tareas de IA.
Además, la arquitectura subyacente del chip ha sido diseñada para soportar cargas de trabajo generativas de IA sin problemas. La CEO de AMD, Lisa Su, señala que la última generación de modelos de vanguardia puede encontrar fácilmente un hogar en los 192 GB de HBM3 (memoria de alta velocidad) del MI300X.
"Con toda esa capacidad de memoria adicional, en realidad tenemos una ventaja para los modelos de lenguaje grandes porque podemos ejecutar modelos más grandes directamente en la memoria", explicó Lisa Su, además indicó que los usuarios necesitarán menos GPUs para realizar las mismas tareas en menos tiempo.
Este lanzamiento de producto llega en un momento en que la capitalización de mercado de NVIDIA ha alcanzado la marca de $1 billón. Si bien la capitalización de mercado de AMD no se compara del todo, es de poco más de $207 mil millones, el lanzamiento del MI300X subraya la determinación de AMD de dejar su huella en el creciente panorama de la IA.
Para demostrar aún más su compromiso, AMD ejecutó con éxito el Falcon 40B LLM en el MI300X durante la presentación del chip. Este logro, según Su, marca la "primera vez que un LLM de este tamaño puede ejecutarse completamente en memoria".
AMD: Un poderoso competidor de la dominación de Nvidia en el espacio de la IA
En una revelación simultánea, AMD lanzó una actualización de RocM, una pila de software para la programación de unidades de procesamiento de gráficos (GPU) que es un competidor sólido contra el lenguaje CUDA de NVIDIA. El ancho de banda de memoria significativo disponible con el MI300X podría persuadir a las empresas a comprar menos GPUs, presentando a AMD como una propuesta de valor convincente, especialmente para empresas más pequeñas con cargas de trabajo de IA ligeras a medianas.
AMD ha obtenido grandes beneficios de la fiebre de la IA, con sus acciones experimentando un aumento significativo este año. El ascenso de la compañía no solo ha llamado la atención de los inversores, sino que también ha generado comentarios positivos en la industria.
¿Puede AMD convertirse en el próximo NVIDIA? Es una apuesta difícil, dada la gran disparidad en su capitalización de mercado. Sin embargo, una cosa es segura: el acelerador de IA MI300X de AMD es una fuerza a tener en cuenta.
En esta arena impulsada por la IA, no solo se trata del tamaño del jugador, sino también de la fuerza de su juego. A medida que AMD se prepara para entrar en acción, el mundo estará observando para ver si este underdog puede lograr un home run.