Los chips de IA de Nvidia son muy caros y hay escasez, así que todas las compañías de IA intentan reducir su dependencia de la compañía de Jensen Huang. OpenAI y Broadcom han presentado Jalapeño, su primer procesador para la IA pensado para llevar a cabo tareas de inferencia.
Según OpenAI, de la mesa de diseño a la fabricación solo han pasado nueve meses, gracias a que la propia inteligencia artificial ha acelerado el proceso. Pero no ha explicado exactamente en qué ha colaborado la IA a la hora de diseñar el chip.
Aunque a veces se habla genéricamente de “chips de IA”, en realidad los hay de distintos tipos, enfocados a diferentes tareas dentro del ciclo de vida de la inteligencia artificial.
Qué es Jalapeño, el primer chip de IA de OpenAI
Jalapeño es un procesador de IA enfocado a la inferencia. También se les llama acelerador de IA. La inferencia es el trabajo que lleva a cabo la IA cuando cumple las tareas de los usuarios. Son procesos que exigen menos potencia que el entrenamiento de la IA, por eso OpenAI seguirá usando las GPU de Nvidia para entrenar a sus modelos.
La ventaja de Jalapeño para OpenAI, es que ha sido creado junto con Broadcom según las necesidades de sus modelos de IA. Sabe mejor que nadie qué se necesita en qué procesos de la inferencia, y ha diseñado el chip en función de eso. Aún está en fase de pruebas, pero según la nota de prensa, en los primeros test ofrece un rendimiento por vatio “muy superior” al de la competencia.
En todo caso, OpenAI asegura que este acelerador de IA también podrá ser aprovechado por otras compañías.
Para las compañía de IA es crucial reducir el coste de la inferencia, que consume potencia de proceso y, por tanto, ancho de banda de los centros de datos, electricidad y agua. Si Jalapeño consigue mejorar el ratio de rendimiento por vatio, sin duda es una buena noticia para OpenAI.
“OpenAI no solo desarrolla modelos de vanguardia o crea productos basados en ellos, sino que diseña la infraestructura subyacente: arquitectura de chips, núcleos, sistemas de memoria, redes, programación, sistemas de implementación y experiencia de producto”, dice la compañía de IA. “Dado que OpenAI opera en toda la pila, cada capa puede optimizarse en torno al mismo objetivo: hacer que sus modelos sean más rápidos, más fiables y más asequibles para los usuarios”.
“Nuestra colaboración con OpenAI representa un compromiso fundamental para ampliar la infraestructura física necesaria para la próxima década de la IA”, afirma Hock Tan, presidente y director ejecutivo de Broadcom. “Esto es solo el comienzo de una hoja de ruta que abarcará varias generaciones. Al desarrollar conjuntamente nuestros chips líderes en el sector directamente con OpenAI, estamos haciendo posible el despliegue de centros de datos a escala de gigavatios junto con Microsoft y otros socios a partir de 2026”.
Todas las compañías de IA intentan romper las cadenas de Nvidia, pero no es una tarea fácil. Al menos para los trabajos que exigen la mayor potencia de proceso, como el entrenamiento de los modelos de IA, los chips de Nvidia siguen siendo los más potentes. Veremos hasta donde llega el procesador Jalapeño de Open AI.
Deja una respuesta