Raspberry Pi 5 ya puede ejecutar modelos de IA en local más potentes, con el accesorio AI HAT+ 2

​​

Resulta increíble comprobar cómo han evolucionado las placas Raspberry Pi, desde su primer modelo. Ahora incluso pueden ejecutar la inteligencia artificial en local. Hoy se ha estrenado la placa accesorio Raspberry Pi AI HAT+ 2, que añade a la Raspberry Pi 5 un chip de IA con 40 TOPs, a la altura de los procesadores de Intel y AMD punteros de gama media (en términos de IA).

Hace un año salió Raspberry Pi AI HAT+, equipado con el chip acelerador de IA Hailo-8, en dos versiones con hasta 26 TOPs. Es un chip enfocado a la visión inteligente, es decir, reconocer objetos, poses y gestos con una cámara.

Raspberry Pi AI HAT+ 2 estrena el chip Hailo-10 con 40 TOPs y 8 GB de memoria RAM LPDDR4 adicionales, lo que le permite ejecutar modelos de IA generativa. Un avance muy importante.

DeepSeek, Llama y Qwen en local

Gracias a la mayor potencia y mayor RAM, Raspberry Pi AI HAT+ 2 puede usar en local las IA DeepSeek-R1-Distill, Llama 3.2 de Meta, Qwen2.5-Coder, Qwen2.5-Instruct y Qwen2, todas con 1500 millones de parámetros. Pero en unos días estarán disponibles versiones más avanzadas, con hasta 7 millones de parámetros.

No hay que perder vista que los LLM más grandes que funcionan en la nube alcanzan los 2 billones de parámetros, así que lógicamente no pueden hacer lo mismo.

La gran ventaja de hacerlo en local es la privacidad, ya que no salen datos de tu hardware. Además no tienes que pagar una suscripción y, muy importante, puedes entrenar a la IA con tus propios datos.

¿Y qué se puede hacer con Raspberry Pi AI HAT+ 2? Pues por ejemplo, puedes crear tu propio ChatGPT privado con tus datos, usando DeepSeek-R1-Distill. Puedes generar código con Qwen2.5-Coder, o traducir del inglés al español con Qwen2.

Además, es posible combinar a la vez un modelo de visión con uno generativo, por ejemplo, para que te describa lo que está viendo la cámara, y lo envíe por correo como un mensaje de texto.

Raspberry Pi AI HAT+ 2, la placa complementaria de Raspberry Pi 5 para usar IA generativa en local, ya está a la venta en España a un precio que ronda los 145 euros. No es barata, pero es tecnología punta.