Si ya te parecía impresionante el overclocking que hace explotar los ordenadores o el impresionante proyecto de PS5-Linux, espera a que conozcas lo que ha hecho un desarrollador con los procesadores M4.
Muchos usuarios no lo saben, pero Apple oculta potencia en sus chips, un rendimiento que, liberado, podría optimizar en gran medida las tareas exigentes vinculadas a la inteligencia artificial o a la ejecución de los procesos generales.
Todo se ha logrado con una ingeniería inversa en el Neural Engine y el experto explica que tú también te podrías saltar el estricto control de software y configurar la carga de trabajo para que se use íntegramente en la memoria RAM.
¿Quieres saber cómo? Sabiendo cómo es el hardware de la manzana mordida, parece imposible hacer este tipo de modificaciones, pero sin duda, 0x0SojalSec lo hace ver realmente fácil.
Ingeniería inversa del Neural Engine: acceso a un potencial oculto de los M4 de Apple
El machine learning en macOS e iPadOS era algo sumamente difícil de lograr hace algunos años, pero ahora existen componentes que lo hacen más que posible.
Uno de ellos es el popular procesador M4 de Apple, presentado en 2024. Es un SoC de 3 nm de segunda generación que incorpora una CPU de hasta 10 núcleos (4 de alto rendimiento y 6 de eficiencia), GPU integrada de 8 o 10 núcleos con trazado de rayos.
También está el famoso Neural Engine de 16 núcleos capaz de hasta 38 TOPS para tareas de inteligencia artificial, pero ¿y si te dijera que puede llegar aún más lejos? El desarrollador independiente conocido como 0x0SojalSec ha demostrado que hay una potencia oculta en estos componentes.
Aplicando ingeniería inversa del Neural Engine del chip M4, se puede desbloquear una capacidad que, en teoría, no está disponible para los usuarios ni desarrolladores.
Tal y como comparte en su post de X, este proceso libera hasta 15,8 TFLOPS adicionales para IA. Esto es suficiente como para ejecutar modelos previamente entrenados, por ejemplo, en reconocimiento de imágenes o procesamiento de lenguaje, pero no entrenar nuevos modelos directamente en el dispositivo.
La verdadera pregunta es: ¿cómo ha conseguido esta modificación si se trata de un hardware estricto de Apple? Pues todo se basa en romper la barrera con un lenguaje intermedio propio llamado Model Intermediate Language.
Utilizando este método, ha evitado la implementación de herramientas oficiales como CoreML o Metal, logrando que haya una comunicación directa con el Neural Engine y habilitando funciones avanzadas como retropropagación y entrenamiento de modelos tipo transformer.
Hasta la fecha, nada de eso está disponible en el entorno nativo de Apple. Sin embargo, el experto aclara que durante los procesos intensivos se pueden generar bloqueos o interrupciones, pero también tienen solución.
El lenguaje aplicado permite contar con un sistema de control que reinicia procesos de manera selectiva. De este modo, si se presenta algún inconveniente, es capaz de recuperarse y continuar el entrenamiento.
Otro punto clave es la optimización del flujo de datos. El programador ha configurado el sistema para trabajar exclusivamente en memoria RAM, evitando el uso del almacenamiento NAND. Es una decisión clave para reducir la latencia y mejorar la velocidad.
En otras palabras, con esta potencia adicional, tienes la posibilidad de entrenar modelos de IA en tu Mac sin usar la nube, crear modelos personalizados locales, reducir el gasto de servicios externos como AWS y prototipar proyectos similares.
Por ejemplo, en dispositivos como Mac o iPad con chip M4, este enfoque permite aprovechar mejor la arquitectura de memoria unificada.
Deja una respuesta