Intel anunció que ha construido el sistema neuromórfico más grande del mundo, en el cual participaron ingenieros del Centro de Diseño de Guadalajara de Intel en México (GDC por sus siglas en inglés).
Este sistema neuromórfico llamado Hala Point, utiliza el procesador Loihi 2 de Intel y tiene como objetivo impulsar la investigación para la futura inteligencia artificial (IA) inspirada en el cerebro, abordando los desafíos relacionados con la eficiencia y la sostenibilidad de la IA actual. Hala Point es la segunda generación de sistemas a gran escala de cómputo neuromórfico, con mejoras arquitectónicas que logran más de 10 veces la capacidad neuronal y hasta 12 veces más rendimiento, respecto a su predecesor, el Pohoiki Springs.
Hala Point es el primer sistema neuromórfico a gran escala que demuestra eficiencias computacionales de última generación en cargas de trabajo de IA convencionales. La caracterización muestra que puede admitir hasta 20 mil billones de operaciones por segundo, o 20 petaops, con una eficiencia que supera los 15 billones de operaciones de 8 bits por segundo por vatio (TOPS/W) al ejecutar redes neuronales profundas. Esto supera los niveles alcanzados por las arquitecturas basadas en unidades de procesamiento gráfico (GPU) y unidades centrales de procesamiento (CPU). Las capacidades únicas de Hala Point podrían permitir en el futuro, un aprendizaje continuo en tiempo real para aplicaciones de IA, como la resolución de problemas científicos y de ingeniería, la gestión de infraestructuras de ciudades inteligentes, la logística, los modelos de lenguaje grandes (LLM) y agentes de IA.
El sistema es un chasis montable en rack de 6U, que en su interior contiene 36 tarjetas Hala Point N3x con 32 chips Loihi 2 cada una, sumando un total de 1,152 chips. Esto resulta en un sistema de 1.15 mil millones de neuronas, que a máxima capacidad puede ejecutar 20 veces más rápido que un cerebro humano y hasta 200 veces más rápido a menor capacidad. Si bien Hala Point no está destinado al modelado de neurociencia, su capacidad neuronal es aproximadamente equivalente a la del cerebro de un búho o la corteza de un mono capuchino.
En GDC se realizó el diseño funcional y físico de la tarjeta, diseño mecánico, disipadores y simulaciones térmicas para poder cumplir con las especificaciones del producto.
Desde el año 2018, Intel Labs -la unidad de investigación de Intel- en GDC ha sido responsable del diseño y desarrollo de las plataformas y sistemas de Hardware de cómputo neuromórfico del “Neuromorphic Compute Lab” (NCL), y fue pieza clave para el desarrollo y entrega a tiempo de Hala Point en los Laboratorios Nacionales Sandia. En GDC se realizó el diseño funcional y físico de la tarjeta, diseño mecánico, disipadores y simulaciones térmicas para poder cumplir con las especificaciones del producto. Hala Point se armó y probó en Intel Guadalajara, además, investigadores de Intel Labs Guadalajara idearon parte de los algoritmos que permitieron la caracterización del sistema y lograr el desempeño antes mencionado, todo esto gracias a la estrecha colaboración y soporte de diversos grupos de ingeniería en GDC.
Las tendencias recientes en la ampliación de los modelos de aprendizaje profundo con millones de parámetros han expuesto enormes desafíos de sostenibilidad en la IA y han resaltado la necesidad de innovación en todos los niveles de la arquitectura de hardware. La computación neuromórfica es un enfoque fundamentalmente nuevo que se basa en conocimientos de la neurociencia que integran la memoria y la computación con un paralelismo altamente granular para minimizar el movimiento de datos. En los resultados publicados de la Conferencia Internacional sobre Acústica, Habla y Procesamiento de Señales (ICASSP) de abril, Loihi 2 demostró ganancias de órdenes de magnitud en la eficiencia, velocidad y adaptabilidad de las cargas de trabajo de vanguardia emergentes a pequeña escala.
Los procesadores neuromórficos Loihi 2 aplican principios informáticos inspirados en el cerebro, como redes neuronales de picos (SNN) asincrónicas y basadas en eventos, memoria y computación integradas, y conexiones dispersas y que cambian continuamente para lograr ganancias de órdenes de magnitud en el consumo de energía y el rendimiento. Las neuronas se comunican directamente entre sí en lugar de hacerlo a través de la memoria, lo que reduce el consumo general.
Los sistemas basados en Loihi pueden realizar inferencias de IA y resolver problemas de optimización utilizando 100 veces menos energía a velocidades hasta 50 veces más rápidas que las arquitecturas de CPU y GPU convencionales. Aunque aún se encuentran en investigación, los futuros LLM neuromórficos capaces de aprendizaje continuo podrían generar gigavatios/hora de ahorro de energía al eliminar la necesidad de un reentrenamiento periódico con conjuntos de datos en constante crecimiento.
Actualmente, Hala Point es un prototipo que permitirá el avance de las capacidades de sistemas comerciales en el futuro. Se anticipa que estas lecciones conducirán a avances prácticos, como la capacidad de los LLM de aprender continuamente a partir de nuevos datos. Dichos avances reducirán significativamente la carga de entrenamiento de los sistemas de IA. Los investigadores de los Laboratorios Nacionales Sandia planean utilizar Hala Point para investigaciones informáticas avanzadas. La organización se centrará en la resolución de problemas informáticos científicos en física de dispositivos, arquitectura informática y ciencia computacional.
Junto con un ecosistema de más de 200 miembros de la Comunidad de Investigación Neuromórfica de Intel (INRC), la compañía está trabajando para ampliar los límites de la IA inspirada en el cerebro y hacer progresar esta tecnología desde prototipos de investigación hasta productos líderes en la industria en los próximos años.
