El panorama de la IA embebida está experimentando una transformación fundamental, ya que los desarrolladores van más allá de los modelos simples de aprendizaje automático para desplegar redes neuronales profundas sofisticadas en hardware con recursos sumamente limitados.
Mientras que el TinyML tradicional se enfocaba en tareas básicas de inferencia para microcontroladores, el emergente paradigma del Tiny Deep Learning (TinyDL) representa un avance significativo en las capacidades de cómputo en el borde. La proliferación de dispositivos conectados a Internet, desde sensores portátiles hasta monitores industriales, exige inteligencia artificial cada vez más sofisticada en el propio dispositivo. El despliegue de algoritmos complejos en estas plataformas con recursos limitados presenta retos importantes, impulsando la innovación en áreas como la compresión de modelos y hardware especializado. Los investigadores ahora van más allá de los modelos simples de aprendizaje automático, denominados 'TinyML', hacia arquitecturas de 'Tiny Deep Learning' (TinyDL) más potentes pero aún compactas.
Este cambio está siendo posible gracias a varios desarrollos tecnológicos clave. El principio central que sustenta el TinyDL radica en la optimización de modelos. Los modelos de aprendizaje profundo, que suelen ser de gran tamaño y demandan mucho poder de cómputo, requieren una adaptación sustancial para su despliegue efectivo en dispositivos de borde. Técnicas como la cuantización, que reduce la precisión de las representaciones numéricas dentro del modelo, son fundamentales. Por ejemplo, convertir números de punto flotante de 32 bits a enteros de 8 bits reduce drásticamente tanto el tamaño del modelo como las demandas computacionales, aunque potencialmente a costa de algo de precisión. El pruning, o poda sistemática de conexiones redundantes dentro de una red neuronal, también contribuye a la compresión y aceleración del modelo.
El hardware dedicado de aceleración neuronal está resultando crucial en esta transición. STMicroelectronics ha presentado el STM32N6, marcando un paso importante en la tecnología de microcontroladores al convertirse, según ST, en el primero en contar con hardware dedicado para la aceleración de IA. Esto señala un punto de inflexión en la evolución del hardware de IA. Mirando hacia atrás, ha habido dos eventos clave en la evolución del hardware de IA: el chip A11 Bionic de Apple en 2017, el primer procesador de aplicaciones en incluir aceleración de IA, y la arquitectura Pascal de Nvidia en 2016, que demostró el potencial de las GPU para actividades de IA.
El acelerador Neural-ART en el actual STM32N6 cuenta con casi 300 unidades configurables de multiplicar-acumular y dos buses de memoria AXI de 64 bits para un rendimiento de 600 GOPS. Eso es 600 veces más de lo que es posible en el STM32H7 más rápido, que no cuenta con una NPU. La serie STM32N6 es la más potente de STMicroelectronics hasta la fecha, diseñada para manejar aplicaciones de IA exigentes en el borde. Cuenta con un núcleo Arm Cortex-M55 a 800 MHz y un acelerador Neural-ART funcionando a 1 GHz, ofreciendo hasta 600 GOPS para inferencia de IA en tiempo real. Con 4.2 MB de RAM y un ISP dedicado, está orientado a tareas de visión, audio e IoT industrial.
Los frameworks de software están evolucionando junto con el hardware para apoyar esta transición. Los frameworks de TinyML proporcionan una infraestructura robusta y eficiente que permite a organizaciones y desarrolladores aprovechar sus datos y desplegar algoritmos avanzados en dispositivos de borde de manera efectiva. Estos frameworks ofrecen una amplia gama de herramientas y recursos diseñados específicamente para impulsar iniciativas estratégicas en Tiny Machine Learning. Los principales frameworks para la implementación de TinyML incluyen TensorFlow Lite (TF Lite), Edge Impulse, PyTorch Mobile, uTensor y plataformas como STM32Cube.AI, NanoEdgeAIStudio, NXP eIQ y Embedded Learning Library de Microsoft.
A medida que esta tecnología madura, podemos esperar ver aplicaciones de IA cada vez más sofisticadas ejecutándose directamente en pequeños dispositivos de borde, habilitando nuevos casos de uso mientras se preserva la privacidad, se reduce la latencia y se minimiza el consumo de energía. La transición hacia el Tiny Deep Learning representa un hito importante para hacer que la IA avanzada sea accesible en entornos con recursos limitados.