एंबेडेड एआई का परिदृश्य मौलिक रूप से बदल रहा है क्योंकि डेवलपर्स अब साधारण मशीन लर्निंग मॉडल्स से आगे बढ़कर अत्यंत सीमित संसाधनों वाले हार्डवेयर पर परिष्कृत डीप न्यूरल नेटवर्क्स को लागू कर रहे हैं।
जहाँ पारंपरिक टिनीएमएल (TinyML) माइक्रोकंट्रोलर के लिए बुनियादी इन्फरेंस कार्यों पर केंद्रित था, वहीं उभरता हुआ टिनी डीप लर्निंग (TinyDL) एज कंप्यूटिंग क्षमताओं में एक महत्वपूर्ण छलांग का प्रतिनिधित्व करता है। इंटरनेट से जुड़े डिवाइसेज़ की बढ़ती संख्या — जैसे वियरेबल सेंसर्स से लेकर औद्योगिक मॉनिटर्स तक — ऑन-डिवाइस आर्टिफिशियल इंटेलिजेंस की बढ़ती जटिलता की मांग करती है। इन सीमित संसाधनों वाले प्लेटफॉर्म्स पर जटिल एल्गोरिद्म्स को लागू करना बड़ी चुनौतियाँ पेश करता है, जिससे मॉडल कंप्रेशन और विशेष हार्डवेयर जैसे क्षेत्रों में नवाचार को बढ़ावा मिल रहा है। शोधकर्ता अब साधारण मशीन लर्निंग मॉडल्स (TinyML) से आगे बढ़कर अधिक शक्तिशाली, फिर भी कॉम्पैक्ट, 'टिनी डीप लर्निंग' (TinyDL) आर्किटेक्चर लागू कर रहे हैं।
यह बदलाव कई प्रमुख तकनीकी विकासों के कारण संभव हो रहा है। TinyDL का मूल सिद्धांत मॉडल ऑप्टिमाइज़ेशन में निहित है। डीप लर्निंग मॉडल्स, जो सामान्यतः आकार में बड़े और गणनात्मक रूप से भारी होते हैं, एज डिवाइसेज़ पर प्रभावी रूप से लागू करने के लिए पर्याप्त अनुकूलन की आवश्यकता होती है। क्वांटाइज़ेशन जैसी तकनीकें, जो मॉडल के भीतर संख्यात्मक अभ्यावेदन की प्रिसीजन को घटाती हैं, अत्यंत महत्वपूर्ण हैं। उदाहरण के लिए, 32-बिट फ्लोटिंग-पॉइंट नंबरों को 8-बिट इंटीजर में बदलना मॉडल का आकार और गणनात्मक मांग दोनों को काफी कम कर देता है, भले ही कभी-कभी थोड़ी सटीकता की कीमत पर। प्रूनिंग, यानी न्यूरल नेटवर्क के भीतर अनावश्यक कनेक्शनों को व्यवस्थित रूप से हटाना, मॉडल कंप्रेशन और गति दोनों में योगदान करता है।
समर्पित न्यूरल एक्सेलेरेटर हार्डवेयर इस बदलाव में निर्णायक भूमिका निभा रहे हैं। STMicroelectronics ने STM32N6 पेश किया है, जो MCU तकनीक में एक महत्वपूर्ण कदम है क्योंकि, ST के अनुसार, यह पहला माइक्रोकंट्रोलर है जिसमें एआई एक्सेलेरेशन के लिए समर्पित हार्डवेयर है। यह एआई हार्डवेयर के विकास में एक बड़ा मोड़ दर्शाता है। इतिहास में देखें तो एआई हार्डवेयर विकास में दो प्रमुख घटनाएँ रही हैं: 2017 में एप्पल का A11 बायोनिक चिप, जिसमें पहली बार एआई एक्सेलेरेशन के लिए एप्लिकेशन प्रोसेसर शामिल था, और 2016 में एनवीडिया का पास्कल आर्किटेक्चर, जिसने एआई गतिविधियों के लिए जीपीयू की संभावनाओं को साबित किया।
आज के STM32N6 में Neural-ART एक्सेलेरेटर लगभग 300 कॉन्फ़िगर करने योग्य मल्टिप्लाई-एक्यूम्युलेट यूनिट्स और दो 64-बिट AXI मेमोरी बस के साथ 600 GOPS की थ्रूपुट देता है। यह STM32H7 के सबसे तेज़ वर्शन से 600 गुना अधिक है, जिसमें NPU नहीं है। STM32N6 सीरीज़ STMicroelectronics का अब तक का सबसे शक्तिशाली माइक्रोकंट्रोलर है, जिसे डिमांडिंग एज एआई एप्लिकेशनों के लिए डिज़ाइन किया गया है। इसमें 800 MHz का Arm Cortex-M55 कोर और 1 GHz पर चलने वाला Neural-ART Accelerator है, जो रीयल-टाइम एआई इन्फरेंस के लिए 600 GOPS तक की क्षमता देता है। 4.2 MB RAM और समर्पित ISP के साथ, यह विज़न, ऑडियो और औद्योगिक IoT कार्यों के लिए उपयुक्त है।
सॉफ्टवेयर फ्रेमवर्क्स भी हार्डवेयर के साथ-साथ इस बदलाव को समर्थन देने के लिए विकसित हो रहे हैं। TinyML फ्रेमवर्क्स एक मजबूत और कुशल इन्फ्रास्ट्रक्चर प्रदान करते हैं, जिससे संगठन और डेवलपर्स अपने डेटा का उपयोग कर एज डिवाइसेज़ पर उन्नत एल्गोरिद्म्स को प्रभावी ढंग से लागू कर सकते हैं। ये फ्रेमवर्क्स विशेष रूप से टिनी मशीन लर्निंग में रणनीतिक पहलों को आगे बढ़ाने के लिए डिज़ाइन किए गए टूल्स और संसाधनों की विस्तृत श्रृंखला पेश करते हैं। TinyML इम्प्लीमेंटेशन के लिए प्रमुख फ्रेमवर्क्स में TensorFlow Lite (TF Lite), Edge Impulse, PyTorch Mobile, uTensor और प्लेटफॉर्म्स जैसे STM32Cube.AI, NanoEdgeAIStudio, NXP eIQ और Microsoft का Embedded Learning Library शामिल हैं।
जैसे-जैसे यह तकनीक परिपक्व होती जा रही है, हम उम्मीद कर सकते हैं कि अत्यधिक परिष्कृत एआई एप्लिकेशन सीधे छोटे एज डिवाइसेज़ पर चलेंगे, जिससे नए उपयोग के मामले संभव होंगे, साथ ही प्राइवेसी बनी रहेगी, लेटेंसी घटेगी और पावर खपत भी न्यूनतम होगी। टिनी डीप लर्निंग की ओर यह बदलाव सीमित संसाधनों वाले वातावरण में उन्नत एआई को सुलभ बनाने की दिशा में एक महत्वपूर्ण मील का पत्थर है।