Krajina internetu vecí prechádza zásadnou premenou, keď vývojári prechádzajú od základného Tiny Machine Learning (TinyML) k sofistikovanejším prístupom Tiny Deep Learning pre zariadenia s obmedzenými zdrojmi na okraji siete.
Tento vývoj poháňajú tri kľúčové technologické inovácie. Po prvé, pokročilé techniky optimalizácie modelov, ako kvantizácia a prerezávanie (pruning), znižujú presnosť číselných reprezentácií v neurónových sieťach, vďaka čomu je možné ich nasadiť na zariadeniach s extrémne obmedzenou pamäťou. Po druhé, objavujú sa špecializované neurónové akcelerátory, ktoré efektívne vykonávajú maticové násobenia kľúčové pre deep learning, a poskytujú výrazné výkonnostné zisky oproti univerzálnym mikrokontrolérom. Po tretie, vyvíjajúce sa softvérové toolchainy uľahčujú vývoj a nasadzovanie týchto modelov prostredníctvom automatizovaných nástrojov strojového učenia.
Dopad presahuje čisto technické úspechy. V zdravotníctve môžu nositeľné zariadenia poháňané TinyML nepretržite monitorovať životné funkcie a detegovať anomálie bez odosielania citlivých údajov do cloudu. Priemyselné aplikácie profitujú z monitorovania zariadení v reálnom čase a schopnosti prediktívnej údržby priamo na senzoroch. Spotrebná elektronika získava rozšírené funkcie vďaka inteligencii priamo na zariadení, ktorá funguje aj bez internetového pripojenia.
Nové trendy posúvajú hranice ešte ďalej. Federované TinyML umožňuje trénovanie modelov na decentralizovaných dátových zdrojoch pri zachovaní súkromia dát. Doménovo špecifický co-design, kde sú hardvér a softvér spoločne optimalizované pre konkrétne aplikácie, sľubuje ďalšie zvýšenie efektivity. Adaptácia veľkých, predtrénovaných základných modelov (foundation models) pre nasadenie na okraji je ďalšou výzvou.
Napriek týmto pokrokom zostávajú výzvy. Zraniteľnosti v oblasti bezpečnosti si vyžadujú dôkladnú pozornosť a vyváženie výpočtových možností s energetickou náročnosťou si žiada inovatívne prístupy. Napriek tomu, ako technológia dozrieva, Tiny Deep Learning má potenciál upevniť si svoje miesto medzi ostatnými technikami strojového učenia a umožniť nasadenie AI v doteraz nedostupných prostrediach a prípadoch použitia.