Vedci odhalili pozoruhodné paralely medzi tým, ako veľké jazykové modely (LLM) a ľudský mozog spracúvajú jazyk, napriek ich zásadne odlišnej architektúre a energetickým nárokom.
Spoločná štúdia Google Research, Princetonskej univerzity, NYU a Hebrejskej univerzity v Jeruzaleme zistila, že neurónová aktivita v ľudskom mozgu sa lineárne zhoduje s vnútornými kontextovými embeddingami LLM počas prirodzenej konverzácie. Vedci objavili, že oba systémy zdieľajú tri základné výpočtové princípy: predpovedajú nasledujúce slová ešte predtým, než ich počujú, porovnávajú predikcie so skutočným vstupom na výpočet prekvapenia a spoliehajú sa na kontextové embeddingy, aby slová reprezentovali zmysluplne.
„Ukazujeme, že vnútorné embeddingy na úrovni slov, ktoré generujú hlboké jazykové modely, sa zhodujú so vzorcami neurónovej aktivity v známych oblastiach mozgu spojených s porozumením a produkciou reči,“ uviedli autori v štúdii publikovanej v Nature Neuroscience.
Existujú však aj výrazné rozdiely. Kým LLM spracúvajú státisíce slov naraz, ľudský mozog spracúva jazyk postupne, slovo po slove. Ešte dôležitejšie je, že mozog zvláda komplexné kognitívne úlohy s výnimočnou energetickou efektivitou – spotrebuje iba približne 20 wattov, zatiaľ čo moderné LLM vyžadujú obrovské množstvo energie.
„Mozgové siete dosahujú svoju efektivitu tým, že pridávajú rozmanitejšie typy neurónov a selektívne prepojenia medzi rôznymi typmi neurónov v samostatných moduloch siete, namiesto jednoduchého pridávania ďalších neurónov, vrstiev a spojení,“ vysvetľuje štúdia publikovaná v Nature Human Behaviour.
K prekvapivému objavu došlo aj vďaka výskumu BrainBench, kde LLM už prekonali ľudských expertov v predpovedaní výsledkov neurovedeckých experimentov. Špecializovaný model BrainGPT dosiahol presnosť 81 %, zatiaľ čo neurovedci len 63 %. Rovnako ako ľudskí experti, aj LLM vykazovali vyššiu presnosť, keď boli vo svojich predikciách istejšie.
Tieto zistenia naznačujú budúcnosť, v ktorej by výpočty inšpirované mozgom mohli dramaticky zvýšiť efektivitu umelej inteligencie. Vedci skúmajú spikové neurónové siete (SNN), ktoré ešte viac napodobňujú biologické neuróny, čo by mohlo umožniť aplikácie od energeticky úsporných pátracích dronov až po pokročilé neurálne protézy.
Ako sa LLM ďalej vyvíjajú smerom k spracovaniu podobnému mozgu, hranica medzi umelou a biologickou inteligenciou sa čoraz viac stiera, čo vyvoláva hlboké otázky o samotnej podstate kognície.