Vědci odhalili překvapivé paralely mezi tím, jak velké jazykové modely (LLM) a lidský mozek zpracovávají jazyk, a to navzdory jejich zcela odlišné architektuře a energetickým nárokům.
Společná studie Google Research, Princetonské univerzity, NYU a Hebrejské univerzity v Jeruzalémě zjistila, že nervová aktivita v lidském mozku se během přirozené konverzace lineárně shoduje s vnitřními kontextovými vektory LLM. Výzkumníci objevili, že oba systémy sdílejí tři základní výpočetní principy: předpovídají následující slova ještě před jejich vyslechnutím, porovnávají tyto predikce se skutečným vstupem za účelem výpočtu překvapení a spoléhají na kontextové vektory pro smysluplné zastoupení slov.
„Ukazujeme, že vnitřní vektory na úrovni slov, které generují hluboké jazykové modely, se shodují se vzorci nervové aktivity v etablovaných oblastech mozku spojených s porozuměním a produkcí řeči,“ uvádějí autoři ve svých zjištěních publikovaných v Nature Neuroscience.
Existují však i zásadní rozdíly. Zatímco LLM zpracovávají stovky tisíc slov najednou, lidský mozek zpracovává jazyk postupně, slovo po slovu. Ještě důležitější je, že lidský mozek zvládá složité kognitivní úkoly s pozoruhodnou energetickou efektivitou – spotřebuje pouze asi 20 wattů energie, zatímco moderní LLM vyžadují mnohonásobně více.
„Mozkové sítě dosahují své efektivity tím, že přidávají rozmanitější typy neuronů a selektivní konektivitu mezi různými typy neuronů v oddělených modulech sítě, namísto prostého přidávání dalších neuronů, vrstev a spojení,“ vysvětluje studie publikovaná v Nature Human Behaviour.
K překvapivému zjištění došli i vědci z BrainBench, když zjistili, že LLM dnes překonávají lidské experty v předpovídání výsledků neurovědeckých experimentů. Jejich specializovaný model BrainGPT dosáhl přesnosti 81 % oproti 63 % u neurovědců. Stejně jako lidským expertům, i LLM stoupala přesnost s vyšší mírou jistoty v jejich předpovědích.
Tyto poznatky naznačují budoucnost, v níž by výpočetní technika inspirovaná mozkem mohla dramaticky zvýšit efektivitu AI. Výzkumníci zkoumají spikové neuronové sítě (SNN), které ještě věrněji napodobují biologické neurony, což by mohlo umožnit využití od energeticky úsporných pátracích dronů až po pokročilé nervové protézy.
Jak se LLM dále vyvíjejí směrem k mozku podobnému zpracování, hranice mezi umělou a biologickou inteligencí se stále více stírá a vyvstávají zásadní otázky o samotné podstatě kognice.