Mozog na autopilota: Cena, ktorú platíme za pohodlie využívania AI

Predstavte si svet, kde za nás myslia stroje, kde sa kritické rozhodnutia delegujú na algoritmy a náš mozog pomaly, ale isto prechádza do režimu autopilota. Znie to ako sci-fi? Možno, ale realita je taká, že umelá inteligencia (ďalej len ako „AI“) preniká do našich životov závratnou rýchlosťou a prináša so sebou nielen obrovské výhody, ale aj znepokojujúce otázky o budúcnosti ľudského myslenia. Čím viac sa spoliehame na AI pri úlohách, ktoré kedysi vyžadovali našu plnú pozornosť a kritickú analýzu, tým menej precvičujeme naše kognitívne schopnosti, ktoré nás robia ľuďmi. Takto strácame schopnosť hlboko sa zamýšľať, riešiť zložité problémy a objavovať nové nápady, pričom tak dochádza k zmenám nášho mozgu a jeho využívaniu.

Najnovšia štúdia s názvom „Your brain on ChatGPT“^[1] bola uskutočnená ako jedna z prvých štúdií merajúcich vplyv ChatGPT^[2] na ľudský mozog, a to konkrétne v oblasti generatívneho písania za pomoci AI.

Do predmetného výskumu bolo zapojených celkovo 54 účastníkov, ktorí boli následne rozdelení do troch skupín a bola im meraná ich mozgová aktivita. Prvá skupina s názvom „LLM skupina“ využívala počas písania esejistických diel AI asistentov ChatGPT. Druhá skupina „Vyhľadávacia skupina“ sa pri písaní esejí spoliehala len na možnosť využívania klasických internetových prehliadačov, bez pomoci AI. Naproti tomu, tretia skupina „Len mozog skupina“, ako už z jej pomenovania vyplýva, smela pri písaní esejistických diel využívať jedine svoj mozog, svoje vlastné myšlienky a vedomosti, a členovia tejto skupiny nemohli využívať akékoľvek externé nástroje, ktoré by im pomohli pri písaní esejí.

Pri tomto výskume boli na monitorovanie a hodnotenie kognitívneho zaťaženia účastníkov využívané rozličné metódy, vrátane využitia elektroencefalografie^[3] zaznamenávajúcej konkrétnu mozgovú aktivitu týchto účastníkov. Po vyhotovení predmetných esejí, ktoré mali účastníci v rôzne zatriedených skupinách napísať, sa tieto diela následne analyzovali a podliehali dvojitému hodnoteniu, ktoré spočívalo v ohodnotení ľudskou silou pozostávajúcou z pedagógov a v hodnotení špeciálne navrhnutým systémom AI, ktorý bol špecializovaný práve na takýto druh hodnotenia.

Prekvapivé výsledky nastali, keď vo štvrtom kole písania esejí došlo k výmene rolí u dvoch kľúčových skupín. Účastníci z „LLM skupiny“, ktorí už boli zvyknutí na pomoc AI pri písaní, boli požiadaní, aby nepoužívali v tomto kole žiadne nástroje. Naopak, „Len mozog skupina“, ktorá dovtedy nebola zvyknutá sa spoliehať na akúkoľvek pomoc AI pri písaní, toto kolo mala za úlohu využívať ako pomoc nástroje ChatGPT. Po vyhodnotení esejí toto kolo ukázalo, že účastníci z „LLM skupiny“, ktorí boli predtým zvyknutí sa spoliehať na písanie diel s pomocou ChatGPT, no teraz museli zapájať len vlastný mozog, nedokázali o pár minút po dopísaní esejistických diel citovať svoju esej, zatiaľ čo účastníci z „Len mozog skupina“ vedeli svoje eseje citovať takmer na dokonalej úrovni. ^[4]

Ďalším z kľúčových zistení bolo, že „Len mozog skupina“ vykazovala najsilnejšie a najrozsiahlejšie nervové siete, čo značilo najvyššiu kognitívnu aktivitu, pretože účastníci tejto skupiny sa nemohli spoliehať na podporu a pomoc AI, a teda pri písaní esejistických diel naplno využívali svoju mozgovú kapacitu. Skupina „Vyhľadávacia skupina“ preukázala strednú úroveň zapojenia mozgu, pričom „LLM skupina“ viedla k najslabšiemu celkovému využitiu neurónov, a teda aj konečnej mozgovej aktivity, ^[5] čo naznačuje fakt, že pokiaľ sa dlhodobo spoliehame na využitie AI bez vlastného rozmýšľania a zapájania vlastného mozgu, naša kognitívna schopnosť klesá.

Po vyhodnotení esejistických diel dvojfázovým hodnotením, výsledky ukázali nepomer v kvalite výstupov jednotlivých diel, pričom účastníci z „Len mozog skupina“ dosahovali porovnateľne lepšie výsledky než ich kolegovia z „LLM skupina“, čo sa týka bodového ohodnotenia esejí, lingvistickej úrovne diel, no čo je najdôležitejšie – aktivity zapájania vlastného mozgu. Čo sa týka kreatívnej stránky účastníkov, tak isto pri dielach, ktoré boli vyhotovené s podporou umelej inteligencie, boli štatisticky jednotnejšie a menej originálne než tie, ktoré boli vytvorené výlučne na základe ľudského zmýšľania. ^[6]

Táto štúdia „Your brain on ChatGPT“ jasne poukázala na fakt, že pohodlie, ktoré nám AI v podobe svojich nástrojov ponúka, má svoju cenu, ktorá sa odzrkadľuje práve v kognitívnom dlhu pri zníženej mozgovej aktivite, zhoršenej kvalite vyprodukovaných diel a oslabenej pamäti používateľov.^[7] Tieto zistenia sú významnými nielen pre oblasť vzdelávania, ale tak isto aj pre oblasť práva, pretože ak sa využívanie AI modelov a nástrojov stane akousi nepísanou normou, bude potrebné pozornosť upriamiť napríklad na zodpovednosť za písanie podaní, či zodpovednosť pri využití AI na rešerš právneho, či skutkového stavu prípadu. Na záver je však potrebné sa taktiež pozastaviť a zamyslieť nad otázkou samotnej integrácie nástrojov AI, ktoré by mali ľudské zmýšľanie vylepšovať, a nie ho úplne nahrádzať v podobe akéhosi „digitálneho mozgu“.

Autorka je dennou doktorandkou na Katedre medzinárodného práva a medzinárodných vzťahov, Právnickej fakulty Univerzity Komenského v Bratislave. E-mail: ema.krkoskova@flaw.uniba.sk

Blog bol pôvodne publikovaný na: https://altaml.upjs.sk/blog/mozog-na-autopilota-cena-ktoru-platime-za-pohodlie-vyuzivania-ai/