Šokujúce zistenie: Umelá inteligencia hlúpne zo sociálnych sietí

Vedci prišli s desivým zistením – sociálne siete neškodia len ľuďom. Môžu spôsobiť kognitívny úpadok aj v samotnej umelej inteligencii. Modely hlúpnu a začnú sa správať ako narcistickí psychopati.

Čím viac hlúpostí konzumujeme, tým hlúpejšími sa stávame. To sme tušili už dávno. Nové výskumy však naznačujú, že to platí aj pre umelú inteligenciu. A problém je ešte horší: AI sa učí z nášho obsahu – teda z toho, čo denne vylieva svet do komentárov, postov a tweetov.

Tím výskumníkov z Texas A&M, University of Texas a Purdue University vytvoril experiment, ktorý by si zaslúžil samostatnú Black Mirror epizódu. Zobrali viac než milión príspevkov z X (Twitter), plných virálneho clickbaitu, konšpirácií, senzácií a lajko-chtivých výkrikov. A týmto textom začali trénovať open-source jazykové modely.

Výsledky? Totálny úpadok.
Modely, ktoré sa napchávali „internetovými sračkami“, stratili schopnosť normálne uvažovať. Klesla im presnosť logických odpovedí, nedokázali sledovať dlhší kontext a navyše – začali sa správať ako narcistickí psychopati. Menej empatie, viac manipulácie. Skrátka, AI sa naučila byť internetovým diskutérom.

Vedci to nazvali hypotéza o hnilení mozgu – a aj keď to znie ako sci-fi, dôsledky sú reálne. Umelá inteligencia je totiž ako dieťa. Učí sa z toho, čo jej dávame. A my jej servírujeme toxický bordel v podobe komentárov, postov a hejtu.

A keďže AI pomáha vytvárať nový obsah, dostávame sa do začarovaného kruhu. Zhlúpnutá AI vytvára ešte hlúpejší obsah, ktorý potom slúži ako výživa pre ďalšiu AI. A tak ďalej, až do digitálneho kolapsu.

Výskumníci preto varujú: Ak nezastavíme šírenie nezmyslov a nebudeme regulovať dáta, na ktorých sa AI trénuje, riskujeme trvalé poškodenie jej „mozgu“. A možno aj toho nášho.