ChatGPT hlúpne? Výskum ukazuje nečakaný problém

Výskumníci upozorňujú na jav známy ako modelový kolaps. Ak sa umelá inteligencia učí najmä z obsahu vytvoreného inou AI, môže postupne strácať presnosť, kreativitu a schopnosť zachytiť zložité informácie.

Používatelia si to začali všímať už dávnejšie. Niektorí tvrdia, že odpovede chatbotov sú čoraz generickejšie, opakujú sa a niekedy pôsobia menej presvedčivo než v minulosti. Vedci medzitým skúmajú fenomén, ktorý by mohol časť týchto obáv vysvetliť.

Nazýva sa modelový kolaps. Ide o situáciu, keď sa nové generácie umelej inteligencie učia z dát vytvorených predchádzajúcimi modelmi namiesto pôvodného ľudského obsahu. Výsledkom môže byť postupná strata detailov a informácií, ktoré sa pri každej ďalšej generácii modelu vytrácajú.

Môže sa umelá inteligencia postupne zhoršovať, ak sa učí z obsahu vytvoreného inou AI? Video vysvetľuje fenomén modelového kolapsu a dôvody, prečo ho výskumníci považujú za jednu z najväčších výziev budúcnosti:

Práve na tento problém upozornila štúdia publikovaná v časopise Nature. Výskumníci ukázali, že pri opakovanom trénovaní modelov na syntetických dátach vzniká efekt pripomínajúci kopírovanie kópie. Každá ďalšia verzia síce vyzerá podobne, no postupne stráca časť pôvodných vlastností.

Podobný jav opísali aj autori skoršej práce na arXive, ktorí použili prirovnanie k genetickému zúženiu populácie. Keď sa systém opakovane učí len zo svojich vlastných výstupov, začína uprednostňovať najčastejšie vzory a ignorovať zriedkavejšie informácie. Práve tie však často obsahujú dôležité detaily.

To neznamená, že dnešné modely umelej inteligencie nevyhnutne „hlúpnu“. Vývojári si tento problém uvedomujú a snažia sa ho riešiť získavaním nových dát, kvalitnejším filtrovaním obsahu a kombináciou ľudských a syntetických zdrojov.

Napriek tomu ide o jednu z najväčších výziev budúcnosti umelej inteligencie. Ak bude na internete pribúdať obsah generovaný AI rýchlejšie než pôvodný ľudský obsah, modely budú čoraz častejšie narážať na dáta vytvorené inými modelmi.

Otázka preto neznie, či modelový kolaps existuje. Výskum naznačuje, že áno. Skutočnou otázkou je, či sa technologickým firmám podarí zabrániť tomu, aby sa stal problémom celej generácie budúcich AI systémov.