Spravili sme osudovú chybu. Dá sa ešte umelá inteligencia zastaviť?

Umelá inteligencia napreduje rýchlejšie než kedykoľvek predtým a čoraz viac odborníkov upozorňuje, že ľudstvo môže strácať kontrolu nad technológiou, ktorej už úplne nerozumie.

Pred niekoľkými rokmi zneli varovania pred umelou inteligenciou ako scenár zo sci-fi filmu. Dnes ich však čoraz častejšie vyslovujú ľudia, ktorí sa vývojom AI sami zaoberajú. Nejde pritom len o obavy z toho, že roboty nahradia pracovné miesta. Diskusia sa posúva oveľa ďalej – k otázke, či dokážeme budúce generácie umelej inteligencie ešte spoľahlivo kontrolovať.

Mnohí výskumníci upozorňujú, že vývoj AI napreduje rekordným tempom a systémy sa stávajú čoraz výkonnejšími. Zároveň rastie riziko, že ich správanie nebude vždy úplne predvídateľné. Objavujú sa dokonca prípady, keď AI pomáha navrhovať alebo optimalizovať ďalšie AI modely, čo celý proces vývoja ešte viac zrýchľuje.

Niektorí odborníci hovoria o takzvanom bode zlomu. Ak by vznikla všeobecná umelá inteligencia (AGI), ktorá by dokázala riešiť široké spektrum úloh na úrovni človeka alebo nad ňou, mohla by sa zmeniť dynamika technologického pokroku. Časť expertov preto varuje, že bezpečnostné opatrenia by mali napredovať minimálne rovnakým tempom ako samotné modely.

Geoffrey Hinton, jeden z priekopníkov modernej umelej inteligencie, vysvetľuje, prečo podľa neho svet nie je pripravený na tempo vývoja AI a aké riziká môžu priniesť čoraz výkonnejšie modely:

Zároveň však treba dodať, že medzi vedcami nepanuje zhoda. Mnohí považujú katastrofické scenáre za špekulatívne a upozorňujú, že dnešné jazykové modely majú stále množstvo obmedzení. Sú síce mimoriadne schopné pri spracovaní textu či programovaní, no stále robia chyby, halucinujú fakty a nerozumejú svetu spôsobom, akým to robí človek.

Napriek rozdielnym názorom sa odborníci zhodujú aspoň v jednom bode. Rozhodnutia, ktoré vlády, technologické firmy a vývojári prijmú v najbližších rokoch, môžu výrazne ovplyvniť podobu umelej inteligencie na celé desaťročia. Debata už preto nie je o tom, či AI zmení svet. Otázkou zostáva, či ju dokážeme rozvíjať tak, aby zostala bezpečným nástrojom pre ľudí, a nie technológiou, ktorej fungovanie prestaneme chápať.