OSN bije na poplach: AI môže spôsobiť katastrofálne škody

Umelá inteligencia napreduje rýchlejšie, než ju dokážu vedci pochopiť a štáty regulovať. Nová správa expertov OSN varuje, že bez globálnych pravidiel môžu vzniknúť riziká s katastrofickými následkami.

Svet si zvykol hovoriť o umelej inteligencii ako o technológii budúcnosti. Organizácia Spojených národov však teraz upozorňuje, že budúcnosť môže prísť oveľa skôr, než budú pripravené zákony aj samotná veda.

Predbežná správa Nezávislého medzinárodného vedeckého panelu OSN pre umelú inteligenciu, v ktorom pôsobí štyridsať expertov z rôznych krajín sveta, upozorňuje na rastúce riziko straty kontroly nad čoraz autonómnejšími systémami AI. Podľa spolupredsedu komisie, Yoshua Bengio, vývoj technológie predbieha schopnosť vlád aj výskumníkov reagovať na nové hrozby.

„S rastúcimi dôkazmi o klamlivom správaní umelej inteligencie dnes veda nedokáže zaručiť, že ďalší rozvoj nespôsobí katastrofické škody – či už samostatne, alebo v rukách zlomyseľných používateľov,“ uvádza správa.

Autori zároveň zdôrazňujú, že systémy umelej inteligencie už dnes dosahujú odbornú úroveň v matematike a prírodných vedách, urýchľujú vývoj nových liekov a pomáhajú pri výskume vakcín. Zložitosť úloh, ktoré dokážu zvládnuť, sa pritom zdvojnásobuje každých niekoľko mesiacov.

Pozrite si predstavenie predbežnej správy OSN, v ktorej experti vrátane Yoshuu Bengia vysvetľujú, prečo sa podľa nich vývoj umelej inteligencie dostáva pred schopnosť štátov aj vedcov držať krok.

Najväčšie obavy vyvoláva nástup takzvaných agentných systémov AI, ktoré budú schopné samostatne plánovať, rozhodovať a vykonávať komplexné úlohy bez priameho dohľadu človeka. Odborníci upozorňujú na riziko dezinformačných kampaní, sofistikovaných kybernetických útokov, finančných podvodov či dokonca biologických hrozieb.

Ďalším problémom je globálna nerovnosť. Väčšina krajín nemá vlastnú infraštruktúru ani odborné kapacity na vývoj pokročilých modelov a stáva sa závislou od technológií vytvorených inde. To môže oslabiť ich schopnosť kontrolovať, ako sa umelá inteligencia využíva v ekonomike, zdravotníctve alebo verejnej správe.

Generálny tajomník António Guterres preto vyzval vlády na okamžité konanie. Podľa neho si svet už nemôže dovoliť čakať, pretože možnosti umelej inteligencie sú obrovské, no rovnaké sú aj riziká, ktoré prináša.

Treba však zdôrazniť, že správa nie je výzvou na zastavenie vývoja AI. Jej autori skôr upozorňujú, že bez spoločných pravidiel a vedecky podloženej regulácie môže technológia, ktorá má potenciál pomôcť miliardám ľudí, zároveň vytvoriť problémy, aké ľudstvo ešte nezažilo.