Otec umelej inteligencie varuje. Toto číslo desí aj vedcov

Geoffrey Hinton, jeden z otcov modernej umelej inteligencie, varuje, že ľudia stále nechápu, čo môže prísť.

Hinton patrí medzi najdôležitejšie mená v dejinách umelej inteligencie. Je emeritným profesorom na University of Toronto a spolu s Johnom Hopfieldom získal Nobelovu cenu za fyziku za rok 2024 za prácu, ktorá pomohla položiť základy strojového učenia a neurónových sietí.

Práve preto jeho slová znejú tak silno. V rozhovore pre CBS varoval, že existuje približne 10 až 20-percentná šanca, že pokročilá AI raz ľuďom vezme kontrolu. Sám priznal, že ide o hrubý odhad, no podľa neho svet stále nepochopil, akou rýchlosťou sa technológia mení.

Pozrite si celý rozhovor, v ktorom Geoffrey Hinton vysvetľuje, prečo ho rýchly vývoj umelej inteligencie znepokojuje:

Hinton prirovnal AI k mláďaťu tigra. Dnes môže pôsobiť užitočne, hravo a fascinujúco. Problém je v tom, čo sa stane, keď vyrastie. Ak človek nevie zaručiť, že mu nebude nebezpečné, mal by sa podľa neho začať báť už teraz.

Jeho obavy nesmerujú len k sci-fi predstave robotov. Hovorí o systémoch, ktoré budú schopné konať samostatne, pomáhať hackerom, posilňovať autoritárske režimy alebo vstupovať do vojenských technológií. Kritizuje aj veľké firmy, ktoré podľa neho tlačia na slabšiu reguláciu, hoci bezpečnosti venujú len zlomok výpočtového výkonu.

Hinton nie je odporcom umelej inteligencie. Pripúšťa, že môže zmeniť medicínu, vzdelávanie aj vedu. Jeho varovanie je však jednoduché: ak sa preteky o najvýkonnejšiu AI budú riadiť hlavne ziskom a prestížou, ľudstvo môže zistiť príliš neskoro, že nevytvorilo iba pomocníka.