AI môže vyhubiť ľudstvo. Zlomový bod je blízko

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

Výskumník Jacob Coxon odišiel z Anthropic a zverejnil mimoriadne vážne varovanie: podľa neho sa najväčšie AI laboratóriá ženú za čoraz výkonnejšou umelou inteligenciou tempom, pri ktorom nemusí bezpečnosť držať krok. Jeho slová navyše podporili aj ďalší ľudia z odvetvia.

Zdroj: Freepik (ilustrácia)

Výskumník pracujúci na jednej z najvýkonnejších technológií súčasnosti sa rozhodol odísť. A dôvod jeho rezignácie vyvolal oveľa väčšiu pozornosť než samotný odchod.

Jacob Coxon, 27-ročný výskumník, strávil približne tri roky výskumom trénovania AI modelov, najskôr v OpenAI a neskôr v Anthropic. Po odchode z Anthropic tvrdí, že ani jedna z firiem podľa jeho názoru nekoná dostatočne zodpovedne. Súťaž o stále schopnejšie systémy prirovnal ku „gambling with our lives“ – hazardovaniu s našimi životmi.

Coxon sa obáva najmä scenára, v ktorom by vznikla samostatne sa zlepšujúca superinteligencia. Taký systém je zatiaľ hypotetický, problémom však podľa kritikov je, že schopnosti AI napredujú rýchlejšie než metódy, ktorými možno jej správanie spoľahlivo kontrolovať.

Pozornosť vyvolala najmä reakcia jeho bývalých kolegov. Evan Hubinger, ktorý v Anthropic vedie výskum alignmentu, verejne podporil podstatu Coxonových obáv a uviedol, že sám pripisuje katastrofickému scenáru v nasledujúcom desaťročí nezanedbateľnú pravdepodobnosť. Samuel Marks z Anthropic takisto upozornil na vážne obavy ľudí pracujúcich priamo na vývoji AI.

Nejde pritom o prvý podobný odchod. Z popredných AI laboratórií už v minulosti odišli ďalší pracovníci pre spory týkajúce sa bezpečnosti a tempa vývoja. Coxonov prípad je však pozoruhodný práve preto, že Anthropic vznikol s výrazným dôrazom na bezpečnejší vývoj umelej inteligencie.

To ešte neznamená, že dnešné chatboty stoja tesne pred prevzatím kontroly nad svetom. Spor sa týka skôr toho, čo príde ďalej – a či ľudia dokážu vytvoriť účinné poistky skôr, než systémy získajú schopnosti, ktoré už nebude jednoduché kontrolovať.