Šéfovia AI volajú po brzde, no v hre je viac než bezpečnosť

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

Sam Altman vylúčil vstup OpenAI na burzu v roku 2026. Výzvy na spomalenie AI však otvárajú aj otázku, komu prísnejšie pravidlá pomôžu a koho zabrzdia.

Zdroj: Freepik (ilustrácia)

Firmy, ktoré súťažia o najvýkonnejšiu umelú inteligenciu, teraz hovoria o spomalení. Sam Altman v septembrovom rozhovore pre Fortune vylúčil vstup OpenAI na burzu v roku 2026. Ako dôvod uviedol bezpečnostné výzvy. Rok 2027 tým však nepotvrdil ako pevný termín.

Podobnú debatu otvoril Dario Amodei, šéf konkurenčného Anthropicu. Vo svojom návrhu žiada viac času na overovanie bezpečnosti najpokročilejších modelov. Spomalenie podľa neho nemá znamenať úplné zastavenie tréningu či technického pokroku. Cieľom je, aby ochranné opatrenia držali krok s rastúcimi schopnosťami systémov.

Anthropic sa preto zaviazal umožniť nezávislým hodnotiteľom priebežný prístup do firmy, v mnohom porovnateľný s prístupom zamestnancov. Mali by kontrolovať bezpečnostné postupy, skúmať proces vývoja a informovať o incidentoch. Amodei navrhuje tiež spoločné štandardy medzi firmami a spoluprácu vlád. Ide o návrh postupu, nie o dôkaz, že celý sektor už vývoj zastavil.

Prečo však práve vývojári žiadajú pravidlá, ktoré môžu obmedziť ich vlastný biznis? Jedným vysvetlením sú obavy z rizík. Kritici upozorňujú aj na obchodné záujmy. Martin Gyurák, predseda českého Svazu umělé inteligence, pre CNN Prima NEWS uviedol, že veľké firmy čelia konkurencii lacnejších a lokálne prevádzkovaných modelov.

Nákladné audity, právne tímy a bezpečnostné oddelenia môžu podľa neho vytvoriť prekážky, ktoré veľké spoločnosti zvládnu ľahšie než malé projekty. Regulácia by tak mohla súčasne zvyšovať bezpečnosť aj upevňovať postavenie dominantných hráčov. To je však hodnotenie možných motivácií a dôsledkov, nie preukázanie, že varovania pred AI sú vymyslené.

Podobnú výhradu vyslovil pre Reuters aj investor Anthropicu Joe Lonsdale. Uznáva význam bezpečnosti, ale varuje pred tým, aby strach umožnil niekoľkým spoločnostiam ovládnuť tvorbu pravidiel.

Rozhodujúce preto bude, čo príde po vyhláseniach: skutočne nezávislé kontroly, zverejňovanie problémov a pravidlá primerané riziku. Samotná dramatická rétorika nestačí na posúdenie nebezpečenstva ani úprimnosti tých, ktorí naň upozorňujú.