Vedci varujú pred reguláciou AI. Môže mať opačný efekt

Slabá regulácia umelej inteligencie môže priniesť horšie výsledky ako úplná absencia pravidiel. Nová štúdia ukazuje, že nesprávne nastavené zákony môžu výrobcov AI motivovať k nižším investíciám do bezpečnosti.

Regulácia umelej inteligencie patrí medzi najdiskutovanejšie témy technologického sveta. Nový výskum však naznačuje, že problém nemusí byť v tom, či pravidlá existujú, ale ako sú nastavené.

Vedci z Cornell University a Carnegie Mellon University vytvorili ekonomický model založený na teórii hier, aby preskúmali správanie firiem vyvíjajúcich AI. Ich záver je prekvapivý – príliš slabá regulácia môže viesť k ešte menej bezpečným systémom, než keby neexistovala vôbec. Štúdia vyšla v prestížnom časopise Proceedings of the National Academy of Sciences (PNAS).

Výskumníci tvrdia, že problém vzniká vtedy, keď zákony ukladajú povinnosti iba firmám, ktoré umelú inteligenciu používajú v konkrétnych produktoch – napríklad v zdravotníctve, zákazníckej podpore alebo finančných službách. Naopak, spoločnosti vyvíjajúce samotné veľké jazykové modely, ako sú OpenAI, Google či Anthropic, zostávajú mimo hlavných požiadaviek. Podľa autorov to vytvára efekt „prenášania zodpovednosti“, keď vývojári očakávajú, že bezpečnosť zabezpečia až ich zákazníci.

Model zároveň ukazuje, že najlepšie výsledky prináša prísnejšia regulácia zameraná na celý dodávateľský reťazec AI. Ak musia do bezpečnosti investovať vývojári modelov aj firmy, ktoré ich nasadzujú do praxe, zvyšuje sa bezpečnosť technológie a podľa autorov môže profitovať aj samotný biznis.

Štúdia prichádza v čase, keď Spojené štáty aj Európska únia hľadajú správny prístup k regulácii umelej inteligencie. Diskusia sa vedie medzi zástancami minimálnych obmedzení v záujme rýchlejších inovácií a tými, ktorí upozorňujú na riziká spojené s čoraz výkonnejšími modelmi. Autori zdôrazňujú, že ich práca je teoretický model, no môže poslúžiť ako základ pre budúce nastavovanie legislatívy tak, aby podporovala inovácie bez znižovania bezpečnosti.