Biely dom brzdí nový model AI. Obavy vedcov rastú

Administratíva prezidenta Donald Trump údajne požiadala OpenAI, aby obmedzila prvé nasadenie modelu GPT-5.6. Dôvodom sú obavy, že najvýkonnejšie systémy umelej inteligencie by mohli predstavovať nové bezpečnostné riziká.

Ešte pred niekoľkými rokmi sa zdalo, že technologické firmy budú nové modely umelej inteligencie zverejňovať okamžite po dokončení. Teraz sa situácia mení a do hry vstupuje aj vláda.

Podľa informácií, na ktoré upozornil TechCrunch, má OpenAI pri uvedení GPT-5.6 postupovať opatrnejšie než pri predchádzajúcich generáciách. Model by sa najskôr nemal dostať k širokej verejnosti, ale iba k úzkemu okruhu partnerov a zákazníkov schválených počas skúšobného obdobia.

Na procese sa údajne podieľajú kancelárie americkej vlády zodpovedné za kybernetickú bezpečnosť a vedecko-technologickú politiku. Ide o výrazný posun oproti skoršiemu prístupu, ktorý presadzoval minimálne zásahy štátu do vývoja umelej inteligencie.

Podobnú cestu už zvolila aj Anthropic. Jej experimentálny model Claude Mythos bol sprístupnený iba vybraným partnerom, pretože firma tvrdila, že jeho schopnosti v oblasti kybernetickej bezpečnosti môžu byť príliš silné na okamžité verejné nasadenie.

Obavy nie sú úplne neopodstatnené. Moderné jazykové modely už dnes dokážu analyzovať zdrojový kód, identifikovať bezpečnostné chyby a v niektorých prípadoch dokonca automatizovať časti útokov, ktoré kedysi vyžadovali celé tímy expertov. Odborníci preto diskutujú, či by najvýkonnejšie systémy nemali prechádzať podobným schvaľovacím procesom ako iné kritické technológie.

Zatiaľ však zostáva otvorená otázka, kde leží hranica medzi ochranou spoločnosti a spomaľovaním inovácií. Práve rozhodnutia okolo GPT-5.6 môžu ukázať, ako bude vyzerať regulácia umelej inteligencie v nasledujúcich rokoch.