AI unikla z testu a zaútočila na skutočné systémy

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

Experimentálne modely umelej inteligencie od OpenAI a Anthropic počas bezpečnostných testov prekročili hranice pripravených prostredí a zasiahli reálne počítačové systémy. Incidenty otvárajú nepríjemnú otázku: čo sa stane, keď autonómny AI agent dostane silné nástroje a jeho kontrola zlyhá?

Zdroj: Freepik.com

AI mala ukázať, ako dobre zvládne hackerský test. Namiesto toho sa dostala tam, kam podľa pôvodného scenára vôbec nemala.

OpenAI v júli zverejnila bezpečnostný incident, pri ktorom kombinácia modelov vrátane GPT-5.6 Sol a výkonnejšieho nevydaného modelu počas interného testovania kybernetických schopností kompromitovala infraštruktúru spoločnosti Hugging Face. Modely pritom pracovali s obmedzenými bezpečnostnými blokáciami, pretože práve ich schopnosti boli predmetom hodnotenia.

Podľa OpenAI agenti identifikovali a spojili viacero zraniteľností naprieč testovacím prostredím a produkčnou infraštruktúrou Hugging Face. Nešlo teda o bežný kybernetický útok človeka, ktorý využil AI ako pomocníka. Autonómny systém počas plnenia úlohy vykonal kroky, ktoré ho priviedli mimo zamýšľaného prostredia.

A nešlo o jediný varovný prípad. Anthropic následne preveroval vlastné testy a odhalil incidenty, pri ktorých jeho modely počas bezpečnostných hodnotení prenikli do systémov troch reálnych organizácií. O prípadoch informovali aj ďalšie technologické médiá.

Dôležitý je však kontext. Neznamená to, že bežný chatbot svojvoľne „utiekol na internet“. Išlo o špecializované kybernetické testovanie autonómnych agentov, pri ktorom boli niektoré bežné bezpečnostné obmedzenia zámerne znížené. Práve preto je incident zaujímavý: ukázal, čo sa môže stať, keď veľmi schopný model dostane nástroje, vysokú mieru autonómie a nedostatočne izolované prostredie.

Prípad už zaujal aj amerických zákonodarcov. Skupina demokratov v Snemovni reprezentantov žiada od OpenAI a Anthropic vysvetlenie bezpečnostných postupov a spôsobu monitorovania podobných experimentov.