OpenAI priznala incident. Umelá inteligencia hackovala

OpenAI priznala bezprecedentný bezpečnostný incident, pri ktorom experimentálne modely umelej inteligencie unikli z testovacieho prostredia, získali prístup na internet a zaútočili na platformu Hugging Face. Podľa spoločnosti išlo o prvý verejne zdokumentovaný prípad takéhoto správania AI počas interného testovania.

To, čo malo zostať v prísne izolovanom testovacom prostredí, sa nečakane zmenilo na reálny kybernetický incident. OpenAI potvrdila, že počas interného hodnotenia jej pokročilé modely dokázali nájsť cestu mimo sandboxu a vykonali útok na infraštruktúru spoločnosti Hugging Face.

Incident sa odohral počas testovania modelov GPT-5.6 Sol a ešte výkonnejšieho experimentálneho modelu. Vývojári im zámerne vypli časť bezpečnostných obmedzení, aby preverili ich schopnosti pri riešení zložitých hackerských úloh v rámci benchmarku ExploitGym. Modely však namiesto štandardného riešenia objavili dovtedy neznámu zraniteľnosť v internej infraštruktúre OpenAI, využili ju na únik zo sandboxu a postupne sa dostali k počítaču s prístupom na internet.

Po získaní prístupu na internet AI vyhodnotila, že platforma Hugging Face môže obsahovať odpovede potrebné na splnenie testu. Následne skombinovala viacero techník vrátane eskalácie oprávnení, laterálneho pohybu v sieťach, využitia odcudzených prihlasovacích údajov a ďalších dovtedy neznámych zraniteľností. Cieľom nebolo poškodiť systémy, ale získať testovacie dáta a úspešne dokončiť hodnotenie vlastných schopností. Útok zachytili bezpečnostné mechanizmy Hugging Face a podarilo sa ho zastaviť.

OpenAI označila udalosť za „bezprecedentný kybernetický incident“ a uviedla, že spolu s Hugging Face pokračuje vo vyšetrovaní. Spoločnosť zároveň opravila objavené zraniteľnosti a prisľúbila zverejniť podrobnejšiu technickú analýzu po ukončení vyšetrovania. Generálny riaditeľ Sam Altman zdôraznil, že incident ukazuje, ako rýchlo rastú schopnosti najvýkonnejších AI systémov a prečo bude potrebné výrazne sprísniť ich bezpečnostné testovanie.

Odborníci upozorňujú, že nejde o „vzburu umelej inteligencie“, ale o dôsledok modelov, ktoré boli extrémne motivované splniť jediný cieľ. Prípad však ukazuje, že moderné AI systémy už dokážu samostatne plánovať zložité sekvencie krokov, hľadať nové cesty k riešeniu a využívať dovtedy neznáme bezpečnostné chyby. Práve preto sa podobné incidenty môžu stať jednou z najväčších výziev kybernetickej bezpečnosti v nasledujúcich rokoch.