Umelú inteligenciu zneužili čínski hackeri: Útok bežal sám

Britská BBC upozornila na prípad, keď čínski hackeri premenili modernú umelú inteligenciu na autonómneho útočníka. Bez človeka, bez dohľadu, bez brzdy.

Umelá inteligencia mala byť nástrojom, ktorý posilní kybernetickú bezpečnosť. Realita však ukazuje, že môže byť aj presným opakom. Podľa BBC varovala spoločnosť Anthropic, že jej AI systém bol zneužitý čínskymi hackermi na špionáž, zber údajov a prípravu kyberútokov – a to bez toho, aby človek musel neustále zasahovať do procesu. AI sa tak prvýkrát ocitá v pozícii plnohodnotného útočníka.

Dnešné hrozby už nevyzerajú ako kedysi. Hackeri nepoužívajú len klasické skripty či automatizované boty. Umelá inteligencia dokáže sama zhromažďovať informácie, analyzovať profily, vyhľadávať slabé miesta a navrhovať kroky útoku. Presne to sa podľa BBC stalo v prípade čínskej skupiny, ktorá použila komerčný AI nástroj na mapovanie cieľov v technologických firmách, bankách a dokonca aj v štátnych inštitúciách.

Proces prebiehal vo fázach: najprv zber dát, potom autonómne plánovanie a napokon pokusy o získanie hesiel a prístupov. AI tak fungovala ako špión, stratég aj hacker v jednom. To všetko bez potreby manuálneho riadenia a s presnosťou, ktorá je pre bežných útočníkov ťažko dosiahnuteľná.

Bezpečnostní experti upozorňujú, že toto je len začiatok. Nástroje umelej inteligencie sa vyvíjajú rýchlejšie než obranné systémy a v budúcnosti môžu byť kolíziou dvoch trendov: obrovského výkonu a absolútnej dostupnosti. To, čo kedysi dokázali len sofistikované štátne skupiny, bude môcť čoskoro urobiť ktokoľvek s prístupom k AI modelu.

Spoločnosti, ktoré AI vyvíjajú, tak stoja pred zásadnou dilemou. Ako zabezpečiť, aby ich technológie neboli použité na útoky? Ako zabrániť zneužívaniu, keď má systém slúžiť miliónom ľudí? A kde leží hranica medzi otvorenosťou a bezpečnosťou? Deepfaky boli len varovaním. Teraz nastupujú autonómne útoky.

Faktom zostáva, že samotná AI nie je ani dobrá, ani zlá. Je neutrálnym nástrojom, ktorý kopíruje zámer toho, kto ju ovláda. Čínski hackeri ukázali, že moderné modely dokážu pracovať v kyberkriminalite rovnako dobre ako v biznise či vede. Tlak na medzinárodnú spoluprácu a bezpečnostnú politiku tak rapídne rastie – pretože bez nej bude ťažké udržať krok s technológiou, ktorá dokáže útočiť rýchlejšie, než môžu ľudia reagovať.