Pentagon chce z AI zbraň. Experti varujú pred rizikom

Americký Pentagon podľa správ skúma, ako využiť najnovšie AI modely v kybernetických operáciách, no práve tu sa začína nebezpečná hranica medzi obranou a útokom.

Podľa správy Politico, ktorú zhrnulo Gizmodo, má americký Pentagon skúmať nasadenie špičkových AI modelov s kybernetickými schopnosťami. V centre pozornosti je aj Claude Mythos Preview od spoločnosti Anthropic, model, ktorý zatiaľ nie je voľne dostupný verejnosti. Iniciatíva sa má týkať NSA aj U.S. Cyber Command a jej cieľom je preveriť, ako by sa podobné systémy dali bezpečne použiť pri citlivých vojenských misiách.

Znie to ako obrana. Lenže práve tu sa príbeh komplikuje. AI, ktorá vie nájsť zraniteľnosť, môže pomôcť vývojárom opraviť systém. Tá istá schopnosť však môže byť použitá aj opačne – na rýchlejšie plánovanie kybernetických operácií. Bývalý zástupca veliteľa Cyber Command Charles Moore pre Politico povedal, že AI nástroje sa rýchlo stávajú kľúčové pri odhaľovaní hrozieb, triedení zraniteľností aj pri obranných a útočných operáciách.

Anthropic tvrdí, že v rámci projektu Glasswing použil Claude Mythos Preview na odhalenie tisícov dovtedy neznámych zraniteľností v hlavných operačných systémoch a webových prehliadačoch. Firma preto model drží v obmedzenom režime a prístup dáva len pozvaným organizáciám.

Nie všetci experti však vidia okamžitú katastrofu. Reuters upozornil, že obavy z nekontrolovaného hackerského zneužitia Mythosu môžu byť prehnané, pretože medzi nájdením chyby a reálnym útokom stále existujú technické aj organizačné prekážky.

Najväčšia otázka tak neznie, či AI vie nájsť chyby. Už vie. Otázka je, kto bude mať tieto nástroje v rukách skôr: obrancovia, alebo útočníci.