Mimoriadne nebezpečná AI. Prišlo varovanie

AI nástroj Claude Mythos od spoločnosti Anthropic pomohol výskumníkom prelomiť zabezpečenie macOS a ukázal, aké nebezpečné môžu byť podobné systémy v nesprávnych rukách.

Operačné systémy Apple patria medzi najlepšie chránené platformy na svete. Potom však prišiel experiment, ktorý ukázal, že ani Mac nemusí byť pred novou generáciou umelej inteligencie úplne v bezpečí.

Výskumníci z kyberbezpečnostnej spoločnosti Calif tvrdia, že sa im podarilo prelomiť zabezpečenie systému macOS pomocou nástroja Claude Mythos od spoločnosti Anthropic. Nešlo pritom o bežný chatbot, ale o špecializovaný AI systém určený na hľadanie slabín v softvéri. Práve preto nie je verejne dostupný vo veľkom meradle.

Pozrite si vysvetlenie, prečo model Claude Mythos vyvolal takú veľkú debatu v kyberbezpečnosti a prečo ho Anthropic sprístupňuje len vybraným partnerom:

Podľa správy denníka The Wall Street Journal pomohol Claude Mythos výskumníkom vytvoriť metódu na rozšírenie oprávnení v systéme. V praxi to znamená, že útočník by sa mohol dostať aj do častí Macu, ktoré sú za normálnych okolností prísne uzamknuté. Takýto prístup môže v krajnom prípade viesť až k prevzatiu kontroly nad zariadením.

Dôležité je, že Mythos zraniteľnosti rýchlo identifikoval. Na vytvorenie samotnej metódy útoku bola síce stále potrebná ľudská spolupráca, no celý prípad ukazuje nepríjemný smer vývoja. Umelá inteligencia už nemusí len písať texty alebo analyzovať dáta. Môže pomáhať aj pri hľadaní bezpečnostných dier.

To je dôvod, prečo odborníci hovoria o varovaní. Ak by sa podobné nástroje dostali do rúk kyberzločincov, mohli by výrazne zrýchliť hľadanie slabých miest v operačných systémoch, aplikáciách aj internetových službách.

Apple podľa dostupných informácií zobral zistenia vážne a uviedol, že bezpečnosť je jeho najvyššou prioritou. Výskumníci sa už mali stretnúť so zástupcami firmy v jej centrále. Detaily útoku zatiaľ nezverejnili, aby nedali návod útočníkom. Zverejnené majú byť až po tom, čo Apple pripraví opravu.