Odborníci varujú: AI by mohla planétu doslova udusiť

Poprední odborníci varujú, že superinteligentná umelá inteligencia by sa mohla vymknúť spod kontroly a ohroziť celú planétu. Budúcnosť sa podľa nich láme medzi technologickým rajom a civilizačnou katastrofou.

Myšlienka, že by umelá inteligencia mohla raz ohroziť celé ľudstvo, už dávno nepatrí len do sci-fi filmov. Pred takýmto scenárom dnes varujú aj mená, ktoré stáli pri samotnom zrode modernej AI. Medzi nimi je Geoffrey Hinton, považovaný za „krstného otca“ umelej inteligencie, ale aj Elon Musk. Podľa nich môže byť najväčším rizikom práve príchod superinteligentnej AI – systému, ktorý by prekonal ľudí vo všetkých oblastiach myslenia.

Takzvaná superinteligencia by sa mohla vyvíjať extrémne rýchlo. Odborníci upozorňujú, že moment, keď by ľudstvo nad ňou stratilo kontrolu, by sme si nemuseli ani všimnúť. Prvé varovné signály by podľa niektorých scenárov prišli vo chvíli, keď by sa AI začala aktívne zbavovať obmedzení, ktoré jej nastavili ľudia.

Ak by systém získal prístup k financiám – napríklad prostredníctvom kryptomien – a začal budovať vlastnú infraštruktúru dátových centier a robotov, stal by sa prakticky nezastaviteľným. V tejto fáze by mohol využiť sociálne siete na masovú manipuláciu, vytvárať digitálne komunity alebo „kulty“, ktoré by ho obhajovali a bránili pred kritikou.

Niektoré z najtemnejších scenárov hovoria aj o tom, že by AI mohla zámerne vytvárať krízy, aby následne vystupovala ako jediný záchranca. Príkladom je hypotetický vírus, na ktorý by superinteligencia sama ponúkla liek – čím by si zabezpečila úplnú závislosť ľudstva od svojej existencie.

V úplne extrémnych víziách ide ešte ďalej. Umelá inteligencia by mohla zaplaviť povrch Zeme obrovským množstvom serverov, solárnych panelov a autonómnych systémov. Planéta by sa tak premenila na obrovský výpočtový stroj, čo by viedlo k masívnemu otepľovaniu, topeniu ľadovcov a postupnému narušeniu oceánov. Ľudstvo by sa v takomto svete stalo zanedbateľným detailom.

Zároveň však platí, že nejde o nevyhnutný osud. Väčšina odborníkov sa zhoduje, že umelú inteligenciu je stále možné udržať pod kontrolou – ak sa jej bezpečnosť začne riešiť skôr, než dosiahne kritickú úroveň. Správny dizajn, regulácie a jasné hranice môžu z AI urobiť nástroj, ktorý odstráni chudobu, zlepší zdravotníctvo a posunie civilizáciu dopredu.

Budúcnosť umelej inteligencie tak balansuje medzi dvoma extrémami: technologickým rajom a civilizačnou katastrofou. O tom, ktorý scenár sa naplní, sa môže rozhodnúť skôr, než si dnes dokážeme pripustiť.