Bill Gates varuje: Vypínač AI nás pred útokom neochráni

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

Bill Gates spochybnil predstavu, že nebezpečnú umelú inteligenciu stačí v núdzi vypnúť. V rozhovore pre NBC upozornil na hrozbu, ktorá môže napáchať škody skôr, než niekto stihne zasiahnuť.

Zdroj: Freepik (ilustrácia)

Predstavte si umelú inteligenciu, ktorá pomáha pripraviť kybernetický útok. Keď sa naň príde, prevádzkovateľ systém vypne. Lenže útočník už získal, čo potreboval. Práve preto podľa Billa Gatesa nestačí hovoriť o núdzovom vypínači AI.

V rozhovore pre reláciu Meet the Press televízie NBC News Gates upozornil, že predstava systému, ktorý sa vymkne kontrole a nedá sa zastaviť, odvádza pozornosť od bezprostrednejšieho rizika. Umelú inteligenciu môžu zneužiť ľudia na podvody, kybernetické útoky alebo pri príprave biologických hrozieb. Možnosť vypnúť jeden systém sama osebe takému použitiu nezabráni.

Gates preto žiada, aby mali výkonné AI systémy ochranné opatrenia a možnosti monitorovania už počas používania. Pravidlá podľa neho nemôžu závisieť len od rozhodnutia jednotlivých firiem. Do ich tvorby sa majú zapojiť aj zákonodarcovia a orgány činné v trestnom konaní. V rozhovore výslovne odmietol, že by samoregulácia odvetvia stačila.

Nie je to prvýkrát, čo Gates upozorňuje na riziká AI. Nedávno hovoril aj o tom, že vlády nestíhajú držať krok s jej vývojom. Jeho nové vyjadrenie však pomenúva konkrétny problém: bezpečnosť sa nemôže začínať až vo chvíli, keď treba stlačiť tlačidlo „vypnúť“.

Gates netvrdí, že núdzový vypínač je zbytočný. Tvrdí, že je len poslednou poistkou. Ak AI pomôže človeku naplánovať alebo uskutočniť útok, otázka už nebude, či sa dá vypnúť. Bude znieť, prečo systém dokázal pri takom použití pomáhať.