Google pustil AI do armády: Zamestnanci sa búria

Google má sprístupniť svoje AI modely Pentagónu pre utajované úlohy, no stovky zamestnancov varujú pred zneužitím v armáde a sledovaní.

Google si roky chránil obraz firmy, ktorá nechce stavať technológie pre vojnu. Teraz sa však tento príbeh prudko mení.

Podľa The Information, na ktoré sa odvolali Reuters a The Guardian, Google podpísal s americkým Pentagonom utajovanú dohodu, ktorá umožní používať jeho modely umelej inteligencie v citlivých vládnych a vojenských prostrediach. Zmluva má povoľovať využitie AI na „akýkoľvek zákonný vládny účel“, pričom medzi možné oblasti patria aj plánovanie misií či práca so zbraňovými systémami.

Najväčšie otázky však vyvolávajú hranice. Dohoda má obsahovať formuláciu, že systémy nie sú určené na domáce masové sledovanie ani na autonómne zbrane bez ľudského dohľadu. Zároveň však podľa Reuters nedáva Googlu právo vetovať zákonné operačné rozhodnutia vlády. Inými slovami, firma môže nastaviť pravidlá, no nemusí mať posledné slovo nad tým, ako sa technológia v utajenom prostredí použije.

Pozrite si rozhovor so Sundarom Pichaiom o tom, prečo Google považuje vývoj AI za strategickú otázku pre Spojené štáty.

Vo vnútri Googlu to okamžite vyvolalo odpor. Viac než 600 zamestnancov vrátane ľudí z tímov Google DeepMind a Cloud podpísalo list pre šéfa Alphabetu Sundara Pichaia, v ktorom žiadali, aby firma odmietla sprístupniť AI pre utajované vojenské úlohy. Zamestnanci varovali, že takéto systémy môžu robiť chyby, centralizovať moc a byť použité spôsobmi, ktoré verejnosť neuvidí.

Prípad pripomína starú ranu menom Project Maven. V roku 2018 tlak zamestnancov prispel k tomu, že Google neobnovil kontrakt s Pentagonom na analýzu záberov z dronov. V tom istom roku firma predstavila AI princípy, ktoré obsahovali obmedzenia pre zbrane a sledovanie. Tie však boli vo februári 2025 prepracované.

Google tvrdí, že ide o zodpovedný spôsob podpory národnej bezpečnosti. Kritici však vidia niečo iné: okamih, keď sa najvýkonnejšia komerčná AI posúva z kancelárií a vyhľadávačov do sveta, kde sú otázky života, smrti a dohľadu často skryté za slovom „utajené“.