Vatikán varuje: AI môže šíriť manipulácie a klamstvá

Katolícka cirkev sa obáva falošných informácií a manipulovaných záberov vytvorených umelou inteligenciou.

Vatikán vo svojom novom usmernení s názvom Antiqua et Nova (Staré a nové) upozorňuje na riziká spojené s využívaním umelej inteligencie (AI) v informačných technológiách.

Dokument uznáva, že AI môže priniesť pozitívne zmeny v rôznych oblastiach spoločenského života, no zároveň varuje:

„Tak ako v každej oblasti, kde človek robí rozhodnutia, aj tu číha tieň zla.“

Podľa Vatikánu AI predstavuje významné riziko zneužitia – môže byť použitá na tvorbu manipulovaného obsahu a šírenie falošných informácií s cieľom zavádzať alebo škodiť. Takýto obsah môže ohroziť aj samotné základy spoločnosti.

Vzhľadom na tieto hrozby by vlády a medzinárodné organizácie mali zabezpečiť, aby AI slúžila v prospech všetkých ľudí. „Toto je otázka, ktorá si vyžaduje dôkladnú reguláciu, pretože dezinformácie – najmä tie šírené cez AI riadené alebo ovplyvnené médiá – sa môžu nekontrolovane šíriť, čím spôsobujú politickú polarizáciu a spoločenské napätie,“ píše sa v dokumente.

Vatikán zároveň varuje, že ľudská zodpovednosť nesmie byť nikdy odovzdaná umelej inteligencii. Všetky technologické riešenia musia byť podrobené morálnemu hodnoteniu, aby sa zabezpečilo ich správne využitie v prospech ľudstva.

Nové usmernenia pripravili dve vatikánske dikastériá (kancelárie Svätej stolice) a boli zverejnené so súhlasom pápeža Františka.

Hlava katolíckej cirkvi opakovane varuje pred rizikami umelej inteligencie, pričom zdôrazňuje etické otázky spojené s touto technológiou. Minulý týždeň pápež poslal odkaz účastníkom Svetového ekonomického fóra (WEF) v Davose, v ktorom upozornil svetových politických a ekonomických lídrov na to, že AI predstavuje zásadné výzvy pre budúcnosť ľudstva.

Pápež sa tejto téme venoval aj na summite skupiny G7 v Taliansku v júni minulého roka, kde zdôraznil, že ľudia nesmú dovoliť, aby za nich rozhodovali algoritmy.