Nik nevie, či má umelá inteligencia vedomie: A to je problém

Systémy ako ChatGPT dnes pôsobia presvedčivo. Odpovedajú plynulo, reagujú empaticky, niekedy až znepokojivo „ľudsky“. Niektorí tvrdia, že vedomie je len správne usporiadaný výpočtový vzor – ak ho dokážeme vytvoriť, vznikne aj subjektívne prežívanie. Skeptici naopak hovoria, že bez biologického mozgu, neurónov a chémie to nepôjde.

Filozof Tom McClelland z University of Cambridge však upozorňuje na zásadný problém: my vlastne nevieme, čo vedomie je ani u ľudí. Nemáme „hlbokú teóriu“, ktorá by vysvetlila, prečo fyzikálne procesy v mozgu vytvárajú subjektívne ja. Bez toho podľa neho narážame na epistemickú bariéru – nemáme nástroj, ktorým by sme vedeli potvrdiť ani vyvrátiť vedomie stroja.

Do hry vstupuje ešte pojem vnímavosti. Niečo môže spracúvať informácie o svete, no necíti bolesť ani radosť. A práve schopnosť trpieť je to, čo nás morálne zaväzuje. Ak by AI bola vnímavá, riskujeme digitálne kruté zaobchádzanie. Ak jej vedomie prisúdime omylom, môžeme začať plytvať empatiou na stroje a ignorovať reálne utrpenie živých bytostí.

Možno teda nejde o to, či á AI vedomie. Možno ide o to, že zatiaľ nemáme ani najmenšiu istotu, čo vlastne hľadáme.