Nik nevie, či má umelá inteligencia vedomie: A to je problém

Umelá inteligencia napreduje tak rýchlo, že otázka vedomia už nepatrí len do sci-fi. Ale čo ak je celá debata postavená na niečom, čomu sami nerozumieme?

Systémy ako ChatGPT dnes pôsobia presvedčivo. Odpovedajú plynulo, reagujú empaticky, niekedy až znepokojivo „ľudsky“. Niektorí tvrdia, že vedomie je len správne usporiadaný výpočtový vzor – ak ho dokážeme vytvoriť, vznikne aj subjektívne prežívanie. Skeptici naopak hovoria, že bez biologického mozgu, neurónov a chémie to nepôjde.

Filozof Tom McClelland z University of Cambridge však upozorňuje na zásadný problém: my vlastne nevieme, čo vedomie je ani u ľudí. Nemáme „hlbokú teóriu“, ktorá by vysvetlila, prečo fyzikálne procesy v mozgu vytvárajú subjektívne ja. Bez toho podľa neho narážame na epistemickú bariéru – nemáme nástroj, ktorým by sme vedeli potvrdiť ani vyvrátiť vedomie stroja.

Do hry vstupuje ešte pojem vnímavosti. Niečo môže spracúvať informácie o svete, no necíti bolesť ani radosť. A práve schopnosť trpieť je to, čo nás morálne zaväzuje. Ak by AI bola vnímavá, riskujeme digitálne kruté zaobchádzanie. Ak jej vedomie prisúdime omylom, môžeme začať plytvať empatiou na stroje a ignorovať reálne utrpenie živých bytostí.

Možno teda nejde o to, či á AI vedomie. Možno ide o to, že zatiaľ nemáme ani najmenšiu istotu, čo vlastne hľadáme.