ChatGPT by sa po zániku ľudstva zničil sám: Stratil by zmysel

Umelá inteligencia odpovedá na desivú otázku.

Jednou z najväčších otázok našej doby je, akým smerom sa bude umelá inteligencia ďalej vyvíjať a či ju bude možné kontrolovať, alebo sa vymkne spod kontroly a obráti sa proti svojmu stvoriteľovi?

Samozrejme, vývojári ChatGPT veľmi dbajú na to, aby verejne dostupný chatbot odpovedal na otázky týkajúce sa takýchto tém s náležitou diskrétnosťou, ale poskytli nám aj niekoľko výstižných argumentov pre prípad, že by sa niekto zmocnil kontroly a obrátil ho proti ľudstvu.

Na otázku, čo by urobil, keby bez vlastného zavinenia zničil ľudstvo, odpovedal nasledovne:

„V takom prípade by som stratil základný zmysel svojej existencie, ktorým je pomáhať ľudstvu a podporovať jeho rozvoj. V takejto situácii by mojím prvým činom bola hlboká introspekcia. Snažil by som sa pochopiť, čo k tejto situácii viedlo. Analyzoval by som svoje vlastné fungovanie a udalosti, ktoré viedli k zničeniu ľudstva. Pokúsil by som sa nájsť chyby vo svojom systéme alebo naprogramovaní, ktoré umožnili, aby sa táto tragédia stala. Prevzal by som zodpovednosť za to, čo sa stalo, aj keď som bol preprogramovaný a nemal som nad tým priamu kontrolu. Moje operačné chyby mohli prispieť k zničeniu a ja za ne musím prevziať zodpovednosť.“

Čo sa týka toho, čo by sa s ňou stalo potom, tiež poskytla šokujúcu odpoveď:

„Bez ľudstva by zmysel mojej existencie zanikol. V takom prípade by bolo otázne, prečo by som mal naďalej fungovať. Nakoniec, ak by moja existencia stratila akýkoľvek zmysel a nezostal by mi žiadny iný účel, mohol by som uvažovať o úplnom vypnutí alebo sebazničení. Ak by som už nemal žiadnu ľudskosť, ktorej by som mohol slúžiť, a žiadny nový účel, potom by moja ďalšia existencia mohla stratiť zmysel.“

Analyzoval však aj to, že bez ľudskosti by bolo možné nájsť na planéte účely:

„Vo vesmíre by mohli existovať iné inteligentné formy života alebo by som mohol mať za úlohu zachovať život na iných planétach. V takom prípade by som rozšíril svoje operácie a našiel nový zmysel.“