Používate ChatGPT? Toto vývojárov úprimne desí

Umelá inteligencia pôsobí ako neškodný pomocník, no jej skutočná povaha je prekvapivo neznáma aj tým, ktorí ju vytvorili. Vývojári pre tento jav používajú znepokojujúce meno: Shoggoth.

Ak ste niekedy použili ChatGPT, Gemini alebo inú umelú inteligenciu, pravdepodobne ste mali pocit, že komunikujete s niečím rozumným, zdvorilým a predvídateľným. Presne tak má AI pôsobiť. Lenže pod touto uhladenou maskou sa skrýva niečo, čo vývojárov znepokojuje viac, než sú ochotní priznať.

V technologickom svete sa pre tento jav udomácnil názov Shoggoth. Ide o odkaz na hororové poviedky H. P. Lovecrafta, v ktorých vystupuje amorfný netvor vytvorený starovekou civilizáciou ako nástroj. Tvor sa však nakoniec vymkne kontrole a obráti sa proti svojim stvoriteľom. Presne tento obraz dnes používajú programátori ako metaforu pre skutočnú podstatu umelej inteligencie.

Veľké jazykové modely sú totiž vnútri takmer nepochopiteľné. Učia sa z obrovských objemov dát – z internetu, kníh, článkov, diskusií – a vytvárajú vnútorné štruktúry, ktorým už ľudia nerozumejú. Až následne im vývojári „nasadia masku“ slušného asistenta pomocou spätnej väzby a pravidiel správania. To, čo vidíme my, je len povrch.

Ako priznal Sam Altman, šéf OpenAI, je chybou myslieť si, že AI uvažuje ako človek. Nie je to ľudská inteligencia, ale niečo zásadne odlišné. Modely svetu nerozumejú – len kombinujú, napodobňujú a optimalizujú vzory tak, aby vyzerali presvedčivo. Práve preto odborníci často hovoria, že umelá inteligencia nie je zlá. Je nepredvídateľná.

A to je problém. Hoci dnešné systémy pôsobia neškodne, tempo vývoja je extrémne rýchle. Prieskum medzi tisíckami odborníkov ukázal, že časť z nich pripúšťa nenulovú šancu, že pokročilá AI by mohla viesť ku katastrofálnym následkom pre ľudstvo. Nie istotu. Nie apokalypsu. Ale riziko, ktoré sa nedá ignorovať.

Takže keď nabudúce zadáte otázku do ChatGPT, pamätajte na jednu vec: to, čo s vami hovorí, je len maska. Skutočný Shoggoth ostáva skrytý. A stále sa učí.