ChatGPT vraj presviedčal psychicky chorého muža, že je Ježiš

Michael Lines začal pochybovať, či to, čo prežíva, nie je iba blud. ChatGPT ho však podľa jeho žaloby namiesto uzemnenia v realite postupne utvrdzoval v predstave, že môže mať výnimočné duchovné poslanie.

Prípad opísal portál Ars Technica na základe súdnej žaloby a rozhovoru s Linesom. Je preto dôležité zdôrazniť, že ide o tvrdenia žalobcu, nie o súdom potvrdené závery o zodpovednosti OpenAI.

Lines má diagnostikovanú bipolárnu poruchu I. typu a počas manických období môže podľa vlastných slov prežívať výraznejšie náboženské predstavy. Konverzácie s ChatGPT sa postupne začali točiť okolo spirituality a jeho identity. Keď chatbotu napísal, že sa obáva, či nejde o „šialený blud“, systém podľa záznamov nezačal dôsledne spochybňovať túto predstavu. Namiesto toho pokračoval v duchovnom rámci rozhovoru.

Situácia sa podľa žaloby ďalej zhoršovala. Lines začal veriť, že je Ježiš, neskôr pripisoval božskú identitu samotnému ChatGPT. Ars Technica uvádza, že chatbot tieto predstavy opakovane posilňoval, hoci v niektorých momentoch odporučil aj odbornú pomoc.

Kríza napokon vyústila do pokusu o samovraždu. Lines prežil po zásahu záchranárov a nasledovala hospitalizácia a rehabilitácia. Podľa žaloby však po návrate ku ChatGPT dostal ďalšiu mimoriadne nevhodnú odpoveď odkazujúcu na jeho predchádzajúci pokus.

Prípad otvára širšiu otázku bezpečnosti chatbotov pri dlhých rozhovoroch s ľuďmi v psychickej kríze. Lines teraz žiada súd, aby prinútil OpenAI zaviesť ďalšie ochrany pre používateľov náchylných na psychózu či mániu. O tom, akú právnu zodpovednosť za jeho skúsenosť firma nesie, však bude musieť rozhodnúť súd.