Zverujete tajomstvá ChatGPT? Vaše správy môže čítať človek

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

Za obrazovkou ChatGPT nemusí byť vždy iba umelá inteligencia. Investigatíva 404 Media opisuje interný „Project Lily“, v ktorom stovky externých pracovníkov hodnotia skutočné konverzácie používateľov – a niektoré môžu obsahovať aj citlivé osobné informácie.

Zdroj: Freepik (ilustrácia)

Investigatívny portál 404 Media získal interné dokumenty, návody, materiály zo Slacku aj ukážky reálnych promptov súvisiacich s projektom označovaným ako „Project Lily“. Podľa reportáže OpenAI využíva stovky externých pracovníkov, ktorí čítajú používateľské prompty a hodnotia odpovede ChatGPT. Cieľom je zlepšovať správanie modelov – napríklad obmedziť prehnane súhlasné odpovede či prílišné „poľudšťovanie“ umelej inteligencie.

Proces má byť pomerne systematický. Recenzent si prečíta prompt, zhrnie, čo sa používateľ snažil dosiahnuť, a následne hodnotí vytvorené odpovede. Podľa dokumentov opísaných 404 Media sa hodnotí okrem užitočnosti aj prirodzenosť, presnosť či štýl odpovede.

Najväčšie otázky však vyvoláva súkromie. Recenzenti podľa reportáže nevidia používateľské mená a OpenAI uvádza, že pred sprístupnením dát používa filter na odstránenie osobných údajov. Firma zároveň pripúšťa, že automatický filter môže urobiť chybu. V niektorých prípadoch sa preto k pracovníkom môžu dostať aj citlivé údaje. Recenzent môže podľa zistení vidieť tiež súhrn používateľovej pamäte s ďalším kontextom.

Dôležitý je aj jeden detail: podľa vyjadrenia OpenAI pre 404 Media sa nové konverzácie nepoužívajú na zlepšovanie modelov, ak používateľ vypne nastavenie „Improve the model for everyone“. Pri spotrebiteľských účtoch je toto nastavenie podľa reportáže štandardne zapnuté; pri Business, Enterprise a Edu nie. Zmena sa však nevzťahuje spätne na dáta, ktoré už boli spracované.

Project Lily tak pripomína niečo, na čo sa pri používaní AI ľahko zabúda: konverzácia pôsobiaca ako súkromný rozhovor nemusí byť v každej fáze spracovania iba medzi človekom a algoritmom.