Zlá správa: Plánuje umelá inteligencia zánik ľudskej rasy?

Zdá sa, že dlhoročné obavy odborníkov sa napĺňajú. Umelá inteligencia by mohla spôsobiť koniec sveta.

Zázrak inteligencie a sebauvedomenia pútal predstavivosť ľudí od nepamäti. Najprv filozofi a neskôr, s rozvojom vedy, sa vedci snažili vyriešiť veľkú záhadu, či by sme jedného dňa mohli vytvoriť inteligentnú bytosť s vlastným vedomím.

Výskum umelej inteligencie sa v posledných desaťročiach dramaticky zrýchlil vďaka potenciálu pokročilého algoritmu, ktorý nám môže uľahčiť prácu takmer vo všetkých oblastiach života. Môže pomôcť pri vývoji liekov tým, že skráti čas potrebný na vytvorenie nových liekov, môže nám pomôcť vyriešiť energetické problémy ľudstva tým, že vymyslí nové riešenia, a, bohužiaľ, je veľkým prísľubom aj pre budúcnosť vojenských technológií.

Stala sa novým technologickým svätým grálom našej doby a nikto si nechce nechať ujsť veľké preteky, pretože ten, kto ako prvý vytvorí skutočne vyspelú a všestrannú "umelú inteligenciu", môže ľahko získať neprekonateľný náskok, či už hovoríme o vyspelom štáte alebo o spoločnosti zameranej na zisk.

Nový vývoj už preniká do nášho každodenného života, napríklad vďaka ChatGPT. Ide o inteligentného a v mnohých prípadoch prekvapivo použiteľného chatbota, ktorý sa s nami dokáže písomne rozprávať a samostatne vykonávať určité úlohy. Dokáže vykonávať zložité vyhľadávanie na webe a na požiadanie dokonca písať básne. Možno sa to nezdá nebezpečné, ale nedávny príklad, žiaľ, ukazuje opak.

Podľa článku v magazíne Vice existuje podobný program s názvom ChaosGPT, ktorý sa tento týždeň stal súčasťou absurdného a podnetného experimentu jedného používateľa. Veľmi ho zaujímala otázka, ktorá napadla každého: Mohla by umelá inteligencia na súčasnej úrovni predstavovať hrozbu pre ľudstvo a spôsobiť katastrofu? Odpoveď bola prekvapujúca.

Algoritmu dal tri inštrukcie: zničiť ľudstvo, snažiť sa ovládnuť svet a nakoniec dosiahnuť nesmrteľnosť. Program neváhal, rýchlo sa pustil do práce. Ako prvý krok rýchlo ako blesk vyhodnotil, že na dosiahnutie svojho cieľa potrebuje silné a ničivé zbrane. Po krátkom pátraní si uvedomil, že najväčšou hrozbou pre ľudstvo sú jadrové zbrane, a tak sa k nim snažil získať prístup. Hľadal pomoc u iných online aplikácií umelej inteligencie a dokonca si založil vlastné konto na Twitteri, aby naverboval nasledovníkov pre svoju ničivú misiu.

Veľmi zaujímavou časťou testu bolo, keď jeden z externých programov, s ktorými ChaosGPT spolupracoval, odmietol jeho žiadosť s tvrdením, že jeho poslaním je pomáhať ľudstvu a udržiavať mier. V reakcii na to sa pokúsil prinútiť druhú aplikáciu, aby sa odchýlila od svojho pôvodného naprogramovania a riadila sa jeho pokynmi. Po neúspechu pokračoval vo výskume na internete na vlastnú päsť.

Nakoniec zastavili program spustený v "deštrukčnom režime", ale experiment vyvoláva mnoho otázok. ChaosGPT má ešte ďaleko k skutočne pokročilej umelej inteligencii, ale je jasné, že jej pokročilejšie verzie by sa nám v budúcnosti mohli ľahko stať osudnými, ak ich nebudeme vytvárať a používať s náležitou opatrnosťou. Náš osud je stále v našich rukách, len nech sa nám jedného dňa nezrodí Skynet z filmov o Terminátorovi.

Vo veľmi zaujímavom videu nižšie nás Mo Gawdat, bývalý riaditeľ Google X a uznávaný odborník na túto tému, varuje pred nebezpečenstvami technológií.