Umelá inteligencia zrýchľuje vlastný vývoj. Čo príde ďalej?

Umelá inteligencia už nepomáha len ľuďom pri každodennej práci. Čoraz výraznejšie sa podieľa aj na vývoji nových, výkonnejších systémov umelej inteligencie. Najnovšie zistenia naznačujú, že tento proces môže napredovať podstatne rýchlejšie, než sa ešte nedávno predpokladalo.

Nezávislá výskumná organizácia METR počas 11 týždňov skúmala vývojové procesy americkej spoločnosti Anthropic, ktorá stojí za umelou inteligenciou Claude. Výsledky ukázali, že schopnosti jej modelov v meraných úlohách napredujú približne dvojnásobným tempom v porovnaní s predchádzajúcim obdobím.

Podľa výskumníkov spoločnosť za posledný rok dosiahla pokrok, na ktorý by pri skoršom tempe potrebovala približne dva roky.

Ešte zaujímavejšie je vysvetlenie tohto zrýchlenia. Nejde totiž iba o výkonnejšie počítače alebo väčšie množstvo dát. Významnú úlohu zohráva samotná umelá inteligencia, ktorú výskumníci využívajú pri programovaní, experimentoch a vývoji nových modelov.

Zamestnanci Anthropicu v interných prieskumoch dokonca uvádzali, že s pomocou najvýkonnejších interných modelov pracujú až dvanásťkrát produktívnejšie. Ide však o subjektívne odhady, nie o nezávisle potvrdené meranie skutočnej produktivity.

Ako upozorňuje nezávislá správa organizácie METR, umelá inteligencia zatiaľ nedokáže úplne samostatne zabezpečiť najdôležitejšie časti vývoja svojich nástupcov. Existujú však náznaky, že jej autonómne schopnosti sa môžu ďalej rozširovať.

Znepokojenie vyvoláva aj skutočnosť, že výskumníci neidentifikovali jednoznačné prekážky, ktoré by v nasledujúcich mesiacoch museli ďalšie zrýchľovanie zastaviť.

Správa zároveň odhalila problém s transparentnosťou. Anthropic povolil nezávislým odborníkom prístup k interným údajom, no následne nechal z verejnej verzie odstrániť značnú časť najdôležitejších dôkazov. Firma argumentuje ochranou citlivých informácií.

Výsledky preto neznamenajú, že sa AI už dokáže sama neobmedzene zdokonaľovať. Naznačujú však, že čoraz výkonnejšia technológia môže výrazne urýchliť vývoj ďalších generácií umelej inteligencie.

Otázkou zostáva, či bezpečnostné mechanizmy dokážu s týmto tempom držať krok.