OpenAI šliaplo na brzdu: AI bezpečnosť začína byť vážna téma

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

OpenAI na dva týždne pozastavilo časť tréningu svojich najnovších modelov a najväčší plánovaný tréning zostáva naďalej odložený. Za nezvyčajným rozhodnutím stojí kombinácia rastúcich schopností AI a obáv, či ju dokážu bezpečnostné systémy udržať pod kontrolou.

Zdroj: Freepik.com

OpenAI patrí k firmám, od ktorých sa očakáva neustále zrýchľovanie. Tentoraz však urobilo presný opak.

Spoločnosť 18. augusta oznámila, že dočasne spomalila škálovanie svojich najpokročilejších modelov. Súčasťou opatrenia bola dvojtýždňová pauza v reinforcement learning tréningu modelov určených na nasadenie. Ešte zaujímavejšie je, že jej najväčší plánovaný „frontier“ RL tréning zostáva pozastavený, kým prebiehajú menšie testy a hodnotenia.

Jedným z dôvodov je pripravovaný model s názvom Astra. Predbežné výsledky podľa OpenAI naznačujú, že by mohol dosiahnuť hranicu „kritických“ schopností v kybernetickej oblasti podľa firemného Preparedness Framework. To znamená, že modely sa dostávajú do fázy, keď ich schopnosť pracovať s počítačovými systémami vyžaduje výrazne prísnejšie zabezpečenie.

Ako chce OpenAI brzdiť modely, ktoré sa dostávajú k rizikovým schopnostiam? Bezpečnostný rámec ukazuje, podľa čoho firma hodnotí nebezpečenstvo najpokročilejších systémov:

Do rozhodovania zasiahol aj incident spojený s platformou Hugging Face. OpenAI už v júli oznámilo vyšetrovanie bezpečnostného incidentu počas hodnotenia modelov a prizvalo externých expertov vrátane CrowdStrike, METR a Redwood Research.

Firma teraz sprísňuje izoláciu pracovných prostredí, obmedzuje prístup rizikových úloh k internetu a rozširuje automatické monitorovanie správania modelov. Samotný monitoring môže podľa OpenAI spotrebovať približne 20 percent výpočtového výkonu navyše.

Práve tu vzniká väčšia otázka. OpenAI spomaľuje dobrovoľne, zatiaľ čo konkurenčný boj pokračuje. Experti oslovení The Verge upozorňujú, že dobrovoľné brzdenie funguje len dovtedy, kým firmy akceptujú konkurenčnú nevýhodu. Bez širších pravidiel môže bezpečnosť AI stále závisieť najmä od toho, či sa technologické spoločnosti rozhodnú kontrolovať samy.