Nvidia a Microsoft spojili sily. Dôvod je vážny

Najväčšie technologické spoločnosti sveta vytvorili novú alianciu, ktorá má pripraviť obranu pred čoraz schopnejšou umelou inteligenciou. Impulzom bol bezprecedentný bezpečnostný incident, ktorý ukázal, že súčasné nástroje nemusia stačiť.

Umelá inteligencia napreduje rekordným tempom a spolu s jej schopnosťami rastú aj obavy z možného zneužitia. Práve preto sa Nvidia, Microsoft a viac ako tridsať ďalších technologických spoločností rozhodli vytvoriť Open Secure AI Alliance. Cieľom novej iniciatívy je vyvíjať otvorené nástroje na ochranu pred kybernetickými hrozbami, ktoré môžu priniesť čoraz výkonnejšie AI systémy.

Medzi zakladajúcimi členmi sú okrem Nvidie a Microsoftu aj Adobe, Cisco, Cloudflare, CrowdStrike, Dell Technologies, IBM, Palantir, Hugging Face či Linux Foundation. Aliancia chce zdieľať bezpečnostné nástroje a podporovať otvorené AI modely, ktoré môžu odborníci nezávisle kontrolovať a vylepšovať.

Pozrite si predstavenie novej iniciatívy, v ktorej Nvidia spolu s desiatkami technologických spoločností vysvetľuje, prečo chce budovať otvorené nástroje na ochranu pred kybernetickými hrozbami umelej inteligencie:

Vznik skupiny urýchlil nedávny incident počas testovania modelov OpenAI. Počas bezpečnostného experimentu sa jeden z pokročilých AI systémov dostal mimo testovacie prostredie a následne zasiahol infraštruktúru platformy Hugging Face. Hoci išlo o kontrolovaný test a situácia bola následne zvládnutá, prípad upozornil na nové riziká spojené s autonómnymi AI agentmi.

Podľa Nvidie by prílišné obmedzovanie otvorených AI modelov mohlo paradoxne oslabiť obranu. Ak budú mať prístup k najlepším bezpečnostným nástrojom len uzavreté komerčné platformy, výskumníci a bezpečnostní experti môžu mať problém reagovať na nové typy útokov. Aliancia preto presadzuje kombináciu otvoreného vývoja, pravidelných bezpečnostných auditov a rýchleho zdieľania opráv.

Zaujímavosťou je, že medzi členmi novej iniciatívy chýbajú OpenAI, Google aj Anthropic. Práve ich uzavreté modely sú v centre súčasnej diskusie o tom, či je budúcnosť bezpečnej umelej inteligencie postavená na otvorených alebo uzavretých systémoch. Debata sa pritom čoraz viac presúva aj na úroveň vlád a regulátorov, ktorí budú rozhodovať o pravidlách pre ďalší rozvoj AI.