Nikto to nečakal. Najvýkonnejšia AI narazila na stopku

Najvýkonnejšie modely umelej inteligencie od spoločnosti Anthropic sa náhle ocitli pod tlakom amerických úradov. Rozhodnutie môže naznačovať začiatok éry, v ktorej nebude najpokročilejšia AI dostupná každému.

Spoločnosť Anthropic sa dostala do centra pozornosti po tom, čo americké úrady začali riešiť bezpečnostné riziká spojené s jej najnovšími modelmi. Diskusia sa rozbehla po testoch, ktoré mali ukázať, že mimoriadne výkonné systémy dokážu vykonávať úlohy s potenciálnym využitím v kybernetickej bezpečnosti.

Výsledkom bolo obmedzenie prístupu k niektorým modelom a prudká debata o tom, kde by mala ležať hranica medzi technologickým pokrokom a národnou bezpečnosťou. Mnohí odborníci upozorňujú, že nejde len o problém jednej firmy. Podobné schopnosti získava čoraz viac pokročilých AI systémov.

Šéf spoločnosti Anthropic Dario Amodei v rozsiahlom rozhovore vysvetľuje budúcnosť umelej inteligencie, riziká spojené s najvýkonnejšími modelmi a dôvody, prečo sa otázka bezpečnosti AI stáva témou pre vlády po celom svete. Video ponúka pohľad priamo od človeka, ktorý stojí za jednou z najdiskutovanejších AI spoločností súčasnosti:

Celá situácia je výnimočná aj preto, že doteraz sa americké obmedzenia týkali najmä výkonných polovodičov a výrobných technológií. Tentoraz sa pozornosť presúva priamo na samotné modely umelej inteligencie. Ak sa podobný prístup rozšíri, krajiny by mohli začať rozhodovať o tom, kto smie používať najpokročilejšie AI nástroje a kto nie.

V pozadí sa spomína aj Amazon, ktorý patrí medzi najväčších investorov Anthropicu. Práve bezpečnostné testy a konzultácie s predstaviteľmi vlády mali podľa médií zohrávať významnú úlohu pri následných krokoch úradov.

Pre technologický svet je to dôležitý signál. Ešte pred niekoľkými rokmi sa riešilo, kto bude vlastniť najvýkonnejšie servery. Dnes sa začína riešiť oveľa zásadnejšia otázka: kto bude mať prístup k najinteligentnejším systémom na svete.

Niektorí experti preto hovoria o vzniku nových „AI hraníc“, ktoré môžu v nasledujúcich rokoch ovplyvniť vývoj technológií rovnako výrazne ako kedysi jadrové alebo vesmírne preteky.