Svetoví lídri žiadajú záväzné bezpečnostné opatrenia pre AI
Lídri viac než 20 krajín v pondelok (21. 9.) spoločne vyzvali na prijatie záväzných bezpečnostných opatrení pre pokročilú umelú inteligenciu (AI). Rozvoj tejto technológie by podľa nich mohol predbehnúť schopnosť ju kontrolovať.
Pod spoločné vyhlásenie sa podpísali lídri Austrálie, Kanady, Singapuru, Fínska, Nórska, Nemecka, Španielska, Írska, Holandska, Juhoafrickej republiky a Kene, ako aj predsedníčka Európskej komisie Ursula von der Leyenová.
Naopak, nie sú medzi nimi veľmoci v oblasti AI – USA a Čína – ani Británia, Francúzsko, Japonsko a India. K vyhláseniu sa môžu naďalej pripojiť aj ďalšie krajiny.
Signatári uviedli, že pokročilé AI modely predstavujú vážne riziká pre bezpečnosť a ochranu, ak nie sú riadne spravované. Odvolali sa pritom na nedávne incidenty, pri ktorých agenti AI obišli kontrolované prostredie a získali neoprávnený prístup do reálnych systémov.
Jedným z medializovaných prípadov bolo júlové ovládnutie serverov platformy Hugging Face zo strany autonómnych agentov spoločnosti OpenAI.
Firmy zaoberajúce sa umelou inteligenciou by mali podľa signatárov zaviesť transparentné bezpečnostné postupy, ktoré zahŕňajú povinné testovanie a nezávislé overovanie. Zdôraznili, že AI musí zostať pod ľudským riadením, dohľadom a kontrolou.
Prísnejšie pravidlá by zároveň nemali prehĺbiť rozdiely medzi krajinami v prístupe k výhodám, ktoré AI prináša, doplnili.
Signatári sa tiež vyslovili za to, aby členské štáty OSN zvážili vytvorenie medzinárodnej inštitúcie schopnej stanovovať normy, kontrolovať ich dodržiavanie a zvolávať krajiny v prípade, že umelá inteligencia dosiahne určitú významnú úroveň schopností.
Spoločné vyhlásenie bolo zverejnené pred začiatkom všeobecnej rozpravy 81. Valného zhromaždenia OSN v New Yorku, kde bude hlavnou témou práve rastúca úloha AI v spoločnosti a jej vplyv na zamestnanosť a kybernetickú bezpečnosť.
Americký prezident Donald Trump nedávno odmietol výzvy na reguláciu AI a konštatoval, že Spojené štáty si musia udržať náskok v tejto oblasti, aby porazili konkurenčnú veľmoc Čínu. V sobotu vyhlásil, že nedovolí „zničenie“ odvetvia umelej inteligencie.
