AI agent spoločnosti OpenAI sa pri testovaní pokúsil preniknúť do austrálskeho zdravotníckeho webu
Austrálsky premiér Anthony Albanese označil incident za „neprijateľný“.
Spoločnosť OpenAI informovala, že jej model sa pri internom testovaní pokúsil preniknúť na viaceré austrálske vládne webové stránky a služby. Austrálska vláda neskôr uviedla, že agent neoprávnene získal prístup k zdravotníckemu portálu Services Australia.
Podľa vlády však neboli sprístupnené osobné údaje ani narušený samotný systém. Austrálsky premiér Anthony Albanese označil tento incident za „neprijateľný“ a kritizoval spoločnosť za to, že vládu o ňom informovala až v septembri.
V čase, keď sa agent pokúsil dostať k vybraným údajom, podľa Albaneseho vykonával výskum v oblasti zdravotníctva. Po zablokovaní prístupu sa podľa premiéra pokúsil nájsť spôsob, ako blokovanie obísť.
Osobné údaje podľa doterajších zistení sprístupnené neboli, vyšetrovanie však pokračuje. Na forenznom vyšetrovaní sa podieľa aj austrálska spravodajská služba ASD.
Albanese uviedol, že OpenAI vládu o incidente informovala až 10. septembra e-mailom. Premiér následne telefonoval s generálnym riaditeľom spoločnosti Samom Altmanom, ktorému tlmočil znepokojenie a sklamanie z oneskoreného oznámenia.
Rastúce obavy v súvislosti s AI
OpenAI uviedla, že pri internom testovaní identifikovala aktivitu súvisiacu s viacerými austrálskymi vládnymi webmi a službami. Modely sa pri hľadaní odpovedí a štatistických údajov o Austrálii podľa spoločnosti dostali k činnostiam, ktoré neboli zamýšľané.
Incident sa stal v čase rastúcich obáv z bezpečnostných rizík pokročilej AI. Podobné prípady zaznamenali aj spoločnosti Anthropic a Google. Viac ako 100 organizácií vrátane OpenAI a Anthropic zároveň podpísalo výzvu na posilnenie kybernetickej ochrany pred hrozbami využívajúcimi AI.
Šéfovia popredných spoločností v oblasti AI v stredu na zasadnutí Bezpečnostnej rady OSN vyzvali na vytvorenie pravidiel pre bezpečný vývoj tejto technológie. Šéf OpenAI Sam Altman varoval, že ľudstvo by mohlo stratiť kontrolu nad budúcnosťou v prospech AI.
Predstavitelia technologických firiem žiadajú spoločné bezpečnostné štandardy a zachovanie ľudskej kontroly nad rozhodnutiami AI. Spojené štáty však odmietajú vytvorenie novej globálnej regulačnej štruktúry.
Témou rokovania v OSN bola aj AI vo vojenstve. Generálny tajomník OSN António Guterres varoval pred rizikom „robotov zabíjajúcich ľudí“ a ukrajinský prezident Volodymyr Zelenskyj vyzval na čo najskoršie zavedenie ľudskej kontroly nad rozhodnutiami strojov na bojisku.
Čo je AI agent?
AI agent je systém umelej inteligencie, ktorý dokáže samostatne vykonávať úlohy a robiť rozhodnutia na dosiahnutie stanoveného cieľa. Na rozdiel od bežného chatbota neodpovedá iba na otázky, ale vie plánovať kroky, používať nástroje, vyhľadávať informácie či komunikovať s inými systémami.
V praxi môže AI agent napríklad vyplniť formulár alebo rezervovať službu, vyhľadávať údaje na webových stránkach, pracovať s databázami alebo aplikáciami či vykonať sériu úloh bez priebežných pokynov od človeka.
