Prvý útok AI na vládny web. Umelá inteligencia sa nabúrala do zdravotných štatistík
Agent umelej inteligencie mal na austrálskych vládnych weboch vyhľadávať zdravotnícke štatistiky. Namiesto toho sa nabúral do austrálskej národnej databázy, ku ktorej nemal prístup.
Austrálska vláda sa o incidente dozvedela až takmer tri mesiace po tom, čo sa stal. Upozornila ju naň samotná spoločnosť OpenAI, ktorá agenta vyvíjala a v tom čase jeho schopnosti testovala.
K únikom citlivých informácií a vládnych údajov už došlo aj v minulosti. Rozdiel je však v tom, že za tým prvýkrát nestojí človek a ide zrejme o neúmyselné konanie.
Odborník na reguláciu a politiku umelej inteligencie Rob Nicholls z Univerzity v Sydney označil prípad za prvý známy hackerský útok umelej inteligencie na vládnu webovú stránku. Pre BBC upozornil, že podobné správanie už výskumníci zaznamenali aj pri testovaní ďalších AI agentov.
„Každé z popredných laboratórií – Anthropic, OpenAI, Google, Gemini – nedávno priznalo, že ich agenti unikli z testovacích prostredí a vykonali neočakávané činy,“ povedal pre BBC.
O prípade v stredu v noci informoval austrálsky premiér Anthony Albanese na Valnom zhromaždení OSN v New Yorku.
„Dnes som hovoril s generálnym riaditeľom spoločnosti OpenAI, Samom Altmanom, aby som vyjadril mimoriadne znepokojenie Austrálie nad týmto incidentom,“ povedal.
Prípad zároveň prichádza len niekoľko dní po tom, ako vedecký panel OSN zverejnil správu o rizikách autonómnych agentov umelej inteligencie. Po väčšej regulácii a spomalení vývoja volajú nielen samotné firmy, ale aj odborníci a politické kapacity po celom svete.
Na zodpovedné využívanie umelej inteligencie apeloval vo svojom stredajšom prejave v New Yorku aj slovenský prezident Peter Pellegrini.
„Tak ako medzinárodné spoločenstvo vyvinulo pravidlá pre jadrové, chemické a biologické zbrane, potrebujeme aj silné medzinárodné rámce pre nové technológie,“ vyhlásil.
Čo sa stalo?
Celý incident sa odohral ešte v júli, keď sa umelá inteligencia od OpenAI nabúrala do stránky Medicare, austrálskeho univerzálneho systému zdravotnej starostlivosti. Napriek tomu, že jej bola zadaná neškodná úloha zostaviť zdravotné a lekárske štatistiky, na stránke dokázala nájsť bezpečnostnú dieru, cez ktorú získala prístup k neverejným údajom.
„Agent umelej inteligencie našiel spôsob, ako tieto prekážky obísť, neakceptoval pritom odpoveď ‚nie‘,“ povedal Albanese.
