Z Číny vyzerá AI armagedon inak
Čínske vedenie považuje za bezprostrednejšiu hrozbu to, že by umelá inteligencia mohla ešte pred prípadným katastrofickým scenárom pomôcť rozvrátiť spoločnosť. Vyplýva to z eseje ministra štátnej bezpečnosti Čchena I-sina, ktorý odmietol „šírenie strachu“ a za hlavné riziká označil deepfakey, vplyvové operácie, kognitívnu vojnu a kybernetické hrozby zamerané na citlivé a osobné údaje.
Nedávny experiment poukázal na to, že tieto riziká sa môžu spájať. Malý tím kybernetických výskumníkov z Kalifornie dokázal simulovať závažné narušenie bezpečnosti superaplikácie WeChat, ktorá v Číne funguje ako kritická digitálna infraštruktúra každodenného života.
Spoločnosť Calif so sídlom v Palo Alto zverejnila informácie o hrozbe nazvanej „WeWorm“ a potvrdila, že materská firma WeChatu Tencent Holdings Ltd. už riziko odstránila. Tím opísal, ako pomocou nástrojov AI vytvoril škodlivý kód, ktorý v priebehu niekoľkých sekúnd úplne ovládol používateľský účet. Bežný používateľ pritom videl iba prichádzajúci hovor od niekoho zo svojho zoznamu kontaktov.
Oznámenie zraniteľnosti spoločnosti Tencent podľa Brucea Danga zo spoločnosti Calif prebehlo hladko a bez technických problémov. Inžinieri reagovali promptne a problémy boli rýchlo odstránené. Katastrofe, ktorá mohla destabilizovať platformu používanú viac než miliardou ľudí, sa tak podarilo zabrániť vďaka rýchlej cezhraničnej spolupráci.
Generálny riaditeľ Calif Thai Duong označil experiment za výzvu Spojeným štátom, Číne a ďalším vládam, aby spolupracovali medzi sebou aj so súkromným sektorom na bezpečnom vývoji a nasadzovaní AI. Za „nesprávne ponaučenie“ označil obviňovať AI a obmedzovať jej ďalší vývoj. Zraniteľnosti tu podľa neho už sú a zmenilo sa to, že AI ich dokáže nájsť a opraviť.
Napriek apokalyptickým varovaniam zo Silicon Valley prezident Si Ťin-pching na summite BRICS v Naí Dillí zdôraznil predstavu Pekingu o „otvorenom ekosystéme AI“ a vyzval na rámec riadenia založený na „konsenze“. Čchen zároveň žiada globálnu spoluprácu pri riešení rizík, no odmieta, aby si jedna krajina monopolizovala moc nad umelou inteligenciou.
Peking pravdepodobne nepristúpi na prestávku vo vývoji navrhnutú Washingtonom. Ak však chce byť svetovým lídrom v tejto technológii, musí byť ochotný spolupracovať s ďalšími krajinami aspoň pri riešení hrozieb, na ktorých existencii sa obe strany dokážu zhodnúť.
Najnovším bezpečnostným heslom v Spojených štátoch je fráza „pace the frontier“, ktorú podporili aj Sam Altman z OpenAI a Elon Musk z xAI. Vyhlásenie podpísalo viac ako tisíc ľudí z popredných spoločností zaoberajúcich sa AI, no len málokto vie, čo to vlastne znamená.
Firmám by podľa dostupných informácií prospelo, keby venovali menej zdrojov snahe vybudovať strojového boha a viac tomu, aby zabezpečili, že ich produkty nebudú zneužívané. Politici by mali požadovať maximálnu priehľadnosť pri rizikách, ktoré firmy vidia už dnes, a nie zverejňovanie informácií niekoľko mesiacov po incidente.
Peking a Washington sa možno v mnohých otázkach riadenia umelej inteligencie nedokážu dohodnúť. Prípad WeChatu však ukazuje, že cezhraničné zdieľanie informácií o rizikách je možné. Vytvorenie kanálov, prostredníctvom ktorých si výskumníci a spoločnosti budú môcť vymieňať informácie o nových hrozbách, samo osebe zmierni časť dynamiky technologických pretekov.
Ak Spojené štáty a Čína nedokážu spolupracovať pri hrozbách, ktoré už dnes vidíme, sotva možno dúfať, že zvládnu tie, pred ktorými nás varujú samotní tvorcovia AI.
