Panika okolo AI potrebuje pár jadrových metafor. Miestnosť plná benzínu alebo škorpióni?
Na celosvetovej panike okolo umelej inteligencie (mohla by nás naozaj „do konca desaťročia všetkých zabiť“?) je veľa skutočne nového, a preto aj mimoriadne desivého. Lenže predstava vyhynutia ľudstva spôsobeného technológiou, ktorú samo vytvorilo, vôbec nie je nová. S premýšľaním o takejto možnosti máme približne 80 rokov skúseností.
Jedna z najstarších metafor pochádza od J. R. Oppenheimera, niekedy označovaného za „otca atómovej bomby“. V roku 1953, keď už Washington a Moskva dokázali navzájom zničiť jeden druhého a pritom zamoriť svet radiáciou, prirovnal Spojené štáty a Sovietsky zväz k „dvom škorpiónom vo fľaši, z ktorých každý dokáže zabiť toho druhého, ale iba za cenu vlastného života“.
V teórii hier, ktorá v tom čase zažívala rozmach, sa Oppenheimerovo prirovnanie často spájalo s väzňovou dilemou. Tá skúma motiváciu dvoch zatknutých a oddelene vypočúvaných ľudí spolupracovať alebo toho druhého zradiť. Záver je taký, že spolupráca by bola výhodnejšia pre oboch, keby si mohli navzájom dôverovať. Keďže však nemôžu, racionálnejšou voľbou môže byť zrada.
Títo škorpióni či väzni sa v niečom podobajú na dnešných súperov v revolúcii umelej inteligencie – či už ide o firmy, povedzme OpenAI a Anthropic, alebo o dve veľmoci v oblasti AI, Spojené štáty a Čínu.
Obe strany sa rútia vpred
Áno, pre nich aj pre celé ľudstvo by bolo bezpečnejšie, keby súperi začali spolupracovať a, ako nalieha šéf spoločnosti Anthropic, „spomalili na hranici možností“ – teda dobrovoľne pribrzdili, aby regulačné orgány dostali čas dobehnúť technologický vývoj. Každá strana však musí počítať s tým, že tá druhá môže podvádzať. Bezpečnejšie sa preto môže zdať pokračovať v pretekoch, aj keby ich výsledkom boli mŕtve škorpióny alebo nešťastní väzni.
„Kto vyhrá v AI, vyhrá všetko,“ povedal americký prezident Donald Trump, ktorý je presvedčený, že Spojené štáty vedú len o vlások, a nevidí dôvod spomaľovať. Peking, pokiaľ mierne zaostáva, zase nevidí spôsob, ako ubrať tempo bez toho, aby prehral. A tak sa obe strany rútia vpred.
Verte či nie, Oppenheimerova metafora však môže byť pre dnešnú situáciu až príliš optimistická – alebo nie dosť pesimistická. Keď racionálni hráči opakujú väzňovu dilemu znova a znova, namiesto toho, aby ju hrali iba raz, môžu dospieť k stabilite. Presne to sa počas studenej vojny stalo v podobe odstrašovania.
Ako však poprední odborníci na AI celý tento týždeň upozorňujú, na umelej inteligencii, ktorá len za niekoľko mesiacov urobila obrovské skoky vpred, nie je stabilné vôbec nič. Výstižnejšia môže byť metafora Thomasa Schellinga, velikána jadrovej stratégie a nositeľa Nobelovej ceny za prácu v oblasti teórie hier.
V miestnosti plnej benzínu
V čase pokračujúcej studenej vojny si Schelling predstavoval situáciu, v ktorej sa dvaja protivníci ocitnú „v miestnosti plnej benzínu“ a každý drží zápalky. Ani jeden nemôže vierohodne hroziť, že zápalku škrtne, pretože požiar by zabil oboch. Provokáciou alebo chybným odhadom však každý z nich môže zvýšiť riziko, že neúmyselná eskalácia alebo nehoda skončí tým, že obaja zhoria.
