Stroj, ktorý vždy povie sedem. Ako my
Umelá inteligencia učená na našom správaní umocňuje naše zvyky. A v tom je háčik.
Pred pár rokmi som s kolegom na univerzite viedol diskusiu o tom, čo by študenti mali vedieť. Hovoril, že keď študovali naši rodičia, museli si zapamätať celú učebnicu. My sme už len museli vedieť, po ktorej knihe siahnuť a kde nájsť tú správnu odpoveď.
Teraz má dojem, že učíme študentov, ako zadať kľúčové slová do Googlu, a na ktorý z prvých troch odkazov potom kliknúť. „A darí sa ti?“ opýtal som sa. Kolega sklamane zavrtel hlavou: „Ani náhodou.“
Odvtedy prišla éra umelej inteligencie a všetko sa zmenilo. Už sa netreba rozhodovať, ktorý odkaz je ten správny. Máme okamžitú odpoveď, bez námahy a bez potreby rozhodnúť sa. Študentov teda budeme musieť naučiť niečo iné: čo sa opýtať a ako porozumieť odpovedi aj tomu, či vôbec platí.
Za pultom nie je múdry knihovník
Niekto by mohol povedať, že je to prirodzený vývoj, podobne ako s kalkulačkami. Pred štyridsiatimi rokmi stála vo Washingtone pred konferenciou učiteľov matematiky hŕstka ich kolegov s transparentmi proti kalkulačkám. Obávali sa, že deti prestanú zvládať aritmetiku a násobilku. Dnes sú kalkulačky súčasťou našich životov a násobilku sa deti učia aj tak.
Väčšina z nás neberie umelú inteligenciu ako knižnicu vedomostí, ale ako múdreho knihovníka v knižnici ľudských poznatkov. Keď však položíme tú správnu otázku, zistíme, že za pultom nestojí múdry knihovník, je tam len prázdny priestor.
Stroj rovnako presvedčivo, ako tvrdil nezmysel, aj priznal svoju chybu. Z odpovede nerozoznáte, či je za ňou pochopenie, lebo aj ospravedlnenie znie rovnako, nech je za ním čokoľvek. Chybu však robíme my, keď stroj poľudšťujeme a očakávame, že myslí. Otázka „ako to vieš?“ už nie je logika, je to filozofia.
Pochybujte vo vede
S tým istým kolegom som sa raz dostal do sporu o výrok „verte vede“, ktorý sa v tom čase opakoval v médiách. Hovoril som mu, že s ním nesúhlasím, lebo vo vede neveríme, vo vede pochybujeme. Ak niekto prinesie hypotézu vysvetľujúcu nejaký jav, hneď sa postaví desať ďalších vedcov, ktorí ju začnú testovať a spochybňovať. Pochybovať však vie len ten, kto vie, o čom pochybuje.
Môj kolega nesúhlasil a tvrdil, že matematika ako kráľovná vied je presná a tej sa dá veriť. Namietol som, že matematika je krásna abstraktná veda, ale svoju platnosť dokazuje len ďalšou matematikou. V roku 1921 to Einstein zhrnul jedinou vetou: „Pokiaľ sa vety matematiky vzťahujú na skutočnosť, nie sú isté, a pokiaľ sú isté, nevzťahujú sa na skutočnosť.“
Fyzika je miesto, kde matematika vychádza zo svojej bubliny a svet jej povie, či platí. Podobne je to aj s umelou inteligenciou. Aj tá je uzavretá vo svojom svete dát, na ktorých sa učila. Nepozná skutočný svet, len to, čo sme jej poskytli. Kalkulačka počíta podľa pravidiel, ktoré poznáme. Umelá inteligencia nepočíta, ale napodobňuje nás.
Matematika, fyzika, filozofia
Keď som ju desaťkrát po sebe požiadal, aby náhodne zvolila číslo od 1 do 10, desaťkrát mi vyšla sedmička. Nie je to chyba, je to jej základná vlastnosť. Aj ľudia, keď majú povedať náhodné číslo, najčastejšie povedia sedem, a stroj učený na našom správaní tento zvyk len umocnil.
A tu sa znova dostávame k filozofii. Moja otázka „ako to vieš?“ skúmala hranice toho, čo stroj môže vedieť. Tentoraz sme sa vydali opačným smerom, do svojho vnútra. Hľadáme odpoveď na to, kým sme a aká je naša prirodzenosť.
Čo by teda študenti mali vedieť? Matematiku, aby sa naučili myslieť systematicky. Fyziku, aby to myslenie vedeli pustiť von a overiť na skutočnom svete. A filozofiu, aby rozumeli tomu, kto sa pýta, teda sebe. Netreba na to viac hodín v rozvrhu, ale iné chápanie týchto predmetov: v matematike väčší dôraz na porozumenie a rozvoj myslenia, vo filozofii na to, ako človek myslí a uvažuje.
Problém nie je v mladej generácii ani v nástrojoch, ktoré používa. Je v nás. Viem, že ani ja sa od svojich študentov nelíšim a zvyknem skĺznuť do pohodlia okamžitej odpovede. Hlboko v sebe cítim obavu, že čím viac umelú inteligenciu používam, tým viac moja vlastná schopnosť hľadať odpovede eroduje.
Po návrate domov preto nezapínam počítač, ale radšej si sadnem do pohodlného kresla a siahnem po Kantovej Kritike čistého rozumu. Po troch stranách však zistím, že ani Kantovi celkom nerozumiem. Tentoraz za pultom naozaj nikto nestojí, a tak obrátim list späť a čítam znova.
