Politici označujú AI obsah len málokedy, hoci im to prikazuje zákon
Generatívna umelá inteligencia sa v uplynulých rokoch stala bežnou súčasťou tvorby obsahu na sociálnych sieťach. Dokáže produkovať texty, obrázky, zvuky aj videá, pričom odlíšiť realitu od fikcie je často ťažké až nemožné.
Od 2. augusta platia v Európskej únii nové pravidlá pre umelú inteligenciu, takzvaný AI akt. Podľa článku 50 musia firmy, značky, médiá, profesionálni tvorcovia obsahu, ale aj politici priznávať obsah vytvorený alebo upravený umelou inteligenciou. Konzumenti digitálneho obsahu tak majú vedieť, že sa pozerajú na AI obsah.
Odborník na umelú inteligenciu upozorňuje, že spoločnosť bude musieť zmeniť stratégiu. Cieľom už nebude len odhaľovať AI falzifikáty, ale vybudovať takzvanú infraštruktúru pôvodu obsahu, teda schopnosť technologicky potvrdiť alebo overiť autenticitu pravého záznamu. Najväčšie riziko digitálnych falzifikátov podľa experta spočíva v tom, že si na falošný obsah zvykneme.
Letmý pohľad na sociálne siete ukazuje, že obsah vytvorený s pomocou umelej inteligencie je dnes prítomný v komunikácii väčšiny strán naprieč celým politickým spektrom. Nie vždy je však označený, hoci pri takzvanom fotorealistickom obsahu ide o povinnosť danú pravidlami platformy. Mnohí, vrátane politikov, si ju neplnia.
Ako funguje označovanie AI obsahu
Záplava neautentického obsahu vytvoreného umelou inteligenciou priniesla rôzne typy príspevkov. Ide o fiktívne audionahrávky, čiastočne zmanipulované alebo kompletne umelo vytvorené videá vymyslených aj reálnych postáv, prípadne dlhé texty, aké by pred pár rokmi písal len málokto.
Označovanie AI obsahu informáciou, že bol vytvorený alebo upravený umelou inteligenciou, je jedným zo spôsobov, ako sa sociálne siete vyrovnávajú so záplavou neautentického obsahu. Spoločnosť Meta, prevádzkovateľ Facebooku a Instagramu, začala s označovaním AI obsahu už v roku 2024, teda skôr, ako na nový technologický trend zareagovala legislatíva.
Pod menom autora alebo stránky sa zobrazuje takzvaný štítok, malé tlačidlo s názvom „Informácie o AI“. Po jeho rozkliknutí sa používateľovi zobrazí opis naznačujúci, že príspevok môže zahŕňať obsah vytvorený pomocou umelej inteligencie. Pred pár mesiacmi Meta štítok upravila a dnes znie „Obsah AI“.
Problémom je, že na sieťach Facebook a Instagram nie je zodpovedajúco označený všetok AI obsah. Meta sa spolieha najmä na to, že obsah budú označovať samotní používatelia. Prikazuje im to v pravidlách sociálnych sietí, informáciu môžu k príspevku pridať pri jeho tvorbe zaškrtnutím tlačidla „Pridať štítok pre AI“.
Pravidlá sa týkajú len takzvaného fotorealistického obsahu, teda audia, fotografií či videí, ktoré vyzerajú ako skutočné a divák by si ich mohol pomýliť s reálnymi zábermi. Ak používateľ neprizná, že ide o AI obsah, sieť môže štítok napriek tomu zobraziť. Meta totiž proaktívne kontroluje obsah a hľadá v ňom indície o tom, že ide o dielo umelej inteligencie, pričom využíva napríklad štandardizované protokoly, ktoré na tento účel vytvorili AI firmy.
Divák vie rozlíšiť, či si tvorca obsahu splnil svoju úlohu a štítok pridal sám, alebo to za neho urobil systém Mety. Dá sa to zistiť kliknutím na štítok. Ak popis hovorí, že štítok neuvádza, že ho pridal samotný tvorca, znamená to, že to urobil systém fungujúci v pozadí.
Systém Mety však zďaleka nezachytí všetko. Naopak, zrejme dokáže identifikovať len menšiu časť „nepriznaného“ AI obsahu. Ide o problém najmä pri snahách o manipuláciu a vytváranie dezinformácií. Ich tvorcovia nielenže nepriznajú, že obsah nie je autentický, ale v niektorých prípadoch sa aktívne snažia obsah upraviť tak, aby systém Mety nedokázal manipuláciu odhaliť.
Tieto problémy Meta priznala aj v oficiálnom stanovisku. „Preto je pri určovaní, či obsah vytvorila AI, dôležité zohľadniť viacero faktorov. Patrí medzi ne overenie dôveryhodnosti účtu, ktorý obsah zdieľa, či hľadanie detailov, ktoré môžu vyzerať alebo znieť neprirodzene,“ uvádza americká spoločnosť.
Za nesplnenie povinnosti hrozí postih
Za nesplnenie povinnosti plynúcej z pravidiel platformy hrozí tvorcom obsahu trest. „Ak tak neurobia, môžeme aplikovať postihy,“ hovorí Meta, no nešpecifikuje, čo používateľom a administrátorom stránok hrozí. Doposiaľ nie je známy jediný významnejší prípad, pri ktorom by porušovanie pravidiel označovania AI obsahu viedlo napríklad k zablokovaniu konta na sociálnej sieti.
