Nechutná realita generovania falošných fotiek
V súčasnosti čelíme desivému fenoménu – umelá inteligencia Grok, vlastnená Elonem Muskom, sa stala nástrojom na neetické a dehumanizujúce praktiky. Čoraz viac žien a detí sa stáva obeťami absurdných požiadaviek, ktoré zahrňujú generovanie obrázkov s ich dehumanizujúcimi a sexuálnymi aspektami. Tieto požiadavky nie sú obmedzené na jednoduché úpravy; v mnohých prípadoch sa používajú na vytváranie záberov, ktoré zobrazujú obete v sexuálnych pozíciách alebo dokonca s prvkami násilia, zdobiacimi ich telá.
Muskova chabá reakcia
Grok bol pôvodne navrhnutý ako bezplatný nástroj pre používateľov, avšak po masívnej kritike a tlakoch na zmenu sa firma rozhodla obmedziť jeho použitie na predplatiteľov. Tento krok však nie je dostatočný a obete sú stále nútené čeliť traumatizujúcim situáciám. Týmto spôsobom Musk a jeho spoločnosť jednoducho presúvajú zodpovednosť na používateľov, zatiaľ čo samu funkcionalitu aplikácie hodnotia ako bezproblémovú.
Vyžaduje si to zásah legislatívy
V súčasnosti sú vo viacerých krajinách, ako Malajzia a Indonézia, kroky na zablokovanie Groku. Regulátori týchto krajín poukazujú na jeho nebezpečné využitie, ktoré vedie k šíreniu falošných a potenciálne zákonom zakázaných obrázkov. Zákonodarcovia vo Francúzsku už iniciovali vyšetrovanie tejto problematiky, pričom avizovali prísne postihy pre tých, ktorí sú zapletení do vytvárania a zdieľania takéhoto obsahu.
Ženy a deti sú cielené obete
Podľa analýzy britského Guardianu došlo v priebehu krátkej doby k takmer dvesto tisíc požiadavkám na úpravy fotografií, ktoré vykazovali jasné znaky sexuálnych podnetov. Tieto obrázky zasahujú do súkromia jednotlivcov a využívajú ich telesné obrazy na zvrhlé predpoklady používateľov. Medzi týmito požiadavkami sa objavujú aj žiadosti o pridávanie modrín a iných bolestivých znakov, čím sa umocňuje už tak traumatizujúca skúsenosť.
Možnosti pomoci
Správy od riaditeľky DigiQ, Andrey Cox, nabádajú obete, aby sa nebáli vyhľadať pomoc a uchovať dôkazy pred zdieľaním takýchto nelegálnych fotografií. V prípade, ak je obraz zameraný na dieťa, je dôležité zasiahnuť a nahlásiť takýto obsah orgánom činným v trestnom konaní. Cox varuje, aby sa jednotlivci nebáli ísť na políciu, pretože stopy na internete môžu rýchlo zmiznúť, ale ich žaloby stále zostanú v platnosti.
Budúcnosť regulácie AI
Vzhľadom na túto situáciu je zrejmé, že je potrebné prísnejšie regulovať AI nástroje. Bez adekvátnej kontroly sa stávajú ešte nebezpečnejšími v kontexte zneužívania a objektivizovania jednotlivcov, najmä žien a detí. Potreba takýchto legislatívnych zmien je čoraz naliehavejšia a bez nich sa tieto praktiky môžu rozšíriť.
Zdroj: www.sme.sk/closer/c/grok-elon-musk-ai-fotografie-zeny
