Umelá inteligencia sa zneužíva na zobrazovanie sexuálneho zneužívania detí
Na internete sa čoraz viac šíri materiál vytvorený umelou inteligenciou, ktorý zobrazuje sexuálne zneužívanie detí. Množstvo nelegálneho materiálu vyšetrovaného tento rok už dávnejšie presiahlo jeho objem za celý predchádzajúci rok.
Vyplýva to z údajov britskej charitatívnej organizácie Internet Watch Foundation (IWF).
Analytici organizácie našli v prvej polovici roka 2026 viac fotorealistického materiálu zobrazujúceho sexuálne zneužívanie detí ako za celý predchádzajúci rok. Organizácia posúdila 6 310 záberov vygenerovaných umelou inteligenciou, ktoré spĺňajú zákonnú definíciu sexuálneho zneužívania detí, čo je o 40 percent viac než vlani, keď za celý rok posúdila 4 500 takýchto záberov.
Počet prípadov materiálu vytvoreného umelou inteligenciou zobrazujúceho sexuálne zneužívanie detí sa posledné roky zvyšuje, pričom obrovský nárast zaznamenávajú najmä videá, aj keď najnovšie údaje IWF sa odvolávajú len na obrázky. Na väčšine z nich, ktoré si prezreli analytici, sú zobrazené dievčatá a deti vo veku sedem až 13 rokov.
Vysoký počet takéhoto materiálu podľa organizácie zdôrazňuje potrebu novej zákonnej úpravy v oblasti umelej inteligencie.
Britská vláda premiéra Andyho Burnhama nedala najavo, že by mal byť čoskoro predložený nový návrh zameraný na umelú inteligenciu. Minister pre umelú inteligenciu Kanishka Narayan uviedol, že v súvislosti s novou reguláciou „nie je nič vylúčené“. Kritériom pre každý legislatívny návrh bude: „Zvýši to bezpečnosť Britov?“
Vedúca oddelenia pre politiku v IWF Hannah Swirsky uviedla, že podporuje výzvy poslancov na prijatie „záväznej legislatívy týkajúcej sa umelej inteligencie“, ktorá by prinútila spoločnosti vyvíjať bezpečnejšie modely.
Umelou inteligenciou vytvorené materiály zobrazujúce sexuálne zneužívanie detí sú v Británii nelegálne a vláda postavila mimo zákon aj úpravu modelov umelej inteligencie s cieľom vytvárať takýto materiál alebo poskytovanie takýchto modelov iným osobám. Za vývoj modelu určeného na tvorbu hyperrealistického materiálu s takýmto obsahom hrozí až päťročné väzenie.
Umelá inteligencia tiež umožnila online predátorom vytvárať intímne obrázky zobrazujúce deti. Služba Report Remove, ktorá zabraňuje tomu, aby sa na internete objavili intímne obrázky, dostala 420 hlásení od detí ohľadom záberov, na ktorých sú zobrazené, pričom boli falošné alebo upravené tak, aby išlo o intímne zábery. V minulom roku bolo takýchto hlásení 397.
Národná kriminálna agentúra a Internet Watch Foundation vyzývajú rodičov a zákonných zástupcov, aby nezverejňovali fotografie svojich detí na sociálnych sieťach. Odporúčajú nastaviť si účty na platformách ako súkromné alebo zverejňovať fotografie detí výlučne prostredníctvom skupiny blízkych priateľov.
