Británia preveruje sieť X kvôli obvineniam z generovania sexualizovaných obrázkov detí
Britský regulačný úrad Ofcom oznámil, že začal skúmať sociálnu sieť X, ktorú vlastní americký miliardár Elon Musk. Dôvodom sú sťažnosti týkajúce sa funkcie umelej inteligencie Grok, ktorá údajne produkuje falošné pornografické obrázky detí. Tieto obvinenia prišli prostredníctvom viacerých sťažností podaných proti prevádzkovateľovi platformy.
Hovorca Ofcomu jasne poukázal na to, že ochrana detí a boj proti nezákonnému a škodlivému obsahu na internete sú pre úrad prioritou. „Sme si vedomí vážnych obáv spojených s funkciou Grok, ktorá generuje obrázky nahých ľudí a sexualizované snímky detí,“ pokračoval vo svojom vyjadrení.
Úrad už kontaktoval spoločnosti zodpovedné za platformu X a xAI s cieľom zistiť, aké opatrenia boli prijaté na ochranu používateľov v Spojenom kráľovstve. Odpovede týchto spoločností budú kľúčové pre posúdenie možných problémov s dodržiavaním regulácií, ktoré by mohli viesť k ďalšiemu vyšetrovania.
Európska únia taktiež potvrdila, že vážne prešetruje sťažnosti na nástroj Grok, ktorý má fungovať v „pikantnom režime“, znázorňujúcom explicitný obsah, vrátane obrázkov detí. Tento vývoj spôsobuje obavy a vyvoláva otázky o zodpovednosti technologických platforiem za ochranu ich používateľov.
„To nie je pikantné. To je nezákonné. Je to desivé,“ skonštatoval hovorca EÚ pre digitálne záležitosti Thomas Regnier. Zástupcovia aplikácie Grok už priznali, že ich nástroj umelej inteligencie má nedostatky v bezpečnostných opatreniach, a uistili, že pracujú na ich odstránení.
Podľa britského zákona o online bezpečnosti musia platformy zabezpečiť prísne overovanie veku svojich používateľov, aby zabránili prístupu k potenciálne škodlivému obsahu. Okrem toho je nezákonné vytvárať a šíriť intímny materiál bez súhlasu osôb na ňom zobrazených, a to vrátane sexuálneho zneužívania detí a jeho umelých imitácií.
