Funkcie a riziká umelej inteligencie v oblasti sledovania
V debatách okolo využívania umelej inteligencie (AI) armádou sa v súčasnosti objavujú vážne otázky, najmä tie, ktoré sa týkajú autonómneho zabíjania. Napriek tomu existuje aj iný aspekt, ktorý zaslúži pozornosť: potenciál AI pre hromadné sledovanie občanov, ako upozorňuje firma Anthropic vo svojom spore s Pentagónom, ktorý sa teraz presunul na súd.
Obavy z masového sledovania
Analýzy vyplývajúce z nedávnej štúdie naznačujú, že pohľad na masové sledovanie sa s rastúcim využívaním AI výrazne mení. Firmy ako Anthropic sa obávajú, že moderné technológie umožňujú zhromažďovať a analyzovať informácie s neuveriteľnou rýchlosťou a v rozsahu, ktorý by mohol ohroziť široké spektrum občianskych slobôd. Podľa nich dodatočné nástroje AI, ako Claude, radikálne zvyšujú riziko zneužitia technológie.
Postoj Pentagónu
Pentagón obhajuje zásady zákonného využívania technológií a tvrdí, že hromadné sledovanie amerických občanov je podľa štvrtého dodatku ústavy nezákonné. Avšak Anthropic varuje, že existujúce zákony nedokážu držať krok s rýchlym rozvojom schopností umelej inteligencie, čo vedie k obavám o budúcnosť práv občanov.
Zmeny v dynamike sledovania
Štúdia vedená Simonem Lermenom z MATS Research a Danielom Palekom z ETH Zürich sa zaoberala predovšetkým procesom identifikácie jednotlivcov na internete. Doterajšia anonymita, ktorá chránila mnohých používateľov, je v ére AI narušovaná a aj malá stopa môže viesť k odhaleniu identity. Odborníci na open source intelligence (OSINT) varujú, že zhromažďovanie drobných informácií, ako sú príspevky na sociálnych sieťach či fotografie, sa stáva čoraz efektívnejším.
Príklady analýz AI
V jednej z experimentálnych štúdií sa zistilo, že AI dokáže efektívne priradiť anonymný účet k reálnej identite až v 226 prípadoch zo 338 analyzovaných profilov na platforme Hacker News. Táto schopnosť sleduje už používateľov, o ktorých by sa predtým nikto nezaujímal, teda aj tých, ktorí nie sú považovaní za hlavných cieľov sledovania.
Etické a právne otázky
Otázky, ktoré sa týkajú etického a právneho rámca sledovania, sa počas posledných rokov stávajú čoraz aktuálnejšími. Napríklad, akýkoľvek pokus spojiť aj legálne získané údaje môže byť považovaný za sledovanie. Tieto obavy sú reálne, keďže americké ministerstvo vnútornej bezpečnosti vyžaduje od sociálnych sietí odhalenie identít kritických správcov účtov. Takéto činy sa stávajú súčasťou širších diskusií o tom, kam až siahajú hranice sledovania a aké nástroje sú dostupné na inštitucionálne sledovanie občanov.
Budúcnosť technológie a práva
Závery, ktoré zdieľa firma Anthropic, naznačujú, že technologické spoločnosti by mali zaviesť ochranné mechanizmy na ochranu soukromia svojich používateľov. V čase, keď sa možnosti sledovania a analyzovania identity výrazne rozširujú, je dôležité, aby sme sa zaoberali tým, čo to znamená pre naše občanské práva a slobodu v digitálnom veku.
