Kalifornský guvernér nariadil urýchlený vývoj „núdzového vypínača“, má ochrániť ľudí pred umelou inteligenciou
Kalifornský guvernér Gavin Newsom oznámil, že vydal výkonné nariadenie na preskúmanie vytvorenia „núdzového vypínača“ (tzv. kill switch) v rámci pokročilých systémov umelej inteligencie, pričom obvinil prezidenta Donalda Trumpa, že v tejto oblasti nerobí nič.
„Práve som vydal exekutívny príkaz na dramatické zrýchlenie zavádzania nezávislého dohľadu na AI spoločnosťami a na urýchlenie vývoja ‘kill switch’ pre AI,“ napísal demokratický politik na platforme X.
Dodal, že skutočnosť, že samotné laboratóriá, ktoré AI systémy vyvíjajú, priamo varujú pred rizikami umelej inteligencie, by mala byť pre všetkých obzvlášť znepokojujúca.
Šéf spoločnosti Anthropic Dario Amodei minulý víkend vyzval na koordinované spomalenie vývoja AI, pričom jeho obavy podporili aj Sam Altman z OpenAI a Elon Musk. V komunite AI vývojárov sa zároveň objavili výstrahy, že pokročilé systémy umelej inteligencie by mohli do desiatich rokov vyhubiť ľudstvo.
Americký prezident Donald Trump na tieto obavy reagoval na svojej sociálnej platforme Truth Social vyhlásením, že jedinou potrebnou poistkou proti rizikám AI je „SILNÝ A MÚDRY (s vysokým IQ!) PREZIDENT“.
Hoci Trump riziká bagatelizuje, Organizácia Spojených národov (OSN) aj Čína varujú pred bezpečnostnými dôsledkami AI. Bezpečnostná rada OSN má o tejto téme rokovať budúci týždeň.
