Kalifornští zákonodárci prosadili kontroverzní návrh zákona, který by mohl výrazně ovlivnit vývoj a využívání umělé inteligence (AI). Legislativa vešla ve známost jako SB 1047 a snaží se zajistit bezpečnost pokročilých modelů umělé inteligence v každodenním životě.
Technologičtí giganti, jako jsou společnosti Google, Microsoft a OpenAI, vyjádřili nad návrhem zákona znepokojení. Mohl by prý potlačit inovace a společnosti zabývající se umělou inteligencí vyhnat ze země.
Zastánci, včetně generálního ředitele společnosti Tesla Elona Muska, se však domnívají, že regulace jsou nezbytné, pokud má být veřejnost před potenciálními riziky spojenými s mocnou AI ochráněna.
Co to ale znamená pro obyvatele Kalifornie a pro celý svět? Společně se na to teď podíváme.
Historie Kalifornie v oblasti návrhů zákonů o bezpečnosti
Nový zákon o umělé inteligenci je v USA prvním parlamentním návrhem, který prošel, a teď se jen čeká na podpis guvernéra státu Gavina Newsoma, aby mohl vstoupit v platnost.
Pro zastánce bezpečnosti AI je to zpráva zásadního významu, ale pro ty, kteří znají historii státu v oblasti online bezpečnosti, to možná zase tak velké překvapení není.
Gavin Newsom je mimo jiné jeden z nejostřejších kritiků internetového sázení v zemi: hraní online kasinových her je tady zakázáno a sportovní sázení je velmi omezené. A rostoucí počet problémových hráčů v USA naznačuje, že se to v dohledné době nezmění.
Od počátku existence AI stojí Kalifornie zároveň v čele amerických snah o její regulaci. Kalifornská agentura pro ochranu soukromí (CPPA) v listopadu 2023 navrhla plány na regulaci automatizovaných nástrojů a rozpoznávání obličejů. Šlo v nich o to, aby společnosti informovaly své zákazníky, pokud při tvorbě svých produktů nebo služeb využívají technologie AI, a aby daly obyvatelům Kalifornie právo nenechat modely na bázi AI používat jejich osobní údaje. Zaměstnavatelé by podle nich zároveň měli povinnost informovat uchazeče o zaměstnání, pokud by rozhodnutí týkající se jejich zaměstnání bylo učiněno v součinnosti s AI.
Nový návrh zákona SB1047 je v tomto procesu dalším významným krokem. Jedná se o dosud nejrozsáhlejší právní předpis, který by mohl v budoucnu připravit půdu pro zákony s širším dosahem.
Co nový návrh zákona obsahuje?
Ústředním bodem nového návrhu zákona je zavedení bezpečnostních testů pro modely umělé inteligence, které splňují určitá kritéria, včetně těch, jejichž vývoj stojí více než 100 milionů dolarů nebo které vyžadují vysoký výpočetní výkon.
Výkonné modely tedy budou muset být před vydáním pečlivě otestovány z hlediska rizik. Návrh zákona bude dále vyžadovat, aby vývojáři do modelu instalovali „vypínač“, který ho vypne, pokud začne fungovat špatně nebo pokud začne představovat hrozbu.
Nezávislí auditoři budou modely posuzovat i poté, co bezpečnostním procesem projdou a objeví se na trhu. Chráněni budou i oznamovatelé, kteří budou hlásit neetické nebo nezákonné praktiky umělé inteligence, případně v technologii nahlásí škodlivou aktivitu nebo poruchu.
Návrh zákona se nicméně z obou stran názorového spektra setkal i se značným odporem.
Velká debata
Debata o zákonu SB 1047 se točí kolem rizikovosti umělé inteligence. Zastánci zákona tvrdí, že je nutné veřejnost před potenciálními riziky spojenými s AI chránit. A někteří dokonce naznačují, že právní předpis v tomto ohledu nejde dost daleko.
Odpůrci zase říkají, že by mohl potlačit inovace a vyhnat společnosti zabývající se umělou inteligencí z Kalifornie. Pak jsou tu ještě technologičtí giganti jako Google, Microsoft a OpenAI, kteří se domnívají, že návrh zákona bude mít negativní dopad na jejich výzkumné a vývojové úsilí.
Časopis Time dává zase hlas těm, podle kterých je návrh zákona chybný v tom, že reguluje spíše samotnou technologii než její aplikace.
Podle všeho je nicméně tento návrh zákona pro stát nejlepší šancí, jak vybalancovat tenkou hranici mezi oběma názory. Cílem je podpořit inovace v oblasti AI se zapnutým „bezpečnostním postrojem“, což je něco, co řada kritiků umělé inteligence v posledních letech prosazuje.
Jak může zákon SB 1047 ovlivnit budoucnost regulace AI
Pokud návrh zákona projde, mohl by vzniknout precedens, který by mohly následovat další jurisdikce, především v jiných státech USA a ve velkých technologických centrech, jako je Londýn, Tokio a Brusel.
Světoví lídři se vyslovují pro to, aby byla nejdisruptivnější technologie planety kontrolována, už od masového rozšíření internetu před třemi desítkami let. Spousta vědců navíc odhaduje, že pravděpodobnost, že AI zničí svět, se pohybuje kolem 5 %, což přimělo úřady k akci.
Závěrem můžeme říct, že kalifornský návrh zákona je pouze malým krůčkem k odpovídající regulaci. Pro regulátory tahle bitva teprve začíná a stojí před nimi stohy papírování a hory právní byrokracie.
