2024-10-01 19:39:39 JPM redakcja1 K

Gubernator Kalifornii odrzuca kontrowersyjny projekt ustawy o bezpieczeństwie SI

Gubernator Kalifornii Gavin Newsom odrzucił w niedzielę kontrowersyjny projekt ustawy dotyczący bezpieczeństwa sztucznej inteligencji, po tym, jak branża technologiczna zgłosiła sprzeciw, argumentując, że może to doprowadzić do odpływu firm SI z tego stanu i utrudnić innowacyjność.

Zdjęcie: Marca Bello.

 

Newsom powiedział, że poprosił ekspertów od generatywnej SI o pomoc Kalifornii w „opracowaniu skutecznych zabezpieczeń, które opierają się na empirycznej analizie rozwoju technologii”. Zlecił agencjom stanowym rozszerzenie oceny ryzyka potencjalnych katastrofalnych zdarzeń związanych z SI.

Generatywna SI – która może tworzyć tekst, zdjęcia i filmy w odpowiedzi na otwarte pytania – wzbudziła zarówno entuzjazm, jak i obawy, że może doprowadzić do utraty niektórych miejsc pracy, zakłócić wybory, a nawet zdominować ludzi i mieć katastrofalne skutki.

Autor projektu ustawy, demokratyczny senator stanowy Scott Wiener, powiedział, że legislacja jest niezbędna, aby chronić społeczeństwo, zanim postępy w dziedzinie SI staną się nieporadne lub niekontrolowane. Branża SI szybko rozwija się w Kalifornii, a niektórzy liderzy kwestionowali przyszłość tych firm w stanie, gdyby projekt ustawy stał się prawem.

Wiener powiedział w niedzielę, że weto czyni Kalifornię mniej bezpieczną i oznacza, że „firmy dążące do stworzenia niezwykle potężnej technologii nie podlegają żadnym wiążącym ograniczeniom”. Dodał, że „dobrowolne zobowiązania ze strony branży nie są egzekwowalne i rzadko okazują się korzystne dla społeczeństwa”.

„Nie możemy pozwolić sobie na czekanie na poważną katastrofę, zanim podejmiemy działania w celu ochrony społeczeństwa”, powiedział Newsom. Dodał, że nie zgadza się „abyśmy musieli zadowolić się rozwiązaniem, które nie jest oparte na empirycznej analizie trajektorii systemów i możliwości SI”.

Newsom powiedział, że będzie współpracował z legislaturą nad ustawodawstwem dotyczącym SI podczas następnej sesji. Ma to miejsce w momencie, gdy legislacja w Kongresie USA mająca na celu wprowadzenie zabezpieczeń utknęła w martwym punkcie, a administracja Bidena promuje propozycje regulacji nadzoru nad SI.

Newsom powiedział, że „podejście wyłącznie kalifornijskie może być uzasadnione – zwłaszcza w przypadku braku działań Kongresu na szczeblu federalnym”.

Chamber of Progress, koalicja branży technologicznej, pochwaliła weto Newsome'a, mówiąc, że „kalifornijska gospodarka technologiczna zawsze rozwijała się dzięki konkurencji i otwartości”.

Oprócz innych kwestii, projekt ustawy nakładałby obowiązek testowania bezpieczeństwa najbardziej zaawansowanych modeli SI, których rozwój kosztuje wiele ponad 100 milionów dolarów lub które wymagają określonej ilości mocy obliczeniowej. Deweloperzy oprogramowania SI działającego w stanie musieliby również określić metody wyłączania modeli SI, najlepiej „wyłącznik awaryjny”.

Projekt ustawy miałby utworzyć podmiot państwowy do nadzorowania rozwoju tak zwanych „modeli granicznych”, które przekraczają możliwości obecne w najbardziej zaawansowanych modelach.

Projekt ustawy spotkał się z silnym sprzeciwem ze strony wielu grup. Alphabet's Google, wspierane przez Microsoft OpenAI i Meta Platforms, które wszystkie rozwijają generatywne modele SI, wyraziły swoje obawy dotyczące propozycji.

Niektórzy Demokraci w Kongresie USA, w tym posłanka Nancy Pelosi, również sprzeciwiali się temu. Do zwolenników należał Elon Musk, dyrektor generalny Tesli, który prowadzi również firmę zajmującą się sztuczną inteligencją o nazwie xAI. Wspierana przez Amazona firma Anthropic stwierdziła, że korzyści z ustawy prawdopodobnie przeważają nad kosztami, chociaż dodała, że istnieją nadal pewne aspekty, które wydają się niepokojące lub niejasne. 

Newsom podpisał osobno ustawę zobowiązującą stan do oceny potencjalnych zagrożeń ze strony generatywnej sztucznej inteligencji dla krytycznej infrastruktury Kalifornii. 

Stan analizuje ryzyko dla infrastruktury energetycznej i wcześniej zwołał dostawców energii. W przyszłym roku przeprowadzi taką samą ocenę ryzyka w przypadku dostawców infrastruktury wodnej, a później sektora komunikacyjnego, powiedział Newsom.

Dział: Politycznie

Autor:
Reuters | Tłumaczenie: Natalia Jurek – praktykantka fundacji: https://fundacjaglosmlodych.org/praktyki/

Źródło:
https://edition.cnn.com/2024/09/29/tech/newsom-california-ai-safety-bill/index.html

Udostępnij
Nie ma jeszcze żadnych komentarzy.
Wymagane zalogowanie

Musisz być zalogowany, aby wstawić komentarz

Zaloguj się

INNE WIADOMOŚCI


NAJCZĘŚCIEJ CZYTANE