O governador da Califórnia, Gavin Newsom, veta o primeiro projeto de lei de segurança de IA do país

O governador da Califórnia, Gavin Newsom, vetou no domingo um projeto de lei histórico que visa estabelecer as primeiras salvaguardas do país para grandes modelos de inteligência artificial.

A decisão é um golpe nos esforços que tentam controlar a indústria local, que está a evoluir rapidamente com pouca supervisão. a fatura teria estabelecido alguns dos primeiros regulamentos em modelos de IA em grande escala no país e abriu caminho para regulamentações de segurança de IA em todo o país, disseram os apoiadores.

No início deste mês, o governador democrata disse numa audiência na Dreamforce, uma conferência anual organizada pela gigante do software Salesforce, que a Califórnia deveria liderar a regulamentação da IA ​​face à inacção federal, mas que a proposta “pode ter uma paralisação na indústria”.

A proposta, que atraiu forte oposição de startups, gigantes da tecnologia e vários membros democratas da Câmara dos Representantes, poderia ter prejudicado a indústria local ao estabelecer requisitos rígidos, disse Newsom.

“Embora bem-intencionado, o SB 1047 não leva em consideração se um sistema de IA é implantado em ambientes de alto risco, envolve tomadas de decisão críticas ou usa dados confidenciais”, disse Newsom em comunicado. “Em vez disso, o projeto de lei aplica padrões rígidos até mesmo às funções mais básicas, desde que um grande sistema seja implementado. Não creio que esta seja a melhor abordagem para proteger o público das ameaças reais representadas pela tecnologia”.

Em vez disso, Newsom anunciou no domingo que o estado fará parceria com vários especialistas do setor, incluindo o pioneiro da IA ​​Fei-Fei Li, para desenvolver proteções em torno de modelos poderosos de IA. Li se opôs à proposta de segurança da IA.

A medida, destinada a reduzir os riscos potenciais criados pela IA, teria exigido que as empresas testassem os seus modelos e divulgassem publicamente os seus protocolos de segurança para evitar que os modelos fossem manipulados para, por exemplo, derrubar a rede elétrica do estado ou ajudar a construir armas químicas. . Especialistas dizem que esses cenários podem ser possíveis no futuro, à medida que a indústria continua a avançar rapidamente. Também teria fornecido proteção aos trabalhadores como denunciantes.

A legislação está entre uma série de projetos de lei aprovados pelo Legislativo este ano para regulamentar a IA e combater deepfakes e proteger os trabalhadores. Os legisladores estaduais disseram que a Califórnia deve tomar medidas este ano, citando duras lições que aprenderam ao não controlar as empresas de mídia social quando poderiam ter tido a chance.

Os defensores da medida, incluindo Elon Musk e a Anthropic, disseram que a proposta poderia ter injetado alguns níveis de transparência e responsabilidade em torno dos modelos de IA em grande escala, já que os desenvolvedores e especialistas dizem que ainda não têm uma compreensão completa de como eles se comportam e por quê. .

O projeto de lei visava sistemas que exigem mais de US$ 100 milhões para serem construídos. Nenhum modelo atual de IA atingiu esse limite, mas alguns especialistas afirmam que isso poderá mudar no próximo ano.

“Isso se deve ao enorme aumento no investimento na indústria”, disse Daniel Kokotajlo, um ex-pesquisador da OpenAI que renunciou em abril devido ao que considerou a indiferença da empresa aos riscos da IA. “É uma enorme quantidade de poder ter um controle inexplicável sobre qualquer empresa privada, e também é incrivelmente arriscado.”

Os Estados Unidos já estão atrás da Europa na regulamentação da IA ​​para limitar os riscos. A proposta da Califórnia não era tão abrangente como as regulamentações na Europa, mas teria sido um bom primeiro passo no estabelecimento de barreiras em torno da tecnologia de rápido crescimento que está a levantar preocupações sobre perdas de empregos, desinformação, invasões de privacidade e preconceitos de automação, disseram os apoiantes.

No ano passado, várias empresas líderes em IA concordaram voluntariamente em seguir as salvaguardas implementadas pela Casa Branca, tais como testes e partilha de informações sobre os seus modelos. O projeto de lei da Califórnia teria forçado os desenvolvedores de IA a seguir requisitos semelhantes a esses compromissos, disseram os defensores da medida.

Mas os críticos, incluindo a ex-presidente da Câmara dos EUA, Nancy Pelosi, argumentaram que o projeto “mataria a tecnologia da Califórnia” e sufocaria a inovação. Eles disseram que isso teria desencorajado os desenvolvedores de IA de investir em modelos grandes ou de compartilhar software de código aberto.

A decisão de Newsom de vetar o projeto de lei marca outra vitória na Califórnia para grandes empresas de tecnologia e desenvolvedores de IA, muitos dos quais passaram o ano passado fazendo lobby junto à Câmara de Comércio da Califórnia para influenciar o governador e os legisladores a não promoverem as regulamentações de IA.

Duas outras propostas abrangentes de IA, que também enfrentaram oposição crescente da indústria tecnológica e de outros, fracassaram antes do prazo legislativo no mês passado. Os projetos de lei exigiriam que os desenvolvedores de IA rotulassem o conteúdo gerado por IA e proibissem a discriminação nas ferramentas de IA usadas para tomar decisões de emprego.