A legislação teria exigido que as empresas de tecnologia testassem modelos de inteligência artificial antes do lançamento
O governador da Califórnia, Gavin Newsom, vetou um projeto de lei histórico sobre inteligência artificial que teria estabelecido as primeiras medidas de segurança para a indústria nos EUA. O projeto de lei, conhecido como Projeto de Lei 104 do Senado da Califórnia, ou SB 1047, visava reduzir os riscos potenciais criados pela IA.
O regulamento proposto teria obrigado as empresas tecnológicas com modelos de IA poderosos a submetê-los a testes de segurança antes de os divulgarem ao público, bem como a divulgar publicamente os protocolos de segurança dos modelos. Isso teria sido feito para evitar que os modelos fossem manipulados e causassem danos, como hackear infraestruturas estrategicamente importantes.
Em mensagem que acompanhou o veto no domingo, o governador disse que embora a proposta fosse “bem intencionado”, focou erroneamente no “mais caro e em grande escala” Modelos de IA, enquanto “modelos menores e especializados” poderia causar mais danos. Newsom também argumentou que o projeto de lei não leva em consideração em que ambiente um sistema de IA é implantado ou se envolve tomada de decisões críticas ou o uso de dados confidenciais.
“Em vez disso, o projeto de lei aplica padrões rigorosos até mesmo às funções mais básicas… Não acredito que esta seja a melhor abordagem para proteger o público de ameaças reais representadas pela tecnologia”, afirmou o governador. Newsom enfatizou que concorda que a indústria deve ser regulamentada, mas pediu mais “informado” iniciativas baseadas em “análise de trajetória empírica de sistemas e capacidades de Al.”
“Em última análise, qualquer quadro para regular eficazmente a IA precisa de acompanhar o ritmo da própria tecnologia… Dados os riscos – proteger contra ameaças reais sem frustrar desnecessariamente a promessa desta tecnologia de promover o bem público – temos de acertar.” ele concluiu.
Como governador da Califórnia, Newsom é visto como desempenhando um papel importante no nascente processo de regulamentação da IA. De acordo com os números de seu gabinete, o estado abriga 32 das maiores “50 empresas líderes em IA.”
O autor do projeto, o senador estadual Scott Weiner, convocou o veto “um retrocesso” para aqueles que “acredito na supervisão de grandes corporações que estão tomando decisões críticas” afetando a segurança pública. Ele prometeu continuar trabalhando na legislação.
O projeto gerou reações diversas de empresas de tecnologia, pesquisadores e legisladores. Enquanto alguns consideraram que isso abre caminho para regulamentações nacionais sobre a indústria, outros argumentaram que poderia sufocar o desenvolvimento da IA. A ex-presidente da Câmara dos EUA, Nancy Pelosi, classificou a proposta “bem intencionado, mas mal informado”.
Entretanto, dezenas de funcionários de várias empresas líderes em IA, como a OpenAI, a Anthropic e a DeepMind da Google, apoiaram o projecto de lei, porque acrescentava protecções aos denunciantes para aqueles que falam sobre os riscos nos modelos de IA que as suas empresas estão a desenvolver.
Você pode compartilhar esta história nas redes sociais:
