O projeto exigiria que os desenvolvedores contratassem auditores terceirizados para avaliar suas práticas de segurança
São Francisco:
Os legisladores da Califórnia devem votar um projeto de lei ainda esta semana que regularia amplamente como a inteligência artificial é desenvolvida e implantada na Califórnia, mesmo com vários gigantes da tecnologia expressando ampla oposição.
Aqui estão os antecedentes do projeto de lei, conhecido como SB 1047, e por que ele enfrentou reação negativa de tecnólogos do Vale do Silício e de alguns legisladores:
O QUE A CONTA FAZ?
Avançada pelo senador estadual Scott Wiener, um democrata, a proposta exigiria testes de segurança para muitos dos modelos de IA mais avançados que custam mais de US$ 100 milhões para serem desenvolvidos ou aqueles que exigem uma quantidade definida de poder computacional. Os desenvolvedores de software de IA que operam no estado também precisariam delinear métodos para desligar os modelos de IA se eles derem errado, o que efetivamente seria um interruptor de interrupção.
O projeto também daria ao procurador-geral do estado o poder de processar se os desenvolvedores não cumprirem, especialmente no caso de uma ameaça contínua, como a IA assumindo o controle de sistemas governamentais, como a rede elétrica.
Além disso, o projeto de lei exigiria que os desenvolvedores contratassem auditores terceirizados para avaliar suas práticas de segurança e fornecer proteções adicionais aos denunciantes que se manifestassem contra os abusos da IA.
O QUE DISSERAM OS LEGAIS?
O SB 1047 já foi aprovado no Senado estadual por 32 votos a 1. Na semana passada, foi aprovado no comitê de dotações da Assembleia estadual, estabelecendo uma votação em todo o Parlamento. Se for aprovado até o final da sessão legislativa em 31 de agosto, caberá ao governador Gavin Newsom assinar ou vetar até 30 de setembro.
Wiener, que representa São Francisco, sede da OpenAI e de muitas das startups que desenvolvem o poderoso software, disse que a legislação é necessária para proteger o público antes que os avanços na IA se tornem difíceis de manejar ou incontroláveis.
No entanto, um grupo de congressistas democratas da Califórnia se opõe ao projeto, incluindo Nancy Pelosi, de São Francisco; Ro Khanna, cujo distrito eleitoral abrange grande parte do Vale do Silício; e Zoe Lofgren, de San Jose.
Pelosi esta semana chamou o SB 1047 de mal informado e disse que pode causar mais danos do que benefícios. Numa carta aberta na semana passada, os democratas disseram que o projeto de lei poderia afastar os desenvolvedores do estado e ameaçar os chamados modelos de IA de código aberto, que dependem de código que está disponível gratuitamente para qualquer pessoa usar ou modificar.
O QUE DIZEM OS LÍDERES TECNOLÓGICOS?
As empresas tecnológicas que desenvolvem IA – que podem responder a solicitações com texto, imagens ou áudio totalmente formados, bem como executar tarefas repetitivas com intervenção mínima – apelaram a protecções mais fortes para a implementação da IA. Eles citaram os riscos de que o software possa um dia escapar da intervenção humana e causar ataques cibernéticos, entre outras preocupações. Mas eles também recusaram amplamente o SB 1047.
Wiener revisou o projeto de lei para apaziguar as empresas de tecnologia, contando em parte com a contribuição da startup de IA Anthropic – apoiada pela Amazon e pela Alphabet. Entre outras mudanças, ele eliminou a criação de um comitê governamental de supervisão de IA.
Wiener também impôs sanções criminais por perjúrio, embora ações civis ainda possam ser instauradas.
Google e Meta, da Alphabet, expressaram preocupações em cartas a Wiener. Meta disse que o projeto de lei ameaça tornar o estado desfavorável ao desenvolvimento e implantação de IA. O cientista-chefe da controladora do Facebook, Yann LeCun, em uma postagem de julho X, classificou o projeto como potencialmente prejudicial aos esforços de pesquisa.
OpenAI, cujo ChatGPT é creditado por acelerar o frenesi em torno da IA desde seu amplo lançamento no final de 2022, disse que a IA deveria ser regulamentada pelo governo federal e que o SB 1047 cria um ambiente jurídico incerto.
Particularmente preocupante é a possibilidade de o projeto de lei se aplicar a modelos de IA de código aberto. Muitos tecnólogos acreditam que os modelos de código aberto são importantes para a criação mais rápida de aplicações de IA menos arriscadas, mas Meta e outros temem que possam ser responsabilizados pelo policiamento dos modelos de código aberto se o projeto for aprovado. Wiener disse que apoia modelos de código aberto e uma das alterações recentes ao projeto de lei elevou o padrão pelo qual os modelos de código aberto são cobertos pelas suas disposições.
O projeto também tem apoiadores no setor de tecnologia. Geoffrey Hinton, amplamente considerado o “padrinho da IA”, o ex-funcionário da OpenAI Daniel Kokotajlo e o pesquisador Yoshua Bengio disseram que apoiam o projeto.
(Exceto a manchete, esta história não foi editada pela equipe da NDTV e é publicada a partir de um feed distribuído.)
