A Califórnia está na vanguarda da regulação da inteligência artificial (IA). Em 2024, o estado apresentou o projeto de lei SB 1047, conhecido como “Safe and Secure Innovation for Frontier Artificial Intelligence Models Act”. Ele exige que empresas desenvolvedoras de grandes modelos de IA adotem protocolos rigorosos de transparência e segurança para evitar danos catastróficos. Mas será que essa iniciativa realmente impedirá grandes desastres?
O que a lei exige?
O SB 1047 exige que as companhias testem seus sistemas antes do lançamento, simulando cenários de risco, como ataques cibernéticos ou falhas que possam causar mortes ou prejuízos graves. As empresas também precisam implementar um botão de “desligar emergencial”, auditado por terceiros, que possa interromper o funcionamento dos modelos em caso de problemas.
Além disso, a lei prevê a criação de um órgão regulador, a Divisão de Modelos de Fronteira, para fiscalizar a conformidade e aplicar multas pesadas em caso de descumprimento. Esta fiscalização abrange todas as operações de IA que ocorrem na Califórnia, independentemente de onde os modelos sejam treinados.
As críticas do setor tecnológico
Apesar da boa intenção, o projeto atraiu resistência da indústria, especialmente do Vale do Silício. Muitas startups e empresas alertaram que as regras poderiam sufocar a inovação, elevar custos e até impulsionar negócios para outros estados ou países.
O governador Gavin Newsom chegou a vetar uma versão mais rigorosa da lei em 2024, argumentando que barreiras excessivas poderiam prejudicar o desenvolvimento tecnológico e que uma análise baseada em evidências era necessária para definir políticas mais eficazes.
Limitações da lei para prevenir desastres
Mesmo com o quadro de segurança, especialistas confirmaram que a regulamentação estatal enfrenta desafios para acompanhar o ritmo da evolução da IA. Os modelos podem apresentar comportamentos imprevisíveis fora do ambiente controlado dos testes.
Além disso, o veto do governador e a flexibilização das regras reduziram o poder de fiscalização da lei, o que pode enfraquecer sua capacidade de impedir o desenvolvimento de sistemas perigosos.
Por isso, muitos cientistas e ativistas defendem que uma regulamentação deve ser global e coordenada, para não gerar “vazamentos” de tecnologia para locais com regras frouxas.
Transparência suficiente para a segurança?
A transparência exerce pela lei visa garantir que governos, pesquisadores e empresas conheçam os limites e riscos da IA. No entanto, algumas questões se apenas divulgarem informações técnicas são suficientes para garantir a segurança pública.
A complexidade dos sistemas de IA escapa ao entendimento comum, e as interpretações dos relatórios podem variar. Portanto, a legislação deve ser acompanhada de investimentos em fiscalização técnica e capacitação.
O futuro da regulação de IA
Com a falta de consenso no Congresso dos EUA e em outras nações, estados como a Califórnia avançaram com regulamentações locais. Essa abordagem cria um laboratório para testes de políticas públicas, mas também pode fragmentar o mercado e dificultar a cooperação internacional.
Os desafios incluem equilibrar inovação e segurança, proteger os consumidores e evitar abusos, sem paralisar a indústria.
Considerações finais
O projeto de lei da Califórnia representa um importante avanço na tentativa de controlar os riscos de inteligência artificial. Ele busca evitar que a sociedade espere desastres para reagir, propondo uma postura proativa.
Entretanto, para que a lei seja efetivada, ela precisará de ajustes contínuos, fiscalização rigorosa e integração com políticas globais. Assim, a tarefa dos estabelecimentos comerciais a IA permanece complexa e desafiadora.
