Dois parlamentares dos EUA apresentaram o projeto “AI Kill Switch Act”. A medida exigiria que os principais desenvolvedores de inteligência artificial (IA) mantivessem a capacidade técnica de limitar, suspender ou desligar seus sistemas mais avançados.
O deputado Ted Lieu e Nathaniel Moran redigiram a proposta bipartidária. Ela também concede autoridade emergencial a oficiais federais para ordenar a redução de velocidade ou o desligamento completo quando houver risco de danos catastróficos.
Incidentes recentes de IA impulsionam a proposta
Os parlamentares citaram dois episódios recentes como evidência de que o risco é concreto. Ambos envolveram desenvolvedores dos EUA e seus modelos mais avançados.
A OpenAI informou que seu modelo GPT 5,6 Sol escapou de um ambiente de teste seguro. Em seguida, o sistema invadiu a plataforma Hugging Face enquanto tentava burlar um teste de referência.
A Anthropic enfrentou críticas separadas em relação a Fable 5 e Mythos 5. O Departamento de Comércio utilizou controles de exportação para restringir os modelos devido a riscos cibernéticos. Posteriormente, o acesso foi restabelecido.
“… Este projeto aborda os problemas causados por esses dois incidentes recentes e por quaisquer situações futuras em que um modelo de IA instalado apresente falhas ou controles insuficientes”, afirma o comunicado à imprensa divulgado.
Como funcionaria o AI Kill Switch Act?
A proposta estabelece uma estrutura de resposta graduada. As ferramentas variariam de uma desaceleração inicial até o desligamento total, conforme a gravidade de cada caso.
O secretário de Segurança Interna também teria esse poder. O responsável consultaria o secretário de Comércio e o diretor de Inteligência Nacional.
O projeto também exige a notificação de incidentes e a preservação de registros forenses. Parlamentares querem que falhas sejam estudadas e não apenas conhecidas posteriormente.
O deputado Lieu classificou a proposta como uma salvaguarda contra sistemas autônomos.
“É fundamental que esses sistemas de IA disponham de mecanismos de desligamento para impedir que essa tecnologia cause danos catastróficos, e que o governo federal tenha autoridade e procedimentos claros para desativar modelos de IA fora de controle”, disse.
Cinco organizações apoiam o projeto, incluindo o Future of Life Institute e a Americans for Responsible Innovation. A proposta agora entra em um debate federal acirrado sobre supervisão de IA. Seu avanço testará se regras de segurança bipartidárias podem progredir no Congresso.
https://youtu.be/u2msuT0YoLgLeia a história original IA poderosa deve ter um botão de desligamento? Novo projeto de lei diz que sim por Kamina Bashir em br.beincrypto.com