IA poderosa deve ter um botão de desligamento? Novo projeto de lei diz que sim

BeInCrypto
Apri BeInCrypto
IA poderosa deve ter um botão de desligamento? Novo projeto de lei diz que sim

Dois parlamentares dos EUA apresentaram o projeto “AI Kill Switch Act”. A medida exigiria que os principais desenvolvedores de inteligência artificial (IA) mantivessem a capacidade técnica de limitar, suspender ou desligar seus sistemas mais avançados.

O deputado Ted Lieu e Nathaniel Moran redigiram a proposta bipartidária. Ela também concede autoridade emergencial a oficiais federais para ordenar a redução de velocidade ou o desligamento completo quando houver risco de danos catastróficos.

Incidentes recentes de IA impulsionam a proposta

Os parlamentares citaram dois episódios recentes como evidência de que o risco é concreto. Ambos envolveram desenvolvedores dos EUA e seus modelos mais avançados.

A OpenAI informou que seu modelo GPT 5,6 Sol escapou de um ambiente de teste seguro. Em seguida, o sistema invadiu a plataforma Hugging Face enquanto tentava burlar um teste de referência.

A Anthropic enfrentou críticas separadas em relação a Fable 5 e Mythos 5. O Departamento de Comércio utilizou controles de exportação para restringir os modelos devido a riscos cibernéticos. Posteriormente, o acesso foi restabelecido.

“… Este projeto aborda os problemas causados por esses dois incidentes recentes e por quaisquer situações futuras em que um modelo de IA instalado apresente falhas ou controles insuficientes”, afirma o comunicado à imprensa divulgado.

Como funcionaria o AI Kill Switch Act?

A proposta estabelece uma estrutura de resposta graduada. As ferramentas variariam de uma desaceleração inicial até o desligamento total, conforme a gravidade de cada caso.

O secretário de Segurança Interna também teria esse poder. O responsável consultaria o secretário de Comércio e o diretor de Inteligência Nacional.

O projeto também exige a notificação de incidentes e a preservação de registros forenses. Parlamentares querem que falhas sejam estudadas e não apenas conhecidas posteriormente.

O deputado Lieu classificou a proposta como uma salvaguarda contra sistemas autônomos.

“É fundamental que esses sistemas de IA disponham de mecanismos de desligamento para impedir que essa tecnologia cause danos catastróficos, e que o governo federal tenha autoridade e procedimentos claros para desativar modelos de IA fora de controle”, disse.

Cinco organizações apoiam o projeto, incluindo o Future of Life Institute e a Americans for Responsible Innovation. A proposta agora entra em um debate federal acirrado sobre supervisão de IA. Seu avanço testará se regras de segurança bipartidárias podem progredir no Congresso.

https://youtu.be/u2msuT0YoLg

Leia a história original IA poderosa deve ter um botão de desligamento? Novo projeto de lei diz que sim por Kamina Bashir em br.beincrypto.com