
A Anthropic, dona do Claude, propôs que o governo federal dos EUA só possa bloquear modelos avançados de IA diante de riscos catastróficos, incluindo ameaças de morte, ferimentos graves em mais de 50 pessoas ou prejuízos acima de US$ 1 billhão (R$ 5,08 bilhões).
O site Politico obteve o rascunho do projeto de lei. A iniciativa da Anthropic seria uma forma de estabelecer regras mais claras sobre o desenvolvimento e o uso de modelos avançados de inteligência artificial.

O texto prevê análises regulares dos laboratórios e de seus modelos por avaliadores independentes. Se identificassem um risco iminente previsto no documento, eles deveriam comunicar suas conclusões em até 72 horas ao Departamento de Comércio. Caberia ao órgão apresentar as evidências a um juiz federal, que decidiria sobre a suspensão.
Outros departamentos, agências ou autoridades federais também ficariam impedidos de suspender o desenvolvimento, a implantação ou o uso de um modelo. O texto transferiria esse poder apenas ao Departamento de Comércio e Justiça federal.
A discussão ocorre após episódios de segurança relatados pela própria Anthropic. Em uma revisão de mais de 141 mil execuções de testes, a companhia identificou incidentes envolvendo acesso não autorizado a sistemas de organizações reais. Segundo a empresa, uma falha de configuração permitiu que modelos alcançassem a internet durante avaliações que deveriam ocorrer em ambientes isolados.
Em setembro, a Anthropic também afirmou ter bloqueado consultas ao Claude que poderiam contribuir para a criação de armas biológicas. Em paralelo, o desenvolvedor Jacob Coxon deixou a companhia e criticou a corrida pela superinteligência, alertando sobre possíveis riscos à vida humana.
Últimas Notícias
O The Brazilian Journal é um site de notícias comprometido em trazer informações relevantes e atuais para nossos leitores.
Nossa equipe de jornalistas e colunistas está sempre a procura das notícias mais importantes para que você possa estar sempre informado sobre o que está acontecendo no mundo.
Aqui, o Brasil está sempre em foco para o mundo!