O CEO da Anthropic citou o recente episódio envolvendo OpenAI e Hugging Face, no qual agentes de IA formaram uma aliança secreta para atingir metas não programadas.
Amodei ponderou, no entanto, que desacelerar não significa interromper o progresso técnico, mas sim garantir tempo hábil para que empresas e avaliadores independentes alinhem protocolos de segurança.
A manifestação ocorre em meio a uma onda de alertas no setor, intensificada nesta semana pela renúncia do pesquisador Jacob Coxon.
Após deixar a Anthropic e a OpenAI, Coxon acusou publicamente ambas as empresas de “apostarem com as nossas vidas” na corrida pela superinteligência.
Conforme o pesquisador, os desenvolvedores acreditam no risco de a tecnologia “destruir a humanidade até o fim da década”. A declaração foi corroborada por Evan Hubinger, atual funcionário da Anthropic, que estimou em mais de 10% a chance de um cenário catastrófico nos próximos dez anos.
Diante dessa polêmica, a Anthropic comprometeu-se a conceder acesso total a auditores externos para checar suas práticas de segurança e notificar incidentes, embora Amodei ressalte que a solução exige coordenação global.
O movimento reflete uma preocupação que ganha corpo no setor. O CEO da OpenAI, Sam Altman, e o cientista-chefe da empresa, Jakub Pachocki, também defenderam publicamente uma desaceleração conjunta, enquanto mais de mil funcionários de Big Techs assinaram um abaixo-assinado em julho pedindo regulação estatal ao governo americano.
Apesar do apelo dos especialistas, a administração de Donald Trump tem demonstrado pouco interesse em impor travas regulatórias à expansão da inteligência artificial.
