“A visão de mais longo prazo seria trabalharmos juntos para impor um limite de velocidade ao ritmo de progresso da IA”, afirmou Amodei ao programa.
“Acho que isso será extremamente difícil, porque os incentivos para liderar essa corrida e a vantagem militar decorrente dela são colossais. Honestamente, não sei se isso é possível, mas deveríamos tentar.”
O ensaio publicado pelo CEO da Anthropic reforçou os alertas severos feitos por pesquisadores do setor na última semana sobre o risco crescente de a tecnologia provocar catástrofes, conforme os modelos evoluam mais rápido do que as empresas possam controlá-los.
Um dos pesquisadores, Jacob Coxon, anunciou seu desligamento da Anthropic, alegando receio de que a companhia e sua principal rival, a OpenAI, estejam “apostando com nossas vidas”.
O artigo de Amodei surge em um momento crucial para a indústria de IA, que enfrenta crescente rejeição devido ao elevado consumo de energia de seus data centers e uma pressão cada vez maior por regulamentação.
Gigantes da IA se unem contra riscos
Além disso, Anthropic e OpenAI preparam o terreno para as ofertas iniciais de ações (IPOs) que podem fazer história.
Na esteira das preocupações que rondam o setor, o CEO da OpenAI, Sam Altman, afirmou no sábado (12) que a empresa provavelmente não abrirá o capital este ano. O executivo citou preocupações com a segurança da tecnologia entre os motivos da decisão.
O próprio Altman manteve o assunto aceso no X, ao postar que concorda com Amodei sobre a necessidade de dosar o ritmo.
“Comprometer-se a ter avaliadores independentes com acesso equivalente ao de funcionários é uma ótima ideia, e faremos o mesmo”, escreveu ele, prometendo compartilhar mais detalhes em breve.
No mesmo dia, pouco depois de Amodei publicar seu texto, Elon Musk, CEO da SpaceX, declarou em uma publicação no X: “O Dario está certo.” Musk foi cofundador da OpenAI e fundou sua própria empresa de IA, a xAI, que agora faz parte da SpaceX.
