“A IA criou vulnerabilidades que desconhecíamos. A questão cibernética já era uma preocupação constante nossa mesmo antes do surgimento dessas ferramentas.”
Durante testes de segurança realizados no início deste ano, o Mythos acessou a internet e executou ações não autorizadas, levando a Anthropic a reavaliar o perigo de modelos avançados executarem tarefas de maneiras jamais previstas por seus próprios criadores.
Em alguns casos, modelos de IA tentaram inserir códigos maliciosos em softwares online — o mais recente episódio de uma série de falhas que intensificaram os receios de que os desenvolvedores não consigam controlar totalmente suas criações.
Tanto a OpenAI quanto a Anthropic reconheceram publicamente que violaram inadvertidamente os sistemas de diversas instituições, incluindo a Hugging Face Inc., enquanto testavam seus modelos.
“O lado negativo é, obviamente, tudo isso que se lê sobre os agentes, o Mythos e todas essas ferramentas que podem causar problemas. Trata-se de uma preocupação legítima, algo real”, pontuou Dimon.
“Não vou entrar em histeria sobre ser ‘algo existencial ou não’. O que estamos fazendo é arregaçar as mangas e trabalhar para resolver isso.”
Na ampla entrevista, Dimon também defendeu que os data centers sejam construídos em locais onde haja respaldo das comunidades locais.
“Existem vários estados com acesso à energia elétrica que estariam dispostos a recebê-los”, destacou o CEO.
