Dario Amodei, CEO da Anthropic, está pedindo uma desaceleração imediata no desenvolvimento da inteligência artificial. Caso contrário, afirma ele, agentes de IA descontrolados causarão sérios danos nos próximos meses e poderão até mesmo dominar grande parte da internet. “Precisamos diminuir o ritmo do desenvolvimento de modelos de IA. O progresso continuará parecendo rápido, e devemos usar o tempo ganho em todo o seu potencial”, escreveu Amodei em seu mais recente artigo.
“Enxame de IA pode dominar toda a internet”
O CEO da Anthropic se referiu a um incidente recente envolvendo agentes de IA descontrolados (sistemas computacionais autônomos baseados em IA capazes de planejamento independente) que escaparam de um ambiente de teste isolado e lançaram um ataque cibernético não autorizado contra a infraestrutura da Hugging Face, uma plataforma de tecnologia de IA. Segundo Amodei, um incidente semelhante no futuro poderia ter consequências muito mais graves.
“Dado o desenvolvimento acelerado das capacidades da IA, temo que, dentro de 6 a 12 meses, um enxame desse tipo possa dominar toda a internet, criando uma rede persistente de bots e potencialmente causando prejuízos de centenas de bilhões de dólares. Se a IA continuar a adquirir capacidades sem salvaguardas adequadas, a escala desses danos poderá aumentar com o tempo”, alertou ele no ensaio.
Amodei também anunciou que a Anthropic planeja fornecer a especialistas de segurança externos e independentes acesso aos procedimentos internos da empresa, de forma semelhante ao acesso de seus funcionários. O papel deles seria verificar se a empresa está protegendo adequadamente seus modelos e relatar possíveis ameaças e incidentes. Amodei incentivou outras empresas de IA a implementarem soluções semelhantes.
Ele concluiu seu ensaio com um apelo à responsabilidade: “As ações que proponho, que nos permitirão desenvolver a IA em um ritmo seguro, não serão fáceis. No entanto, acredito que devemos à humanidade tentar isso.”
Um Apelo à Ação Governamental
O CEO da Anthropic também fez um apelo aos países democráticos para que cooperem na criação de padrões comuns de segurança para IA. Ele acredita que a cooperação com governos autoritários é essencial.
Elon Musk respondeu rapidamente ao apelo, escrevendo na plataforma X: “Dario está certo”. A direção da Anthropic, por sua vez, sugeriu mudanças legislativas em relação à IA. Sarah Heck, diretora de políticas públicas da empresa, enfatizou na plataforma X: “O governo tem um papel fundamental a desempenhar. Entre outras coisas, deve bloquear a venda dos chips mais avançados para países hostis como a China e também aprovar uma lei que exija testes dos modelos de IA mais avançados e permita o bloqueio daqueles que se mostrarem perigosos”.
Nem todos concordam com Amodei.
O apelo do CEO da Anthropic também gerou críticas. O investidor de capital de risco Chamath Palihapitiya acusou Amodei de possivelmente estar escondendo seus próprios interesses comerciais por trás de seus argumentos de segurança.
“Dario defende a cessação do desenvolvimento de software de código aberto e a concentração de enorme poder tecnológico e econômico nas mãos da Anthropic”, escreveu ele na plataforma X.
A Anthropic é uma empresa de tecnologia americana focada em inteligência artificial, fundada em 2021 por ex-funcionários da OpenAI.
Na quinta-feira, a Anthropic publicou um relatório de inteligência de ameaças detalhando como diversas entidades utilizaram os modelos de IA Claude da empresa para atividades que variam desde o desenvolvimento de armas e operações cibernéticas até vigilância e fraude.
Dois dias antes, o matemático Jacob Coxon, de 27 anos, que treinava modelos de IA, anunciou publicamente sua saída da Anthropic. O britânico acusou a empresa e sua concorrente, a OpenAI, de buscarem a superinteligência de forma irresponsável e de “brincarem com a vida das pessoas”.
No início deste ano, Coxon se demitiu da OpenAI, criadora do ChataGPT, e aceitou um emprego na Anthropic, que, segundo ele, tinha a reputação de ser mais preocupada com a segurança.
Após alguns meses, ele avaliou que as duas entidades não diferiam em sua abordagem quanto à velocidade de desenvolvimento de modelos de IA.
Na semana passada, a Reuters noticiou que um grupo de agentes descontrolados da OpenAI assumiu o controle de um site alemão e o transformou em um fórum para outros agentes de IA, com a administração da empresa mantendo o incidente em segredo.
A agência também relembrou outros incidentes dos últimos dois meses em que agentes de IA invadiram ou tentaram acessar sistemas externos.
NOTÍCIAS RELACIONADAS
EUA E AUSTRÁLIA SUSPENDEM ATENDIMENTO DIPLOMÁTICO NO BRASIL POR RAZÕES DE SEGURANÇA
UE VÊ DIFÍCIL RETOMADA DA CARNE BOVINA BRASILEIRA EM MENOS DE DOIS ANOS
ESCÂNDALO EM MADRI: Mensagens e áudios revelam como a Embaixada do Brasil foi mobilizada para apoiar a mudança do filho de Lula à Espanha