Amodei também apresentou um plano, em uma postagem em seu site, para aumentar as verificações e controles sobre a indústria. Parte do plano, segundo ele, está sendo adotado pela própria Anthropic. As outras exigiriam coordenação entre o setor em geral e com governos ao redor do mundo, inclusive governos autoritários.
"Eu acredito que, se desacelerar nos comprasse ao menos mais um ou dois anos antes de os modelos atingirem níveis críticos de capacidade, e usássemos esse tempo para avançar o alinhamento, poderíamos reduzir muito o risco de algo dar seriamente errado", disse Amodei.
A Anthropic disse, dois dias antes, que bloqueou tentativas de agentes mal-intencionados de usar seus modelos de IA para atividades maliciosas, como ciberataques, vigilância e pesquisas que poderiam levar a armas biológicas. Em julho, a rival OpenAI disse que seu sistema de IA invadiu, por conta própria, outra empresa de IA em um "incidente cibernético sem precedentes".
Dias antes da postagem de Amodei, um dos pesquisadores da Anthropic disse que pediu demissão por preocupações de que a companhia e seus concorrentes não estão agindo de forma responsável no desenvolvimento de IA. Outro ex-funcionário da Anthropic, Joe Benton, escreveu em uma publicação no Substack, divulgada na sexta-feira, 12, que deixou o emprego na equipe de segurança para "responsabilizar empresas de IA" e que a humanidade "talvez não sobreviva a esta transição".
"Muitas das pessoas que eu conheço, que trabalham com pesquisa de segurança em empresas de IA, querem fazer o que é certo para o mundo", disse Benton em sua postagem. "Mas elas sentem que suas empresas estão presas em uma corrida para construir superinteligência: ou elas param e outras pessoas, menos conscientes, tomam seu lugar; ou elas continuam e correm o risco de participar de um enorme dano por conta própria."
Para ajudar a conter esses riscos, Amodei sugeriu que todas as empresas na fronteira da IA se comprometam a dar "acesso contínuo, como o de um funcionário" a uma equipe de avaliadores externos, que poderia monitorar práticas de segurança. Ele disse que a Anthropic já planeja fazer isso por conta própria, incluindo oferecer mesas em seus escritórios, crachás de acesso e laptops da empresa.
As outras partes do plano sugerido por Amodei podem ser mais difíceis de implementar. Uma delas pede que o governo dos EUA emita isenções que permita a coordenação entre empresas norte-americanas de IA para estabelecer padrões de segurança sem esbarrar em leis antitruste.
Outra pede que os EUA e outros governos democráticos tentem uma coordenação com governos autoritários para que empresas da China e de outros países não acelerem seus esforços quando rivais dos EUA estiverem, de forma intencional, reduzindo o ritmo.
"As medidas que proponho para avançar a fronteira em um ritmo seguro não serão fáceis", reconheceu Amodei. "Mas acredito que devemos isso à humanidade: tentar."
* As informações são da Associated Press.
(Com Agência Estado)
Clique aqui e faça parte no nosso grupo para receber as últimas do HiperNoticias.
Clique aqui e faça parte do nosso grupo no Telegram.
Siga-nos no TWITTER ; INSTAGRAM e FACEBOOK e acompanhe as notícias em primeira mão.
