A empresa precisou derrubar os modelos globalmente para que a diretiva fosse cumprida. O pedido não especificou qual seria o "risco de segurança nacional", mas a companhia acredita que o motivo da ação do governo seja a possibilidade de um jailbreak do Fable 5.
A prática consiste em utilizar engenharia de prompt ou simulações para fazer com que um bot de IA retorne algo diferente da forma que foi programado. A técnica é utilizada para ignorar regras de segurança e princípios éticos, executar ações restritas ou implementar nos modelos um viés diferente do programado inicialmente.
Em comunicado, a dona do Claude disse que, apesar de cumprir a ordem, acredita que a diretiva do governo se trata de "mal entendido". A Anthropic discorda que a possibilidade de um jailbreak seja motivo o suficiente para barrar a utilização da ferramenta por milhões de pessoas.
"Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada", escreveu a empresa em comunicado.
A própria já havia informado sobre a possibilidade da "invasão" ao governo americano, mas critica a atitude.
"Como já havíamos declarado, acreditamos que o governo tenha a autonomia para barrar implementações arriscadas como como parte de um processo legal, com transparência, justo, claro e fundamentado em fatos técnicos. Esta ação não está em conformidade com esses princípios", completou a empresa.
A ordem veio apenas três dias após o lançamento dos modelos; o Fable 5 e o Mythos 5 foram disponibilizados ao público na última terça, 9.
Eles ficariam disponíveis gratuitamente por apenas 13 dias. Após a segunda-feira, 22 de junho, usuários utilizaram o modelo não sob planos de assinatura, mas via pagamento de preços de API, onde eles seriam cobrados por cada requisição.
Mas essa não é a primeira vez que o governo americano e a Anthropic entram em divergência. No final de fevereiro, o governo determinou que as agências americanas parassem de usar os modelos de IA da startup após a empresa se recusar, por razões éticas, a permitir que as forças armadas do país utilizassem os modelos da companhia sem restrições e sem salvaguardas técnicas.
(Com Agência Estado)
Clique aqui e faça parte no nosso grupo para receber as últimas do HiperNoticias.
Clique aqui e faça parte do nosso grupo no Telegram.
Siga-nos no TWITTER ; INSTAGRAM e FACEBOOK e acompanhe as notícias em primeira mão.
