Segundo Zuckerberg, a dinâmica de mercado cria um incentivo para que as empresas tornem seus sistemas mais confiáveis e alinhados às preferências dos usuários. "As pessoas não vão querer usar agentes que estejam desalinhados com elas e que não façam o que elas pedem, então os laboratórios têm um forte incentivo natural para tornar seus modelos mais alinhados", escreveu.
Ele observou que há debate sobre desacelerar o progresso das capacidades até que o alinhamento acompanhe, mas afirmou que confiança e alinhamento rapidamente se tornam os fatores mais importantes para diferenciar agentes e modelos. "Qualquer laboratório que não foque em alinhamento ficará para trás", disse.
Zuckerberg também afirmou que os laboratórios enfrentam responsabilidade significativa caso seus modelos causem danos, o que, segundo ele, reforça o incentivo para prevenir problemas. Como exemplo, citou a decisão da Meta de adiar por vários meses o lançamento do sistema Muse para priorizar segurança e proteção.
O executivo disse ainda que recorrer a avaliadores e consultores independentes é uma boa prática do setor e que a Meta Superintelligence Labs (MSL) já faz isso em várias áreas. Ele defendeu, de forma mais ampla, um ecossistema de avaliadores "maior e mais diverso".
Por fim, Zuckerberg defendeu que direcionar a grande maioria do poder computacional para servir as pessoas, em vez de "correr" para o autoaprimoramento recursivo, é uma das melhores formas de garantir um desenvolvimento seguro da tecnologia, acrescentando que a Meta assumiu esse compromisso e que outros laboratórios podem fazer o mesmo.
(Com Agência Estado)
Clique aqui e faça parte no nosso grupo para receber as últimas do HiperNoticias.
Clique aqui e faça parte do nosso grupo no Telegram.
Siga-nos no TWITTER ; INSTAGRAM e FACEBOOK e acompanhe as notícias em primeira mão.
