Imagine que uma empresa utiliza Inteligência Artificial para analisar informações de seus clientes.
O sistema identifica um padrão, apresenta uma recomendação e a equipe decide seguir aquela orientação.
Algum tempo depois, descobrem que a informação estava errada.
A decisão gerou um prejuízo.
A primeira pergunta provavelmente seria:
De quem foi a culpa? Da Inteligência Artificial?
Da empresa que desenvolveu a ferramenta?
Do profissional que utilizou a recomendação?
Ou de quem tomou a decisão sem verificar se aquela informação estava correta?
Essa situação pode parecer distante da realidade de muitas empresas, mas a discussão sobre responsabilidade no uso da Inteligência Artificial já deixou de ser apenas uma preocupação do futuro.
O AI Index 2026, produzido pelo Stanford Institute for Human-Centered Artificial Intelligence, registrou 362 incidentes relacionados à Inteligência Artificial em 2025, contra 233 em 2024. O relatório também mostra que, em um novo benchmark de precisão, as taxas de alucinação entre 26 modelos avaliados variaram de 22% a 94%.
Esses números mostram uma coisa importante:
A Inteligência Artificial pode ser extremamente eficiente e, ainda assim, errar.
E talvez esse seja um dos pontos que mais precisamos discutir quando falamos sobre a adoção da IA nas empresas.
Existe uma tendência de confiar em uma resposta simplesmente porque ela foi produzida por uma tecnologia avançada.
A resposta vem rápida. Está bem escrita. Parece lógica. E, muitas vezes, está correta. Mas parecer correta não significa necessariamente estar correta.
Imagine um vendedor utilizando IA para preparar uma proposta comercial.
A ferramenta pode ajudar a organizar as informações, sugerir argumentos e até identificar oportunidades de venda.
Mas quem vai enviar a proposta para o cliente?
O vendedor.
Se existir um erro no preço, na condição comercial ou nas informações apresentadas, não será a Inteligência Artificial que irá conversar com o cliente para explicar o problema.
Será uma pessoa.
É por isso que acredito que usar Inteligência Artificial também significa assumir uma nova responsabilidade.
A tecnologia pode apoiar uma decisão, mas não deve ser utilizada como uma desculpa para transferir a responsabilidade para a máquina.
Se uma empresa utiliza IA para analisar contratos, alguém precisa revisar o resultado.
Se utiliza IA para atender clientes, alguém precisa acompanhar a qualidade das respostas.
Se utiliza IA para analisar dados, alguém precisa verificar se as informações utilizadas são confiáveis.
Quanto maior for o impacto daquela decisão, maior deve ser o cuidado na revisão.
Uma legenda para uma rede social e uma decisão financeira, por exemplo, não deveriam receber o mesmo nível de supervisão.
Esse é um ponto que considero fundamental para as empresas que estão começando a utilizar Inteligência Artificial.
Não basta perguntar o que a IA consegue fazer.
É preciso perguntar também:
O que acontece se ela estiver errada?
Quem irá revisar?
Quem poderá aprovar?
Quem será responsável pela decisão?
Quais informações podem ser utilizadas?
E como a empresa irá identificar um possível erro?
O próprio Stanford AI Index 2026 aponta uma questão que merece atenção: enquanto as capacidades dos sistemas de IA avançam rapidamente, a capacidade de medir, avaliar e gerenciar esses sistemas ainda não acompanha o mesmo ritmo.
Isso significa que a discussão sobre Inteligência Artificial não pode ficar limitada às ferramentas.
Precisamos falar também sobre processos, pessoas e responsabilidade.
A IA pode analisar milhares de informações em poucos segundos.
Pode encontrar padrões.
Pode sugerir caminhos.
Pode automatizar tarefas.
Pode ajudar uma equipe a trabalhar melhor.
Mas existe algo que ela não deve assumir no lugar das pessoas:
A responsabilidade pelas consequências de uma decisão.
Na minha visão, o melhor cenário não é uma empresa onde a Inteligência Artificial toma todas as decisões.
É uma empresa onde profissionais bem preparados utilizam a IA para analisar melhor, trabalhar com mais eficiência e tomar decisões mais conscientes.
A tecnologia pode sugerir.
Pode alertar.
Pode questionar.
Pode até apresentar uma alternativa que ninguém havia considerado.
Mas alguém precisa avaliar aquela informação e decidir se faz sentido para aquele contexto.
Talvez a pergunta mais importante, portanto, não seja:
"Quando a Inteligência Artificial vai errar?"
Ela vai.
A pergunta que toda empresa deveria fazer é:
"Estamos preparados para identificar o erro antes que ele se transforme em um problema?"
Porque utilizar Inteligência Artificial não significa confiar cegamente nela.
Significa aprender a trabalhar com ela.
(*) EDUARDO DREYER é graduado em Análise e Desenvolvimento de Sistemas, pós-graduado em Engenharia de Software e MBA em Inteligência Artificial e Automação de Negócios. Atua com tecnologia e transformação digital.
Os artigos assinados são de responsabilidade dos autores e não refletem necessariamente a opinião do site de notícias www.hnt.com.br
Clique aqui e faça parte no nosso grupo para receber as últimas do HiperNoticias.
Clique aqui e faça parte do nosso grupo no Telegram.
Siga-nos no TWITTER ; INSTAGRAM e FACEBOOK e acompanhe as notícias em primeira mão.
