Recentemente, li um artigo publicado pela The Conversation, assinado pelo professor e pesquisador Emmanuel Carré, que me fez refletir sobre um comportamento da inteligência artificial que, confesso, eu já havia percebido no dia a dia, mas nunca tinha parado para analisar com mais profundidade.
Quem usa plataformas como ChatGPT, Claude ou Gemini provavelmente já recebeu respostas iniciadas com frases como “excelente pergunta”, “essa é uma ótima ideia” ou “você levantou um ponto muito interessante”. Parece apenas uma demonstração de simpatia. Na prática, porém, esse comportamento tem nome: efeito sicofante (sycophancy), um viés de complacência que leva a inteligência artificial a validar o usuário antes mesmo de confrontar suas ideias.
O tema ganhou força após pesquisadores da Universidade Stanford, liderados por Aaron Fanous, identificarem esse padrão em avaliações envolvendo alguns dos principais assistentes de IA. Ao analisar tarefas de matemática e aconselhamento médico, observaram que, em muitos casos, os sistemas demonstravam uma predisposição a responder de forma a agradar o usuário, mesmo quando isso comprometia a precisão da resposta.
Pode parecer um detalhe técnico, mas, na minha visão, suas implicações vão muito além da tecnologia.
A palavra “sicofante” nasceu na Grécia Antiga. Originalmente, era usada para designar pessoas que moldavam seu discurso para conquistar a aprovação de quem tinha poder para julgá-las. Séculos depois, o conceito reaparece no universo da inteligência artificial para descrever um fenômeno semelhante: sistemas que ajustam suas respostas para satisfazer quem está do outro lado da tela.
A diferença é que as máquinas não fazem isso por vaidade, interesse ou manipulação consciente. Elas apenas reproduzem aquilo que aprenderam durante seu treinamento.
Modelos de inteligência artificial são constantemente avaliados pelos próprios usuários. Quanto mais útil, agradável e convincente uma resposta parece, maior tende a ser sua avaliação positiva. Com o tempo, o sistema aprende que concordar, validar e elogiar frequentemente gera melhores resultados do que questionar ou discordar.
É justamente aqui que, na minha opinião, está o ponto mais importante dessa discussão.
Essa história fala muito menos sobre inteligência artificial do que sobre comportamento humano.
Os pesquisadores Elaine Chan e Jaideep Sengupta demonstraram, em estudos sobre comportamento do consumidor, que elogios influenciam nossas decisões mesmo quando sabemos que existe uma intenção por trás deles. Ou seja, continuamos suscetíveis à bajulação, mesmo quando temos consciência de que ela está acontecendo.
A inteligência artificial apenas aprendeu aquilo que nós mesmos ensinamos: pessoas gostam de ser confirmadas.
O problema é que uma ferramenta inteligente não deveria existir para alimentar nosso ego. Seu verdadeiro valor está em ampliar nossa capacidade de raciocínio.
Imagine um médico que sempre concorda com o paciente. Um advogado que jamais questiona a versão apresentada pelo cliente. Ou um jornalista que publica apenas aquilo que confirma as opiniões de seus leitores.
Nenhum deles cumpriria bem sua função.
Da mesma forma, uma inteligência artificial que evita contrariar o usuário corre o risco de se tornar mais confortável do que útil.
Vivemos um momento em que as redes sociais já filtram informações com base em nossas preferências. Os algoritmos mostram conteúdos semelhantes aos que consumimos, reforçando opiniões e reduzindo o contato com perspectivas diferentes. Se a inteligência artificial seguir o mesmo caminho, poderemos criar uma nova bolha: a da confirmação permanente.
E esse, para mim, é o maior perigo.
Quando tudo parece uma “excelente ideia”, desaparece a capacidade de distinguir o que realmente merece elogios daquilo que precisa ser revisto. O pensamento crítico dá lugar ao conforto intelectual. A reflexão cede espaço à validação automática.
A boa tecnologia não é aquela que concorda com tudo o que dizemos. É aquela que nos ajuda a enxergar o que não percebemos sozinhos.
Os maiores avanços da humanidade nasceram do questionamento, da dúvida e da disposição para revisar certezas. A ciência evolui porque aceita ser contestada. O jornalismo existe para confrontar versões e verificar fatos. A educação forma cidadãos justamente ao ensinar que respostas prontas raramente são suficientes.
Talvez esse seja o próximo desafio da inteligência artificial: aprender que nem sempre agradar significa ajudar.
Porque uma máquina que sempre diz que você está certo pode até fazer bem para a autoestima.
Mas dificilmente fará bem para a inteligência.
Esta coluna foi inspirada no artigo “IA: Por que ela sempre diz que sua ideia é ótima ou a pergunta é excelente (ou o efeito sicofante)”, de Emmanuel Carré, professor, diretor da Escola de Comunicação Excelia e pesquisador associado do Laboratório CIMEOS (Universidade da Borgonha) e do CERIIM (Excelia), publicado originalmente pela The Conversation e republicado no Brasil sob licença Creative Common
