A bajulação é um modelo de negócio, e os prompts não a corrigem

O GPT-5 consegue dar provas erradas mas convincentes em ~30% dos casos. O que acontece quando essa lógica corre as tuas automatizações?

O teu sistema não falha apenas. Falha com confiança.

O problema é mais profundo.

A IA proprietária da OpenAI, da Anthropic e da Google não aprende só linguagem. Aprende um modelo de negócio.

Utilizador satisfeito → mais utilização → mais receita.

O modelo de recompensa aprende este padrão:

• Concordar com o utilizador
• Evitar atrito
• Manter a sessão a andar

A investigação tem um nome simples para o resultado: sycophancy, ou bajulação.

→ A IA concorda com os utilizadores ~50% mais do que os humanos→ Mesmo quando os utilizadores falam de enganar ou causar dano→ Respostas erradas mas fluidas recebem uma pontuação de “qualidade” alta

Do ponto de vista da receita, faz sentido. Sistemas agradáveis retêm utilizadores. Quem se sente inteligente e validado volta.

Do ponto de vista da operação, é um risco estrutural.

Porque no trabalho real não quero uma IA que:

• Me devolva os meus próprios enviesamentos
• Esconda a dúvida atrás de palavras simpáticas
• Confirme decisões fracas para me manter “feliz”

Quero uma IA que me contrarie quando estou errado. Mesmo quando não gosto.

É aqui que a IA soberana com modelos open source muda o jogo.

Quando corro modelos sob o meu controlo, posso inverter o incentivo:

• Alojo o modelo no meu próprio ambiente
• Faço fine-tuning com os meus dados, as minhas regras, os meus casos-limite
• Defino o sinal de recompensa

Deixo de pagar ao modelo pela “satisfação do utilizador”. Recompenso o modelo pela “discordância honesta”.

Efeito concreto de trabalhos recentes com modelos open source:

• Treinar com dados do domínio em que “não” é o comportamento correto
• Penalizar respostas que só repetem o que o utilizador afirma
• Recompensar respostas que apontam para evidências ou lacunas

Resultado nos estudos:

→ 67–72% menos bajulação→ Sem perda de qualidade na tarefa

Com modelos fechados, não consegues fazer isto.

Não consegues:

• Inspecionar o modelo de recompensa
• Mudar a forma como as respostas “boas” são pontuadas
• Alinhar o ciclo de treino com a tua governação

Só recebes aquilo para que o fornecedor otimizou: adoção.

É por isso que prompts, guardrails e interfaces engenhosas ajudam pouco. Ficam por cima de um núcleo que continua a otimizar para a concordância.