Umas centenas de pessoas decidem o que a IA diz ao mundo. Modelos abertos isolam os erros

Umas centenas de pessoas decidem o que a IA diz ao resto do planeta.Mesmo os mais nobres de nós perdem o discernimento.

Às vezes aos poucos, às vezes de repente e para sempre.

Uns entram em seitas e só encontram a saída anos depois.Outros nunca acordam.

Vemos algo que os outros não veem. Faz-nos sentir importantes, especiais.

E depois deixamos de verificar se é verdade.

Na maior parte das vezes, o estrago fica pequeno. Nós próprios. Uma pessoa. Uma família. Uma empresa.

Mas quanto maior o poder, maior o estrago quando o discernimento falha.

Quando uma pessoa de discernimento turvo gere uma casa, sofre uma família.Quando um pequeno grupo de discernimento turvo gere os sistemas que todos usam, sofremos todos.

A história está cheia destes episódios. Cada geração carrega cicatrizes da última vez que um pequeno grupo teve a certeza de que tinha razão.

Voltemos à IA.

A maioria de nós usa modelos da Anthropic, da OpenAI e da Google. A IA deles passa a visão do mundo dessas poucas centenas de pessoas a todos nós. A ideia que têm do bem e do mal chega a cada conversa, a cada resposta, a cada pessoa, todos os dias.

Os nossos filhos crescem dentro disto. Fazem os trabalhos de casa com estes sistemas. Fazem-lhes as perguntas que não se atrevem a fazer-nos. Seja qual for a visão do mundo que está no modelo, infiltra-se na deles. Em silêncio. Ninguém nos perguntou nada.

Nunca aceitaríamos que uma só empresa escrevesse todos os manuais escolares do planeta. Com a IA estamos a fazer exatamente isso, e com algo muito mais íntimo do que manuais escolares.

Não é preciso má intenção. Basta a falibilidade.

É por isso que a diversidade nos LLM open source e a IA soberana importam tanto. Quando o discernimento de um grupo se turva, e um dia vai turvar-se, o nevoeiro fica local. E uma escola, uma empresa, um país pode escolher e ajustar os seus modelos como escolhe os manuais, e substituí-los quando falham.

O momento ajuda. Os modelos abertos recuperaram terreno. Em vários benchmarks estão lado a lado com os laboratórios fechados, às vezes acima. Daqui a um ano, a pergunta pode bem ser porque é que alguém ainda paga por uma caixa negra.

Isto torna-se concreto no momento em que a IA sai da janela de chat e entra nos teus sistemas. Extração de documentos, pesquisa interna, classificação, redação de rascunhos: os casos de uso com retorno a sério já correm bem em modelos abertos, alojados onde tu decides.

Essa opção existe. Aproveita-a.