Uma empresa privada decide quem tem acesso ao modelo mais poderoso

Chegou o momento da IA que eu mais temia.

A Anthropic anunciou que não vai disponibilizar ao público o seu modelo Mythos Preview. Alegadamente, é poderoso demais.

Encontrou falhas de segurança com 27 anos num sistema operativo que corre em firewalls e em infraestrutura crítica.

Encontrou vetores de ataque no Linux Kernel e no FFmpeg, o codificador de vídeo que está embutido em quase todo o software que usas.

Vulnerabilidades que sobreviveram a décadas de revisão humana e a milhões de testes automáticos.

Pensa nisso por um momento.

Quando tens um modelo de IA capaz de invadir os sistemas operativos de que depende toda a nossa infraestrutura, o que fazes?

Entregá-lo a toda a gente? Nas mãos erradas, seria um desastre global.

Foi por isso que a Anthropic o deu apenas a um grupo selecionado de “bons da fita”:Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, a Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks.

Mas há milhares de organizações em todo o mundo cuja razão de existir depende da segurança informática, e ficaram de fora da lista.

O problema mais profundo é este: o open source vai acabar por equilibrar as coisas do ponto de vista técnico. Já estão a ser desenvolvidos modelos com um poder semelhante.

Mas pôr a funcionar um modelo deste nível custa muito compute.

Por isso, mesmo que exista um modelo aberto igualmente poderoso, só as organizações com muito capital vão conseguir usá-lo em larga escala.

A IA deixou de ser apenas uma ferramenta útil. Agora é capaz de mudar o equilíbrio de poder entre países, setores e pessoas.

E, neste momento, é uma empresa privada que decide quem pode exercer esse poder.

Dou por mim cada vez mais atraído pela ideia de uma quinta fora da rede, com galinhas, umas cabras, 2 burros e permacultura.

Afinal não é piada: não se consegue hackear um burro.

Mas para quem ainda corre em servidores:

O mais interessante nesta lista de “bons da fita” é que nunca te coube a ti questioná-la.