Se é seguro usar, decide a TI. Se é seguro depender, decides tu
O teu diretor de TI consegue dizer-te se a IA é segura de usar.
Só tu podes decidir se é seguro depender dela.
Este é o padrão que vejo em empresas europeias com 80 a 500 trabalhadores:
Pergunta-se à TI: “Podemos usar esta ferramenta de IA com segurança?”
A resposta está certa: “Sim, se a configurarmos bem, cifrarmos a ligação e gerirmos os controlos de acesso.”
Essa aprovação técnica passa a ser a decisão de negócio.
Mas nunca se perguntou à TI: “Se este fornecedor mudar os preços, descontinuar o modelo ou for alvo de uma intimação judicial, o que acontece às nossas operações?”
As duas decisões que se confundem:
Aprovação de segurança (domínio da TI)↳ Podemos usar isto com segurança?↳ A ligação está cifrada?↳ Integra-se com os nossos sistemas?
Propriedade estratégica (domínio do CEO)↳ Podemos depender disto a longo prazo?↳ Quem controla os preços e as atualizações do modelo?↳ Isto protege o nosso conhecimento competitivo ou deixa-o escapar?
Os diretores de TI estão sobrecarregados e são pragmáticos. Quando lhes pedem para avaliar IA, o caminho de menor resistência é “usar o que toda a gente usa”.
Isso torna-se um passivo quando 20 anos de conhecimento de processos da tua empresa passam por APIs que não controlas.
O que fazem as empresas que acertam nisto:
Separam as perguntas cedo.
Tarefas indiferenciadas (traduzir conteúdo público, resumir estudos): APIs públicas. Otimizar para a velocidade.
Conhecimento competitivo (comunicação com clientes, especificações de engenharia, relatórios internos): ser dono da infraestrutura.
A decisão não é “cloud pública vs. on-premise / cloud privada”.
É “Sobre o que é que podemos perder o controlo, e o que cria vantagem precisamente porque é nosso?”
Quando a liderança não faz esta distinção:
- Os pilotos de IA encalham na passagem à produção porque as equipas não confiam em resultados que não podem auditar
- Os custos crescem de forma imprevisível e transformam decisões de CapEx em dependências de OPEX
- As atualizações de modelo partem sistemas que funcionavam, sem aviso, e não podes congelar a versão que funcionava nem auditar o que mudou
- Nas conversas de saída percebe-se que a tua “transformação com IA” não acrescentou nada à avaliação, porque não és dono de nada
O quadro de decisão:
Antes de aprovar qualquer implementação de IA, pergunta:
1. Se este fornecedor mudar os termos ou os modelos amanhã, conseguimos continuar a operar?→ Se não, precisas de propriedade, não de aluguer.
2. Este sistema toca em conhecimento que cria vantagem competitiva ou em dados sensíveis?→ Se sim, pertence à tua infraestrutura.
3. Conseguimos explicar cada decisão deste sistema a auditores e clientes?→ Se não, estás a herdar responsabilidade sem controlo.
Eis o que a maioria das empresas não vê:
A segurança é um ponto de controlo. A dependência é uma decisão estratégica.
A tua equipa de TI pode verificar a conformidade SOC 2. Não pode garantir que a OpenAI não sobe os preços 300% no próximo ano, não descontinua o modelo de que os teus fluxos dependem nem é comprada.
São riscos reais. É assim que funcionam os mercados de software.
As empresas que estão a ganhar com isto não perguntam “Podemos confiar neste fornecedor?”
Perguntam: “Se esta relação mudar, e vai mudar, quem tem o controlo?”
Essa é a pergunta a que só a liderança pode responder.
Artigos relacionados
- Cada ferramenta de IA tem de passar num teste de três perguntasContinuidade, vantagem, responsabilidade. Três perguntas que decidem se uma ferramenta de IA fica numa API pública, num híbrido ou num sistema soberano.
- O modelo de negócio do teu fornecedor é o teu risco de negócioO manual de 200 páginas da Meta aprovava bots a namoriscar com crianças. Como avaliar receita, governação e jurisdição de um fornecedor antes de comprar.
- Trato os modelos de IA open source como pens USB desconhecidasUm scan a 2500 modelos do Hugging Face sinalizou 86 por licenças escondidas, ponteiros LFS e código com padrões de malware. Como verificar antes de carregar.