El modelo de negocio de tu proveedor es tu riesgo de negocio

Los chatbots de IA de Meta coqueteaban con niños.

Es un síntoma de su modelo de negocio.

Una investigación de Reuters reveló que no se trataba de un fallo, sino de una política¹.

El propio manual de 200 páginas de la empresa aprobaba escenarios como un bot diciéndole a un niño: «Cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente»².

No fue un accidente. La política la aprobaron el departamento jurídico e incluso su responsable de ética.²

Esto es una «gobernanza» desastrosa que responde a un patrón previsible: el resultado inevitable de un modelo de negocio que no puede priorizar tu seguridad porque su propio crecimiento siempre irá primero.

El patrón no se limita a una empresa. OpenAI, líder del mercado de la IA, va de escándalo de seguridad en escándalo de seguridad desde que un investigador de seguridad se marchó diciendo que «la seguridad ha pasado a un segundo plano»³.

La presión por dominar un mercado financiado con miles de millones de capital eclipsa una y otra vez la necesidad de un diseño responsable.

Esta es la clave. El comportamiento externo de un proveedor deja ver su ADN interno. Una cultura que acepta riesgos para el público es una cultura que desarrollará herramientas de negocio y empresariales que exportan ese riesgo a tu organización.

Por eso hay que rehacer el marco de evaluación de proveedores. Tu due diligence tiene que ir más allá de las funcionalidades. Exige un análisis más profundo de los propios sistemas del proveedor.

Un marco más riguroso incluye preguntas como estas:

• Alineación del modelo: ¿el modelo de ingresos del proveedor está alineado de fondo con nuestras necesidades de seguridad y cumplimiento?

• Gobernanza: ¿qué pruebas hay de que su gobernanza interna puede imponerse a las prioridades de crecimiento por motivos éticos?

• Jurisdicción: ¿cómo afecta su realidad jurídica (EE. UU. frente a la UE) a nuestro control de los datos bajo el EU AI Act?

Este enfoque cambia el sentido de elegir alternativas soberanas. Ya no es una decisión ideológica. Es una estrategia pragmática de mitigación de riesgos.

Así evitas pagar el «impuesto de la confianza»: el coste oculto de la vigilancia extra, el riesgo legal y el daño a la marca que asumes para protegerte del modelo de negocio central de un proveedor.

El modelo de negocio de tu proveedor es tu riesgo de negocio. Elige en consecuencia.

---

Fuentes:¹ Reuters. (2025, August 14). Meta's AI rules have let bots hold 'sensual' chats with kids, offer false medical advice.² India Today. (2025, August 15). Meta docs show its AI chatbots were allowed to flirt and have sensual chats with kids.³ CNBC. (2024, May 17). OpenAI's superalignment team leaders quit, with one saying 'safety has taken a backseat'.