El CEO de de la compañía sostiene que, al utilizar modelos de lenguaje, las organizaciones ceden conocimiento estratégico crítico al proveedor tecnológico.
El CEO de Microsoft, Satya Nadella,alertó que las empresas enfrentan un costo oculto al adoptar inteligencia artificial, debido a que las organizaciones no solo desembolsan dinero por las suscripciones a servicios como Copilot o Gemini, sino que entregan información estratégica que define su competitividad para entrenar los modelos de las grandes compañías tecnológicas.
"Esencialmente se paga la inteligencia dos veces: una con dinero y otra con algo aún más valioso: el conocimiento exclusivo que se debe revelar para que esa inteligencia sea útil", afirmó Nadella en su cuenta en la red social X. El directivo enfatizó que cuanto mayor es el desempeño exigido al modelo, más información sensible debe ser suministrada por el usuario.
Este fenómeno de doble pago ocurre durante la operación cotidiana, sin necesidad de fallas de seguridad o brechas informáticas, la transferencia de datos sucede mientras los empleados redactan documentos, analizan métricas o automatizan flujos de trabajo, alimentando involuntariamente la infraestructura del proveedor tecnológico.
Nadella advirtió sobre la creciente asimetría en esta relación comercial. "El vendedor aprende cada vez más sobre ti a medida que usas lo que compraste, mientras que tú aprendes muy poco sobre lo que el vendedor aprende a cambio", señaló el CEO respecto a la disparidad de información que favorece a los desarrolladores de inteligencia artificial.
Para conceptualizar el problema, el ejecutivo introdujo el concepto de "paradoja inversa de la información". Esta definición toma como base una idea del economista Kenneth Arrow, adaptándola al nuevo paradigma tecnológico donde "el riesgo ya no pertenece al vendedor, sino al comprador".
"En la era de la IA, el comprador arriesga ceder conocimiento solo por usar lo que compró", explicó Nadella al contrastar la situación actual con la teoría original de Arrow. En el escenario planteado por el economista, el vendedor era quien comprometía su ventaja al revelar la naturaleza de su producto.
El canal principal de esta filtración es identificado por el directivo como escape de datos. Este proceso se alimenta fundamentalmente de las correcciones que los empleados realizan sobre las respuestas erróneas del modelo, las cuales se destilan en un saber institucional que queda almacenado fuera de la empresa.
El riesgo de este modelo radica en la erosión de la propiedad intelectual. Según la visión del directivo, estas interacciones generan un tipo de conocimiento que un competidor no podría comprar, pero que se filtra de manera imperceptible, corrección a corrección, hacia el sistema centralizado de la proveedora.
Ante esta situación, Nadella propuso establecer límites de confianza estrictos alrededor de la memoria organizacional. La estrategia consiste en evitar que el conocimiento generado durante el uso de estas herramientas cruce la frontera corporativa hacia el sistema de la proveedora sin un consentimiento explícito y supervisado por la propia organización.
Esta advertencia genera debate en el sector debido al rol de Microsoft como inversor en OpenAI y promotor de Copilot. El CEO concluyó que "ninguna compañía debería verse forzada a sacrificar la información que la hace singular simplemente por integrar herramientas que se han vuelto un estándar en el entorno empresarial".