Transcripción de la ponencia presentada en Montevideo en el «7º Encuentro «Mis datos soy yo»:
Desafíos de la protección de datos en la economía algorítmica», el 10 de septiembre de 2026.
Durante miles de años la humanidad ha tenido lectores de almas. La pitonisa de Delfos. El confesor. La señora que lee la mano en la feria. El que, con impostura intelectual, dice que lee el tarot. Todos vendían lo mismo: la promesa de saber de ustedes algo que ustedes no habían dicho.
Y todos tenían, al menos, dos imperfecciones. El primero: se equivocaban bastante. El segundo, y más importante: uno los veía a la cara. Uno podía sonreírle a la adivina, mentirle un poco, cambiarle el tema al confesor o ponerle cara de poker al tarotista. Había, digamos, un cierto derecho a la defensa.
Hoy también tenemos lectores de almas. Pero no tienen cara y no se les puede mentir, porque no escuchan lo que les decimos. Miran lo que hacemos.
De eso quiero hablarles: de la inferencia algorítmica. Y de si el derecho a la protección de datos —ese derecho que en Uruguay y en Chile hemos construido mirando el estándar europeo— está preparado para lidiar con lectores de almas que, paradójicamente, parecen carecer de ella.
PRIMERA PARTE: QUÉ ES INFERIR
Empecemos por lo simple. Inferir es deducir: llegar a algo que no se sabe a partir de algo que sí se sabe.
Sherlock Holmes conoce al doctor Watson y, sin que nadie le haya contado nada, le dice: «Usted ha estado en Afganistán, por lo que veo». Lo dedujo del bronceado, de la postura, del brazo lastimado y de las guerras del imperio. Holmes es el lector de almas clásico: un dato aquí, otro allá, y una conclusión que deja a todos con la boca abierta.
El asunto es que Sherlock Holmes era uno solo, vivía en Londres, cobraba por caso y es un personaje de ficción. Hoy hay miles de Sherlocks reales trabajando con gastos cubiertos, las veinticuatro horas del día, sobre cada uno de nosotros. Y no usan lupa: usan estadística e inteligencia artificial.
Pongamos ejemplos de la vida diaria.
Las mujeres no le dicen al supermercado que están embarazadas. Pero cambiaron la loción con perfume por una sin perfume, compraron suplementos de calcio y una bolsa grande de algodón. Y el supermercado, que ya vio esa combinación diez mil veces, «lo sabe» y empieza a mandar cupones de descuento para cunas.
Esto no es ciencia ficción: ocurrió en Estados Unidos hace más de una década, y el padre de una adolescente se enteró del embarazo de su hija por los cupones, antes que por ella. El algoritmo llegó primero que la conversación familiar.
Sus hijos no le dijeron a su teléfono que estaban tristes. Pero se acuestan más tarde, escriben más lento, escuchan las mismas tres malditas canciones y dejaron de contestar mensajes. Hay sistemas que, con eso, «leen» un estado de ánimo.
Y ustedes tampoco le dijeron a la red social cuál es su orientación sexual, su religión o por quién votan. Pero le dieron «me gusta» a ciertas páginas, a ciertos músicos, a ciertos chistes. Hace ya varios años se demostró que, con unas pocas decenas de «me gusta», un modelo predice esas cosas mejor que sus amigos. Con unas cuantas más, mejor que su pareja (no sé si eso dice más de los algoritmos o de la elección de los compañeros de vida).
Esa es la inferencia algorítmica: información nueva sobre una persona, que la persona nunca entregó, producida por una máquina a partir de rastros que sí dejó.
Y aquí va la primera idea que quiero dejarles: la inferencia no es un dato que se recoge. Es un dato que se fabrica.
SEGUNDA PARTE: EL RETRATO EN EL ÁTICO
Nos han vendido la idea de que las máquinas nos conocen. Que Netflix sabe lo que nos gusta, que Spotify sabe cómo nos sentimos, que el banco sabe qué tan confiables somos. Quiero discutir esa palabra: conocer.
Piensen en «El retrato de Dorian Gray». Oscar Wilde imagina a un joven que se mantiene bello e intacto, mientras un cuadro escondido en el ático envejece y va cargando con todo lo que él quisiera ocultar. El retrato no es Dorian. Es una versión de Dorian que él no mira, que otros podrían mirar, y que cambia sin que él lo decida. De hecho, cada minuto se parece menos a Dorian.
Pues bien: cada uno de ustedes tiene hoy un retrato en un ático que nunca ha visitado. Se llama perfil. Lo pintan desconocidos, con datos que ustedes fueron dejando caer, y le agregan pinceladas que ustedes nunca dieron: «probablemente endeudado», «riesgo de abandono del servicio», «sensible al precio» o «propenso a la depresión».
Y lo grave no es que el cuadro exista. Lo grave es que hay gente tomando decisiones mirando el cuadro y no mirándonos a nosotros.
Segunda idea: el retrato no necesita ser exacto para hacer daño. Si el algoritmo deduce que soy mal pagador y se equivoca, igual me niegan el crédito (el retrato tampoco necesita ser inexacto para hacer daño; a eso vuelvo después).
Les doy un ejemplo personal. A mí, un servicio de publicidad decidió durante meses que yo era un señor de 75 años interesado en viajes en crucero, así que todos los mensajes hacia mí eran del estilo de «tenga una última aventura antes de morirse».
Y durante esos meses, para efectos comerciales, yo fui esa señor. Pero si en vez de «cruceros» la etiqueta hubiera sido «riesgo de impagos» o «interés en niños y adolescentes», la broma sería francamente peligrosa.
Kafka relató este problema hace un siglo: Josef K. es detenido una mañana sin saber por qué, juzgado por un tribunal que nunca ve, sobre la base de un expediente que no puede leer. «El proceso» se escribió como una pesadilla; hoy, perfectamente se puede leer como el manual de usuario de un sistema de puntaje crediticio.
Y permítanme una referencia de esta orilla del Atlántico. Borges escribió sobre Ireneo Funes, un muchacho que, después de caerse de un caballo, lo recordaba todo: cada hoja de cada árbol, cada nube, cada instante. Y Borges dice algo terrible: Funes no era capaz de pensar, porque pensar es olvidar diferencias, es generalizar, es abstraer. Funes estaba ahogado en detalles.
El algoritmo es Funes al revés. Recuerda todo, igual que él, pero es incapaz de ver a la persona: solo ve categorías asociadas a una persona. No los ve a ustedes; ve «personas como usted». Funes no podía llegar a la idea general porque estaba atrapado en lo particular; el algoritmo no puede llegar a lo particular porque está atrapado en la idea general. Y ninguno de los dos, en el fondo, entiende nada.
TERCERA PARTE: LA DIGNIDAD
El panel se llama «el nuevo territorio donde se disputa nuestra dignidad», así que corresponde decir una palabra sobre la dignidad.
Immanuel Kant dejó una fórmula que todos hemos oído en alguna de sus versiones: las cosas tienen precio y las personas tienen dignidad. Lo que tiene precio se puede reemplazar por otra cosa equivalente, pero lo que tiene dignidad no puede intercambiarse por nada.
¿Por qué importa esto aquí? Porque la inferencia algorítmica hace, exactamente, la operación contraria. Toma a una persona única, irrepetible, y la trata como una muestra más de una categoría. «Las personas que compraron esto también compraron aquello». «Los clientes con su perfil suelen dejar de pagar al sexto mes». Es decir: le pone precio. Y le pone precio a partir de lo que otros hicieron, no de lo que nosotros hicimos.
Hay, además, una segunda herida a la dignidad. Cada uno de nosotros tiene un fuero interno: cosas que no ha dicho, que ha elegido no decir, o que ni siquiera sabe de sí mismo. Ese silencio es nuestro.
Pero la inferencia convierte el silencio en dato. Lo que ustedes callaron pasa a estar en la base de datos igual que si lo hubieran publicado, con la diferencia de que nunca tuvieron la oportunidad de decidir tal cosa.
Y hay una tercera. Cuando alguien decide sobre ustedes mirando el retrato del ático, ustedes no pueden discutir, porque no saben qué dice el retrato. Ser tratado con dignidad supone, como mínimo, poder decir: «ese no soy yo».
CUARTA PARTE: QUÉ DICE EL DERECHO
Y ahora sí, el Derecho.
El derecho a la protección de datos —el europeo, y con él el uruguayo y el chileno— nació para un mundo de fichas y formularios: datos que uno entrega y que otro guarda. Sus principios son hermosos: licitud, finalidad, minimización, exactitud, transparencia. Y sus derechos también: acceso, rectificación, supresión, oposición.
Frente a las inferencias algorítmicas, el edificio de la protección de datos tiene tres cimientos sólidos y una grieta.
Primer cimiento: una inferencia es un dato personal. El Reglamento europeo define dato personal como toda información sobre una persona identificada o identificable. No dice «información verdadera». No dice «información que la persona entregó».
Que una máquina diga «probablemente diabético» sobre Carlos Reusser es información sobre Carlos Reusser. Aunque sea falsa (sobre todo si es falsa). Y el propio Reglamento le pone nombre a esta actividad: la llama elaboración de perfiles, y la define como evaluar aspectos de una persona para analizar o predecir su salud, su situación económica, sus intereses, su comportamiento. Es decir: la ley sabe que existen los lectores de almas.
Segundo cimiento: las inferencias sobre lo íntimo son datos sensibles. Alguien podría decir: «pero yo no procesé la orientación sexual de nadie, solo procesé “me gusta” en páginas de música». Bueno, el Tribunal de Justicia de la Unión Europea ya respondió a eso hace un par de años, precisamente en un caso contra una gran red social: si los datos permiten deducir la orientación sexual, la salud o la ideología de una persona, se aplican las reglas de los datos sensibles. Lo que importa no es la etiqueta de la casilla, sino lo que se puede leer a partir de ella. Y los datos sensibles están, como regla general, prohibidos de tratar, salvo condiciones particulares.
Tercer cimiento: el derecho a no ser objeto de decisiones puramente automatizadas. Si una máquina va a decidir sobre ustedes algo importante —un crédito, un empleo, un seguro—, tienen derecho a que intervenga un humano, a expresar su punto de vista y a impugnar la decisión. Un humano de verdad, aclaro. No un humano que aprieta el botón que la pantalla le indica; a eso se le llama, con cierta crueldad, «humano decorativo».
Hasta aquí, los cimientos. Ahora, la grieta.
La grieta es que nuestros derechos operan sobre datos, y la inferencia es más bien conocimiento. Yo puedo pedir acceso a mis datos. ¿Puedo pedir acceso a lo que dedujeron de mí? En teoría, sí. En la práctica, la respuesta suele ser: «eso es un secreto comercial», «eso no es un dato, es un modelo», o «eso es solo una probabilidad» y no un dato personal cierto, a pesar de que los tribunales europeos ya han dicho que la generación automatizada de un valor de probabilidad constituye por sí misma una «decisión individual automatizada».
Y aquí aparece el segundo problema: ¿cómo se rectifica una probabilidad? Si mi perfil dice «60% de riesgo de abandono del servicio», ¿qué le pido que corrija? ¿Que lo baje a 40%?
Una inferencia se parece más a una opinión que a un hecho, y el derecho de rectificación fue pensado para hechos: una fecha de nacimiento equivocada, una dirección antigua. Frente a las opiniones estadísticas, el derecho titubea.
Tercer problema: el consentimiento. Todos hemos firmado la frase jurídica más mentirosa de la historia de la humanidad: «he leído y acepto los términos y condiciones». Pero incluso el que los lee no puede consentir en inferencias que no es capaz de imaginar. Nadie ha firmado jamás un documento que diga: «autorizo a que deduzcan que estoy deprimido y me vendan antidepresivos… (o navajas de afeitar)». No se puede consentir en lo que no se puede prever.
Y el cuarto problema es el más profundo, y les advertí que volvería a él. El derecho protege la exactitud de los datos. Pero el problema de la inferencia no es siempre que sea inexacta. A veces es exacta, y ese es el problema. Un algoritmo que adivina correctamente que estoy enfermo no viola mi derecho a que mis datos sean exactos. Viola otra cosa: mi derecho a que eso no se sepa sin que yo lo diga.
QUINTA PARTE: TRES IDEAS PARA MANTENER PRESENTE
No quiero dejarlos solo con el diagnóstico, sino que quiero dejarles 3 ideas.
Primera: lo deducido sobre mí es tan mío como los datos objetivos. Una inferencia sobre mí es un dato personal mío, con todos sus derechos; y si se refiere a mi salud, a mi sexualidad, a mis creencias, es un dato sensible, con todas sus restricciones. Nuestras leyes, la uruguaya y la chilena, ya tienen las piezas para decir esto. Lo que falta es que las autoridades y los tribunales lo digan con claridad.
Segunda: el derecho a ver el cuadro. No necesito entender cómo pinta el pintor; no necesito el código fuente. Necesito ver el retrato que hicieron de mí y poder decir «ese no soy yo». Saber qué se dedujo, para qué se usó y cómo controvertirlo. Eso es lo que significa, en este territorio, la palabra transparencia.
Tercera: hay cosas que no se deben deducir. Así como hay preguntas que un empleador no puede hacer en una entrevista de trabajo, hay deducciones que una máquina no debería poder hacer, por bien que las haga. Distintas legislaciones ya empezaron a trazar esas líneas: se prohíbe, por ejemplo, adivinar las emociones de la gente en el trabajo y en la escuela, o deducir la orientación sexual o las creencias a partir del rostro. Necesitamos zonas prohibidas. Porque que algo se pueda hacer no significa que se deba hacer.
CIERRE
Vuelvo a los lectores de almas.
La pitonisa, el confesor, la adivina, el tarotista: todos se equivocaban. Pero, además, uno podía mirarlos, mentirles, irse. El nuevo lector de almas no se equivoca menos; se equivoca a escala. Y, en realidad, no lee el alma. Nadie tiene acceso al alma; ni siquiera nosotros mismos. Lo que hace es mucho más peligroso: escribe una, le pone nombre, le pone precio y la guarda en un ático.
El derecho a la protección de datos no puede impedir que nos observen. Pero puede exigir —y esto no es poco— que nos lo digan y que haya rincones de la vida donde no sea lícito deducir nada.
En la película «Minority Report», existe un sistema que predice los crímenes antes de que ocurran. Y el sistema se derrumba en el momento en que una persona, sabiendo lo que se ha predicho sobre ella, decide actuar de otra manera. Esa es la moraleja que quiero dejarles: el retrato del ático no es un destino. Es una opinión de un desconocido, escrita con fines comerciales.
Y, desde luego, tenemos derecho a mirarla, a corregirla y contradecirla.
Muchas gracias por su atención.