Transcripción de la ponencia presentada en el Tercer Congreso
Chileno de Derecho y Tecnología, el día jueves 14 de mayo de 2026.
Quiero empezar contándoles una película. Pero es una película malísima. Tan mala que casi nadie la recuerda… y, sin embargo, profética en algunos aspectos.
En el año 1964 se estrena Robinson Crusoe en Marte. La premisa es exactamente la que ustedes imaginan: un astronauta cae en Marte y debe sobrevivir, como Robinson en una isla… pero en Marte.
Es ciencia ficción de bajo presupuesto. Hay algunas escenas que envejecieron mal, y otras… peor.
Pero hay un momento que no envejeció. Al final de la película, el protagonista es detectado a distancia. No por un ser humano que lo observa desde lejos. No por un perro que sigue su rastro. Es detectado por sensores autónomos que rastrearon sistemas planetarios buscándolo, sin mediación humana.
En 1964 alguien ya había pensado: podemos construir aparatos que encuentren personas por nosotros. Y el filósofo italiano Luciano Floridi alguna vez hizo notar que a veces la ficción funciona como un ensayo general de los problemas éticos y jurídicos que más tarde se vuelven reales.
Sesenta años después, esa escena dejó de ser ciencia ficción. Está en nuestra calle. Es la cámara que mira al peatón en la esquina. Es el lector que registra la placa patente del auto que pasa. Es el algoritmo que correlaciona rostros con bases de datos sin que nadie, en ningún momento, lo haya permitido conscientemente.
• • •
Mi pregunta, hoy, frente a ustedes, no es si la inteligencia artificial funciona en seguridad pública. La pregunta es qué desplaza la inteligencia artificial cuando funciona.
Y mi sospecha —que voy a desarrollar en los próximos minutos— es que estamos desplazando algo bastante más profundo que la vida privada. Estamos desplazando piezas del Estado de Derecho.
Voy a explicarlo en cinco partes.
Primero: el truco retórico de la palabra «seguridad».
Hay palabras que crecen tanto que devoran a otras. La palabra seguridad es, hoy, una palabra muy gorda.
Antes, seguridad significaba algo bastante concreto: que no me asalten al volver a casa, que el aeropuerto funcione, que el contrato se cumpla. Hoy, seguridad significa casi cualquier cosa. Significa cámaras. Significa control de fronteras. Significa identificación biométrica. Significa cruzar bases de datos sin avisarle a nadie.
Bustinduy (hoy ministro en España) lo dice con elegancia: en momentos críticos para el Estado, todo parece permitido en nombre de la seguridad. Y la procesalista Barona Vilar agrega algo que conviene anotar: cuando la inseguridad se convierte en clima permanente, lo que se altera es el equilibrio normativo.
¿Por qué? Porque empezamos a aceptar como normal lo que ayer era inaceptable o excepcional. Por ejemplo, que caminar por la calle implique ser identificado y seguido.
• • •
Segundo: ¿qué cambia, exactamente, con la inteligencia artificial?
A todos nos suelen ofrecer una explicación tranquilizadora: «La IA abre el camino al futuro, y ahora podemos hacer más cosas, se puede trabajar con más datos, más velocidad y más posibilidades«.
Pero es mentira. No es más de lo mismo.
Zygmunt Bauman dijo que el viejo panóptico de Bentham —esa torre desde la cual un guardia vigilaba a muchos— no había muerto. Había mutado. Había adquirido musculatura electrónica.
Estoy seguro de que se quedó corto, porque todavía supone que hay alguien mirando. Lo que tenemos hoy en seguridad pública no es eso.
Lo actual es un panóptico absoluto. Nadie nos mira. Nos procesan, nos registran. Y el procesamiento no tiene cansancio, no tiene parpadeos, no se distrae para tomar café. Es una mirada sin ojos y sin olvido.
El guardia humano olvidaba. La base de datos no. El guardia humano se aburría. La base de datos no. El guardia humano, alguna vez, dudaba. La base de datos nunca duda.
• • •
Tercero: la palabra más peligrosa del debate de estos temas no es «vigilancia». Es «eficiencia».
Eficiencia suena impecable. Suena moderna. Suena técnica. Suena, además, neutral —¿quién podría oponerse a la eficiencia?
Pero el procesalista brasileño Mendes de Almeida Júnior lo dejó dicho con claridad: las formalidades de los procedimientos no son burocracia, sino la realización práctica de las garantías constitucionales.
Cuando alguien diga «esto demora demasiado», «esto es papeleo», «esto se podría automatizar», es legítimo preguntarse: ¿qué garantía constitucional vamos a sacrificar exactamente para ganar diez minutos? ¿Hay presunción de inocencia cuando nos sigue y vigila un dron, sin autorización judicial? ¿Existe libertad de movimiento cuando las autopistas transmiten nuestra ubicación en tiempo real a agentes del Estado, a través de los servicios de empresas tecnológicas?
Porque eso es lo que está en juego. La eficiencia algorítmica no es gratis. Se paga. Y casi siempre se paga con la moneda más cara: la posibilidad de contradecir, de impugnar, de comprender lo que está pasando.
Una alerta algorítmica se convierte en sospecha. Una sospecha se convierte en medida intrusiva.
Y una medida intrusiva se ampara en una lógica de funcionamiento social que nadie está explicando del todo. Eso no es eficiencia. Es opacidad con buenas relaciones públicas.
• • •
Cuarto: la inversión probatoria que casi nadie nombra.
Pregúntense esto. En el Derecho Penal clásico, ¿quién tiene que probar qué?
El Estado tiene que probar la responsabilidad de las personas. El ciudadano se presumía inocente. Esa asimetría —el ciudadano protegido, el Estado obligado a justificarse— es una pieza fundacional del constitucionalismo moderno. ¡No es un detalle! Es la columna vertebral.
Ahora invertimos esa lógica. La infraestructura algorítmica opera por defecto. Captura por defecto. Retiene por defecto. Y el ciudadano debe construir su inocencia frente a las correlaciones de las máquinas.
Edward Snowden lo describió con una imagen: la vigilancia masiva es un censo infinito. Un censo que nadie autorizó, que nadie convocó, y del que nadie puede salir. La diferencia con el censo clásico es que el censo clásico era un evento. Empezaba y terminaba. Lo nuestro no termina nunca.
Entonces, estamos perdiendo algo raro y valioso: la posibilidad de equivocarnos y, a pesar de equivocarnos, seguir adelante con nuestros proyectos de vida.
La posibilidad de tener un mal día sin que ese mal día quede grabado. La posibilidad de cambiar de opinión política sin que cada opinión antigua te persiga. La posibilidad de ser, hoy, alguien que no eras hace cinco años.
Lo que les describo no es un lujo emocional. Es una condición jurídica de la libertad. Sin esa posibilidad no hay rehabilitación, no hay derecho al olvido, no hay reinvención biográfica, no hay segundas oportunidades.
• • •
Cuando ustedes caminan por la calle y son captados por una cámara con reconocimiento facial, nadie les pidió consentimiento. Cuando entregan su huella para sacar la cédula de identidad y esa huella, años después, alimenta un sistema biométrico de búsqueda, nadie les pidió consentimiento para el segundo uso. Cuando la patente de su auto queda registrada cien veces al día por lectores automáticos, nadie les pidió consentimiento.
La pregunta correcta no es si hubo consentimiento. La pregunta correcta es:
¿Quién diseñó este ecosistema dentro del cual vivimos, y cuándo adquirió legitimidad democrática?
Esa es una pregunta constitucional. Y, hasta ahora, la estamos eludiendo. ¿Cómo es que llegamos hasta aquí? ¿Y cuándo fue que dijimos que estaba bien?
• • •
Quinto: hacia dónde ir.
No quiero terminar sin dejarles algo concreto que me ronda hace tiempo y que no he visto formulado del todo. La llamaría —con licencia poética— doctrina de la opacidad ciudadana.
La idea es esta. Igual que el Estado tiene reserva de información en algunos ámbitos —secreto establecido por ley, seguridad nacional—, el ciudadano debería tener un derecho análogo. Un derecho a no ser legible por defecto. Un derecho a que la opacidad sea la regla, y la transparencia personal sea la excepción que el Estado justifica caso a caso.
Hoy es al revés. Hoy somos transparentes por arquitectura, y opacos por excepción.
• • •
Para finalizar, vuelvo a Robinson Crusoe. Volvemos a Marte.
Hay una dimensión simbólica que conviene apreciar. En la novela de Defoe, el héroe se aparta de la civilización y la civilización olvida que existe. Robinson, durante años, no es legible. Nadie lo busca, nadie lo encuentra, nadie sabe dónde está. Esa ilegibilidad es trágica, sí, pero también es una forma de libertad.
En la versión cinematográfica ya no es así. En Marte lo encuentran. En Marte la civilización lo persigue hasta un lugar remoto del sistema solar. La civilización, ahora, no olvida.
Y aquí está el detalle que quería compartir con ustedes.
Ese Marte es nuestra sociedad. No porque hayamos llegado al espacio. Sino porque la posibilidad de no ser encontrado, la posibilidad de moverse sin dejar rastro, la posibilidad de existir sin ser registrado… se está extinguiendo. Y no se está extinguiendo por una decisión democrática o, al menos, no de cara a la ciudadanía. No le estamos diciendo a la gente «la presunción de inocencia se acabó, así que a partir de ahora te vigilaremos permanentemente».
Se está extinguiendo por un devenir tecnológico alimentado por la ya obesa idea de «seguridad».
Y entonces, a las nuevas generaciones de juristas, les corresponde una tarea más difícil que la de las generaciones anteriores.
Las generaciones que escribieron las constituciones modernas tuvieron que pelearle el poder absoluto al monarca. Las generaciones siguientes tuvieron que pelear contra los arbitrios de los Estados totalitarios y las dictaduras. A ustedes, los jóvenes, les toca pelearle a algo más escurridizo:
A la comodidad. A la promesa de eficiencia. A la tentación de delegar el juicio humano en sistemas que no se cansan, no dudan y no olvidan.
Es una pelea menos heroica y, justamente por eso, más complicada —porque el adversario no tiene cara, y, además, porque usamos sus herramientas.
• • •
Si esta ponencia les deja algo, espero que sea una sola idea:
No todo lo técnicamente posible es jurídicamente admisible. Y muchas veces aquello que se nos presenta como más eficiente, más barato o más inteligente, en realidad obtiene esa eficiencia a costa de derechos y libertades fundamentales.
Las generaciones siguientes tendrán tecnologías mucho más poderosas que las nuestras. Precisamente por eso, su mayor ventaja no será solamente saber utilizarlas, sino ser capaces de reconocer y advertir cuándo esas tecnologías comienzan a cobrar demasiado caro.
Saber distinguir cuándo el precio del progreso se paga «en sangre» —en autonomía, en dignidad o en libertad— será una de las competencias cívicas más importantes del futuro.
Pero también lo será comprender que el Derecho no existe para contemplar pasivamente los excesos tecnológicos, sino para ponerles límites, corregir abusos y, cuando sea necesario, detenerlos.
Porque una sociedad democrática no se define por la tecnología que es capaz de utilizar, sino por los límites que es capaz de imponerle.