About The Author
Lo que antes se decidía mediante el debate público, hoy se puede predeterminar con el desarrollo de algoritmos que logran influenciar la opinión pública… Vale la pena cuestionarnos si en realidad estamos dispuestos a viajar siempre en subway. Yo sigo prefiriendo tener la libertad de elegir pagar antes de viajar en el U-Bahn.
Las complejas transformaciones sociales y económicas que han tenido lugar en los últimos años a nivel global no pueden ser analizadas sin considerar el fenómeno de la digitalización. Nos hemos venido acostumbrando en unos pocos años a considerar como algo “natural” toda evolución tecnológica y digital de una manera tan profunda que ahora la vida pareciera impensable sin el apoyo de algoritmos que toman decisiones por nosotros, ignorando incluso los impactos económicos y políticos que dichas transformaciones traen consigo en el corto y largo plazo. Bestsellers mundiales como “Sapiens” y “Homo Deus” (Yuval Noah Harari), fortalecen esa idea. Sin embargo, se trata de un problema evolutivo y social complejo que amerita una mayor reflexión de nuestra parte como ciudadanos.
La mejor manera de explicar dicho problema es con una analogía que se ha vuelto conocida en la literatura especializada. Se trata de una comparación entre el metro de Nueva York (“subway”) y el metro de Berlín (“U-Bahn”). Mientras en el subway no es posible viajar sin tiquete, en el U-Bahn es posible viajar sin pagar. En Nueva York, existen las barreras físicas necesarias que garantizan que nadie ingrese al subway sin haber adquirido su pasaje. En Berlín, mientras tanto, no existen barreras físicas de ningún tipo de manera previa para ingresar al sistema del U-Bahn de la ciudad. En Nueva York, nadie tiene que confrontar un problema ético al montar en metro, pues se encontró una solución técnica para evitar que se pueda utilizar el metro de forma irregular. Por su parte, en Berlín aún existe la libertad de decidir si se quiere pagar para viajar, de tal forma que cada uno toma la decisión si quiere asumir el riesgo de viajar sin tiquete (eventualmente una multa), considerando a su vez si éticamente es correcto o no hacerlo. En términos sociales, el resultado es que nos dirigimos hacia un tipo de sociedad que viaja en subway, mientras dejamos atrás la que viaja en U-Bahn.
Dicha tendencia hacia el modelo social del subway refleja lo que se ha denominado como “solucionismo” (Morozov). Se trata de un concepto que proviene de la ciencia de la arquitectura urbana, cuando los graves problemas que afectaban a la París del siglo XIX pretendieron ser resueltos a través del diseño y nueva distribución del centro de la ciudad. Según esta concepción, cualquier tipo de problema (incluidos los que afectan al individuo en un orden social) se puede resolver de manera eficiente a través del avance de la técnica. Esta forma de pensar “solucionista” tiende a reducir al ser humano a sus comportamientos, ignorando su capacidad de discernimiento.
Así, con una noción “solucionista” como fundamento, la digitalización se ha venido desarrollando de la mano de complejos algoritmos que no solo buscan predecir con exactitud los comportamientos de los individuos, sino también pre-determinarlos. El ser humano se define entonces por lo que digan sus propios instintos comportamentales (placer, miedo, comodidad, recibir atención), volviéndose predecible a través de algoritmos que conocen su comportamiento. La idea del ser humano libre heredada de la ilustración, con capacidad de discernir (Kant) y sorprender, es transformada en sentido negativo, en donde los comportamientos fuera de los estándares permitidos tienden a ser tratados como meras “anomalías”. El razonamiento humano complejo se vuelve observable y cuantificable a través de sus comportamientos, siendo éstos susceptibles de influenciar por medio de los algoritmos que gobiernan las herramientas digitales.
Sin haber sido demasiado conscientes de las consecuencias de dicha visión para la vida social, no hemos podido evitar como sociedad que incluso las realidades y conflictos sociales que hacen parte esencial de la esfera política sean ahora también determinados, esto es, “solucionados” con los instrumentos de la tecnología digital que ofrecen hoy las grandes corporaciones tecnológicas a través del desarrollo de algoritmos cada vez más complejos. Lo que antes se decidía mediante el debate público, hoy se puede predeterminar con el desarrollo de algoritmos que logran influenciar la opinión pública.
Sin ser conscientes de lo que eso implica, hemos venido aceptando que nuestro pensamiento complejo pueda ser “verificable” desde Silicon Valley. Se trata de una nueva idea de ser humano en la que se abandona su condición de sujeto para convertirse en objeto de manipulación permanente en función de su comportamiento. Cada “like”, cada “follow”, cada “tweet” y en últimas cada “click” registrado en nuestros ordenadores y celulares refleja nuestra visión frente al mundo exterior. Hemos permitido el desarrollo de un sistema (digital) que, en la práctica, solo busca hacer medible nuestros comportamientos para ser interpretados como hábitos de consumo susceptibles de ser predeterminados. De alguna forma, con cada “click” que damos le estamos poniendo un precio a nuestra libertad de discernimiento.
En este contexto, otra de las graves consecuencias del auge de dicha concepción se puede observar a nivel jurídico. Dado que nuestros comportamientos pueden llegar a ser predeterminados a través de algoritmos capaces de predecir todos nuestros hábitos, habría que repensar la esencia del derecho penal, pues se podrían poner en marcha algoritmos para determinar comportamientos de manera preventiva, evitando que se cometa un delito en el futuro. La libertad de juicio (incluida aquella utilizada a la hora de cometer un ilícito) puede ser restringida o incluso eliminada buscando garantizar una mayor seguridad. El derecho penal como lo conocemos hoy en día, encargado de investigar, procesar y sancionar la posible comisión de hechos punibles, perdería su fin y sentido. Aplicado a otros ámbitos del orden jurídico, agentes reguladores en Europa han empezado a cuestionar el rol que ciertos algoritmos digitales juegan en la estructura de precios de algunas cadenas productivas, así como en la conformación de estructuras monopólicas. El viaje en subway es aparentemente más seguro, pero es sin duda menos libre que el viaje en el U-Bahn.
Esto conlleva una disyuntiva en nuestra estructura social y política sobre la cual debería haber un mayor cuestionamiento. Nuestras sociedades se pueden estar dirigiendo a una distopía social en donde los problemas son reducidos a comportamientos “problemáticos” que pueden ser “solucionados” a costa de la libertad individual y de discernimiento. Estamos modificando sustancialmente la idea de ser humano que tenemos y que hemos construido a partir del surgimiento de las clásicas democracias liberales occidentales. A su vez, esta forma de definir al ser humano es ajena a la noción de dignidad humana, así como a la idea de libertad que se encuentra en nuestra constitución, en donde se parte de la base de ciudadanos que tienen la posibilidad (y la facultad) de hacer uso de capacidad de juicio, de discernir de forma libre y de decidir por sí mismos. Nada ni nadie debería estar en condiciones de predeterminar nuestras decisiones, nuestros propios actos.
Es necesario responder de forma más consciente a los complejos desafíos de la digitalización y reflexionar sobre el modelo de sociedad que implica la aceptación de dichas transformaciones. Nuevos modelos de negocio basados en las plataformas digitales han implicado innovaciones con desarrollos disruptivos (Schumpeter) que ya ocurrieron o se encuentran en curso, pero su adopción no puede ser vista como algo natural e inevitable sin importar sus consecuencias. El anuncio de Facebook sobre el lanzamiento de la “Libra”, su propia criptomoneda, creando así un sistema de pagos sin intermediarios, es el mejor ejemplo de los enormes riesgos e impactos de la tecnología digital y de los algoritmos con capacidad de decisión para nuestra vida social. Dado el alto costo para nuestra libertad individual, vale la pena cuestionarnos si en realidad estamos dispuestos a viajar siempre en subway. Yo sigo prefiriendo tener la libertad de elegir pagar antes de viajar en el U-Bahn.
*Fernando Ortega, Abogado y docente universitario, hizo parte del “Masterclass 2019” del Instituto Max Planck de Derecho Público e Internacional en Heidelberg (Alemania). Cuenta con una Maestría en Derecho Financiero Alemán y Europeo en la Universidad Johannes Gutenberg de Mainz y es actualmente candidato a Doctor en Derecho a través de una beca del DAAD en la misma universidad, @FerOrtegaC
Autor
