About The Author
Las empresas tecnológicas moldean nuestra conducta con base en los datos excedentes que vamos entregando y que el capitalismo de vigilancia los convierte en productos predictivos para reorientar el conocimiento hacia el poder instrumental.
“…estamos sometidos a la producción de la verdad desde el poder y no podemos ejercitar el poder más que a través de la producción de la verdad “Foucault, M.
(Lea también: Ajustes e intenciones en el Ministerio de las TIC)
La sociedad humana ha debatido acerca de tres campos temáticos vinculados con la autoridad, el poder y el conocimiento. La autoridad definitiva corresponde a las personas, a sus leyes y a sus instituciones democráticas. Así que cada generación de individuos se ha protegido, en la historia, de modo corporal, con voluntad e imaginación, de las amenazas, pero ¿cómo hacerlo frente al entorno digital?, que es la actual lógica económica en la que la producción de bienes y servicios se subordina a una nueva arquitectura global de modificación conductual.
La socióloga y profesora emérita en la Harvard Business School, Shoshana Zuboff, intenta alertar sobre el poder instrumental de los medios que alteran el comportamiento humano para el rendimiento del mercado digital. Son medios para la producción capitalista regidos por el diseño de protocolos automatizados para influir en la conducta individual y modificarla. Sirven de ejemplo, el experimento sin consentimiento con 689 mil usuarios que realizó en enero del 2012 Facebook sobre contagio emocional al alterar en secreto su algoritmo de difusión de noticias o el juego de realidad aumentada Pokémon Go para celular insertado en Google durante el verano del 2016 que hizo recorrer calles para capturar toda clase de especies de Pokémon hasta completar una colección. Como sustento, asumimos la idea del filósofo francés Michel Foucault de considerar el poder “En la práctica, lo que hace que un cuerpo, unos gestos, unos discursos, unos deseos sean identificados y constituidos como individuos, es en sí uno de los primeros efectos del poder… El individuo es un efecto del poder, y al mismo tiempo, o justamente en la medida en que es un efecto, el elemento de conexión. El poder circula a través del individuo que ha constituido.”
En la actual civilización de la información, se llevan a cabo “múltiples formas en las que la infraestructura computacional ubicua enriquece nuestras capacidades y posibilidades”, argumenta Zuboff en su libro “La era del capitalismo de vigilancia”. Pero también genera una división del aprendizaje social materializado en nuevas asimetrías de conocimiento y de poder. De modo que, para Zuboff, conocimiento, autoridad y poder “se hunden profundamente y subyacen a las necesidades de la vida cotidiana”, mediando en casi todos los modos de participación social. Dicha mediación ha generado espacios completamente nuevos de preocupación, peligro y violencia.
Ahora, el desafío social que inquieta es el derecho al tiempo futuro: retar las actividades del capitalismo de vigilancia que entiende de las habilidades digitales del individuo para pretender, prometer, imaginar y construir un porvenir.
Poder instrumental
Solamente en el entorno digital y en la lógica del capital de vigilancia se encuentran tanto el instrumento como la materialización de la infraestructura para la computación ubicua. A este poder instrumental Zuboff lo denomina “la transformación del mercado en un proyecto de certeza total”, donde los jóvenes ya están experimentando esa destructiva dinámica por su apego a los medios sociales.
Entender el ciclo del proyecto de certeza total es sencillo. Gestionamos información y conocimiento a través de máquinas inteligentes que recogen nuestros datos personales y excedentes privados para aprender sobre nuestra conducta y moldear de esta forma nuestro comportamiento. La computación ubicua genera productos de predicción automatizados con los datos excedentes que son materia prima gratuita para el capitalismo de vigilancia, con la que identifica patrones de comportamiento y presagia acciones de los usuarios. Todo este bucle reorienta el conocimiento hacia el poder instrumental. Entonces, ya no se trata de que el capital de vigilancia exprima el excedente de las búsquedas, de mis compras o de nuestro historial de navegación. Se trata de que los productos predictivos actualizados se comercian en mercados de futuros conductuales abarcando muchos sectores del mundo offline. Sucede frecuentemente: una vez terminamos de buscar en el navegador Web (excedente privado) comenzamos a recibir sin consentimiento mensajes o anuncios de publicidad (producto predictivo) con asuntos sobre lo averiguado. Y mientras más navegamos o activamos lo anunciado (predicción de acciones) mayor revelación generamos.
En cuanto a las capacidades individuales para pretender y prometer, las empresas capitalistas de vigilancia están obligadas a mejorar las predicciones y a cumplir su promesa de predecir el futuro mediante el ejercicio de la voluntad, para que se convierta en un suceso verdadero. Para Zuboff, sobrevienen dos dimensiones que posibilitan aquellas economías de acción y de alcance. Una es la extensión de las operaciones extractivas que se amplían del mundo virtual hasta el mundo real donde vivimos nuestras vidas. En consecuencia, el Internet de las Cosas está funcionando en las calles, en las carreteras, en todas las cosas a lo largo y ancho de las ciudades, con nuevas rutas de suministro aperturadas. La otra dimensión es la profundidad de la exploración de las economías de alcance, que significa sondear el muy grande y bastante variado excedente conductual de alto contenido predictivo. Por consiguiente, es gigante el potencial lucrativo para el capitalista de vigilancia ya que la personalidad, los estados de ánimo, las emociones, las mentiras y las vulnerabilidades de los usuarios Web se comprenden con mayor certeza al suministrar cantidades de datos personales. Existen laboratorios realizados, dentro de Twitter y de Facebook, por equipos académicos de Cambridge y de Maryland, para predecir los rasgos de personalidad y los perfiles de los usuarios de medios sociales. Los resultados son desmesurados incentivos que emplea el marketing digital.
El capitalismo de vigilancia codicia, pues, con la certeza total, estimular, organizar y afinar la sociedad en una confluencia social que sustituya la política y la democracia analógicas mediante el realismo computacional y la presión de grupo. Se comprende de este modo que los medios sociales son, a la vez, filtros de burbuja (aíslan a las personas en lo cognitivo) y cámaras de eco (sesgan la confirmación con ideas afines). Este es el núcleo del peligro y de la violencia, debido a que “El capitalismo de vigilancia y el poder instrumental sobrepasan las ambiciones normales de los capitalistas pues reclaman el dominio sobre territorios humanos, sociales y políticos que se extienden mucho más allá del ámbito institucional convencional de la empresa privada o del mercado”, escribe Zuboff. Es decir, ni autoridad ni conocimiento de las personas quedan libres debido, en exclusiva, a que “No es la dominación global la que se pluraliza y repercute hacia abajo; pienso que hay que analizar la manera cómo los fenómenos, las técnicas, los procedimientos de poder funcionan en los niveles más bajos, mostrar cómo estos procedimientos se desplazan, se extienden, se modifican, pero sobre todo cómo son investidos y anexionados por fenómenos más globales y cómo poderes más generales o beneficios económicos pueden insertarse en el juego de estas tecnologías al mismo tiempo relativamente autónomas e infinitesimales del poder”, como argumentó Foucault sobre la microfísica del poder.
Las operaciones extractivas y su sondeo al variado excedente conductual se obtienen de núcleos de anclaje determinados, tales como:
a. Empatía afectiva o intelectual: los mensajes constantes en línea influyen en nuestros estados emocionales. A su vez, podrían afectar a una variedad de comportamientos de la realidad material dado que se transfieren a través del contagio emocional. Han sido ejemplos, la consulta ciudadana convocada al plebiscito el 2 de octubre de 2016 para refrendar por voto el acuerdo de paz de Colombia, donde ganó el ‘no apoyo’. De esta manera la personalidad del individuo, su identidad, su conciencia y su capacidad para tener un comportamiento autónomo pueden ser aplastadas, eliminadas y reemplazadas por un control externo. Algo similar ocurrió el 6 de enero de 2021 en Estados Unidos, mediante un discurso manipulador, al momento de la sesión constitucional del poder legislativo para contar el voto del colegio electoral y certificar el resultado de las elecciones presidenciales de 2020. Grupos de manifestantes estimulados utilizaron distintas redes sociales y muchos sitios Web, considerados plataformas de tecnología alternativa, para planificar los ataques con violencia física.
b. Equivalencia sin igualdad: la indiferencia radical del instrumentalismo nos convierte en presencia global, cuyo método operativo deshumaniza. Cada individuo es reducido al mínimo común denominador de la uniformidad, se borran los lazos de hermano y los familiares, deja de existir relación alguna entre las alteridades pese a los muchos y vitales sentidos en los que somos diferentes. A la certeza total nada la importa de lo humano mientras pueda observar, convertir, datificar e instrumentalizar las inmensas reservas del excedente conductual unipersonal. Desde la visión del poder instrumental somos estrictamente organismos que se comportan y desde el sujeto y el poder “existe éste solamente cuando es puesto en acción, incluso si, por supuesto, está integrado en un campo desigual de posibilidades actuando sobre unas estructuras permanentes.” Y desde proposiciones, la perspectiva más radical del determinismo tecnológico concentra la idea que “las máquinas somos nosotros, los cyborgs” ya que considera unidireccional la relación entre tecnología y sociedad por cuanto aquella se desarrolla como factor exógeno de la propia dinámica social.
(Texto relacionado: Insurgencias, paramilitarismo y narcotráfico: disputa territorial por las economías)
Inicios del riesgo
Comenzando la década de 1990, la CIA y la DEA, entre otras Agencias, ejecutaron el plan secreto Proyect Crisscross. Consistió en recopilar y compartir registros en una base de datos obtenidos a través de los sistemas humanos Humint y de señales Sigint. Luego del ataque del 11S, Crisscross/Proton se usó para la identificación de sospechosos con base en el almacenado de cinco metadatos en cada llamada telefónica: fecha, hora, duración, número llamado y número de quien llama, según un memorando filtrado de la Agencia de Seguridad Nacional (NSA), del Departamento de Defensa de Estados Unidos.
Desde 1998, con el experimento The Aware Home Research Initiative (AHRI), iniciado en el Instituto Tecnológico de Georgia (Atlanta, EE. UU.), se estudia cómo las tecnologías en el hogar inteligente pueden afectar la vida de las personas moradoras en su salud y bienestar, sus medios digitales y entretenimiento, y su sostenibilidad. El marco de la iniciativa AHRI consiste en que lo digital adopte múltiples modos según sean las funciones de las lógicas social y económica de los individuos, siendo un aspecto sin precedente en las actividades de vigilancia social.
De los años de esa investigación continua se han extractado tres objetivos de trabajo conceptual:
1- Los nuevos sistemas de datos producen un ámbito de conocimiento totalmente novedoso.
2- La propiedad de los derechos sobre ese nuevo conocimiento y el ejercer poder, para mejoras de la propia vida, pertenece exclusivamente a los participantes hayan o no dado su consentimiento.
3- El plan de ingeniería experimental es una encarnación modernizada de las convenciones ancestrales del domicilio con base en dispositivos móviles y plataformas portátiles que recogen información personal, dada la simbiosis humano-hogar.
La casa laboratorio de 3 pisos y más de 1500 mt2, diseñada para facilitar la investigación, puso énfasis en la confianza, la simplicidad, la soberanía del individuo y la inviolabilidad del hogar como ámbito privado. Mientras tanto, el sistema de información, configurado en bucle cerrado de dos nodos, se controló por los ocupantes del Living Lab. Admite Foucault, “que el poder produce saber… no existe relación de poder sin la constitución correlativa de un campo de saber, ni saber que no suponga y no constituya al mismo tiempo relaciones de poder.” ¿Y qué ocurre por fuera de los experimentos?
Cubrir un hogar inteligente como Aware Home necesita de las oportunidades de socios de la industria en los dominios centrados en la vida conectada, que se prevé será la tecnología del hogar futuro. Por consiguiente, los capitalistas de vigilancia nos hacen desenfocar la atención de sus argumentos ante las prácticas. Replican para que se repita que la cuestión tecnológica impacta las relaciones, cuando ese determinismo no es la idea del núcleo social: las tecnologías y sus productos se construyen según sea el nivel de desarrollo de las relaciones. El estereotipo indica que una comunidad iletrada fortalece la oralidad y su saber se enmarca en el mito.
El capitalismo de vigilancia ya desarrolló su primera fase de certeza total con base en acciones del individuo, consistente en la migración de la realidad virtual al mundo corporal con ausencia total de señales de rastreo. Recordemos, el contagio emocional y la realidad aumentada en Pokémon Go. Ahora se está consolidando la segunda fase cuyo faro ilumina el mundo social desde la realidad virtual. Podría ser el metaverso que vende la matriz de Facebook pues la vigilancia mediante datos sensibles es el negocio de la efectividad. De esta manera todos los aspectos de la experiencia humana son convertidos en materia prima que alimenta al poder instrumental, siendo transferidos a bases de datos como metadatos de la conducta. Se despliega entonces una acción de principios denominada paraguas de personalización, con la que se efectúa y camufla la agresiva serie de operaciones para la extracción de datos con que se explotan las intimidades personales de la vida.
Actual peligro
El capitalismo de vigilancia es una lógica que impregna a la tecnología y la pone en acción en variadas formas para la conveniencia del mercado digital, escribe Zuboff. Así se diferencia el capitalismo y el capitalismo de vigilancia: por los fines y los métodos de la recopilación de datos. Google inventó y perfeccionó el capitalismo de vigilancia, Facebook lo extendió por el mundo con rapidez, Amazon giró su política de distribución para empezar a vigilar y Apple ha reprimido su constante arrogancia para dirigirse por esa ruta.
El origen que lleva a Zuboff a su afirmación estriba en las publicaciones del jefe de economía de Google, Hal Varian, en la revista American Economic, edición mayo del 2010, la cual “En 2008, Google realizó 6 mil experimentos relacionados con la búsqueda en la Web que dieron como resultado entre 450 y 500 cambios en el sistema. Algunos de estos fueron experimentos con la interfaz de usuario, otros fueron cambios básicos en el algoritmo. El equipo de anuncios publicitarios de Google también realizó gran cantidad similar de experimentos, modificando todo, desde el color de fondo de los avisos hasta el espacio entre los anuncios y los resultados de búsqueda, incluyendo el algoritmo de clasificación” y reiterado luego en Business Economics del 2014, al informar que “Google ha visto 30 trillones de URL, rastrea más de 20 billones al día y responde 100 billones de consultas de búsqueda al mes”.
Con el capitalismo de vigilancia se ha empezado a tramar una rutina invasora de especies sin depredadores naturales y cuyos CEO’s impulsan la coherencia sistémica entre sus diversificados negocios a un ritmo tan alocado que no hay instituciones públicas ni privadas con capacidad de frenarlo.
Desde cada perspectiva corporativa es obvio que las empresas capitalistas se deslinden de su compromiso debido a que obtienen los datos conductuales más predictivos interviniendo en la marcha misma de las cosas, para persuadir ciertos comportamientos y dirigirlos hacia resultados muy rentables. Es por ello que a los capitalistas de vigilancia ya no les importa Internet sino el Internet de las Cosas. No en vano algunos de los dispositivos típicos configurados para la investigación del Hogar Inteligente se terminaron fusionando con Google y desde entonces, el volumen del negocio mundial de los hogares conscientes asciende a unos 150 mil millones de dólares. Esto es 67% más que las transferencias netas anuales a que se comprometieron los países para financiar internacionalmente el cambio climático.
Este acelerado e incremental comercio, debido a la penetración de Internet en la vida cotidiana, es un ciclo iterativo pues desde octubre del 2003, cuando se lanzó la tienda iTunes, las descargas de la app de Apple alcanzaron 25 mil millones en esa década, mientras que las ventas de su dispositivo iPod fueron de 100 millones de aparatos desde su primera generación en 2007. Las ventas de iPhone a nivel mundial, otro dispositivo móvil de la compañía de la manzana mordida, alcanzaron los 51 mil millones de dólares en el primer trimestre del 2015. Para los analistas económicos, las cifras citadas significan la maximización de valor para el accionista y la función objetiva de la empresa moderna. Por su parte, para Zuboff es el culto desmesurado al emprendedor “hasta alturas casi míticas” pues dicho rol se considera la unión perfecta entre propiedad y gestión mutada a un “único modelo divinizado de osadía, audacia, astucia, competición, dominio y riqueza”.
Se deduciría que alcanzar cifras tan elevadas de dinero en una sola década implica seguir normas no consensuadas que favorecen la vigilancia secreta pero también eclipsar leyes relacionadas con la invasión intencional, la usurpación de los derechos individuales de decisión, la realización de programas de gobierno para el espionaje, etc. La vigilancia en el entorno virtual es unilateral con base en la extracción de la vivencia humana, que lucra a terceros. Es decir, se configuran reglas sobre todo leoninas para ser ejercidas mediante la “política de privacidad”, el “acuerdo de términos de servicio” y la “licencia para el usuario final”.
Esas normas no consensuadas vienen incorporadas en cada software instalado y en cada hardware compartido. Son los acuerdos clickwrap y browsewrap que implica la aceptación automática de los términos al hacer clic al enlace o al navegar por una Web, por parte del usuario. Incluso es el programa secreto de vigilancia operado por la CIA para recopilar información no cifrada que fluye a través de los centros de datos por Internet de Google y de Yahoo! (orden ejecutiva 12333 sancionada el 4 de diciembre de 1981 por el presidente de Estados Unidos de entonces), por ejemplo. Dicha orden desafía los esfuerzos del Congreso de “prohibir en algunos casos la recopilación de los registros de los estadounidenses sin orden judicial”, según manifestaron el 13 de abril de 2021 mediante carta desclasificada, los senadores demócratas Ron Wyden, de Oregón, y Martin Heinrich, de Nuevo México, al director de la CIA y a la directora de la Inteligencia Nacional de la época.
En contrapartida, las leyes ocultas se han venido validando sin leer en los tribunales de justicia, especialmente los norteamericanos, con base en la Declaración Universal de los Derechos Humanos de Naciones Unidas que incluye la protección al acceso de Internet a partir del año 1999. A partir de los atentados a la democracia liberal del 11S sobre Nueva York, no obstante, ha sido más fácil articular el fisgoneo como asunto legal de la seguridad nacional y, en la década que siguió, la exclusión de la vigilancia se manifestó también en una serie de dinámicas de imitación mundial. Es decir, la inevitabilidad tecnológica no existe pues ya se ha legislado contra ella. España, a través de la Agencia Española de Protección de Datos (AEPD), ordenó a Google en el 2011 garantizar el derecho al olvido, eliminando por lo menos cien enlaces, a artículos Web potencialmente difamatorios, que fueron denunciados por noventa ciudadanos, ajustados en la defensa del derecho al tiempo futuro, y sobrepasando la engañosa libertad de expresión en Internet.
Por si fuera poco, el Tribunal de Justicia de la Unión Europea (TJUE) hizo público en mayo de 2014 aquel fallo español favorable para confirmar en la comunidad política los derechos fundamentales al respeto a la vida privada y a la protección de los datos personales. Tampoco el derecho ilimitado a saber invocado por Google prolonga el desvío de nuestra atención, que entró en vigencia en California, en enero de 2015, a través de la Ley del borrado del rastro en línea, que obligaba a cualquier empresa gestora de un sitio Web o de una aplicación eliminar todo contenido e información publicado por los usuarios registrados cuando son menores de edad.
Con estas normatividades, algunas de las plataformas de medios sociales escudan parcialmente su responsabilizan ante la manipulación y la seguridad de la información que recopilan de los usuarios. Ni siquiera asumen obligación solidaria por el uso que otras empresas en su ecosistema confieren a los datos obtenidos. Tanto la privacidad como la seguridad personal son información sensible que se comparte entre dispositivos inteligentes, con personas anónimas y con terceros desconocidos. Con este entramado el capitalista de vigilancia efectúa análisis predictivos y ventas no especificadas pero sus compañías desorientan nuestra atención al declarar que la privacidad es el precio a pagar por obtener recompensas tan generosas como información, conexión y demás provechos digitales cuándo, dónde y cómo los queremos.
Entonces el paraguas de personalización no solo favorece los experimentos socio-computacionales sino también a las empresas que “adquieren derechos de los usuarios sin negociación previa, e instauran e incorporan prácticas antes que usuarios y reguladores hayan tenido tiempo siquiera de percatarse de lo que está pasando”, según la catedrática del Michael Paul Galvin en Emprendimiento y Tecnología Legal Aplicada, Nancy Kim.
Zuboff, por tanto, sugiere como solución radical “poner nombres a aquello que carece de precedentes, y luego, movilizarnos hacia nuevas formas de acción colaborativa que generen crucial fricción para reafirmar la primacía de un futuro humano floreciente como meta fundamental de nuestra civilización informacional”. Mientras tanto, como conversa Foucault, “el poder produce lo real a través de una transformación técnica de los individuos… ya que en todo lugar donde hay poder, el poder se ejerce.”
(Le puede interesar: En ninguna generación hemos vivido en paz)
*Omar Villota Hurtado. Profesor universitario en sociología de los medios y comunicación para programas de pre-grado y post-grado. Creador de conocimiento para Inteligencias Colectivas. Master en comunicación digital. Especialista en redes de información documental.
Autor
