Las empresas tecnológicas moldean nuestra conducta con base en los datos excedentes que vamos entregando y que el capitalismo de vigilancia los convierte en productos predictivos para reorientar el conocimiento hacia el poder instrumental
Haga click en imagen para ampliar
La sociedad humana ha debatido tres temáticas eternas relacionadas con el conocimiento, la autoridad y el poder. Repasando la historia, cada generación ha asegurado su voluntad y su imaginación ante las nuevas amenazas pero ¿cómo hacerlo frente al entorno digital?, que es la actual lógica económica en la que la producción de bienes y servicios se subordina a una nueva arquitectura global de modificación conductual.
El libro-ensayo La era del capitalismo de vigilancia de Shoshana Zuboff, profesora emérita en la Harvard Business School y psicóloga social y socióloga, intenta alertar sobre el poder instrumental de los medios que alteran el comportamiento humano para el mercado digital. Son medios para la producción capitalista regidos por el diseño de protocolos automatizados para influir en la conducta individual, y modificarla. Por ejemplo, el experimento sin consentimiento a 689 mil usuarios que realizó en enero del 2012 Facebook sobre contagio emocional o el juego de realidad aumentada Pokemon Go para celular insertado en Google durante el verano del 2016.
La actual civilización informacional contiene “múltiples formas en las que la infraestructura computacional ubicua enriquece nuestras capacidades y posibilidades”, argumenta Zuboff. Pero también genera una división del aprendizaje social materializado en nuevas asimetrías del conocimiento y del poder. De modo que para Zuboff conocimiento, autoridad y poder “se hunden profundamente y subyacen a las necesidades de la vida cotidiana”, mediando en casi todos los modos de participación social. Dicha mediación ha engendrado espacios completamente nuevos de preocupación, peligro y violencia.
Ahora, el desafío social que inquieta es el derecho al tiempo futuro: retar las actividades del capitalismo de vigilancia que entiende las habilidades del individuo para pretender, prometer, imaginar y construir un porvenir.
Poder instrumental
Solamente en el entorno digital y en la lógica del capital de vigilancia se encuentran tanto el instrumento como la materialización de la infraestructura computacional ubicua. A este poder instrumental, Zuboff lo denomina “la transformación del mercado en un proyecto de certeza total o Gran Otro”, donde los jóvenes ya están experimentando esa destructiva dinámica debido a su apego por los medios sociales.
Entender el ciclo del proyecto de certeza total es sencillo. Gestionamos información y conocimiento a través de máquinas inteligentes, que recogen nuestros datos personales y excedentes privados para aprender de nuestra conducta y moldear nuestros comportamientos. Con los datos excedentes la computación ubicua genera productos de predicción automatizados, que para el capitalismo de vigilancia son la materia prima gratuita con la que identifican patrones de comportamiento y predicen acciones de los usuarios. Todo el bucle reorienta el conocimiento hacia el poder instrumental. Entonces, ya no se trata que el capital de vigilancia exprima un excedente de mis búsquedas, de mis compras o de mi historial de navegación. Se trata que los productos predictivos actualizados se comercian en mercados de futuros conductuales abarcando muchos sectores del mundo offline.
En cuanto a las capacidades individuales para pretender y prometer, las empresas capitalistas de vigilancia están obligadas a mejorar sus predicciones y a cumplir su promesa de predecir el futuro mediante el ejercicio de la voluntad, para que se convierta en un hecho. Para Zuboff, posibilitar las economías de acción y las economías de alcance se logran a través de dos dimensiones. La primera es la extensión de las operaciones extractivas, que se amplían más allá del mundo virtual hasta el mundo real donde vivimos nuestras vidas de verdad. En consecuencia, Internet de las Cosas está funcionando en las calles, en las carreteras, a lo largo y ancho de las ciudades, con nuevas rutas de suministro aperturadas. La segunda dimensión es la profundidad de búsqueda de economías de alcance, que significa sondear el muy grande y bastante variado excedente conductual de alto contenido predictivo. Por consiguiente, es el gigante potencial lucrativo que a mayor suministro de datos obtiene nuestra personalidad, nuestros estados de ánimo y nuestras emociones, así como nuestras mentiras y vulnerabilidades.
El capitalismo de vigilancia pretende pues con el poder instrumental estimular, organizar y afinar la sociedad en una confluencia social análoga que sustituya la política y la democracia mediante la presión de grupo y la certeza computacional. Este es el núcleo del peligro y la violencia, debido a que “El capitalismo de vigilancia y el poder instrumental sobrepasan a las ambiciones normales de los capitalistas, ya que reclaman el dominio sobre territorios humanos, sociales y políticos que se extienden mucho más allá del ámbito institucional convencional de la empresa privada o del mercado”, escribe Zuboff.
Para sus operaciones extractivas y su sondeo al variado excedente conductual, el poder instrumental obtiene la materia prima de núcleos de anclaje tales como:
- empatía afectiva o cognitiva. Los mensajes constantes en línea influyen en nuestros estados emociones, lo que puede afectar una variedad de comportamientos fuera de línea dado que se transfieren a otros a través del contagio emocional. Así, la personalidad del individuo, su identidad, su consciencia y su capacidad de tener un comportamiento autónomo pueden ser aplastadas, eliminadas y reemplazadas por un control externo;
- equivalencia sin igualdad. Es la indiferencia radical del instrumentarismo cuyo método operativo deshumaniza, reduce a los individuos al mínimo común denominador de uniformidad donde no hay hermano, no hay lazos familiares, no hay relación alguna entre las alteridades, pese a los muchos y vitales sentidos en los que somos diferentes. Desde la visión del Gran Otro, somos estrictamente organismos que se comportan;
- control mental. Entre los años 1942 y 1963 la historia de las ciencias humanas y del comportamiento ha examinado episodios y experimentos clave sobre el mapeo a las partes subjetivas de la psique humana a través de técnicas de almacenamiento de datos que alguna vez fueron futuristas. Según la historiadora e investigadora del Departamento de Historia de la Ciencia de University Harvard, Rebecca Lemov, al observar las innovaciones en los métodos de recopilación de datos se observa una transformación en curso del conocimiento, la tecnología y la subjetividad desde el siglo 20.
Inicios del riesgo
Comenzando la década de 1990, la CIA y la DEA iniciaron el plan secreto Crisscross Proyect en Latinoamérica. Consistió en recopilar, en una base de datos, registros de facturación telefónica y directorios telefónicos para identificar y analizar vínculos entre objetivos de inteligencia y otras personas de interés. Al inicio, Crisscross se usó para la identificación de sospechosos relacionados con narcótico con base en el almacenado de cinco meta-datos en cada llamada telefónica: fecha, hora, duración, número llamado y número de quien llama, según un memorando de la Agencia de Seguridad Nacional (NSA), del Departamento de Defensa de Estados Unidos.
Desde 1998 con el experimento The Aware Home Research Initiative (AHRI), iniciado en el Instituto Tecnológico de Georgia (Atlanta, EE.UU.), se estudia cómo las tecnologías en el hogar inteligente pueden afectar la vida de las personas en su salud y bienestar, sus medios digitales y entretenimiento, y su sostenibilidad. El marco del experimento AHRI consiste en que lo digital adopte múltiples modos según sean las funciones de las lógicas sociales y económicas de los individuos, siendo este foco un aspecto sin precedente en las actividades de vigilancia social.
De los años continuos de esa investigación se han extractado tres objetivos de trabajo: a) los nuevos sistemas de datos producen un ámbito de conocimiento totalmente novedoso; b) la propiedad de los derechos y el poder de uso sobre ese nuevo conocimiento, para mejoras de la propia vida, pertenece exclusivamente a los participantes del experimento, en este caso los habitantes del hogar inteligente; c) el plan de ingeniería experimental es una encarnación modernizada de las convenciones ancestrales del hogar con base en dispositivos móviles y plataformas portátiles que recogen información personal, dada la simbiosis humano-hogar.
La casa laboratorio de 3 pisos y más de 1,500 mt2 diseñada para facilitar la investigación, puso énfasis en la confianza, la simplicidad, la soberanía del individuo y la inviolabilidad del hogar como ámbito privado. Mientras tanto, el sistema de información configurado en bucle cerrado de dos nodos es controlado por los ocupantes del Living Labs. Cubrir un hogar inteligente como Aware Home necesita de oportunidades de investigación de socios de la industria en los dominios centrados en la vida conectada y en el futuro, que se prevé será la tecnología del hogar. Sin embargo, los capitalistas de vigilancia insisten en hacernos desviar la atención que sus prácticas son expresiones inevitables de las tecnologías que emplean.
El capitalismo de vigilancia ya desarrolló su primera fase con el individuo, consistente en la migración del mundo virtual al real: recordemos, el contagio emocional en ausencia total de señales no verbales y la realidad aumentada en Pokemon Go. Ahora se está consolidando la fase dos cuyo foco está puesto en el mundo social desde lo real. Podría ser el metaverso, que vende la matriz de Facebook, pues la vigilancia mediante datos sensibles es el negocio de la realidad donde todos los aspectos de la experiencia humana son convertidos en materia prima y transferidos a bases de datos en meta-datos de la conducta. Así se despliega una acción base (paraguas de personalización) con la que se efectúa y camufla la agresiva serie de operaciones de extracción de datos que explotan las íntimas profundidades de la vida.
En consecuencia, la confianza y la soberanía del individuo frente a los dispositivos típicos pre-configurados son también falsas, ejercidas a través de la “política de privacidad”, del “acuerdo de términos de servicio” y de la “licencia para el usuario final”, por cada software instalado como por cada hardware compartido. Con estas normatividades algunas de las plataformas de medios sociales escudan parcialmente su responsabilizan ante la seguridad de información que recopilan de los usuarios pero no asumen obligación alguna por el uso que otras empresas de su ecosistema den a los datos. Es decir, la privacidad y la seguridad personal es información sensible que se comparte con otros dispositivos inteligentes, con personas anónimas y con otros terceros para efectuar análisis predictivos y ventas no especificadas. Este paraguas de personalización favorece los experimentos socio-computacionales.
Actual peligro
El capitalismo de vigilancia es una lógica que impregna a la tecnología y la pone en acción en variadas formas para el mercado digital, escribe Zuboff. Su argumento se apoya en estudiar los resultados de la casa de Georgia; en observar las prácticas capitalistas de vigilancia de Google, Facebook, Microsoft y otras corporaciones; en entender lo dicho o escrito en entrevistas, patentes, teleconferencias de resultados, discursos, congresos, vídeos, programas y políticas de las empresas; en entrevistar a 52 científicos de datos de 19 compañías con experiencia en corporaciones y startups de alta tecnología del Silicon Valley, entre 2012 y 2015.
Otra red de relaciones analizada por la autora como datos de vigilancia remiten al final del año 2007 cuando el director de la NSA, el general Keith Alexander, puso en marcha el proyecto piloto para tratar de “parecerse más a Google, emulando e interiorizando las capacidades de dicha empresa” mediante el motor de búsquedas Icreach, que “haría posible compartir y analizar un volumen sin precedente de metadatos de comunicaciones entre las múltiples agencias de la Intelligence Community”. Aquel programa incrementó considerablemente la cantidad de registros comunicativos -de 50 mil millones ascendió hasta más de 850 mil millones- compartidos entre la DEA, el FBI, la CIA y la DIA, como miembros principales, con base en llamadas telefónicas, correos electrónicos, ubicaciones de teléfonos celulares y chats de Internet. Es decir, un nuevo Crisscross Proyect pero local.
Según el periodista investigativo de Reino Unido, Ryan Gallagher, receptor de la documentación clasificada que distribuyó el consultor informante de la CIA y de la NSA, Edward Snowden, el buscador Icreach permitía a los analistas realizar consultas con base en selectores de meta-datos y extraer excedentes conductuales vitales. Con todo ese lote, la prospección revela los movimientos de las personas, mapea sus redes sociales, predice acciones futuras y evidencia potencialmente las afiliaciones religiosas o creencias políticas de los ciudadanos, en especial de los extranjeros en territorio norteamericano.
Zuboff diferencia capitalismo y capitalismo de vigilancia: en parte por los fines y los métodos de la recopilación de datos. En efecto, Google inventó y perfeccionó el capitalismo de vigilancia, Facebook lo extendió por el mundo con rapidez, Amazon giró su política de distribución para empezar a vigilar y Apple ha tenido un desafío constante por encaminarse por esa ruta. Con el capitalismo de vigilancia se ha tramado una rutina invasora de especies sin depredadores naturales y cuyos CEO’s impulsan la coherencia sistémica entre sus diversificados negocios a un ritmo tan alocado que no hay instituciones públicas ni privadas con capacidad de frenarlos.
Desde cada perspectiva corporativa es obvio que las empresas capitalistas se deslinden de su compromiso debido a que obtienen los datos conductuales más predictivos interviniendo en la marcha misma de las cosas para persuadir ciertos comportamientos y dirigirlos hacia resultados rentables. Es por ello que a los capitalistas de vigilancia ya no les importa Internet sino Internet de las Cosas. No en vano algunos de los dispositivos típicos configurados para la investigación del Hogar Inteligente se terminaron fusionando con Google y desde entonces, el volumen del negocio mundial de los hogares conscientes asciende a unos 150 mil millones de dólares. Esto es 67% más que las transferencias netas anuales a que se comprometieron los países para financiar internacionalmente el cambio climático.
Alcanzar esta cifra de dinero en dos décadas se deduciría por la norma no consensuada que favorece la vigilancia secreta pero también por la ausencia de ley frente al derecho de invadir a voluntad, de usurpar los derechos individuales de decisión en beneficio de la vigilancia unilateral y de la extracción pre-autorizada de la experiencia humana para lucro de terceros. Una norma no consensuada, por ejemplo, es la orden ejecutiva 12333, sancionada el 4 de diciembre de 1981, por el entonces presidente de Estados Unidos, Ronald Reagan.
Según la carta del 13 de abril de 2021 de los senadores del Partido Demócrata Ron Wyden, de Oregón, y Martin Heinrich, de Nuevo México, enviada al director de la CIA, William Burns, y a la directora de Inteligencia Nacional, Avril Haines, parcialmente desclasificada a inicios de febrero 2022, el programa secreto de vigilancia ha sido operado por la CIA bajo el documento 12333 ejecutado por la NSA para recopilar información no cifrada que fluye a través de los centros de datos de las gigantes de las comunicaciones por Internet, Google y Yahoo! Afirman Wyden y Heinrich que el mencionado plan se ha llevado a cabo desafiando los esfuerzos del Congreso de “prohibir en algunos casos la recopilación de los registros de los estadounidenses sin orden judicial”.
Por su parte, la carencia de impedimentos legales se protege a partir del 1999 con el acceso de Internet a la Declaración Universal de Derechos Humanos de Naciones Unidas, un parasol de simulada defensa del ideal social y de la emancipación. A partir de los atentados a la democracia liberal del 11S sobre Nueva York ha sido más fácil de articular y en la década que siguió, el excepcionalismo de la vigilancia se manifestó también en una serie de dinámicas de imitación.
Zuboff sugiere como solución radical “poner nombres a aquello que carece de precedentes, y luego, movilizarnos hacia nuevas formas de acción colaborativa que generen crucial fricción para reafirmar la primacía de un futuro humano floreciente como meta fundamental de nuestra civilización informacional”.
