¿Quien tiene el mando? Superpoderes en la era digital - José R. Ubieto - Fort-Da - Número 14

Poder es la facultad o potencia de hacer algo y si le añadimos el superlativo hablamos de cualidades sobrehumanas propias de la ficción. Dicho en otros términos, los superpoderes son uno de los nombres del narcisismo y de la negación de la castración. Fantasía muy popular y muy difundida.

La era digital ha renovado estas ficciones de los años 30 con una nueva tecnología más poderosa y que, en ocasiones, parece hacer realidad esas fantasías omnipotentes. Un ejemplo de ello es el gobierno del Todo que persigue la vida algorítmica. Esta voluntad de control se verifica en la práctica de Internet, que permite y favorece la construcción de imperios que tienden al todo: “Amazon nos lo quiere vender todo, Google digitalizar y ordenarlo todo, Facebook conectarnos a todos” (1). Los llamados GAFAM (Google, Amazon, Facebook, Apple, Microsoft) se rigen por esa lógica aplastante del TODO: la infobesidad, “el tropismo totalitario, glotón y digestivo”. (2)

El propio presidente de Microsoft, Bard Smith, alertaba sobre las consecuencias de la falta de regulación de las tecnologías de reconocimiento facial, que ellos mismos desarrollan y cuyas aplicaciones militares y de seguridad son evidentes. “Por primera vez –observó–, el mundo está en el umbral de la tecnología que le daría a un gobierno la capacidad de seguir a cualquiera en cualquier lugar, y a todos en cualquier lugar. Podría saber exactamente dónde vas, dónde has estado y dónde estuviste ayer también. Y esto tiene profundas ramificaciones potenciales, incluso para las libertades civiles fundamentales de las que dependen las sociedades democráticas” (3). Poco después pidió la celebración de una convención digital en Ginebra para regular esta nueva escalada armamentística.

Se trata de un nuevo totalitarismo suave (soft) al que todos, cada uno con su estilo, consentimos a cambio del goce que nos procura. Nada que ver con la primigenia idea de la red como un espacio regido por la anarquía y lleno de libertarios naifs (4).
En ese sentido, se trata más que de las “autopistas de la información”, como se las denominó al inicio, de una máquina de gozar que trata de velar, con su conexión permanente, la ausencia estructural de la relación sexual, esa imposible armonía entre los sujetos. Internet -y no por casualidad la tercera parte de los sites son de contenido porno- permite la ilusión de esa relación sexual. Al igual que las webs de citas, donde parece que el amor se dirige a lo conocido, a encontrar el match perfecto que nos junte a la media naranja, cuando sabemos que el amor se dirige más bien a aquello que no se puede saber, ni de sí mismo ni del otro. La voz más bella, si es virtual como en el caso de la película Her, puede hacer soñar y fantasear con el amor, pero no lo ejercita. Lo virtual permite, sin duda, soñar, pero no amar.

El ideal de la biopolítica, anunciado por Foucault como nueva modalidad del poder que promueve un consentimiento “informado” y voluntario, alcanza aquí su cenit. Richard Sennett, ante la pregunta ¿Cómo detectar el peligro en las nuevas tecnologías sin convertirse en un paranoico que sospecha de todo?, respondía: “Uno debe indagar sobre lo que se presenta como real. Eso es lo que hacemos los escritores y los artistas. Yo no sospecho. Sospechar implica que hay algo oculto y yo no creo que Facebook tenga nada oculto. Simplemente no lo queremos ver. No queremos afrontar que lo gratuito implica siempre una forma de dominación.” (5) Pagamos con nuestros propios datos y esa condición de consumibles nos hace olvidar el hecho de nuestra servidumbre voluntaria.

Un ejemplo de esta recolección de esos datos, como objetivo básico de las redes sociales, lo tenemos en el “experimento” que la red social Facebook realizó en 2012, con científicos de las universidades Cornell y California y con unos 700.000 usuarios a los que no se les pidió el consentimiento. El objetivo del experimento era determinar el "contagio emocional" entre individuos. La conclusión fue que los estados emocionales se pueden comunicar entre individuos sin necesidad de que interactúen en persona (6).
Lo que alimenta y da potencia a esta vida algorítmica es un régimen del capitalismo pulsional basado en la cifra, la plusvalía como plus de goce, causa de la codicia del sistema capitalista. Aquí la lógica de los mercados impone su lenguaje: lo que se intercambia en los mercados son valores y se escriben en cifras, que son lo real de las finanzas. Para Google nuestros datos son el producto y los anunciantes sus clientes. Los desarrolladores de videojuegos explican cómo en su trabajo se trata de recoger los datos de las partidas para estudiar cómo maximizar los micropagos y extraer así el máximo beneficio. Los videojuegos actuales se parecen cada vez más a una tragaperras. La paradoja de esta “libertad digital” es que los perfiles individuales, generados por los algoritmos en Internet, no pretenden conocer (ni reconocer) lo singular de esa persona, sino captarlo de manera global. Es decir, se trata de acumular datos para luego segmentarlos en conductas o preferencias que sean intercambiables en términos de valor económico y de plus-de-goce. En la actualidad, los resultados de Google están personalizados en función del historial de navegación, la geolocalización o el perfil del usuario, datos que Google utiliza para personalizar los anuncios que nos muestra. El Uno queda así fundido en el Todos de esa masa inmensa de datos e informaciones. Los usuarios ya no son clientes, sino ellos mismos son consumibles antes que consumidores.

La salud, es sin duda, en esta era de la biopolítica, un nicho de mercado muy lucrativo. Médicos y gestores sanitarios ya han empezado a apostar por el uso de avatares para fomentar el autocuidado de los enfermos. Durante la última edición del XPatient Barcelona Congress –dedicado a analizar los cambios necesarios para situar a los pacientes en el centro del sistema de atención sanitaria–, se debatió el impacto que estos avatares especializados, apoyados en IA, pueden tener en el cuidado y tratamiento de los pacientes crónicos y, muy en especial, en el de los ancianos (7). La empresa Care Coach ya implementa sus avatares animales que, a través de tablets, interactúan con personas mayores que viven solas o con su pareja, muchas de ellas con bajos ingresos. El avatar les saluda cada día e interacciona tomando en cuenta datos que tiene introducidos y otros datos que son recogidos online por técnicos de la empresa, la mayoría de ellos teleoperadores que viven fuera de los EEUU (en Filipinas o Latinoamérica). La tablet dispone de una cámara potente que permite visualizar a la persona y enviar datos precisos de su estado (8). Su éxito se basa en el bajo coste, al sustituir el contacto personal por esta fórmula online. Como señala Nellie Bowles, a medida que las pantallas están más presentes en la vida de los pobres, desaparecen de la vida de los ricos que prefieren la interacción humana. (9)

Los asistentes individuales, Siri y ahora Alexa de Amazon, están presentes ya en muchos hogares y prometen conseguir todo aquello que se les pide. Ese es el fantasma fundamental que los guía: que cualquier falta será colmada inmediatamente por el mercado global. Al tiempo, eso vela que “si esto es gratuito, es porque tu eres el producto”. La paradoja de esta “felicidad” obligatoria (¿cómo no ser feliz cuando se puede tener todo?) son las cifras de los cuadros depresivos, verdadero signo de la imposibilidad de sostener esa felicidad, aunque sea de low cost. A más promesa de felicidad –vía el consumo- más aumento de la prevalencia de malestares de tipo ansioso-depresivo y/o de fatiga crónica. Al sujeto, como recordaba Marie-Hélène Brousse solo le queda la insatisfacción del deseo como defensa frente a esa bulimia del consumo, el I can’t get no satisfaction de los Rolling Stones.

La clave del poder está en la red misma que entrelaza los diversos elementos (gadgets) conectados. A esos nudos se refirió primero Foucault y luego Agamben, con el término de dispositivo (10). Lo interesante de esta mirada es que, más allá del conjunto heterogéneo, que incluye virtualmente cualquier cosa, el dispositivo en sí mismo es la red que se establece entre estos elementos y que siempre tiene una función estratégica concreta, inscrita en una relación de poder. Lo vemos bien cuando descubrimos que los algoritmos operan censuras al seleccionar el material (más de lo mismo) y por eso Internet no es una biblioteca abierta. Lo que buscamos y encontramos está construido por un código que interpreta nuestras elecciones anteriores y nos renvía tras un calculo de lo que nos conviene. Ese proceso –como recuerda Agamben- debe implicar siempre un proceso de subjetivación, debe producir su sujeto. Foucault llamó por eso dispositivo a todo aquello que tiene, de una manera u otra, la capacidad de capturar, orientar, determinar, interceptar, modelar, controlar y asegurar los gestos, las conductas, las opiniones y los discursos de los seres vivos. Lo que incluye, sin duda, todos los actuales gadgets y las redes en las que operan.

Entre los seres vivos y los dispositivos estarían, entonces, los sujetos producidos de manera infinita ya que la subjetividad cambia permanentemente en esa interacción. Esta actualización permanente es lo que justifica también la novedad constante que opera en las redes (actualizaciones de software, perfiles cambiantes, ajuste de la Big Data). En su calidad de máquina de producir subjetividades, también lo es entonces de gobierno y control. Por eso Agamben duda entre hablar de subjetivación o desubjetivación ya que lo digital, cifrado, parece más bien reducir al sujeto a una cifra, un dato (una IP) a partir del que ser controlado: “Quien se deje asir en el dispositivo del ‘teléfono portátil’, sea cuál sea la intensidad del deseo que lo empuje, no adquiere una nueva subjetividad, sino únicamente un número por medio del cual podrá, eventualmente, ser controlado; el espectador que pasa su tarde frente a la televisión no recibe a cambio de su desubjetivación más que la máscara frustrante de un zappeador, o su inclusión en un índice de audiencia” (11). La sorpresa es que todo ello cuenta con la aquiescencia del “cuerpo social más dócil y sumiso que jamás hubiera aparecido en la historia de la humanidad”.

Los algoritmos definen así una vida donde la alteridad se borra y eso tiene efectos en los lazos sociales. No hay más que ver cómo los algoritmos de las redes sociales amplifican las voces más extremas, ideológicamente, polarizando la sociedad misma, sin el filtro que ejercían antes los medios tradicionales. Evgeny Morozov, experto crítico con la deriva de la red, señala cómo pasada la euforia por los beneficios de internet, la pregunta es si esa misma promesa de más democracia y libertad no traería consigo un mundo menos democrático y censurado. A partir de esta premisa construye su argumento mostrando “el lado oscuro de la libertad en internet”. Meredith Broussard, profesora de Periodismo de la Universidad de Nueva York, critica que el mundo digital está reproduciendo las mismas desigualdades que la vida real y cree que parte del problema son las matemáticas, disciplina en la que se sustenta la programación, que históricamente ha sido liderada por hombres y que poco se ha preocupado por los problemas sociales. En su libro, pone el ejemplo de un algoritmo llamado Compas, usado en el sistema judicial estadounidense y que perjudicaba a los afroamericanos. La Policía pasaba un cuestionario a todos los detenidos y sus respuestas se introducían en un ordenador, que usaba toda esa información para predecir la probabilidad de que una persona volviera a cometer un crimen en el futuro, asignándole una puntuación. Esa puntuación se les pasaba a los jueces para ayudarles a tomar decisiones más objetivas y basadas en datos a la hora de emitir sus sentencias. Con un resultado claro: los afroamericanos eran condenados a penas más largas de cárcel que los blancos.

Cathy O’Neill, colaboradora del MIT y autora de un interesante libro “Armas de destrucción matemática. Cómo el Big data aumenta la desigualdad y amenaza la democracia”, argumenta su tesis señalando los tres requisitos que cumplen los algoritmos, en tanto modelos matemáticos: “En primer lugar, son modelos incontestables. Les otorgamos el poder mágico de solucionar de manera justa cualquier problema que tenemos, desde encontrar la persona adecuada para un lugar de trabajo hasta ordenar la información que recibimos a través de las redes sociales. Segundo, son secretos. Desconocemos sobre qué reglas han sido construidos y a menudo no somos conscientes de que nos estamos sometiendo a su juicio. La transparencia importa, pero en estos casos siempre hay un ‘secreto industrial’ que impide conocer el origen y la existencia de estos algoritmos. Tercero, son modelos injustos. Bajo ese secretismo los algoritmos suelen operar contra los intereses de las personas. Estas tres características hacen que los algoritmos no solucionen los problemas que tenemos, sino que los hagan peores.” (12)

En el mercado laboral, el análisis de datos se pone al servicio de la máxima optimización de la empresa, al mismo tiempo que descuida la salud y la conciliación del trabajador que conoce los turnos casi sin previo aviso. El clopening es lo que hace un empleado que trabaja hasta el cierre por la noche en una tienda y vuelve unas horas más tarde, antes del amanecer, para abrir. La cadena de cafeterías Starbucks es, en esto, pionera. Lo que se presentaba inicialmente como una brecha digital por razón de edad, diferenciando entre nativos e inmigrantes digitales, parece perfilarse más claramente como una brecha digital por razones socioeconómicas. Estudios posteriores como el impulsado por el Mobile World Congres, “La brecha digital en la ciudad de Barcelona” confirman esta tendencia. (13) Bajo la apariencia de neutralidad, los algoritmos implican una voluntad de dominio y unas decisiones morales que perpetúan y aumentan las desigualdades sociales, a la par que suponen un grave riesgo para una sociedad democrática.

China, experimento social complejo entre una sociedad comunista y un mercado capitalista expansivo, ha hecho ya realidad la distopía de la serie Black Mirror al utilizar el Big data para conceder o denegar préstamos, pero también para puntuar a las personas en función de su ideología. Allí está surgiendo un complejo sistema de control y vigilancia que podría exportarse internacionalmente. Desde cámaras en las aulas para hacer barridos de los rostros de los alumnos y, luego, analizar sus expresiones faciales mediante un algoritmo, hasta uniformes con geolocalización para esos mismos alumnos, sospechosos de absentistas. China se encuentra en medio de una revolución digital y ya ha dejado claro que se trata de una prioridad estratégica nacional (14).

La pandemia ha revalorizado lo virtual y se ha mostrado como una tabla de salvación en muchos ámbitos de nuestras vidas: familia, amigos, educación, salud, trabajo. El mundo pos-COVID encontrará fórmulas híbridas entre la presencia y lo virtual que ya no se opondrán, sino que habrá que verlas en una topología de borde donde las fronteras son difusas: vamos y venimos de una a otra. Como psicoanalistas nos ocupamos de los síntomas que producen, como cualquier otro uso de un objeto.
Es evidente, como dice Daniel Innerarity, que “la tecnología no sólo modifica nuestra relación con las cosas sino que altera el modo como los humanos nos gobernamos a nosotros mismos”. Si Internet se erigió -en su horizontalidad, libre de jerarquías- como un antídoto contra el autoritarismo patriarcal, ¿será pues la garantía de libertad y democracia? (15)¿o estos nuevos superpoderes de la era digital persiguen más bien la servidumbre voluntaria y el mutismo generalizado como modo de lazo social entre ciudadanos?

(*) Psicoanalista y profesor de la UOC. Este artículo recoge algunos apartados del libro “Del Padre al iPad. Familias y redes en la era digital” (Ned, 2019) del cual el autor es el coordinador.

(1) Laurent, Éric (2017) “Jouir d’internet”. La Cause du désir nº 97, pp.11-21.

(2) Miller, Jacques-Alain. “Google”. Le Nouvel Observateur, 15/3/2007 (Disponible en Internet).

(3) “El presidente de Microsoft pide regular el reconocimiento facial”. La Vanguardia, 10/11/2018 (Disponible en Internet).

(4) La creación por Google de Alphabet, Google Maps, Calico, Google for Education…muestra su ambición por algoritmizar la vida de las personas en cualquiera de sus ámbitos. Pretenden así generar una nueva cosmovisión más sintónica con la época, en constante feedback tal como la soñó el fundador de la cibernética, Norbert Wiener.

(5) “Lo gratuito conlleva siempre una forma de dominación”. El País, 18/08/2018 (Disponible en Internet).

(6) Concretamente, la compañía cambió en secreto su algoritmo de difusión de noticias. Tras analizar casi tres millones de comentarios, determinaron que "los resultados muestran la realidad de un contagio emocional masivo a través de las redes sociales". Kramer, Adam D. I. ; Guillory, Jamie E. y Hancock Jeffrey T. “Experimental evidence of massive-scale emotional contagion through social networks” (Disponible en Internet).

(7) “Tu avatar te cuida”. La Vanguardia, 20/10/2018 (Disponible en Internet).

(8) Care Coach: https://www.care.coach/

(9) Bowles, Nellie. “La interacción humana es un lujo en la era de las pantalles”. New York Times, 26/03/2019 (Disponible en Internet).

(10) "Por dispositivo, entiendo una especie -digamos- de formación que tuvo por función mayor responder a una emergencia en un determinado momento. El dispositivo tiene pues una función estratégica dominante.... El dispositivo está siempre inscripto en un juego de poder" Foucault, Michel. “El juego de Michel Foucault”. En Foucault, M. Saber y verdad. La Piqueta, Madrid, 1991, pp. 127-162.

(11) Esta operación iría acompañada del eclipse de la política –gestión de conflictos y diversidades- y el triunfo de la economía como pura actividad de gobierno que no persigue otra cosa que su propia reproducción. Agamben, Giorgio. ¿Qué es un ispositivo? Anagrama, Barcelona, 2015.

(12) “Los algoritmos aumentan las desigualdades sociales”. La Vanguardia, 4/11/2018 (Disponible en Internet).

(13) “La brecha digital en la ciudad de Barcelona”. MWCapital, 2016 (Disponible en Internet).

(14) “China controla a los jóvenes”. La Vanguardia, 28/01/2019 (Disponible en Internet).

(15) Innerarity, Daniel. “Lo digital es lo político”. La Vanguardia, 11/3/2019 (Disponible en Internet).