¿Deberíamos preocuparnos por los avances tecnológicos?

George Orwell, autor de 1984, nos avisa de lo siguiente: " Llegará un momento en que la gente no se rebele. No levantarán los ojos de las pantallas el tiempo suficiente como para darse cuenta de lo que está sucediendo". La historia de la humanidad ha ido evolucionando desde los primeros humanos que caminaron sobre la Tierra hasta la gran revolución científico/tecnológica actual, en que la biotecnología, la robótica y la Inteligencia Artificial (IA) están teniendo una gran importancia. En este artículo la idea es elaborar algunas reflexiones sobre el futuro, especialmente en base a los avances tecnológicos, pero sin seguir un orden específico. Empecemos diciendo que la Inteligencia Artificial ya plantea algunos motivos de preocupación. Con los progresos futuros seguramente surgirán más, así que la ansiedad sobre los peligros de la IA a largo plazo no está totalmente fuera de lugar. En concreto, hay que prestar atención también a sus efectos a corto plazo. Ya el filósofo francés Jean Paul Sartre nos advertía de que: «El desorden es el mejor servidor del orden establecido. Toda destrucción confusa debilita a los débiles, enriquece a los ricos, aumenta el poder de los poderosos». Por ello debemos tener en cuenta que hay temas sobre los que es prácticamente imposible ofrecer una visión alternativa a la oficial, sin correr el riesgo de la más absoluta marginación social y de recibir ataques en las redes sociales, pues en las sociedades tecnológicamente avanzadas se ha pasado de la violencia física a la violencia digital, que puede tener efectos todavía más perniciosos para el que la padece. Entre las funciones perversas para las que se emplea el ciberespacio, con Internet como elemento principal, está la de conseguir influir psicológicamente en la gente, provocando emociones, difundiendo relatos interesados y manipulando sus mentes. El propósito último es doblegar a las poblaciones y conseguir su adhesión, de modo que sean ellas las que fuercen a sus respectivos gobiernos en la dirección deseada por los Grandes Poderes. La conclusión a la que se puede llegar es que todas las grandes potencias, e incluso algunas más pequeñas, nos intentan manipular constantemente, de forma más o menos encubierta.

Actualmente nos podemos hacer varias preguntas: ¿Cómo podemos protegernos de las guerras, de los cataclismos ecológicos que nos anuncian o de las nuevas tecnologías, encabezadas por la Inteligencia Artificial? ¿Qué podemos hacer contra la propagación de la post verdad, con las fake news, o contra la amenaza del terrorismo? ¿Qué debemos enseñar a las nuevas generaciones en un mundo tan cambiante? ¿Cómo debemos enfrentarnos al constante y desorientador cambio acelerado que estamos viviendo? ¿Somos todavía capaces de entender el mundo que hemos creado? Se considera que los seres humanos tenemos básicamente las capacidades física y cognitiva. Mientras que en el pasado las máquinas competían con los seres humanos, sobre todo en las capacidades físicas, los seres humanos todavía teníamos una enorme ventaja sobre las máquinas en lo que respecta a cognición. Sin embargo, la Inteligencia Artificial (IA) ahora está empezando a superar a los seres humanos, cada vez más, en estas capacidades cognitivas, incluyendo la comprensión de las propias emociones humanas. Se ha descubierto que todas las elecciones que hacemos en nuestra vida, son el resultado del trabajo de miles de millones de neuronas de nuestro cerebro, que calculan probabilidades en una fracción de segundo. Pero la IA puede superar los humanos incluso en tareas que en teoría exigen «intuición», sobre todo en tareas que requieren intuiciones sobre otras personas. Muchos tipos de trabajo, como prestar dinero a otros o negociar un acuerdo, exigen la capacidad de evaluar correctamente las emociones y los deseos de las otras personas involucradas. La IA no sólo está a punto de suplantar a los seres humanos y de superarlos en lo que hasta ahora eran habilidades típicamente humanas, sino que también posee capacidades exclusivamente no humanas, lo que hace que la diferencia entre un algoritmo de IA y un trabajador humano sea también de tipo, no simplemente de grado. Por ejemplo, dos capacidades no humanas importantes de la IA son la conectividad y la capacidad de actualización, que no es algo muy propio del ser humano sin ayuda tecnológica. Al menos a corto plazo parece improbable que la IA y la robótica acaben con industrias enteras, pero los puestos de trabajo que requieran especialización en una estrecha gama de actividades rutinarias con toda seguridad se automatizarán. Pero posiblemente a corto plazo será mucho más difícil sustituir los humanos por máquinas con algoritmos de IA en tareas menos rutinarias, que exijan el uso simultáneo de un amplio espectro de habilidades, y que impliquen tener que afrontar situaciones imprevistas.

La discusión sobre si la mente es un tipo de máquina biológica implica que no haya obstáculos para que se diseñe una IA a nivel humano, posiblemente con excepción de la conciencia fenoménica, que sigue alimentando el debate en numerosas cuestiones que hunden sus raíces en el clásico problema filosófico de la mente de los demás y la privacidad de los estados mentales. La cuestión es si es probable que se dé en la IA en la práctica. Pero aún hay infinidad de cosas que la IA no puede hacer. Muchas requieren un sentido humano de la relevancia, la capacidad humana de distinguir aquello que es relevante, es decir, que resulta fundamental, trascendente o substancial. Además, la IA se ha centrado en la racionalidad intelectual y hasta ahora ha ignorado la inteligencia social y emocional. La Inteligencia artificial fuerte es aquella inteligencia artificial que iguala o excede la inteligencia humana promedio. Supone que la inteligencia de una máquina puede realizar con éxito cualquier tarea intelectual de cualquier ser humano. Es un objetivo importante para la investigación sobre inteligencia artificial y un tema interesante para la ciencia ficción. Una Inteligencia Artificial Fuerte (IAF) capaz de interactuar plenamente con el mundo necesitaría también las capacidades derivadas de la riqueza prodigiosa de la mente humana y la necesidad de buenas teorías psicológicas y computacionales sobre cómo funcionan. Los gobiernos ahora mismo están dedicando grandes recursos a la transferencia mental, una expresión acuñada por la corriente filosófica transhumanista y utilizada en el contexto de la ciencia ficción para referirse al hipotético proceso de codificación de una mente real para su posterior transvase a un sustrato artificial. Pero la financiación necesaria para construir mentes humanas artificiales sería aún mayor. Un siguiente paso sería la Singularidad (IAS), aunque la IAS requiere primero de la IAF. La singularidad tecnológica es el advenimiento hipotético de inteligencia artificial general e implica que un equipo de cómputo, red informática o un robot podrían ser capaces de auto mejorarse recursivamente, en el diseño y construcción de computadoras o robots mejores que él mismo. Se dice que las repeticiones de este ciclo probablemente darían lugar a un efecto fuera de control, una explosión de inteligencia, donde las máquinas inteligentes podrían diseñar generaciones de máquinas sucesivamente más potentes. En este caso la creación de inteligencia sería muy superior al control y la capacidad intelectual humana. Pero los que creen en la Singularidad (IAS) ignoran las limitaciones que todavía tiene la IA actual. Aunque los avances se realizan en progresión geométrica.

Ada Lovelace, matemática, precursora de la informática y escritora británica, ya predijo la IA en la década de 1840, nada menos que en pleno siglo XIX. Más concretamente, predijo parte de ella. Al no haber todavía atisbos de las redes neuronales ni de la IA evolutiva o dinámica, se centró en los símbolos y en la lógica. Tampoco sentía inclinación por el objetivo psicológico de la IA, ya que su interés era puramente tecnológico. Dijo, por ejemplo, ya en aquella época, que una máquina "podría componer piezas musicales elaboradas y científicas de cualquier grado de complejidad o extensión" y también que podría expresar "los grandes hechos de la naturaleza" y haría posible "una época gloriosa para la historia de las ciencias".  Así que no le habría sorprendido ver que, casi dos siglos más tarde, los científicos utilizasen big data y trucos de programación diseñados especialmente para mejorar los conocimientos en genética, farmacología, epidemiología, etc… La máquina que Ada Lovelace tenía en mente era la Máquina Analítica. Este dispositivo de engranajes y ruedas dentadas, que nunca se terminó de construir, lo había diseñado su gran amigo Charles Babbage, matemático y científico de la computación británico, en 1834. A pesar de estar concebida para el álgebra y los números, en lo esencial era equivalente a una computadora numérica polivalente. Ada Lovelace reconoció la potencial generalidad de la Máquina Analítica, así como su capacidad para procesar símbolos que representasen "todas las materias del universo". También describió varios fundamentos de la programación moderna, como programas almacenados, subrutinas anidadas jerárquicamente, direccionamiento, microprogramas, estructuras de control, sentencias condicionales y hasta los bugs (errores de software). Pero no dijo nada sobre cómo podrían implementarse la composición musical o el razonamiento científico en la máquina de Babbage. La IA era posible, sí, pero cómo llegar a ella seguía siendo un misterio. Los que creen en la Singularidad (IAS) predicen un avance tecnológico exponencial en la IA, biotecnología y nanotecnología y en la cooperación entre ellas. De hecho, ya está pasando. Se están utilizando análisis de big data para avanzar en ingeniería genética, en desarrollo de medicamentos y en otros muchos proyectos de base científica, tal como ya indico Ada Lovelace. Del mismo modo, la IA y la neurociencia se están combinando para emular un cerebro completo, con la participación de tecnólogos, filósofos, neurólogos, psicólogos, etc….

Situándonos en la actualidad, pensemos, por ejemplo, en la atención sanitaria,. Muchos médicos se ocupan de manera casi exclusiva en procesar información tal como recabar datos médicos, analizarlos y emitir un diagnóstico. Las enfermeras, en cambio, necesitan también buenas habilidades motrices y emocionales para administrar una inyección dolorosa, cambiar un vendaje o calmar a un paciente agresivo. Junto con el cuidado a las personas, la creatividad plantea también obstáculos particularmente difíciles para la automatización. Utilizando bases de datos biométricos masivos, obtenidos de millones de personas, el algoritmo podría saber qué botones bioquímicos pulsar para producir determinada música que hiciera que todos se lanzaran a las pistas de baile. Si el arte trata en verdad de inspirar (o manipular) las emociones humanas, pocos músicos humanos o pintores tendrían la posibilidad de competir con un algoritmo de este tipo, porque no serían capaces de igualarlo a la hora de comprender el principal instrumento con el que están operando: el sistema bioquímico humano. A un nivel aún más profundo, los sensores biométricos y las interfaces directas cerebro-ordenador pretenden erosionar la frontera entre las máquinas electrónicas y los cuerpos orgánicos, y meterse literalmente bajo nuestra piel. La pérdida de muchos puestos de trabajo en todos los ámbitos, desde el arte a la atención sanitaria, se verá posiblemente compensada parcialmente por la creación de nuevos trabajos humanos. Los médicos de cabecera que se ocupan de diagnosticar enfermedades conocidas y de administrar tratamientos comunes serán sustituidos probablemente por IA médicas. Pero justo por eso, habrá muchos más dinero para pagar a médicos humanos y ayudantes de laboratorio para que realicen investigaciones punteras y desarrollen nuevos medicamentos o procedimientos quirúrgicos. La IA podrá colaborar en la creación de puestos de trabajo humanos de otro modo. En lugar de que los humanos compitan con la IA, podrían concentrarse en su mantenimiento y en su uso.

Si fuese así, bien podría ocurrir que el mercado laboral de mediados del siglo XXI estuviera caracterizado por la cooperación humano-IA en lugar de por la competición entre uno y otro. En ámbitos que van desde la vigilancia hasta las operaciones bancarias, equipos de humanos más IA quizás superen tanto a los humanos como a los ordenadores. En consecuencia, crear nuevos puestos de trabajo y volver a formar personas para que los ocupen no será el único esfuerzo. La revolución de la IA no será un único punto de inflexión crucial tras el cual el mercado laboral llegará a un nuevo equilibrio. Más bien será una cascada de disrupciones tecnológicas cada vez mayores. Hoy ya son pocos los empleados que esperan ocupar el mismo empleo toda la vida. Una mirada más atenta en el mundo del ajedrez podría indicar hacia donde irán las cosas a largo plazo. Es cierto que durante varios años, después de que la máquina Deep Blue ganara a Kasparov, la cooperación humano – ordenador irrumpió en el ajedrez. Pero en los últimos años, los ordenadores son tan buenos jugadores de ajedrez que sus colaboradores humanos han perdido su valor, y pronto podrían ser totalmente irrelevantes. Hacia mediados del siglo XXI podría surgir una clase «inútil», debido no simplemente a una falta absoluta de trabajo o una falta de educación pertinente, sino también a una resistencia mental por parte de la gente. Nadie puede saber con seguridad qué tipo de impacto tendrán el aprendizaje automático y la automatización, basados en la IA, así como la robótica, en las diferentes profesiones del futuro, y es muy difícil evaluar el calendario de los eventos relevantes, sobre todo porque dependen tanto de decisiones políticas y de tradiciones culturales como de descubrimientos puramente tecnológicos. El reto que la infotecnología, que incluye la IA, y la biotecnología plantean a la humanidad en el siglo XXI es sin duda mucho mayor que lo que en épocas anteriores supusieron las máquinas de vapor, los ferrocarriles y la electricidad. La fusión de la infotecnología y la biotecnología puede hacer que muy pronto miles de millones de humanos queden fuera del mercado de trabajo y, por lo tanto, se socaven tanto la libertad como la igualdad.

Una amenaza primordial es el desempleo por causas tecnológicas. Muchos trabajos manuales y administrativos de nivel bajo ya han desaparecido. Otros les seguirán, aunque los trabajos manuales que requieren destreza y adaptación no desaparecerán a corto plazo. La mayoría de la carga y transporte en los almacenes la pueden efectuar los robots y los vehículos sin conductor eliminarán diversos puestos de trabajo. Los puestos medios de gestión administrativa también peligran. Muchos profesionales ya utilizan sistemas de IA como asistentes. No falta mucho para que algunos trabajos, como los de derecho y contabilidad, que requieren mucho tiempo de investigación sobre las regulaciones y precedentes, puedan ser en gran parte asumidos por la IA. Algunas tareas más exigentes, incluidas muchas de medicina y ciencia, no tardarán en verse afectadas. Los trabajos, aunque no se pierdan, necesitarán menos cualificación y la formación profesional se resentirá. Aunque algunos trabajos en el campo legal serán redundantes, los abogados saldrán ganando con la IA, porque en el campo legal acechan multitud de trampas legales. Si algo saliera mal, ¿quién será el responsable: el programador o el usuario? ¿Y se podría demandar alguna vez a un profesional humano por no usar un sistema de IA? Si se ha demostrado, ya sea matemática o empíricamente, que el sistema era altamente fiable, sería muy probable un litigio. Aparecerán sin duda nuevos tipos de trabajo, pero es dudoso que vayan a ser equivalentes en cuanto a cantidad, formación asequible y/o poder adquisitivo, como sucedió tras la revolución industrial. Se avecinan serios desafíos sociopolíticos. Los cargos públicos están menos amenazados, pero también se verán comprometidos. En un mundo ideal, la oportunidad para multiplicar y mejorar las actividades que ahora están infravaloradas, como cuidar a gente mayor, sería acogida con entusiasmo, pero esto no está garantizado. Por ejemplo, la educación está empezando a incluir asistentes de IA personales y/o por internet, que reducen el nivel del trabajo de muchos profesores humanos. Ya se dispone de psicoterapeutas computerizados, a un coste mucho menor que los terapeutas humanos. Algunos son sorprendentemente útiles, por ejemplo, para reconocer la depresión. No obstante, no tienen regulación alguna. Y el cambio demográfico estimula la investigación en el campo potencialmente lucrativo de los "cuidadores" artificiales para ancianos y de "niñeras robot".

Al margen de los efectos que tendrá en el empleo, el uso de sistemas de IA sin la empatía necesaria en contextos esencialmente humanos, es tan arriesgado en la práctica como éticamente dudoso. Muchos "acompañantes computerizados" están diseñados para ayudar a ancianos y/o personas con discapacidad que tienen un contacto mínimo con los pocos seres humanos con los que se encuentran. Están destinados a ser fuente no solo de ayuda y entretenimiento sino también de conversación, convivencia y consuelo emocional. Incluso si a la persona vulnerable le hiciese más feliz dicha tecnología, se estaría traicionando su dignidad humana de manera insidiosa. Además, las diferencias culturales son importantes en este caso, ya que, por ejemplo, la actitud hacia los robots difiere ampliamente en Japón y en Occidente. A los ancianos les puede gustar hablar de sus recuerdos con un acompañante artificial, pero ¿sería eso una conversación de verdad? Podría ser un recordatorio gratificante que desencadenase reconfortantes momentos de nostalgia. No obstante, se puede proporcionar ese beneficio al usuario sin inducirle la ilusión de la empatía. Muchas veces, incluso en terapias emocionalmente tensas, lo que la persona desea por encima de todo es que se le reconozca su valentía y/o su sufrimiento, pero que surja de un entendimiento mutuo de la condición humana. Estamos estafando a la persona al ofrecerle solo un simulacro superficial de comprensión. Incluso si el usuario padece de demencia moderada, su expectativa del acompañante de IA probablemente será mucho más rica que la que el acompañante, algoritmo de IA robotizado, obtenga del modelo humano. ¿Qué pasaría entonces si el agente de IA no reaccione según lo que se espera, o que se necesita, cuando la persona recuerde alguna pérdida personal dolorosa? Las expresiones convencionales de comprensión del acompañante no humano no ayudarían y podrían causar más mal que bien. Mientras, se habría provocado que la persona se afligiera sin poder obtener consuelo inmediato. Otra inquietud es si el acompañante debería callarse algunas veces o contar una mentira piadosa. Si dijese verdades implacables o tuviesen lugar silencios súbitos podría molestar al usuario, pero la diplomacia requeriría procesamiento de lenguaje natural muy avanzado, más un modelo sutil de psicología humana. En cuanto a los robots niñeras, dejando aparte los problemas de seguridad, el uso excesivo de sistemas de IA por parte de bebés y niños pequeños podría alterar su desarrollo social y/o lingüístico.

Las parejas sexuales artificiales, además de protagonizar películas, ya se están comercializando, sobre todo en Japón. Algunas tienen reconocimiento de habla y pueden hablar y moverse seductoramente. Son una influencia más, y aumentada, de las que ya nos brinda internet para vulgarizar la experiencia sexual humana, reforzando la cosificación sexual de la mujer. Muchos opinadores, incluyendo a algunos científicos especializados en IA, han escrito sobre sus relaciones sexuales con robots en unos términos que revelan un concepto del amor íntimo sumamente superficial que se presta a la confusión con la lujuria, la obsesión sexual y una mera familiaridad cómoda. No obstante, es poco probable que estas advertencias sean efectivas. Dada la enorme rentabilidad de la pornografía en general, hay pocas esperanzas de impedir los futuros "adelantos" en muñecas sexuales dotadas de IA. Por otro lado, los algoritmos de reconocimiento facial son la parte del código de IA más valioso del mundo y probablemente la más peligrosa. Ofrecen un sistema de reconocimiento involuntario e invisible, diseñado para identificar personas sin que se den cuenta, sin su permiso y sin que puedan ofrecer resistencia, porque son traicionados por las características de su físico. Cada vez que usamos estas aplicaciones o subimos fotos a la nube, estamos entrenando los mismos algoritmos que usan las empresas para abrir la puerta a sus empleados, los sistemas de transporte para cobrar un viaje o los que usan los cajeros como identificación para sacar dinero. Y nos identifican aunque no queramos, tanto si lo sabemos como si lo ignoramos. En China un ciudadano que cruza en rojo puede ser multado instantáneamente en su cuenta bancaria. También puede verse inmortalizado en un vídeo cruzando indebidamente, para escarnio propio y de su familia. Si comete infracciones, como aparcar mal, criticar al Gobierno en una conversación privada o comprar más alcohol del necesario, podría perder el empleo, el seguro médico y encontrarse con que ya no puede conseguir otro trabajo ni coger un avión. Así es como funcionará el nuevo sistema de crédito social chino, programado para entrar completamente en vigor el año 2020. Los ciudadanos chinos llevan años entrenando las mismas tecnologías que ahora los vigilan, y ahora estas tecnologías los entrenan a ellos con un sistema de castigos y recompensas que parece un videojuego. Una nueva y modernizada mezcla de 1984 de Orwell y Un mundo feliz de Aldous Huxley, con el ojo que todo lo ve siempre vigilante. Y tengo la intuición de que el sistema chino es un piloto para luego extenderlo a nivel mundial.

El sistema de crédito chino depende de más de cuatrocientos millones de cámaras que vigilan permanentemente a la población, todas conectadas a servidores con sistemas de reconocimiento facial en tiempo real. Forma parte de un programa llamado Sharp Eye, pero en realidad cualquier cámara, micrófono o sensor de cualquier dispositivo chino, como los móviles, en cualquier lugar, forma parte del sistema de vigilancia del Gobierno. Además de sacar dinero presentando el rostro en lugar de la tarjeta, la mayor parte de la población cobra, presta y gasta a través de aplicaciones móviles como Alipay. La digitalización total de las transacciones es fundamental para el registro y control del Gobierno. Como dice la protagonista en El cuento de la criada, de Margaret Atwood, el salto de la democracia a la dictadura será fácil cuando todo el dinero sea digital. Todo el proyecto se sostiene gracias a un ecosistema de empresas tecnológicas dominado por tres gigantes: Baidu, Tencent y Alibaba. Hubo un tiempo en que no eran más que copias sin personalidad de las páginas populares estadounidenses. Pero todo ello cambió el día que el presidente de la República Popular de China Xi Jinping vio como una inteligencia artificial extranjera los ganaba al juego del Go, juego mucho más complejo e intuitivo que el ajedrez, y decidía dar la máxima prioridad a la investigación en Inteligencia Artificial. En efecto, el surcoreano Lee Sedol, dieciocho veces campeón del mundo de Go fue derrotado por el algoritmo de inteligencia artificial de la máquina AlphaGo en marzo de 2016. Un año más tarde, el chino Ke Jie, considerado el mejor jugador de la historia del Go, perdió de manera apoteósica contra la misma máquina en el congreso Future of Go en Wuzhen, China. Entre una partida y otra, el salto cualitativo de la máquina jugando contra sí misma fue tan significativo que pasó de una categoría de 9 dan, la máxima hasta entonces, a una de 20 dan. En un solo año había abierto una brecha insalvable entre su habilidad y la de un jugador de carne y hueso.

La apuesta de la inteligencia artificial es que la única manera de imitar lo que el cerebro hace es imitando exactamente lo que es. No de manera simbólica sino literal, simulando neuronas. Y no enseñándole de manera semántica, programando la lógica de las estructuras del pensamiento como se programa una máquina, sino a partir de ejemplos, cómo se enseña a un niño, y utilizando algoritmos de inteligencia artificial. La máquina de jugar al ajedrez ya no aprendería las reglas de cada pieza para calcular todas las permutaciones posibles y elegir la que proyectara el mejor resultado. En su lugar, estudiaría una base de datos con todas las jugadas que han conseguido más ventaja en partidas anteriores y las aplicaría en el contexto apropiado, aprendiendo de sus propios éxitos y fracasos, ajustando  luego el juego con la experiencia acumulada por el propio algoritmo hasta alcanzar una perfección imbatible. En el verano de 2017 Facebook puso a dos inteligencias artificiales a negociar. Su objetivo era intercambiar una serie de objetos con un valor pre asignado, como sombreros, pelotas o libros. Sus programadores querían ver si eran capaces de mejorar sus tácticas de negociación sin que nadie les dijera cómo. Casi inmediatamente las dos inteligencias artificiales estaban enfrascados en una discusión incomprensible; no porque no tuviese sentido sino porque mientras trataban de ponerse de acuerdo, cada vez más rápido, habían conseguido «evolucionar» su inglés original a un dialecto inventado por ellos, completamente ininteligible incluso para los humanos que los habían diseñado. Los anuncios son únicamente una excusa. El negocio no es vender productos a los usuarios, sino vender los usuarios como productos a una industria hambrienta de captar la atención. Para que el negocio funcione, hay que mantener a los usuarios entretenidos mirando una página el mayor tiempo posible. «El algoritmo analiza toda la información disponible para cada usuario, De hecho, decide cuál será la información más interesante y publica una pequeña historia para ellos», explica Mark Zuckerberg, el fundador de Facebook. Es tu propia ventana al mundo, decorada por un algoritmo misterioso en una plataforma digital. Después llegó el botón de like, el último grito en lubricante social. El like era más sobrio y elegante, y menos emocional. «Conecta con un like», repetía Mark Zuckerberg. Los like hicieron que la gente se sintiera escuchada, valorada y atendida, por lo que empezaron a hacer más cosas para conseguir más. Por fin habían encontrado un medidor interno para la plataforma, que les permitía evaluar quién era quién dentro de sus propios círculos y qué comportamientos generaban interés en otros usuarios, como se generaban los grupos, quien ejercía influencia sobre los demás y qué clase de contenidos producían más interacción. Patrones que podían revelar la inminente explosión de una moda, una tendencia o un movimiento social y que podían ser imitados por un buen algoritmo de recomendación.

Los data brokers son empresas que se dedican a la compraventa de bases de datos personales. Su trabajo es reunir bajo una sola identidad toda la información dispersa que existe sobre cada persona. Relacionan su nombre completo, dirección, teléfono y número de la Seguridad Social con los datos de su tarjeta, matrícula, seguro médico, los informes de su empresa, las liquidaciones de su banco, las compras con sus tarjetas, viajes, suscripciones, multas, tarjeta del casino, factura del veterinario, licencia de armas, currículum académico, series y películas favoritas, antecedentes penales, afiliación religiosa, estado civil, pruebas de ADN , etcétera. Si los datos existen, los compran donde estén, también en el mercado negro. Después las re empaquetan en detallados grupos socioeconómicos para que resulten útiles a clientes o campañas concretas. La integración de todos estos datos en el algoritmo de Facebook disparó sus beneficios en un tiempo récord. En el momento de salir a bolsa, Facebook sabía todo lo que se podía saber de sus usuarios y de mucha más gente. Podía segmentar a un tercio de la población mundial por edad, raza, estado civil, barrio o estatus socioeconómico; pero también separarlos por sus valores, miedos, preferencias sexuales, o su grado de satisfacción laboral. Y los habían estado estudiando con pequeños experimentos. Descubrieron que los usuarios eran mucho más propensos a compartir cosas que habían sido compartidas por otros, independientemente de su interés, y que los anuncios funcionan mejor cuando llevan algunos like de conocidos. El efecto tribal es intenso en las comunidades digitales. La conclusión principal es que somos especialmente susceptibles al contenido emocional desplegado en las redes sociales, que ofrecen una visión de «lo que está pasando» y que está diseñada para nosotros de manera única por un algoritmo optimizado para estimular la interacción. El algoritmo mezcla las noticias, los comentarios de los amigos, los vídeos y las fotos para conseguir cosas de nosotros, aunque sólo sea más interacción. La realidad virtual será el nuevo Netflix, una realidad alternativa en la que refugiarse de un mundo cada vez más complicado. Cuando lo usamos para hablar con nuestros seres queridos, como si estuviéramos juntos en la misma habitación, sabrá cosas que nosotros no sabemos. Por ejemplo, ¿qué es exactamente lo que hace que tu hermano te saque tanto de quicio o como te manipula un maltratador?. Sin duda, es información valiosa que podría ayudar a mejorar nuestra vida. De hecho, la realidad virtual ya se usa para tratar estrés postraumático e incluso operar sin anestesia. Pero lo más probable es que sea utilizada por multinacionales y grupos políticos para explotar nuestras vulnerabilidades y manipularnos hasta someternos sin tener que sacarnos de casa. Probablemente porque ya lo hacen .

Hay un chiste que dice: «"Nunca pensé que los leopardos se comerían mi cara!", Llora la mujer que votó por el Partido de los Leopardos que Devoran Caras». Una mujer de Indiana que votó por el presidente Donald Trump se quedó helada al descubrir que su marido sería deportado inmediatamente en base a la propia política de Trump en relación a los inmigrantes. Hasta las personas que se han dejado manipular con argumentos racistas, clasistas, machistas o directamente fascistas necesitan saber que fueron manipuladas para votar en contra de sus propios intereses. Sobre todo cuando el fenómeno se sigue repitiendo cada vez que se convocan elecciones en cualquier lugar del mundo. La industria de la manipulación política ha invadido el proceso democrático, creando campañas clandestinas en canales de comunicación cifrados para murmurar al oído de millones de personas. A cada uno le cuenta algo diferente, dependiendo de lo que cada uno quiere oír. El 26 de mayo de 2016, en la puerta de una mezquita de Houston, Texas, se encontraron cara a cara dos manifestaciones antagonistas: una contra la «islamización de Texas» y otra para «salvar el conocimiento islámico». Los primeros habían sido convocados por una página de Facebook llamada Heart of Texas. Los segundos habían sido convocados por otra página de Facebook titulada United Muslims of America. Por suerte, nadie murió. Si el día merece un lugar especial en la historia es porque más tarde se descubrió que ambas páginas habían sido creadas mediante cuentas falsas gestionadas desde un ordenador de la Internet Research Agency rusa. También había creado y promocionado las dos manifestaciones a la vez. Una sola persona con una conexión a la red desde otro continente había logrado enfrentar a dos centenares de personas utilizando un puñado de cuentas falsas, un ejército de bots y doscientos dólares en publicidad segmentada. Un bot (derivado de robot) es un programa informático que efectúa automáticamente tareas repetitivas a través de Internet, la realización de la cual sería imposible o muy tediosa por parte de personas. Algunos ejemplos de bots son los rastreadores web de los motores de búsqueda de Internet, que recorren los sitios web de forma automática y recopilan información de los mismos de manera mucho más rápida y efectiva de lo que lo haría una persona. Los bots "maliciosos" se utilizan, por ejemplo, para recopilar direcciones de correo electrónico con fines publicitarios, para hacer copias masivas no autorizadas de contenidos web o para espiar de manera sistemática las vulnerabilidades del software de los servidores, con el objetivo de penetrar en ellos. En las redes sociales, los bots se utilizan para simular la interacción humana, inflando artificialmente el número de visitas o seguidores, o automatizando respuestas para posicionar mensajes o influir en debates.

Los llamados bots conversacionales son sistemas de inteligencia artificial que simulan una conversación con una persona, cuando en realidad es un tipo de robot utilizando el lenguaje natural. El uso de bots malignos mantienen su porcentaje de tráfico, que ronda el 30% del tráfico web global. Quizás los más utilizados sean los spammers, encargándose de crear y propagar contenido basura en comentarios de blogs y webs competidoras o generando enlaces masivos y falsos. La compañía Damballa, especializada en seguridad, ha hecho público un informe relacionado con la infección de los ordenadores corporativos por los diferentes tipos de malware. Se indica que uno de cada veinte equipos está infectado por bots malignos, y tan sólo el 53% de estas secuencias de código es detectada por los antivirus el primer día que aparecen. Esto puede convertirse en un grave problema en el momento que alguno de estos códigos maliciosos sea suficientemente peligroso como para propagarse sin control. Millones de personas acceden a internet a través de las redes sociales porque no pueden pagar una tarifa de datos. Se conectan con tarifas especiales como Vodafone Pass, que por tres euros al mes permite acceso ilimitado a las portadas de Facebook, Twitter, Instagram, SNAPCHAT, etc … O a través de Free Basics, el servicio que Facebook ha creado para llevar internet al tercer mundo. Pero los usuarios sólo leen titulares. Para estos usuarios, Facebook es internet y todo lo que leen ha sido preseleccionado por su algoritmo. Rodrigo Duterte, Presidente de Filipinas, en las elecciones de 2016 aseguraba que el mejor momento para él fue darse cuenta de que sus fans podían distribuir mensajes de manera coordinada y gratuita a través de la aplicación Free Basics. Y ganaron las elecciones con noticias falsas, montajes fotográficos y acoso coordinado a la oposición. Vales, Macedonia, era la segunda ciudad más contaminada de la antigua Yugoslavia y con mucho desempleo. Pero, en 2016, un centenar de personas comenzó a ganar cinco mil euros al mes promocionando contenidos virales a través de las redes sociales. A los macedonios les daba igual el contenido. Su misión era ganar dinero, no destruir la estabilidad de los Estados Unidos. Se guiaban estrictamente por las métricas de Google para maximizar cada clic. Lanzaban todo tipo de titulares hasta que uno despuntaba, y entonces apostaban a este caballo ganador. Pronto descubrieron que inventarse las noticias era más fácil que encontrarlas y que cuanto más locas eran, más clics. Luego descubrieron el contenido más absurdo y viral de todos: Donald Trump, al que ayudaron a vencer a Hillary Clinton.

Las plataformas digitales son un medio de comunicación de masas diferente a la radio y la televisión, porque pueden elegir a su audiencia. Hace cuarenta años, un político tenía que convencer a toda una nación con un solo mensaje, mientras que ahora puede hablar al oído de millones de personas y decirle a cada una de ellas algo diferente. Un ejemplo de la utilización de la radio para manipular al pueblo se dio en la Alemania nazi. Pero ahora el mensaje no es emitido a través de un terminal genérico sino por el mismo canal por el que llegan los mensajes familiares, personales y privados de cada usuario por separado. Permite decirle a cada grupo exactamente lo que quiere oír, sin que los demás lo sepan. El plan de la empresa Cambridge Analytica no era manipular a todo el electorado estadounidense, de doscientos millones de personas, para que votara a Trump. El plan era usar un algoritmo de IA para crear un modelo del electorado y encontrar entre dos y cinco millones de las personas más susceptibles de ser convencidas en los Estados donde sólo se necesitaba un empuje del 1% a favor de Trump, para vencer y llevarse el 100% de los compromisarios de dichos Estados. En Brasil la victoria de Jair Bolsonaro no parecía probable. Y no sólo porque era un ex militar al que muchos han descrito como un híbrido de Donald Trump y el autócrata de Filipinas Rodrigo Duterte, sino porque era abiertamente racista, machista, homófobo y un nostálgico de la dictadura militar que sometió en Brasil de 1964 a 1985. Visto desde fuera, su acceso a los recursos de campaña parecía muy limitado y todo se confabulaba contra él. Pero la formación de opinión en Brasil no pasa hoy por los medios convencionales, sino que pasa por WhatsApp, Facebook y Twitter. La de Bolsonaro fue la primera campaña ejecutada exclusivamente en las redes sociales, y diseñada para «la nueva ciudadanía». Y asesorado por Steve Bannon, jefe de campaña de Donald Trump y cofundador de Cambridge Analytica. El equipo de Bolsonaro creó cientos de miles de chats que recibían un mínimo de mil mensajes diarios. También compró cientos de miles de números de teléfono en Estados Unidos para enviar los mensajes desde un origen desconocido. La campaña diseñó una estrategia combinada piramidal y en red, en la que los creadores generan contenido malicioso y lo envían a activistas locales y regionales, que luego pasan la información a muchísimos grupos públicos y privados. Desde aquí, los mensajes se diseminan aún más cuando las personas crédulas los comparten con sus propios contactos. El escándalo Cambridge Analytica tuvo el doble efecto de demonizar a la empresa pero popularizar sus servicios. Cambridge Analytica quebró en 2018, pero su tecnología es más popular que nunca. Después de asesorar a Jair Bolsonaro en su campaña clandestina, Bannon se volvió hacia Vox, el partido más reciente de la ultraderecha en España. Su enlace fue Rafael Bardají, quien había sido la mano derecha de José María Aznar y ex asesor de sus ministros de Defensa, Eduardo Serra y Federico Trillo. Tras la reunión, anunció que Bannon le había dado a Vox «su aparato tecnológico para movernos en las redes sociales con los mensajes adecuados, probar ideas y hacer una campaña electoral al estilo americano». Se une así a la liga de partidos reaccionarios a los que asesora Bannon en Europa.

Tenemos un tipo de manipulación psicológica poco tecnológica, como podrían ser la tortura y la hipnosis. Tenemos un ejemplo de utilización de la hipnosis en la película La maldición del escorpión de Jade de Woody Allen. Pero tenemos otra manipulación mediante la tecnología, que nos expone Marta Peirano en su libro El enemigo conoce el sistema. En este libro nos explica que la red (Internet) es un conjunto de infraestructuras controladas por un pequeño número de grandes empresas. Pero su tecnología está oculta, sus algoritmos son opacos, y sus micro decisiones no se pueden rastrear. El enemigo conoce el sistema pero nosotros no. Se ha convertido en una máquina de vigilancia y manipulación de masas al servicio de regímenes autoritarios o pretendidamente democráticos. ¿Habéis oído hablar de Peter Thiel, Robert Mercer, o de Palantir Technologies? Peter Thiel es el fundador y propietario de Palantir, cofundador de PayPal y miembro de la llamada PayPal Mafia, el «clan» de ex alumnos de Standford y de la Universidad de Illinois, que acabaron fundando algunas de las compañías más poderosas de Silicon Valley, como Tesla, LinkedIn , Palantir Technologies, SpaceX o YouTube. Thiel también fue el primer inversor de Facebook , convirtiéndose en el mentor de Mark Zuckerberg y miembro destacado de su consejo de dirección. En 2004, Thiel fundó una empresa llamada Palantir Technologies Inc, la gran máquina de espionaje del Gobierno estadounidense, ya que todo dispositivo que se conecta a Internet está conectado a Palantir. El otro gran inversor de Palantir, de manera encubierta, fue la CIA. Su objetivo era hacer minería de datos para el control de la población. Y volvemos al simbolismo que tanto gusta a los Poderes. Un palantir es una piedra legendaria que permite observar a personas y momentos distantes en el tiempo y el espacio. Sauron lo usa en El señor de los anillos para vigilar a sus enemigos, ver cosas que ya han ocurrido y enloquecer a sus víctimas con voces fantasmagóricas. La piedra está conectada al anillo, que la «llama» cuando alguien la usa. Siguiendo con la analogía, todo dispositivo conectado a internet está conectado a Palantir. Por si faltara poco, Donald Trump ganó las elecciones con el apoyo público, técnico y financiero de dos personas: Peter Thiel y Robert Mercer, los respectivos propietarios de Palantir y Cambridge Analytica, además de la ayuda secreta rusa, que se ha podido demostrar. Hoy Palantir es conocido como el Departamento de Precrimen de Trump, porque su tecnología predictiva es utilizada por la policía para detectar «zonas de calor» donde podría estallar la violencia. También detecta grupos o personas «de interés», que hayan asistido a manifestaciones, participado en huelgas, tengan amigos en Greenpeace, usen tecnologías de encriptación o hayan apoyado a otros activistas en redes sociales.

Palantir Technologies tiene acceso a huellas y otros datos biométricos, archivos médicos, historial de compras con tarjetas, registros de viajes, conversaciones telefónicas, impuestos, historiales de menores, etc… Y se queda con todos los datos que procesa, para usarlos con otros clientes como las agencias de inteligencia de Inglaterra, Australia, Nueva Zelanda y Canadá. En Europa, es utilizado por al menos dos gobiernos, el británico y el danés. Pero sobre todo se ha convertido en un aliado de Trump para la detención y deportación masiva de inmigrantes sin antecedentes criminales. Todo está alojado en Amazon Web Services, que también usa Amazon Rekognition, su algoritmo de reconocimiento facial. Todo progresaba aparentemente de forma ordenada hasta que el mundo descubrió a Cambridge Analytica, la empresa que ayudó a Donald Trump a convertirse en el 45º presidente de Estados Unidos. Cambridge Analytica había usado los datos personales de millones de personas en Facebook para manipular con éxito los resultados de dos procesos aparentemente democráticos: el referéndum británico sobre el Brexit y las elecciones estadounidenses de 2016, en que triunfó Trump. El propietario de la empresa era Robert Mercer, una de las dos grandes fortunas detrás de la campaña de Donald Trump, y el arquitecto del proyecto era Steve Bannon, asesor de campaña del presidente y cofundador de Cambridge Analytica. En los últimos años el éxito de Facebook ha sido sorprendente y en la actualidad cuenta con más de 2.000 millones de usuarios activos en línea. Pero para poner en marcha su nuevo proyecto deberá salvar la brecha entre estar en línea, conectado, y fuera de línea. Una comunidad quizás comience como una reunión en línea, pero para fortalecerse de verdad también deberá enraizarse en el mundo fuera de línea. Zuckerberg dice que Facebook se ha comprometido «a seguir mejorando nuestras herramientas para proporcionarnos el poder de compartir nuestra experiencia» con los demás. Pero, ¿podrán los ingenieros de Facebook utilizar la Inteligencia artificial (IA) para crear una comunidad global que salvaguarde la libertad y la igualdad humanas? Parece difícil de creer, cuando Facebook está tan vinculado a los Poderes.

Actualmente lo que llamamos la nube es un sistema global de poder y energía que aún es algo casi imposible de comprender para la mayoría de la gente. Nos conectamos a la nube, trabajamos en ella, guardamos y sacamos cosas de ella, pensamos con ella, pagamos por ella y sólo la sentimos cuando falla. Es algo que experimentamos todo el tiempo sin entender lo que es o cómo funciona. Es algo en lo que nos hemos acostumbrado a confiar sin tener la más remota idea de en que estamos confiando, y en quién. La gestión del tráfico de datos ofrece dos clases de poder. El primero es el poder de leer la información de las cabeceras de los paquetes de datos, para comprobar que cumplen los requisitos del protocolo. El segundo, el de regular su itinerario a través de la red. La suma de toda esta información se llama metadatos y tienen un enorme valor. Para que una red siga siendo descentralizada es crucial que los metadatos se dispersen. Actualmente Amazon tiene la mitad del negocio mundial de la nube. Es el negocio más lucrativo y poderoso de Jeff Bezos, el fundador de Amazon, aunque mucha gente piense que se ha convertido en el hombre más rico del planeta regentando una macro tienda de productos online. De todos los gigantes tecnológicos, Amazon ha sido sin duda el más discreto. Pero en sus servidores tiene alojado más de un tercio de internet. Hace tiempo que la nube es más que el almacén de Internet. Le siguen a Amazon, a creciente distancia, Microsoft Azure, Google Cloud e IBM Cloud. Pero su único competidor real es la empresa china Alibaba, que domina el continente asiático y en los últimos dos años ha comenzado una agresiva expansión. Si Internet se rompe en varios bloques, como ha sugerido uno de los fundadores de Google, en cuanto a poder económico las nubes de Amazon y Alibaba serían equivalentes a dos de los principales continentes de la Tierra. La semilla que plantó Tim Berners-Lee en su oficina del CERN, al crear Internet, ha sido devorada por un complejo sistema de procesamiento de datos, donde se está produciendo la gran carrera armamentística del siglo XXI: el desarrollo de la inteligencia artificial. Entre sus principales funciones está almacenar gigantescas bases de datos y procesarlos con algoritmos de aprendizaje automático (machine learning) y aprendizaje profundo (deep learning) para terceros. Cuanta más información de otros procesa, más aprende el algoritmo de Amazon y más poderoso es .

Actualmente el 70% del tráfico de internet pasa por Tysons Corner, en el condado de Fairfax, Virginia (Estados Unidos), en donde están ubicadas numerosas compañías como Intelsat , DXC Technology , Gannett , Hilton Worldwide , Cvent , Freddie Mac , Capital One y Booz Allen Hamilton. El primer 'punto neutro' de Internet, la infraestructura física a través de la cual los ISPs intercambian el tráfico de Internet entre sus redes, fue el MAE-East, localizado en la localidad de Ashburn (Virginia) en 1992. y se sabe que Virginia, cercana a Washington, está vinculada con las infraestructuras de comunicaciones desde la década de 1950. También en Virginia está ubicado el primer datacenter de Amazon Web Services, que gestiona una parte importante de la nube. ¿Por qué en Virginia y no en otro lugar? Durante la Guerra Fría con la URSS las agencias militares y de inteligencia escogieron un paraje deshabitado de este estado, conocido con Tysons Corner, lo bastante alejado de Washington como para permanecer a salvo en caso de ataque nuclear y lo bastante cercano como para permanecer accesible, y empezaron a localizar allí búnkeres subterráneos secretos e infraestructuras de comunicaciones. Más tarde, la alta concentración de contratistas de defensa y de empresas de servicios tecnológicos, favorecida por la cercanía con el aeropuerto internacionales de Dulles, convirtió la zona en la prim