Extracción del libro de Yuval Noah Harari
Es probable que lo que ya está empezando a ocurrir en medicina ocurra cada vez en más ámbitos. La invención clave es el sensor biométrico, que la gente puede llevar sobre su cuerpo o dentro del mismo, y que convierte procesos biológicos en información electrónica que los ordenadores pueden almacenar y analizar. Dados los suficientes datos biométricos y la suficiente potencia de cómputo, los sistemas externos de procesamiento de datos pueden acceder a todos nuestros deseos, decisiones y opiniones. Son capaces de saber con exactitud quiénes somos.
La mayoría de la gente no se conoce muy bien a sí misma. Cuando yo tenía veintiún años, comprendí de una vez por todas que era gay, después de varios años de negarme a aceptarlo. Esto no es nada excepcional. Muchos hombres gais pasan toda su adolescencia inseguros sobre su sexualidad. Imagine ahora el lector la situación en 2050, cuando un algoritmo pueda decirle exactamente a un quinceañero en qué lugar se encuentra en un espectro de gais a heterosexuales (e incluso lo flexible que es dicha posición). Quizá el algoritmo nos muestre imágenes o vídeos de hombres y mujeres atractivos, siga los movimientos de nuestros ojos, la presión sanguínea y la actividad cerebral, y en cuestión de cinco minutos produzca un número en la escala de Kinsey.
Esto podría haberme ahorrado años de frustración. Quizá el lector no quiera realizar dicha prueba de forma individual, pero imagínese que se encuentra con un grupo de amigos en la aburrida fiesta de aniversario de Michelle, y que alguien sugiere que todos nos sometamos por turnos a este algoritmo nuevo y genial (y que todos estén alrededor observando los resultados y comentándolos). ¿Acaso el lector se marcharía?
En 2017, un equipo de Stanford produjo un algoritmo que supuestamente puede detectar si uno es gay o no con una precisión del 91 por ciento, basándose únicamente en el análisis de unas pocas fotografías faciales del sujeto (https://osf.io/zn79k/). Sin embargo, puesto que el algoritmo se desarrolló sobre la base de fotografías que las personas seleccionaron para colgar en páginas web de citas, puede ser que el algoritmo identifique en realidad diferencias en los ideales culturales. No es que los rasgos faciales de las personas homosexuales sean necesariamente diferentes de los de las personas heterosexuales. Más bien, los hombres homosexuales que cuelgan fotos en páginas web de citas homosexuales intentan ajustarse a ideales culturales diferentes de los de los hombres heterosexuales que cuelgan fotos en páginas web de citas heterosexuales.
Incluso en el caso de que lo hiciera, y aunque se escondiera de sí mismo y sus compañeros de clase, no podría esconderse de Amazon, Alibaba o la policía secreta. Mientras el lector navega por la web, mira algo en YouTube o lee las noticias de su red social, los algoritmos lo supervisarán y analizarán discretamente, y le dirán a Coca-Cola que si quiere venderle algún refresco, será mejor que en los anuncios utilice al chico descamisado antes que a la chica sin blusa. El lector ni siquiera lo sabrá. Pero ellos sí lo sabrán, y esta información valdrá miles de millones.
Y además, quizá todo esto se haga de manera abierta y la gente comparta su información a fin de obtener mejores recomendaciones, y al final para hacer que el algoritmo tome decisiones por ella. Se empieza por cosas sencillas, como decidir qué película ver. Mientras nos sentamos con un grupo de amigos para pasar una agradable tarde frente al televisor, primero hemos de elegir qué vamos a ver. Hace cincuenta años no teníamos opción, pero hoy en día, con el auge de los servicios de películas a la carta, existen miles de títulos disponibles. Llegar a un acuerdo puede ser bastante difícil, porque mientras que al lector le gustan las películas de ciencia ficción y suspense, Jack prefiere las comedias románticas y Jill vota por pretenciosos filmes franceses. Podría muy bien ocurrir que terminarais aviniéndoos a ver alguna película mediocre de serie B que os decepcione a todos.
Un algoritmo podría ayudar. Podríamos decirle qué películas anteriores nos han gustado de verdad a cada uno y, en función de su base de datos estadística masiva, el algoritmo encontraría entonces la combinación perfecta para el grupo. Por desgracia, es fácil que un algoritmo tan tosco esté mal informado, en particular porque es evidente que los informes personales suelen ser un indicador muy poco fiable de las verdaderas preferencias de la gente. Suele ocurrir que oímos a muchas personas elogiar una determinada película como una obra maestra, nos sentimos obligados a verla y, aunque nos quedamos dormidos a la mitad, no queremos parecer ignorantes, de modo que decimos a todo el mundo que fue una experiencia increíble.
Sin embargo, estos problemas pueden resolverse si simplemente dejamos que el algoritmo recopile datos en tiempo real sobre nosotros mientras vemos los filmes, en lugar de basarnos en nuestros informes personales y dudosos. Para empezar, el algoritmo puede supervisar qué películas vimos enteras y cuáles dejamos a medio ver. Incluso si le decimos a todo el mundo que Lo que el viento se llevó es la mejor película jamás rodada, el algoritmo sabrá que nunca pasamos de la primera media hora y nunca vimos en verdad cómo se incendiaba Atlanta.
Pero el algoritmo incluso puede ir mucho más allá. Hoy en día algunos ingenieros están desarrollando programas informáticos capaces de detectar las emociones humanas sobre la base del movimiento de nuestros ojos y músculos faciales.
Añadamos una buena cámara a la televisión y ese programa sabrá qué escenas nos hicieron reír, qué escenas nos entristecieron y qué escenas nos aburrieron. A continuación, conectemos el algoritmo a sensores biométricos, y sabrá de qué modo cada fotograma ha influido en nuestro ritmo cardíaco, nuestra tensión sanguínea y nuestra actividad cerebral. Mientras vemos, pongamos por caso, Pulp Fiction, de Tarantino, el algoritmo puede advertir que la escena de la violación nos causó un asomo apenas perceptible de excitación sexual, que cuando Vincent disparó por accidente a la cara de Marvin nos hizo reír de forma culpable y que no captamos el chiste sobre la Gran Hamburguesa Kahuna, pero aun así nos reímos, para no parecer estúpidos. Cuando uno se obliga a reír, emplea circuitos cerebrales y músculos distintos que cuando nos reímos porque algo es realmente divertido. Los humanos no suelen detectar la diferencia. Pero un sensor biométrico podría hacerlo.
La palabra «televisor» procede del griego tele, que significa «lejos», y del latín visio, «visión». Originalmente se concibió como un artilugio que nos permite ver desde lejos. Pero pronto nos permitirá que seamos vistos desde lejos. Tal como George Orwell imaginó en 1984, la televisión nos estará observando mientras la vemos. Una vez hayamos visto toda la filmografía de Tarantino, quizá podamos olvidar la mayor parte de ella. Pero Netflix o Amazon o quienquiera que posea el algoritmo de la televisión conocerá nuestro tipo de personalidad y cómo pulsar nuestros botones emocionales. Estos datos pueden permitir a Netflix y a Amazon elegir filmes para nosotros con precisión asombrosa, pero también puede permitirles que tomen por nosotros las decisiones más importantes de nuestra vida, como qué estudiar, dónde trabajar y con quién casarnos.
Por supuesto, Amazon no acertará siempre. Eso es imposible. Los algoritmos cometerán errores repetidamente debido a datos insuficientes, a programación defectuosa, a definiciones confusas de los objetivos y a la naturaleza caótica de la vida.
Pero Amazon no tiene que ser perfecto. Solo necesita ser, de media, mejor que nosotros, los humanos. Y eso no es muy difícil, porque la mayoría de las personas no se conocen muy bien a sí mismas, y la mayoría de las personas suelen cometer terribles equivocaciones en las decisiones más importantes de su vida. Más incluso que los algoritmos, los humanos adolecen de insuficiencia de datos, de programación (genética y cultural) defectuosa, de definiciones confusas y del caos de la vida.
El lector podría hacer la lista de los muchos problemas que afectan a los algoritmos, y llegar a la conclusión de que las personas nunca confiarán en ellos. Pero eso es un poco como catalogar todos los inconvenientes de la democracia y concluir que ninguna persona en sus cabales elegiría nunca defender un sistema de este tipo. Es sabido que Winston Churchill dijo que la democracia es el peor sistema político del mundo, con excepción de todos los demás. Acertadamente o no, la gente podría llegar a las mismas conclusiones acerca de los macrodatos: tienen muchísimas trabas, pero carecemos de una alternativa mejor.
A medida que los científicos conozcan cada vez mejor la manera en que los humanos toman decisiones, es probable que la tentación de basarse en algoritmos aumente. Acceder a la toma de decisiones de los humanos no solo hará que los algoritmos de macrodatos sean más fiables, sino que los sentimientos humanos sean menos fiables. A medida que gobiernos y empresas consigan acceder al sistema operativo humano, estaremos expuestos a una andanada de manipulación, publicidad y propaganda dirigidos con precisión. Nuestras opiniones y emociones podrían resultar tan fáciles de manipular que nos viéramos obligados a fiarnos de los algoritmos de la misma manera que un piloto que sufre un ataque de vértigo no ha de hacer caso de lo que sus propios sentidos le dicen y debe depositar toda su confianza en la maquinaria.
En algunos países y en determinadas situaciones, quizá a la gente no se le dé ninguna opción, y esta se vea obligada a obedecer las decisiones de los algoritmos de macrodatos. Pero incluso en sociedades supuestamente libres, los algoritmos pueden ir ganando autoridad debido a que aprenderemos por experiencia a confiar en ellos en cada vez más cuestiones, y poco a poco perderemos nuestra capacidad para tomar decisiones por nosotros mismos. Piense simplemente el lector en la manera en que, en las dos últimas décadas, miles de millones de personas han llegado a confiar al algoritmo de búsqueda de Google una de las tareas más importantes de todas: buscar información relevante y fidedigna. Ya no buscamos información. En lugar de ello, «googleamos». Y a medida que confiamos cada vez más en Google para hallar respuestas, nuestra capacidad para buscar información por nosotros mismos disminuye. Ya hoy en día, la «verdad» viene definida por los primeros resultados de la búsqueda de Google.
Esto ha ido ocurriendo también con las capacidades físicas, como el espacio para orientarse y navegar. La gente pide a Google que la guíe cuando conduce. Cuando llega a una intersección, su instinto puede decirle: «Gira a la izquierda», pero Google Maps le dice: «Gire a la derecha». Al principio hacen caso a su instinto, giran a la izquierda, quedan atascados en un embotellamiento de tráfico y no llegan a tiempo a una reunión importante. La próxima vez harán caso a Google, girarán a la derecha y llegarán a tiempo. Aprenden por experiencia a confiar en Google. Al cabo de uno o dos años, se basan a ciegas en lo que les dice Google Maps, y si el teléfono inteligente falla, se encuentran completamente perdidos.
En marzo de 2012, tres turistas japoneses que viajaban por Australia decidieron realizar una excursión de un día a una pequeña isla situada lejos de la costa, y acabaron con su coche dentro del océano Pacífico. La conductora, Yuzu Noda, de veintiún años, dijo después que no había hecho más que seguir las instrucciones del GPS: «Nos dijo que podríamos conducir hasta allí. No dejaba de decir que nos llevaría a una carretera. Quedamos atrapados»
En varios incidentes parecidos, los conductores acabaron dentro de un lago, o cayeron desde lo alto de un puente demolido, aparentemente por haber seguido las instrucciones del GPS.
La capacidad de orientarse es como un músculo: o lo usas o lo pierdes. Lo mismo puede decirse de la capacidad de elegir cónyuge o profesión.
Todos los años, millones de jóvenes necesitan decidir qué estudiar en la universidad. Esta es una decisión muy importante y difícil. Los jóvenes se encuentran sometidos a la presión de sus padres, sus amigos y sus profesores, que tienen intereses y opiniones diferentes. Los jóvenes deben también enfrentarse a sus propios temores y fantasías. Su juicio está ofuscado y manipulado por éxitos de taquilla de Hollywood, malas novelas y refinadas campañas publicitarias. Es particularmente difícil tomar una decisión sensata porque los interesados no saben en realidad qué hace falta para medrar con éxito en las diferentes profesiones y tampoco tienen necesariamente una imagen realista de sus propias fortalezas y debilidades. ¿Qué se necesita para triunfar como abogado? ¿Cómo me comportaré bajo presión? ¿Sabré trabajar bien en equipo?
Una estudiante puede empezar la carrera de Derecho porque posee una imagen inexacta de sus propias capacidades, y una visión todavía más distorsionada de lo que implica en verdad ser abogado (no se sueltan discursos espectaculares ni se grita «¡Protesto, señoría!» a todas horas). Mientras tanto, su amiga decide cumplir un sueño de la infancia y estudiar ballet de manera profesional, aunque carece de la estructura ósea y la disciplina necesarias. Años más tarde, ambas lamentan mucho su elección. En el futuro, confiaremos en que Google tome estas decisiones por nosotros. Google podrá decirme que perderé el tiempo en la Facultad de Derecho o en la academia de ballet, pero que podré ser una excelente (y muy feliz) psicóloga o fontanera.
Una vez que la IA decida mejor que nosotros las carreras e incluso las relaciones, nuestro concepto de la humanidad y de la vida tendrá que cambiar. Los humanos están acostumbrados a pensar en la existencia como un drama de toma de decisiones. La democracia liberal y el capitalismo de libre mercado ven al individuo como un agente autónomo que no para de tomar decisiones sobre el mundo. Las obras de arte (ya sean las piezas teatrales de Shakespeare, las novelas de Jane Austen o las chabacanas comedias de Hollywood) suelen centrarse en que el o la protagonista ha de tomar alguna decisión particularmente crucial. ¿Ser o no ser? ¿Hacer caso a mi mujer y matar al rey Duncan, o hacer caso a mi conciencia y perdonarlo? ¿Casarme con el señor Collins o con el señor Darcy? Las teologías cristiana y musulmana se centran de manera parecida en el drama de la toma de decisiones, y aducen que la salvación o la condena eternas dependen de haber tomado la decisión correcta.
¿Qué pasará con esta forma de entender la vida si cada vez confiamos más en la IA para que tome las decisiones por nosotros? En la actualidad nos fiamos de Netflix para que nos recomiende películas y de Google Maps para elegir si giramos a la derecha o a la izquierda. Pero una vez que empecemos a contar con la IA para decidir qué estudiar, dónde trabajar y con quién casarnos, la vida humana dejará de ser un drama de toma de decisiones. Las elecciones democráticas y los mercados libres tendrán poco sentido. Lo mismo ocurrirá con la mayoría de las religiones y de las obras de arte. Imagine el lector a Anna Karénina sacando su teléfono inteligente y preguntándole al algoritmo de Facebook si debe seguir casada con Karenin o fugarse con el conde Vronsky. O imagine el lector su obra teatral favorita de Shakespeare con todas las decisiones cruciales tomadas por el algoritmo de Google. Hamlet y Macbeth llevarían una vida mucho más confortable, pero ¿qué tipo de vida sería, exactamente? ¿Tenemos modelos para dar sentido a una existencia de este tipo?
Cuando la autoridad se transfiera de los humanos a los algoritmos, quizá ya no veamos el mundo como el patio de juegos de individuos autónomos que se esfuerzan para tomar las decisiones correctas. En lugar de ello, podríamos percibir todo el universo como un flujo de datos, concebir los organismos como poco más que algoritmos bioquímicos y creer que la vocación cósmica de la humanidad es crear un sistema de procesamiento de datos que todo lo abarque y después fusionarnos con él. Hoy en día ya nos estamos convirtiendo en minúsculos chips dentro de un gigantesco sistema de procesamiento de datos que nadie entiende en realidad. A diario absorbo innumerables bits de datos mediante correos electrónicos, tuits y artículos. No sé exactamente dónde encajo yo en el gran esquema de las cosas, ni cómo mis bits de datos se conectan con los bits producidos por miles de millones de otros humanos y de ordenadores. No tengo tiempo de descubrirlo, porque estoy demasiado ocupado contestando a todos estos correos electrónicos.