Por Álvaro Montes
Director de Inteligencia Artificial Colombia
Ninguna de las recientes críticas que he leído acerca del poder desmesurado que los algoritmos confieren a las grandes tecnológicas alcanza el impacto y profundidad comunicativa que tiene el episodio 1 de la sexta temporada de Black Mirror.
Ni el monumental libro de Shoshana Zuboff – La era del capitalismo de vigilancia – ni los trabajos de Marck Coeckelbergh sobre la política de la Inteligencia Artificial, ni los reportajes de Karen Hao cuando escribía en MIT Technology Review, me resultan tan contundentes como la historia de Salma Hayek y Annie Murphy en “Joan es horrible”.
Es clara la autoría de Charlie Brooker – el creador de la ya mítica serie de ciencia ficción – en un relato divertidísimo e irreverente con la propia industria del streaming que ha dado respaldo a Black Mirror. Es inevitable imaginar que Streamberry es en lo que se convertiría Netflix (o Prime o Disney …) si llegan a dar rienda suelta al uso irresponsable de los algoritmos aplicados al entretenimiento.
Si no ha visto la más reciente temporada de Black Mirror (disponible en Netflix) le resumo lo esencial del primer episodio: Una mujer (Joan, interpretada por la actriz canadiense Annie Murphy) descubre que su vida cotidiana es presentada en televisión cada día, en la plataforma de streaming más popular del mundo, llamada Streamberry. Cada cosa que ella hace, como la visita a la psicóloga, una cita con el ex que todavía ama o simplemente cantar mientras conduce a la oficina, es recreada en un episodio de «Joan es horrible»; así se titula la serie sobre su vida. ¿Cómo ocurre esto, sin su consentimiento y con tan solo minutos de diferencia entre los acontecimientos reales y su puesta en escena? Los algoritmos se hacen cargo. El «capitalismo de la vigilancia» nos rastrea segundo a segundo y una poderosa computadora cuántica (la «cuantiputa» la llama Hayek) es capaz de crear el guion con base en los datos que recibe del smartphone de Joan. ¿Y cómo es que la famosa Salma Hayek (interpretada por la misma Salma Hayek) hace el papel de Joan en la serie de Streamberry? Los algoritmos se hacen cargo también, mediante lo que popularmente conocemos con Deepfakes, videos falsos con rostros de personas reales. Nada que no sea posible, o casi posible en la actualidad.
Lo que acontece en el episodio es maravilloso, pero no necesitamos adelantarlo aquí, por aquello de evitar el spoiler.
Black Mirror nos interpela con una ciencia ficción que ocurre en el presente. Nada en el año 12.000 como Fundación (la trilogía de Isaac Asimov llevada al streaming por Amazon Prime), ni en mundos distópicos postapocalípticos, como en Terminator. Sino casi aquí y ahora, con las tecnologías actualmente en desarrollo, acaso en el estado en el que estarán en dos o tres años. Allí radica la potencia filosófica de Black Mirror, que nos propone reflexiones conmovedoras y alarmantes sobre el uso que damos a las tecnologías que disponemos hoy: el smartphone, las redes sociales, los perros robots o las deepfakes.
Hay un capítulo de Black Mirror para casi cada gadget o plataforma de uso popular en nuestros días. En el episodio 1 de la tercera temporada (“Caída en picada”, se titula), Bryce Dallas Howard protagoniza una historia estupenda sobre lo que pasaría (o ha ocurrido ya) cuando convertimos los likes en nuestra obsesión de vida. Y en el primer episodio de la temporada 2, titulado “Vuelvo enseguida”, ya se planteaba (con cuatro años de anticipación) hasta dónde puede llegar el uso irresponsable de la hoy popular Inteligencia Artificial Generativa, capaz de clonar voces y hacerlas conversar en reemplazo de personas reales. Vidas destruidas por la presión de las redes sociales; voces clonadas mediante algoritmos potentes … nada que no esté pasando ahora mismo.
Cuando escucho a personas emocionadas con la posibilidad de crear contenidos audiovisuales por la magia algorítmica, siento tristeza y desesperanza. La misma desesperanza que nos trae “Joan es horrible”, la historia de una plataforma de streaming que decidió personalizar al extremo el contenido que emite, aprovechando el poder de la computación cuántica y los algoritmos de recomendación, los mismos que se utilizan hoy en Spotify para definir la música que escuchamos.
En las numerosas conversaciones que casi diariamente sostengo con especialistas en datos, desarrolladores y empresarios de tecnología, escucho voces que no encuentran nada de malo en que la industria del entretenimiento se ahorre unos dólares gracias al poder de la informática inteligente. Aprecian la idea de guiones escritos por ChatGPT, de voces artificiales en la radio y de algoritmos que nos digan lo que debe gustarnos en música y cine. Como si ese mundo que las grandes tecnológicas están moldeando fuese el único posible y, además, un mundo deseable.
Por fortuna, encuentro también cada vez con más frecuencia interlocutores que trabajan en la búsqueda de la Inteligencia Artificial para el bien. Se puede aplicar el poder tecnológico que la humanidad ha alcanzado, para cosas nobles, como enfrentar el cambio climático, acercar los objetivos de desarrollo sostenible o vencer las enfermedades. En Colombia hay personas trabajando en esa dirección, y como editor de Inteligencia Artificial Colombia he contribuido a hacer visibles sus historias.
Volvamos a Black Mirror. Los perros robóticos de Metalhead, el capítulo 5 de la temporada 4, existen. Y ya no los produce en exclusiva Boston Dynamics, sino también Xiaomi y otros fabricantes connotados. No hacen esas cosas escalofriantes que ocurren en Metalhead, en donde persiguen en jauría a los humanos para asesinarlos; pero tal vez algún día podrían hacer cosas malas. No lo sabemos. De momento, los perros robóticos se utilizan para tareas de seguridad perimetral y Jeff Bezos tiene uno que saca a pasear de vez en cuando. Pero Black Mirror nos hace pensar en todas las posibilidades.
Como nos hace pensar en qué tan buena para la vida es la inmediatez sobre la que se erigió el éxito de las redes sociales. Hasta dónde podría llevarnos ese torbellino del tiempo real en el que transcurre el mundo en línea. El mismo Brooker dijo que se le ocurrió la historia cuando vio que en televisión presentaban una serie sobre la vida Elizabeth Holmes (la del escándalo de la startup Theranos), casi cuando todavía ni siquiera se había cerrado el juicio en contra de la emprendedora.
No leemos los términos de uso de los servicios de streaming que contratamos, ni de las cuentas que damos de alta en las redes sociales. Tampoco de los smartphones que estrenamos cada dos o tres años. No tenemos idea qué dice allí. Joan y Salma descubrieron que en medio de ese montón de letra menuda que no leyeron, habían autorizado el uso de su vida privada y de su imagen. Y lo que vino a continuación hay que verlo en la maravillosa serie británica que nos ofrece Netflix.
