The Social Dilemma

THE SOCIAL DILEMMA

Director: Jeff Orlowski

Los maestros de la tecnología han ideado una nueva forma de capitalismo, y la humanidad es ahora la materia prima de la que se alimentan las máquinas. Oculta, la poderosa inteligencia artificial que tiene como tarea captar nuestra atención está destruyendo las normas sociales impuestas, poniendo en riesgo la verdad y la democracia, y poniendo la civilización en un sendero programado que va directo a nuestra propia destrucción. (FILMAFFINITY)

El dilema de las redes (The Social Dilemma) es el nuevo documental de Netflix que ha reavivado el debate sobre los peligros de internet y el uso de las redes sociales. Ofrece un nuevo enfoque. No se centra en las cuestiones de privacidad y datos que han dominado la narrativa en los últimos tiempos, sino que se plantea una pregunta respecto a la esencia de las redes: ¿Estamos siendo manipulados? ¿Es esa su finalidad?

The Social Dilemma es un recordatorio de lo fácil que nos es a los seres humanos entregar nuestra libertad a cambio de un poco de circo. El documental combina una serie de entrevistas a genios tecnológicos, algunos con inmenso impacto en nuestras vidas (como el creador del botón de “Me gusta”) con una especie de ficción distópica en la que nos recuerda las consecuencias desastrosas a las que el mal uso de las redes sociales puede llevarnos.

El nombre dilema es acertado, pues el documental muestra dos frentes: la capacidad que tienen las redes sociales de unir a las personas, de comunicarnos y de ofrecernos información instantánea, versus su capacidad de manipularnos, generar adicción y disociarnos de la realidad. Esta vez no se trata de la privacidad. La intención del director Jeff Orlowski es clara: mostrar que la manipulación y la adicción que generan las redes no es un efecto negativo aleatorio o consecuente: es intencional y buscado como manera de monetizar al máximo los productos.

Casos extremos

De alguna forma, ya lo sabíamos: sabíamos que pagamos la gratuidad con nuestro tiempo y atención. Sin embargo, quizás necesitábamos que los mismos doctores Frankenstein nos dijeran claro y recio que la intención es utilizarnos; y que no se corrige porque sea muy difícil, sino porque contraviene el modelo de negocio.

El verdadero producto no es solo nuestro tiempo o atención, sino el pequeño y casi imperceptible cambio en nuestro comportamiento

Orlowski intenta mostrarnos, torpemente, esta realidad a través de trozos de la vida de una familia normal. En esta historia paralela, y gracias la intervención de una especie de minions mezclados con Inside Out, uno de los hijos se ve rápidamente radicalizado por las fake news que lee en internet. La torpeza del documental surge de mostrar únicamente el caso límite: los suicidios, las organizaciones extremistas, las estafas millonarias nos suenan lejanos. Es inevitable sonreír con sorna cuando vemos a los dos hermanos tirados en el suelo y detenidos por la policía. Sin embargo, la incapacidad de dejar de ver el video de cocina o la necesidad de abrir la notificación cuando la vemos resuenan mucho más cerca y no dejan de ser preocupantes.

Los creadores confiesan

El reconocimiento en primera persona, por parte de los genios tecnológicos, de su participación en la creación de un monstruo, nos impacta mucho más. La mera mención de disciplinas como el Growth Hacking (piratear la psicología de la gente para conseguir que inviten a más usuarios) nos desagrada. Escuchar a personas como Tim Kendall, exdirector de monetización de Facebook; Jeff Seibert, exjefe de producto de consumo de Twitter; Justin Rosenstein, coinventor de las páginas de Facebook, etc, confesarnos que el verdadero producto no es solo nuestro tiempo o atención sino el pequeño y casi imperceptible cambio en nuestro comportamiento, eso es lo que asusta.

Si queremos acabar con las “fake news”, habrá que recuperar la verdad en el discurso público

Por eso, la analogía de la herramienta cojea: una herramienta es neutra y depende totalmente de nuestro uso. Las redes sociales no son neutras: están intencionalmente construidas para vendernos al mejor postor. Los anunciantes no pagan solo para que veamos sus anuncios: pagan para que compremos, cambiemos, votemos, etc. Las redes son los encargados de llevarnos a ello. Por eso, el comentario de Roger McNamee, uno de los primeros inversionistas de Facebook, nos revela una inquietante verdad: Rusia no hackeó Facebook, solamente usó la plataforma.

Recuperar la verdad

El documental explica estos sofisticados mecanismos de persuasión de las redes sociales y por qué creemos que el algoritmo nos muestra cosas que nos interesan, pero que en realidad nos muestra lo que hará que nos interese lo que nos enseñan. Esto lleva a la polarización y a la radicalización, fenómeno que fue lo que despertó el interés de Orlowski al toparse con el negacionismo férreo del cambio climático. El verdadero problema no es que lo que nos muestre sea un “único” lado de la historia; el problema es que muchas veces lo que se nos muestra es falso.

Y aquí es donde se presenta el verdadero dilema para nuestra sociedad deseosa de relativizar toda la información: si queremos acabar con las fake news, habrá que reconocer que existen real news y recuperar la verdad en el discurso público. Quizás esta sea la conclusión más valiosa y sorprendente del documental: nuestra sociedad no puede sobrevivir a una relatividad total donde creo lo que quiero. “Imagina un mundo en el que nadie sepa qué es la verdad”, dice Tristan Harris.

Ese mundo ya está aquí. Si no estamos de acuerdo en que existen ciertas verdades y que estas tienen un valor objetivo, será difícil corregir los errores de los algoritmos de las redes que otorgan valor a la información en su capacidad de engancharnos. Obviamente, si el criterio es el nivel de potencial adicción que crean, las noticias reales equilibradas y medidas siempre pierden la batalla y se quedan relegadas al final de nuestro feed (si es que aparecen). Una cosa es usar nuestros datos para predecir nuestro comportamiento; otra cosa es crear algoritmos que nos impiden descubrir información verdadera y que utilizan nuestra psicología en nuestra contra para manipularnos y convencernos. Esta es la acusación que El dilema de las redes hace. ¿Qué queda en nuestras manos? En esto no hay novedad: ser conscientes de que aún nos queda algo de libertad y tratar de usarla lo mejor posible.

Cuidar a los más vulnerables

Las redes sociales tienen, como casi todo, peligros inevitables. Después de todo, ¿quién debe decidir qué información nos llega cuando scrolleamos en nuestro móvil? La respuesta es complicada: queremos la verdad pero escribirla en un algoritmo no es tan sencillo. Lo que queda claro es que lo que existe hoy no es suficiente y, sobre todo, quienes lo manejan no están siendo lo suficientemente claros con nosotros.

Quizás el mayor fallo sea que nos dificultan el cuidado de los más vulnerables: niños y adolescentes que todavía no tienen totalmente formado un criterio ni capacidad de discernimiento. Es difícil protegerlos cuando el algoritmo lucha por envolverlos en un mundo de likes, filtros y pura satisfacción instantánea. Por ello, el documental intenta mostrar cómo la influencia es distinta en cada miembro de la familia. Lo que está en juego no es solo la salud mental de nuestros jóvenes, sino la solidez de las instituciones democráticas que pueden corromperse si criamos a nuestros hijos a base de una exclusiva dieta de memes y TikToks.

Carmen Camey

9 octubre 2020

Ideas:

De la era de la información a la era de la desinformación.

Parece que el mundo está enloqueciendo.

Tristan Harris: diseñador  ético de Google. Tecnología persuasiva

“Nunca antes, 50 diseñadores (de Google) habían tomado decisiones que afectaran a dos mil millones de personas”.

“Hice una presentación. La vio Larry Page. Pero no ocurrió nada”.

En 2006, Google lo hacía muy bien. Ganaba mucho dinero. En Facebook, se vio que para ganar dinero había que fijar un modelo de publicidad.

Jaron Lanier: “10 razones para borrarte de las redes sociales”. Los anunciantes pagan por los productos que usamos. Los anunciantes son los que venden. Los clientes son el producto.

Hay que enganchar a los usuarios.

Se busca el cambio de comportamiento en el cliente: estar enganchados. Es un cambio gradual, sutil.

Hay que vender certeza, y hacer buenas predicciones. Con mucha información.

Se comercia exclusivamente con humanos. Han hecho a las compañías de internet las más ricas de la historia de la humanidad.

Mercado de futuros.

Sean Parker: expresidente de Facebook

Dopamina. Potencialmente adictivo.

No estamos hechos para recibir valoración social cada 5 minutos.

La generación Z son los nacidos después de 1996.

El algoritmo tiene mente propia. El algoritmo busca laberintos que más se acerquen a tus intereses.

En Google vemos la verdad manipulada para cada usuario, enseñando lo que cada uno quiere ver.

La información falsa genera más dinero q las empresas que la información veraz.

El objetivo de Facebook es controlar a la población.

En Birmania: propagandistas con Facebook.

Cada vez tenemos menos control sobre lo que somos y lo que creemos.

Crear caos y división en la sociedad. Crear 2 bandos que no se escuchen entre sí, y que no confíen el uno en el otro.

¿Queremos que la democracia esté en venta?

La tecnología es una amenaza existencial. No es en sí misma mala, sino que es una amenaza su capacidad para sacar lo peor de la sociedad.

Está la gente atrapada por un modelo de negocio. Vale más un árbol o una ballena muertos que vivos.

Extraer su atención no es la forma de tratar a los seres humanos. Este es un modelo corrosivo de negocios.

Consejo: desactiva las notificaciones. “Mis hijos no usan las redes sociales”.

Hay que evitar dormir con los móviles.