Cuando el manipulado siempre es el otro

Artículo publicado originalmente en www.disidentia.com

Netflix acaba de estrenar un documental de producción propia que está teniendo gran repercusión a lo largo del mundo. Se llama “The social dilemma” (El dilema de las redes sociales), está dirigido por Jeff Orlowski y revela lo que para cierto público podrían ser grandes novedades con el plus de que quienes hacen las revelaciones son programadores, diseñadores, empleados y un buen número de máximos responsables de las principales empresas de tecnología de Silicon Valley. Si lo pensamos en términos de producto, no hay nada que seduzca más que un documental donde aparecen presuntos arrepentidos, máxime si lo que esos arrepentidos indican puede agruparse en una narrativa apocalíptica donde aparece gente muy mala capaz de asustar a padres progresistas respecto a qué mundo le estamos dejando a sus hijos.

¿Por qué deberían asustarse los padres progresistas? En primer lugar, porque el documental muestra al famoso psicólogo Jonathan Haidt afirmando que desde 2009 las tasas de autolesiones y suicidios aumentaron exponencialmente entre las adolescentes. ¿Qué tiene que ver esto con las redes sociales? Es que Haidt adjudica el fenómeno a que en el año 2009 llegaron las redes sociales masivamente a los teléfonos celulares y los que nacieron en 1996 son la primera generación que tenía redes sociales cuando ingresó al colegio secundario. Pero hay algo más de qué preocuparse: me refiero a la cada vez más extendida “Dismorfia de Snapchat”, esto es, el crecimiento de cirugías estéticas en adolescentes que buscan parecerse a las imágenes de ellos mismos atravesados por los populares filtros de la red social mencionada. En las fotos y con filtros todos somos lindos. El problema es que en algún momento parece que hay que salir a la calle y cruzarse con gente.

Ahora bien, más allá del susto de los padres, ¿qué es lo que revela The social dilemma? Que el modelo de negocios creado por cincuenta diseñadores de California ha logrado transformar al mundo y que si no pagas por el producto, el producto eres tú porque son los anunciantes, y no los usuarios, los verdaderos clientes de las empresas que han moldeado internet. Los usuarios, en todo caso, somos el producto que se le ofrece a los anunciantes y por lo que los anunciantes pagan.

Entonces, antes que vender nuestros datos, aun cuando eventualmente lo hubieran hecho, lo que empresas como Facebook hacen es construir, tomando como base la información que brindamos en nuestras navegaciones, modelos capaces de predecir nuestras acciones. Se trata de los famosos algoritmos creados gracias a la inteligencia artificial y que, según los arrepentidos, “se nos han ido de las manos”. En este punto, el documental cae en el clásico escenario frankesteiniano de la creación artificial humana que cobra autonomía y luego se vuelve contra la humanidad.  

La pregunta que surge entonces es por qué seguimos en las redes sociales. Y el documental tiene una respuesta para ello. Es que dado que el modelo de negocio implica que la gente se mantenga la mayor cantidad de tiempo en pantalla, Google, Instagram, Twitter y cada una de las empresas en cuestión, nos ofrecen una serie de incentivos capaces de generar adicción. Uno de ellos, quizás el más popular, es el “Me gusta” de Facebook y su éxito estaría basado en una lógica conductista básica. Así, se entrevista a Anna Lembke, Directora de adicciones de la Universidad de Stanford para explicar que “hay un imperativo biológico para conectarnos con la gente que afecta directamente la producción de dopamina como recompensa”. Resulta entonces que los ingenieros que diseñaron este modelo consideran que los humanos funcionamos como lo imaginaba la psicología conductista hace mucho tiempo y que respondemos como perros al castigo y al premio. El punto es que, según el documental, no estamos hechos para recibir aprobación social todo el tiempo y eso genera grandes saltos emocionales, de la euforia a la frustración, y, sobre todo, mucha ansiedad. En este sentido, se recrea una situación en la que una adolescente publica una selfie en una red social en la que automáticamente recibe gran cantidad de “Me gusta” y corazoncitos hasta que uno de sus seguidores se burla de sus orejas y allí, claro está, comienza la desesperación. Le pasa a los adolescentes con sus fotos pero también les pasa a los adultos y especialmente a los periodistas, incluso a los que tienen lindas orejas, por la sencilla razón de que están poco acostumbrados a que alguien objete su trabajo.   

En realidad, el documental prácticamente sigue la línea del libro Diez razones para borrar tus redes sociales de inmediato, publicado en 2018 por Jaron Lanier,una suerte de gurú de la realidad virtual y las redes, quien lleva tiempo siendo crítico de lo que, considera, son algunas derivas peligrosas de este modelo de negocio. Entre otras cosas, Lanier, quien interviene repetidamente en el documental, entiende que internet y las redes sociales se han transformado en un gran sistema de manipulación que va transformando tu conducta y tu percepción y, a partir de ahí, tanto el libro como el documental tematizan cada una de las obsesiones de la progresía bienpensante con un mensaje subrepticio: el manipulado siempre es el otro. Entonces las fake news; la polarización de las sociedades; los resultados inesperados de elecciones como las de Estados Unidos, Brexit o Brasil; los fundamentalismos; el populismo; las teorías conspirativas y el terrorismo, son producto de oscuras manipulaciones. En este sentido, The social dilemma reproduce de manera calcada la misma lógica que otro documental de Netflix, The Great Hack, sobre el caso Cambridge Analytica, el cual supe comentar aquí mismo. En aquella ocasión advertí que la intención de poner énfasis en el modo en que una empresa de minería de datos utilizó la  información de usuarios para incidir de alguna manera en elecciones como las de Estados Unidos en 2016 y la del Brexit, era la última esperanza progresista para explicar el gran fracaso de su agenda identitaria y el solipsismo en el que habían caído todos sus hegemónicos medios afines. Consumada la gran sorpresa, no hubo autocrítica ni ninguna intención de revisar por qué, por ejemplo, sectores de trabajadores afectados por la globalización decidieron votar a Trump a pesar de que siempre se habían volcado hacia el partido demócrata. Algo parecido sucedió en Gran Bretaña cuando un poco más de la mitad de la ciudadanía dejó en claro que no quería pertenecer a este modelo de Unión Europea. ¿Cuál fue la respuesta de los derrotados? Echar las culpas a las reacciones conservadoras, los resabios que se resisten al progreso y a la derecha fascista. Y por supuesto que algo de eso hay pero como es difícil imaginar que esas resistencias superen el 50%, el tiro de gracia debía venir por la manipulación. Entonces mis adversarios son tontos: pueden ser manipulados. Yo, por supuesto, no.          

Así, el resultado electoral que no nos gusta se explica por las mismas razones que se explican las fake news y las teorías conspirativas. De hecho el documental menciona un estudio que indica que una noticia falsa se viraliza seis veces más rápido que una verdadera. Pero también se encarga de explicar cómo el algoritmo detecta quién es proclive al consumo de teorías conspirativas y lo induce a que consuma otras de modo tal que el terraplanista acaba siendo un antivacuna que niega la llegada del hombre a la luna y cree que en los sótanos de las pizzerías funcionan redes de pedofilia. Todo es lo mismo. Todos manipulados. Del antivacuna al votante de Trump. Todos imbéciles que fueron llevados de las narices por el algoritmo de Youtube que “se les fue de las manos” a los ingenieros porque encontró en la polarización y en la propagación de delirios una forma de mantener a la gente en la pantalla microsegmentándolos para saber qué producto venderles. A propósito de esta posibilidad de individualización, el documental menciona la posibilidad de que, en un futuro próximo, cada usuario reciba la noticia que más se adecua a su satisfacción. Pero en realidad esto ya sucede puesto que según la región, las búsquedas y el perfil del usuario, el buscador de Google puede arrojar distintos resultados. Así, alguien de izquierdas en un distrito demócrata puede poner en su buscador “Cambio climático” y Google lo completará con “es la destrucción de la naturaleza”; pero ante la misma búsqueda, quien viva en un distrito republicano y sea de derechas, verá completada automáticamente su búsqueda con “(el cambio climático) es una farsa”.

La narrativa apocalíptica culmina con uno de los entrevistados afirmando que vamos a una guerra civil, otro dice que se va a destruir la civilización por ignorancia voluntaria, un tercero se escandaliza con la posibilidad de que no se resuelva el problema del cambio climático y así podríamos seguir con otras intervenciones en las que se indica que se degradarán las democracias, se arruinará la economía y quizás no sobrevivamos. Pero por suerte, el documental nos ofrece una salida y allí el film pasa del apocalipsis y de un enfoque conspirativo sobre las conspiraciones, a una serie de respuestas cándidas que no pueden más que dibujarnos una mueca en el rostro.

Si tomamos por ejemplo algunas de las afirmaciones de quien es el principal arrepentido y quien marca el eje del relato, Tristan Harris, quien trabajara en el área de ética de Google, su solución para las fake news es regresar a que todos podamos percibir una única realidad, una base empírica común. Cómo después de 2500 años de filosofía occidental alguien puede afirmar que la solución para la mentira, ante el hecho del pluralismo y en el marco de un sistema que estimula la diferenciación al máximo, es percibir un único mundo o, al menos, consensuar una base empírica común, parece casi una burla. Lo mismo sucede cuando Roger McNamee, uno de los primeros inversores de Facebook, se manifiesta preocupado por lo que significaría Facebook en manos de un dictador o un gobierno autoritario. ¡Como si no hubiera razones suficientes para estar preocupado por el hecho de que nuestros datos estén en manos de estas empresas! De aquí se seguiría que el modelo de negocios no es el problema sino que solo deberíamos preocuparnos por la posibilidad de que una herramienta presuntamente neutral y realizada con buena voluntad, cayera en las manos indeseadas de los enemigos de siempre: Rusia, China, etc.    

Asimismo, a lo largo del film se deja entrever que las redes sociales están dando pie a persecuciones individuales, genocidios y actos de terrorismo de “lobos solitarios”. Seguramente es así, y aprovecho este momento para indicar que buena parte de lo que se indica en The social dilemma es verdad. Pero el documental pasa por alto que además de preocuparnos por estos supuestos exabruptos del sistema, estos “errores de la matrix”, lo que debería preocuparnos es el sistema mismo. Dicho de otra manera: no tenemos que preocuparnos solo por la “anormalidad” que arroja el sistema sino por la “normalidad” del sistema. Antes que por los lobos solitarios preocupémonos por la manada, por esa uniformidad que es más terrorífica que la diferencia monstruosa.

Por último, y no es casualidad que se elija a un especialista en ética para guiar el relato, el documental se desarrolla completamente descontextualizado como si el modelo de negocios hubiera sido una creación de algoritmos autónomos. No se toma en cuenta que ese modelo de negocios es el modelo adecuado para esta etapa del capitalismo y la mejor solución que el film ofrece son algunas regulaciones y una salida “ética” e individual. Algo así como “podemos cambiar el sistema desde adentro si somos buenas personas. Yes, We can!”. La famosa solución de la autoayuda por la que cada uno aporta el granito de arena y el cambio interior para que luego la sumatoria de cambios interiores individuales derive en un mundo mejor y así podamos vencer a la gente fea que puede usar nuestras invenciones para hacernos mal. ¡La revolución ética ha comenzado y vencerá a populismos, rusos, chinos, virus, locos y derechas! Todo depende de nosotros y del algoritmo que pronto nos sugerirá ver The social dilemma. Si usted es un padre progresista, entonces, puede dormir tranquilo: el manipulado siempre es el otro.