REFLEXIÓN: ALGORITMOS Y CONTROL

La sociedad en la que nos movemos resulta, por momentos, atractiva y hostil a partes iguales. Las posibilidades que se nos presentan son innumerables, como también lo son los riesgos y temores que nos acechan. Lo cierto es que avanzamos en un difícil equilibrio entre la realidad analógica y la realidad digital, lidiando con ambas dimensiones y con sus desafíos, aprendiendo a conjugarlas para aprovechar lo mejor de cada una. En este contexto tan complejo, que nos reta como sociedad y como individuos, aprendemos a reformular nuestros valores, nuestros límites, nuestras expectativas… pero, ¿realmente somos dueños de lo que decidimos?  

El neoliberalismo imperante se ha adueñado de la tecnología digital, convirtiendo un avance que se suponía debía ser un trampolín para la democracia y la participación ciudadana, en un negocio cuya materia prima son la información y los datos. La concepción de la sociedad que nos rodea está cambiando y las tecnologías digitales nos empujan hacia una sociedad de la información donde el big data aumenta de forma exponencial con cada pequeño gesto que realizamos, alimentando el negocio que se genera a su costa y reformulando los límites de lo privado y lo público. 

Nuestra percepción de nosotros mismos y de nuestro entorno está modulada por este espacio digital y sus normas de cuantificación. En este escenario se desarrolla nuestra vida social, profesional, académica, cultural, política, económica, etc., es decir, cada uno de estos ámbitos se ve condicionado y mediado por la red y, por lo tanto, se rige por sus normas y derechos. 

El control social no es un fenómeno nuevo, ni inherente a la sociedad actual. Existe una extensa narrativa acerca de las normas, la convivencia, el mantenimiento del estado o los pactos entre individuos que se ha venido desarrollando desde hace siglos. Ya los clásicos como Platón, mencionaban en algunas de sus obras como República los elementos básicos que mantienen el orden social, del mismo modo, algunos filósofos posteriores del orden de Rousseau trataron deplasmar esta misma circunstancia en teorías como la del contrato social. Según Innerarity (2020) vivimos en plena aceleración tecnológica. Internet se ha convertido en la estructura común en la que se articula y construye nuestro día a día, en un escenario democrático, horizontal y abierto en el que se rompen las reglas tradicionales de la participación, dando lugar a una conjugación de voces que muestran, se expresan, se superponen y generan un ruido que casi se convierte en niebla. En este contexto, donde la red nos ofrece la posibilidad de mostrarnos libremente durante las 24 horas del día, se comienzan a generar una serie de dinámicas que recuerdan más a la lógica de la supervisión que a la de la libertad.

En los años 70, Foucault desarrolló sus teorías acerca del control y la vigilancia a la que nos veíamos sometidos los ciudadanos debidos, en parte, a los medios de comunicación en general y a la televisión en particular. Para este autor, los medios no dejan de ser extensiones de un poder que puede decidir por nosotros, marcarnos los tiempos y monitorizar qué vemos, cuándo y por qué. Una suerte de ojo, materializado en un instrumento tan cotidiano y trivial como la televisión.  

En este sentido, Foucault introduce la idea del panóptico. Si bien esta teoría se popularizó gracias a dicho autor, lo cierto es que se trata de un término acuñado por Jeremy Bentham como un mecanismo aplicable al control de presos en cárceles. El panóptico, como estructura arquitectónica, se compone de celdas incomunicadas entre sí y dispuestas en forma circular entorno a un punto central donde se erige una torre, desde la cual se puede ejercer una vigilancia externa. Los presos, además, no son conscientes de si están siendo vigilados o no, pues desde fuera la torre es totalmente opaca. Esta idea fue recogida por Foucault que reconocía en la sociedad de los años 70 una situación asimilable a dicha estructura: una sociedad disciplinaria, vigilada de manera inconsciente por instrumentos capaces de registrar sus hábitos y gustos, modificar sus conductas y comportamientos, etc. 

El éxito de este tipo de vigilancia reside en dos puntos clave: por un lado, la dificultad para discernir si se está siendo o no vigilado y, por otro, el autocontrol y la autocensura. El hecho de que la vigilancia sea invisible permite controlar el comportamiento incluso cuando no se está vigilando. En este sentido, el individuo es quien gestiona su propia conducta, el poder es ejercido de forma continua, pero mediante una violencia casi simbólica, ya que es el individuo mismo quien intenta mantenerse dentro de los cánones de comportamiento. El hecho de creernos o sabernos vigilados es más importante que la vigilancia en sí. 

Pero, ¿qué ocurre cuando el control no viene de un punto central?, ¿y si pudiésemos vigilarnos, controlarnos, delatarnos y juzgarnos entre las “celdas”?, ¿y si ni siquiera fuésemos conscientes de que nuestro comportamiento es fruto de dicha vigilancia? Parecen preguntas retóricas, abiertas a la reflexión, pero lo cierto es que son parte de nuestro día a día. La propuesta de Foucault ha sido recogida en los últimos años por el filósofo coreano Byung Chul Han, que ha ampliado el concepto integrando en el mismo la variable digital. En el planteamiento de Han, la vigilancia deja de ser centralizada, ya no se concibe un único ojo vigilante con la capacidad de mirar sin ser visto. En la realidad virtual cada sujeto observa y es observado, es guardián y preso a la vez. La vigilancia se vuelve horizontal, democrática y más invisible aún: los presos del panóptico digital no son conscientes de su condición, se creen en libertad (Han, 2013).

Esta sensación de libertad es la que permite que el sistema siga funcionando: las redes sociales se alimentan de ello y se alían con un sistema económico capitalista que mercantiliza nuestros cuerpos, nuestras identidades, nuestras conductas… de ese modo, son los propios sujetos los que contribuyen a mantener vivo el panóptico digital, exhibiéndose para alcanzar el valor de lo visible, de lo transparente (Han, 2013). La sociedad transparente, de hecho, sigue la lógica de la productividad, en la que el sujeto se explota a sí mismo a la vez que explota al resto. Es explotador y explotado, pero no es consciente de ello, pues la explotación se difunde en términos de crecimiento, de desarrollo personal, y “siempre va acompañado del sentimiento de libertad” (Han, 2013). Hoy en día nada ocurre fuera del gran panóptico digital, lo que permite que no se conciba la vigilancia como algo negativo que amenaza nuestra libertad, de modo que cada individuo se entrega libremente a la mirada panóptica y, por tanto, al control.

Aunque no existe una definición totalmente consensuada, lo cierto es que el big data forma parte de nuestra realidad y es donde se materializa la sociedad transparente y exhibicionista de la que veníamos hablando. Podemos tratar de aproximar una traducción al castellano utilizando expresiones como “datos masivos” o “macrodatos”, pero lo realmente relevante es comprender la implicación real de esta nueva dimensión informacional. Las utilidades del big data pueden ser muchas y muy variadas, desde predecir patrones de comportamiento hasta adelantarse a determinadas tendencias económicas o sociales. En un primer momento, de hecho, este tipo de planteamiento se utilizaba únicamente en ámbitos económicos o demográficos para llevar a cabo estudios, hacer predicciones, establecer tendencias… Sin embargo, en términos de control, resulta evidente que la acumulación de datos permite mantener una serie de registros que de otro modo no se podrían gestionar. Desde lo que publicamos en una red social, hasta lo que pagamos con tarjeta, pasando por el escáner que cada mañana nos reconoce la tarjeta del trabajo para poder acceder al edificio, todo ello forma parte de un conjunto masivo de datos que alimentan el sistema en el que, sin ser conscientes, estamos inmersos. El debate a este respecto está en el uso que se hace de nuestros datos y en intentar reformular la línea entre lo público y lo privado, entre lo legal y lo ético, de hecho, la gestión y el uso irregular que se realiza de la información personal es uno de los principales problemas de las redes sociales en la sociedad actual (Santoveña-Casal, 2018).  

Los datos por sí solos, “en bruto” (Santoveña-Casal, 2018) no interesan demasiado, es más, la gestión de tal cantidad de información es uno de los desafíos a los que nos enfrentamos como sociedad. Sin embargo, el análisis de dichos datos con el objetivo de analizar determinados patrones e influir sobre ellos es la clave de lo que Zuboff  (2015) denomina “capitalismo de la vigilancia”.

La cuestión fundamental va más allá de la privacidad o el beneficio económico que determinadas empresas puedan obtener de un activo como nuestros datos, lo realmente relevante es qué implicaciones sociales, cognitivas o humanas tiene este planteamiento que, al fin y al cabo, no es más que una manera de controlar los movimientos diarios de los ciudadanos. Lo cierto es que la rentabilidad económica de esta tecnología está más que demostrada. Los algoritmos se utilizan desde hace años para analizar el mercado, personalizar la publicidad o, incluso, para orientar el voto en unas elecciones. Pero, ¿qué supone que nuestra conducta e ideología dependan de este tipo de tecnologías?  

Como hemos mencionado anteriormente, la clave que permite que este sistema se mantenga es, principalmente, la falsa sensación de libertad de la que disfrutan los sujetos. La cantidad de información que recibimos cada día es abrumadora, nos resulta imposible gestionarla a causa de nuestras limitaciones cognitivas, sin embargo, habitualmente actuamos creyendo que poseemos suficiente información o que tomamos decisiones meditadas y personales, cuando en realidad están condicionadas y sesgadas por lo que vemos en nuestro entorno digital. 

La cultura algorítmica se conjuga así con una ciudadanía que aún se mueve entre lo analógico y lo digital y que trata de mantener el equilibrio. ¿Es posible ser ciudadanos libres y participar en un sistema democrático cuando son los algoritmos los que controlan la realidad mediática e informacional? En este sentido, los algoritmos han favorecido de manera evidente la amplificación de fenómenos como la posverdad, que hoy en día marcan la agenda mediática y ciudadana.

Por otro lado, los algoritmos suelen estar diseñados para mostrarnos contenidos que nos resulten interesantes, que capten nuestra atención. Según Callejo (2018), hoy en día la atención es un activo por el que los mercados en la red pelean, se ha capitalizado la atención de los sujetos. En este sentido, la selección de la información que se muestra se hace de acuerdo a este criterio, en un intento por captar al sujeto antes que por relatar una serie de hechos verídicos. Los algoritmos otorgan así “mayor visibilidad a aquellos contenidos que logran un mayor impacto en las audiencias, independientemente de si son veraces o no” (Aparici y García-Marín, 2019). En estos casos, es habitual ver titulares sensacionalistas, ambiguos o parcialmente falsos, así como noticias cuya relevancia es nula o cuya base es falaz, pero resultan interesantes para aquellos individuos que la consumen buscando afianzar sus creencias o, simplemente, entretenerse leyendo algo cuya credibilidad importa poco.  Este fenómeno, conocido como clickbait, tiene como único objetivo “generar el interés del usuario para engordar el tráfico a determinadas webs persiguiendo fines económicos” (Aparici y García-Marín, 2019). 

Es fundamental ser conscientes de los mecanismos que hoy en día forman parte de nuestra configuración como individuos digitales, de modo que seamos capaces de actuar en consecuencia, teniendo en cuenta que la red debería estar a nuestro servicio y no al revés. Los mecanismos de control y manipulación que actúan siguiendo las pautas de la vigilancia capitalista han convertido Internet en un escenario que cada vez parece menos democrático y libre. 

Bibliografía

Aparici, R. y García-Marín, D. (2018). Comunicar y educar en el mundo que viene. Barcelona: Gedisa. 

Callejo, J. (2018). De la sociedad del conocimiento a la economía de la atención: el valor de las redes sociales. En S. Santoveña-Casal (Coord), Enredados en el mundo digital. Madrid: Ediciones UNED 

Han, B.C. (2013). La sociedad de la transparencia (Pensamiento Herder). Herder Editorial. 

Innerarity, D. y Colomina, C. (2020) La verdad en las democracias algorítmicas. Revista CIDOB d’Afers Internacionals, n.º 124 p. 11-23. DOI: doi. org/10.24241/rcai.2020.124.1.11 

Santoveña-Casal, S. (2020) Entre Redes. Valencia: Tirant Lo Blanch. 

Zuboff, S. (2015). Big other: surveillance capitalism and the prospects of an information civilization. Journal of Information Technology, nº 30 (1), p. 75-89. doi:10.1057/jit.2015.5