Plataformas digitales corporativas: La censura como programa

La tan mentada (y falaz) “libre competencia” cedió rápidamente el lugar a posiciones monopólicas de grandes emporios tecnológicos. Lo que prometía ser un modelo de facilitación de la comunicación global, de incentivo a la participación descentralizada, de acceso irrestricto al conocimiento acumulado por la humanidad, derivó en una mercantilización cada vez más veloz de todo resquicio de actividad social pública o privada. Entre los espacios claves, las plataformas transnacionales autodenominadas ‘redes sociales’ conquistaron un rol preeminente, adquiriendo una centralidad desmedida en la disputa política.

¿Aumentó con ello la libertad de expresión? ¿Se profundizó la democracia? ¿O más bien, en nombre de aquéllas, se instaló un sofisticado aparato de censura global al pensamiento crítico y emancipador?

Censura explícita

Todas las redes hegemónicas tienen políticas de contenido o “normas comunitarias”, que de unas pocas  recomendaciones iniciales llegaron en la actualidad a conformar verdaderos corpus de valoración de lo que se publica en ellas. Si bien la mayor parte de estas disposiciones pueden ser consideradas pilares éticos razonables, como el rechazo a la violencia, al crimen, la discriminación o al abuso y la pornografía infantil, la discrecionalidad absoluta que se arrogan las empresas en su interpretación, convierte a estas normas en censura de hecho.
En relación a la moderación sobre contenido en línea, David Kaye, Relator Especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión, señalaba en su informe en el Consejo de Derechos Humanos de Naciones Unidas (Abril 2018):

                                                  “La vaguedad de las políticas relativas al acoso y el discurso de odio ha dado lugar a
denuncias de una aplicación incoherente de esas políticas que perjudica a las minorías, al tiempo que refuerza la situación de los grupos dominantes o poderosos. Los
usuarios y la sociedad civil informan de actos de violencia y abuso contra la mujer,
incluidas las amenazas físicas, los comentarios misóginos, la publicación de imágenes
íntimas falsas o sin consentimiento y la publicación de información personal confidencial; las amenazas de agresión contra los grupos políticamente marginados, las
razas y las castas minoritarias y los grupos étnicos que sufren persecución violenta;
y los abusos dirigidos contra los refugiados, los migrantes y los solicitantes de asilo.
Al mismo tiempo, las plataformas habrían reprimido el activismo en favor de las
personas lesbianas, gais, bisexuales, transgénero y asexuadas; la contestación contra
los Gobiernos represivos; la denuncia de la depuración étnica; y las críticas de los
fenómenos y las estructuras de poder de naturaleza racista”.1

Es probable que la presión pública e institucional sobre la arbitrariedad en las suspensiones, cierres de cuentas, reducción de ‘seguidores’ y la opacidad en la eliminación de contenidos haya forzado a las empresas a ampliar y detallar con algo más de precisión sus lineamientos sobre la exclusión de mensajes, páginas o grupos. Sin embargo, una breve revisión y un análisis más profundo permite comprobar que dichas explicaciones no se ajustan del todo a la realidad.

Censura semioculta

A fin de identificar elementos no acordes con su línea editorial en medio de un gran volumen de publicaciones, todas las empresas han recurrido a la automatización. Algunas herramientas utilizadas a este fin son los filtros de palabras, la detección de mensajes basura, los algoritmos de comparación criptográfica y el procesamiento del lenguaje natural.
Estas metodologías se extienden cada día más y son también requeridas por los gobiernos para sus propios fines de prohibición. Sin embargo, el artilugio –que promete resultados con una exactitud cuasi mágica– es en sí limitado y falible, pudiendo facilitar entre otros errores de percepción la censura excesiva de grupos ya marginalizados y la aplicación sesgada de las leyes nacionales y las condiciones de servicio de las mismas plataformas, como indica un documento del Center for Democracy and Technology.2
De estas imperfecciones técnicas ha derivado la práctica de contratar cada vez más trabajadores de “moderación de contenido comunitario” (“CCM workers”, por su abreviación en inglés) para llevar a cabo la ingrata tarea. La existencia de estos trabajadores y la necesidad de su labor en la cadena de producción de los social media, señala Sarah T. Roberts, “rompe con los mitos confortables sobre el Internet como un espacio de relaciones uno a uno entre el usuario y la plataforma”.
Para la académica, “estas decisiones pueden girar de cara a la base de usuarios, alrededor de la libertad de expresión, pero en medios y plataformas comerciales estos principios son siempre contrabalanceados por un propósito de lucro”. A lo que agrega contundentemente: “En términos simples, la decisión sobre lo que queda y lo que debe bajarse, será a cierto nivel, un asunto monetario”.3
Plataformas como Facebook cuentan con unos 15.000 revisores de contenido, en su inmensa mayoría tercerizados. Otras fuentes, como el Washington Post, sitúan la cifra en 30.000. Unos 10.000 trabajadores escrutan Youtube y otros productos de Google (propiedad de Alphabet Inc.). En el caso de Twitter el número de moderadores se reduce a unos 1.500.4 TikTok, por su parte cuenta con unos 10.000, muchos de ellos anteriormente activos en Facebook, provenientes de las firmas de outsourcing Accenture, CPL, Hays o Voxpro, según apunta la cadena estadounidense CNBC.
A estas normas de restricción, se suman numerosos pedidos por parte de gobiernos de bloquear geográficamente (“geoblocking”, en la jerga) determinados contenidos o a individuos o grupos específicos, a lo que las plataformas han dado respuestas que tanto gobiernos como organizaciones activistas consideran sumamente insatisfactorias.
Facebook, sobre todo, pero también Google y Twitter han sido objeto de fuertes críticas y gran cantidad de reclamos por entorpecer la labor de activistas, periodistas o defensores de derechos humanos, en varias ocasiones en connivencia con gobiernos represores. En la segunda Conferencia de Moderación de Contenido a escala, que tuvo lugar en Mayo de 2018 en Washington (EUA), defensores del derecho a la libre expresión en línea sugirieron tres principios básicos como paso inicial para garantizar transparencia, ecuanimidad y respeto a los derechos básicos de los usuarios: la publicación regular de la cifra de posteos eliminados y cuentas suspendidas o canceladas, la notificación al usuario sobre el motivo específico de la remoción de contenido o la suspensión de cuenta y la posibilidad de establecer un proceso de apelación por parte del usuario.5

Lógica censora

Sin embargo, más allá de los esfuerzos públicos de todas las plataformas por mostrarse anuentes a las exigencias comentadas, la lógica censora de estas redes digitales se encuentra incrustada en los modelos matemáticos que rigen la alimentación de contenido.
Las sucesivas capas de los respectivos sistemas de aprendizaje automático (‘Machine o Deep Learning’), a través de las cuales se procesa una gran cantidad de datos previamente extraídos de la actividad de cada usuario, son las que definen qué se le muestra y qué se oculta o se coloca en posiciones de ínfima visibilidad. A pesar de que estos algoritmos van cambiando frecuentemente, es posible establecer algunas generalidades a partir de la propia información que entregan las empresas 6.

No obstante, cierta cuota de escepticismo es aconsejable. La presión investigativa, legal y de la opinión pública va obligando a las plataformas a abrir parte de sus “cajas negras” para no perder toda credibilidad, pero nada asegura que éstas revelen todos sus secretos. Aun así, es posible ofrecer pistas sobre la lógica sobre la que se construye el corazón del enorme negocio de publicidad y vigilancia de estas redes, edulcorado por el concepto de socialización, acceso o visualización de contenidos.

1. Para satisfacer el supuesto interés del usuario y, sobre todo, para vender publicidad al mejor postor, se acopian todas las interacciones y se programa una secuencia personalizada de lo que cada uno ve. Esta sola afirmación delata el carácter absoluto de vigilancia, intromisión y acopio permanente de información sobre la vida íntima de cada persona y sus contactos bajo la débil y engañosa justificación de mostrar “lo que más te interesa”.

2. La duración y frecuencia de la actividad en la aplicación es un importante factor de puntuación positiva en los modelos, induciendo de ese modo la permanencia y dependencia, factor clave en la economía de la atención.

3. La posición del usuario es geolocalizada para segmentar ofertas de consumo, lo que debilita la interacción con temas o personas de otras latitudes.

4. El contenido pago es promocionado por encima del compartido de manera gratuita (llamado contenido “orgánico” en algunas redes), tanto en los motores de búsqueda como en las plataformas sociales comerciales. La diferencia entre cuentas publicitarias y usuarios comunes establece en la práctica carriles de distinta prelación, afectando el principio de neutralidad de la red. La supuesta no-ideología es la ideología del lucro, con la que automáticamente se favorecen los relatos de los que invierten, es decir, del poder económico.

5. Se priorizan las imágenes atractivas, que capturen la atención del usuario. De esta manera, se conduce a éstos, en la búsqueda de máxima exposición, al sensacionalismo y a un exhibicionismo que en situaciones de vulnerabilidad, puede resultar riesgoso.

6. El bucle del supuesto interés del usuario, más allá de la inserción de pequeñas variaciones que introduce la empresa para que el contenido no sea monótono, consolida un sistema cerrado conservador, una “burbuja”. Es obvio que tanto desde una como desde otra variable, la irrupción de perspectivas nuevas es altamente improbable.

7. Las plataformas presumen poder predecir afectos y comportamientos, ofreciendo lo que ellos creen que el usuario quiere ver. En la práctica, formatean el comportamiento colectivo digital según los modelos matemáticos que elaboran, sugiriendo qué, cómo, dónde y cuándo debes publicar de modo de lograr eco. Al mismo tiempo, tratan de sugerir pautas morales y conductas fuera de la red.

8. Estimulan la “popularidad”, el acopio de seguidores, la competencia y el ranking para lograr posicionamiento, es decir antivalores individualistas propios del sistema actual.

9. La abultada presencia de contenido publicitario fatiga y desestimula la comunicación entre las personas.

10. Las redes corporativas “premian” o “penalizan” comportamientos, convirtiéndose en juez y parte de aquello que puede o debe comunicarse.

11.Fomentan el contenido corto, las tendencias ficticias, la banalidad, la descontextualización o el vacío de contenido a través de desafíos pueriles.

12.Favorecen la desinformación, colocando como “guardianes de la información fehaciente” a medios afines al capital o a entidades financiadas por estos.

Alternativas al poder concentrado de las plataformas digitales corporativas.

Al intentar poner en marcha acciones y mecanismos que logren desactivar el enorme poder de las corporaciones digitales que hoy afectan las decisiones y la vida de los pueblos, las soluciones aparecen al analizar la dimensión política de la cuestión. No se trata de fomentar posturas neoluditas7 –que equivaldrían hoy al hackeo de sistemas, la diseminación de malware u otras formas de destrucción cibernética–, ni de adoptar posturas tecnofóbicas o antitecnológicas, enroladas, quizás inadvertidamente, en corrientes conservadoras y retrógradas que se alimentan de la gran inseguridad que produce la velocidad de las transformaciones en curso.
Es preciso considerar a estas corporaciones digitales como poderes hiperconcentrados que
impiden o dificultan la libre circulación de las ideas, sobre todo, aquellas que no promueven el orden capitalista, ni el factor lucro como motivación de vida. Estas corporaciones se sostienen y sostienen el negocio de los principales actores especulativos –la banca y los fondos de inversión– cuya maquinaria es responsable de la pobreza, el hambre, la degradación medioambiental y la falta de futuro.
Desde el ángulo geopolítico, los megaconglomerados digitales anclados en Silicon Valley contribuyen a las intenciones del poder imperialista estadounidense de recuperar su decaída posición unipolar y constituyen un vector de penetración cultural de primer orden, fomentando la pretensión supremacista de Occidente.
Del mismo modo, imponen una centralización tecnológica que trata de ahogar no solo potenciales competencias, sino también cualquier tipo de acercamiento diferente a la tecnología misma.
Se trata entonces de actuar colectivamente contrarrestando cada uno de los factores anteriormente descritos. Lejos de pretender agotar debates, consignamos a título de estrategia simultánea y convergente, cinco posibles vías de acción concreta.

1. Generar poder colectivo frente al abusivo poder centralizado.

Como en cualquier contienda ideológica, la sensibilización, comprensión, amplificación de la denuncia del sistema opresivo y la proclama de alternativas es esencial. La colaboración entre la diversidad de sectores y la afirmación de propuestas comunes en busca de la unidad en la acción colectiva es fundamental.

2. El proceso revolucionario de sustitución del capitalismo

Las soluciones pragmáticas de coyuntura son equivalentes a la complacencia con situaciones de radical injusticia y violencia. La digitalización de los distintos aspectos de la vida se encuentra íntimamente ligada a estrategias de reinvención sistémica, por lo que las trans formaciones deben adoptar un calibre similar, teniendo como horizonte nuevas formas de organización social y política, alejadas de las matrices de acumulación.

3. Anidar la soberanía digital en las luchas por la soberanía geopolítica

Al entrar el planeta en una era digital, la disputa por la soberanía tecnológica es crucial. Por una parte, la penetración alcanzada por las corporaciones que se asumen como gobernantes de facto de la internet, hace necesaria una acción concertada entre Estados y comunidad organizada, una alianza público-comunitaria, para interponer medidas capaces de frenar el absolutismo y la ilegitimidad política de estos conglomerados empresariales. Por otro lado, la escala global de dominación exige la concertación multilateral entre Estados, en particular entre aquellos no insertos en esquemas de vasallaje neocolonial y también la articulación de organizaciones populares más allá de los límites nacionales.

4. Generar tecnología alternativa, útil al desarrollo humano

A diferencia de otros momentos históricos, no se trata solamente de una redistribución o
apropiación de sistemas tecnológicos, una suerte de “medios de producción” de esta época, ya que muchos de ellos, en su propia lógica, son incompatibles con la solidaridad y la
libertad. Es preciso desarrollar en paralelo –y es por fortuna un proceso ya plenamente en
curso– modalidades tecnológicas de espíritu humanista, que coloquen la dignidad humana
en el centro y potencien la solidaridad, la colaboración, la descentralización, la horizontalidad, la federación y la innovación no posesiva, entre otras cualidades.

5. Conducta crítica.

Pasar de ser materia prima de las corporaciones a sujetos de la internet Todo lo enunciado antes no es viable, ni tiene sentido alguno, sin los protagonistas esenciales de esta transformación. La condición necesaria es generar en las personas, los colectivos organizados y los pueblos una actitud crítica frente a las engañosas promesas de las plataformas, que reducen a los seres humanos a materia prima para sus dañinos propósitos
de acumulación. Como en cualquier otra esfera, lograr la convicción colectiva para convertirnos en actores centrales de la trama, es ineludible.

 1 Informe del Relator Especial sobre la promoción y protección del derecho a la libertad de opinión y de
expresión, Consejo de Derechos Humanos, Naciones Unidas. 6/4/2018 p. 12. Recuperado de https://undocs.
org/es/A/HRC/38/35

2 https://cdt.org/wp-content/uploads/2017/11/Mixed-Messages-Paper.pdf

3 https://core.ac.uk/download/pdf/61664278.pdf

4 Barrett P. ¿Who moderates the social media? A call to end outsourcing. Recuperado de https://bit.ly/3vOsu3T

5 https://santaclaraprinciples.org/

6 Para la elaboración del sumario se consultaron los siguientes enlaces: https://about.fb.com/
news/2018/05/inside-feed-news-feed-ranking/
https://about.fb.com/news/2021/01/how-does-news-feed-predict-what-you-want-to-see/
https://metricool.com/es/algoritmo-instagram/
https://developers.google.com/search/blog/2020/05/evaluating-page-experience
https://metricool.com/es/algoritmo-tiktok/

7 “A inicios del siglo XIX, los trabajadores vieron empeorar sus condiciones laborales y de vida debido al uso
de maquinaria en las tareas agrícolas e industriales, lo que implantó jornadas laborales más largas y duras,
redujo la demanda de mano de obra e impuso salarios más bajos. La respuesta que dio el movimiento ludita
fue la destrucción de la maquinaria de las fábricas.” Luditas, la gran rebelión contra las máquinas del siglo
XIX. National Geographic. https://historia.nationalgeographic.com.es/a/luditas-gran-rebelion-contra-maquinas-siglo-xix_14175

Nota publicada originalmente: Revista América Latina en Movimiento No. 552, abril 2021