Ideología del algoritmo: cómo el modelo económico de las redes fomenta la polarización
Facebook y Twitter en el banquillo de los acusados tras el ataque terrorista al profesor de Conflans-Sainte-Honorine. Sus directores nacionales han sido convocados este martes por la mañana por el gobierno francés. Una reunión criticada desde el primer momento como insuficiente para actuar sobre la causa del problema: el modelo económico de las plataformas.
Por Dominique Baillard
Los videos que formaron parte de la campaña contra el profesor Samuel Paty, decapitado por un terrorista el pasado viernes, circularon por Facebook y su sistema de mensajería WhatsApp. El autor del ataque tenía una cuenta de Twitter identificada como la de un islamista. Los vínculos entre estos mensajes y el ataque aún no han sido probados, pero hoy en día es difícil para estas plataformas escapar a las acusaciones.
Por lo tanto, el ministro va a pedir a los medios de comunicación social que combatan el ciber-islamismo. Una medida cosmética según los observadores de las redes sociales, que cuestionan el modelo de estas plataformas: «las redes están hechas para captar nuestra atención, y para ello la emoción es más útil que la inteligencia. El modelo económico de Facebook y otras plataformas es el modelo donde gana el más fuerte, es el fascismo, no la democracia», explica Thomas Huchon, un periodista especialista en internet y desinformación.
El más fuerte es el que consigue más clics. Estas redes no buscan deliberadamente incitar al odio racial, la desinformación o el debate político sesgado, sino que dejan proliferar, o incluso impulsar, contenidos que generen opiniones, y por lo tanto publicidad.
Facebook ha sido cuestionado por su papel en la elección de Donald Trump en 2016, y luego en la elección de Jair Bolsonaro en Brasil
La red también está acusada de fomentar el odio contra los rohingyas, minoría musulmana en Birmania. A medida que la lista de controversias se alarga cada día, el jefe de la cadena, Marck Zuckerberg, se resiste. En cuanto a los hechos citados, los negó durante mucho tiempo y luego los reconoció, pero sigue negándose a publicar información que muestre, por ejemplo, la forma en que Facebook ha transmitido información falsa publicada por quienes apoyan a Donald Trump.
Eso sería hacer público cómo funcionan los algoritmos. Estas misteriosas arquitecturas digitales no son entidades neutrales e incorpóreas: están construidas por ingenieros que siguen un cierto número de instrucciones. Se da prioridad al contenido más polarizador, independientemente de su impacto. Una investigación del Wall Street Journal informa, entre otras cosas, que Facebook ha desestimado la revista liberal de izquierda Mother Jones porque no generó suficientes opiniones. Por lo tanto, la red ha tomado una decisión por razones de rentabilidad que tiene consecuencias para el debate político americano.
La impunidad de las empresas
Es imposible atacar a las empresas domiciliadas en el extranjero en Francia. Y en los Estados Unidos están amparados por el artículo 230, una ley que ha protegido la libertad de expresión desde los comienzos de Internet. Las plataformas no son consideradas como editoras de contenido sino como su simple repetidor. Esta ley, que fue ideada hace 30 años, incluso antes del nacimiento de las redes, está siendo cada vez más cuestionada. Trump dice que quiere revocarla, Biden dice que quiere reformarla. En Europa, una nueva directiva debería proporcionarles un mejor marco. Los expertos creen que lo principal está en otra parte. Así como los coches están sujetos a normas y controles técnicos, las redes sociales y sus algoritmos deben poder ser revisados.
A la espera de estas reformas, las plataformas ya tienen herramientas para moderar el contenido
“Tienen reglamentos muy elaborados, pero no los hacen cumplir», dice Maëlle Gavet, una empresaria tecnológica comprometida y representante estadounidense de la oficina tecnológica French Tech. Por cobardía, por codicia. Ninguno de ellos publica datos completos sobre los contenidos litigiosos y las medidas adoptadas para eliminarlos. Los esfuerzos para limpiar las redes tienen un costo para estas compañías, cambiarán su modelo de negocios reduciendo sus ingresos por publicidad, y las nuevas reglas del juego podrían facilitar la llegada de nuevos competidores.
Por eso, contrariamente a sus declaraciones, no tienen prisa por actuar. Por ello, la regulación del sector parece ahora urgente e indispensable.
