por SERGIO AMADEU DA SILVEIRA*
Marco Civil nunca impidió la moderación de contenidos por parte de las plataformas
Hay un giro preocupante en el debate sobre la lucha contra la desinformación y el discurso de odio. De repente, el Marco de Derechos Civiles para Internet se hizo responsable de la ineficacia de las plataformas frente a los ataques a la ciencia y la calidad de la información basada en hechos. Ni en Estados Unidos ni en Inglaterra existió el Marco Civil y eso no impidió que fuéramos testigos de una ola de desinformación que resultó en la Brexit, la elección de Donald Trump y la invasión del Capitolio.
El Marco Civil nunca impidió la moderación de contenidos por parte de las plataformas. Quienes no contuvieron las falsificaciones de la realidad, las “granjas de clics”, la proliferación de grupos fascistas y su discurso de odio fueron los dueños de las plataformas. Esto no se debe simplemente a que gran parte de Silicon Valley simpatiza con las ideas de la incompatibilidad entre la libertad ilimitada de explotación económica y las democracias, como Peter Thiel, fundador de PayPall, o Larry Elisson, cofundador de Oracle, entusiastas de la extrema derecha y la llamado movimiento alt-right.
Las plataformas tienen un modelo de remuneración extremadamente exitoso que ha resultado en valores de mercado superiores a $ 1 billón para las Big Techs que poseen su participación mayoritaria. ¿Cuál es la principal dinámica de este modelo de negocio? En primer lugar, la oferta gratuita de interfaces y servicios con el objetivo de recopilar datos de forma masiva de las personas que los utilizan. En segundo lugar, estos datos son tratados por sistemas algorítmicos para la formación de perfiles de comportamiento y microsegmentación de la población que los utiliza. En tercer lugar, los perfiles se agrupan por plataformas para que las personas con dinero, empresas, departamentos de marketing, grupos políticos y otros se dirijan con publicidad dirigida.
Así, las plataformas monetizan cada segundo que una persona navega en sus estructuras, las cuales están diseñadas para atraer y modular la atención. Por eso, crearon la lógica de viralización, engagement y venta de Me gusta e impulsos. Todo esfuerzo que realizan las plataformas no está dirigido a brindar información de calidad ni a proteger la democracia. Su objetivo es la espectacularización que permite a las personas ver y compartir sus contenidos. Por tanto, el empobrecimiento de los debates que vemos en la política mundial debe mucho a esta lógica viral que depende de convertir todo en algo sorprendente.
Al atacar el Marco Civil, en general, lo que se pretende es afirmar que se impidió a las plataformas bloquear contenidos mentirosos y desinformativos. Por lo tanto, la ley debería exigir que las plataformas contengan la desinformación. Así que ahora le daremos a Big Tech el poder legal para decir qué es y qué no es desinformación. Como en el escándalo de Analityca de Cambridge, la solución propuesta a Facebook concentró aún más el poder en la gestión de la empresa y no redujo en absoluto el proceso de desinformación, como lo demostró Frances Haugen, exgerente de producto de la red social.
En la segunda quincena de marzo de 2023, quien ingresó al Democracy Now en Youtube encontraría una advertencia: "La comunidad de YouTube ha identificado el siguiente contenido como inapropiado u ofensivo para algunas audiencias". El video considerado inapropiado era un reportaje sobre Julian Assange, líder de la Wikileaks que denunció los crímenes de guerra de los Estados Unidos. El mismo Youtube bloqueó la visualización de los contenidos del podcast. tecnopolítica en doce episodios. En ninguno de estos casos hubo desinformación o discurso de odio, pero los responsables de la plataforma consideraron oportuno reducir las visualizaciones y bloquear contenidos. Curiosamente, esto no se hace en los canales de extrema derecha, ni siquiera en el canal de la exdiputada Mamãe Falei. Para Youtube estos canales no violan sus reglas.
La necesaria regulación de las plataformas no debe incrementar su poder arbitrario sobre los contenidos. Necesitamos una ley que reduzca ese poder y los ponga bajo el control de las democracias. La normativa exige la información necesaria sobre los datos que recogen, los cruces que realizan y los objetivos de los sistemas algorítmicos que utilizan. Los términos de uso y políticas de privacidad que exponen no son suficientes para que las democracias y sociedades cuenten con información básica en sus operaciones sobre el comportamiento social.
Las plataformas de redes sociales no son sitios web ni blogs. Se erige como espacios públicos no vinculados a ninguna opción cultural, partidista, religiosa o comercial. Lo hacen para atraer a todos los públicos y llegar a ellos con publicidad y marketing. En esta condición, las plataformas deben estar sujetas a supervisión democrática.
Dado que la gestión inmediata de las plataformas se realiza mediante sistemas algorítmicos de aprendizaje automático, es fundamental evaluar el impacto del tratamiento de datos que realizan. Como mínimo, los propósitos de los modelos que crean deben ser claramente expuestos, sin dudas y eufemismos, para quienes están siendo modulados por ellos. Los términos de uso y las políticas de privacidad de las plataformas son demasiado genéricos y no permiten saber si se están practicando una recolección y un tratamiento de datos excesivos, discriminatorios e inadecuados.
Así como los europeos están creando un Consejo de Inteligencia Artificial integrado por expertos en inteligencia artificial, representantes de la sociedad civil, el gobierno y el mercado, la regulación de las plataformas, dada su complejidad, debe avanzar en la formación de una estructura de aplicación de normas democrática y multisectorial. sobre estas empresas de modulación social.
*Sergio Amadeu de Silveira es profesor de la Universidad Federal del ABC. Autor, entre otros libros, de Software libre: la lucha por la libertad del conocimiento (Conrado).
Publicado originalmente en el sitio web Otras palabras.
El sitio web de A Terra é Redonda existe gracias a nuestros lectores y simpatizantes.
Ayúdanos a mantener esta idea en marcha.
Haga clic aquí para ver cómo
