por SERGIO AMADEU DA SILVEIRA*
La catástrofe algorítmica y la nube “apagón”
1.
La sociología de la modernidad ha producido un conjunto de reflexiones que es necesario profundizar, especialmente en estos tiempos de expansión de ondas reaccionarias que coexisten y se alimentan del auge de tecnologías que se proponen mediar en todas las actividades humanas. El sociólogo Ulrich Beck en Sociedad de riesgo, publicado en Alemania en 1986, advertía que los riesgos y las incertidumbres se habían vuelto centrales en las sociedades modernas impulsadas por el progreso tecnológico e industrial.
Ulrich Beck ya señaló que estos riesgos serán cada vez más invisibles y su percepción dependerá de las instituciones científicas y los medios de comunicación. Se incorporaría la dinámica del riesgo y la búsqueda constante de responsables y culpables de los desastres nos llevaría a una determinada política sustentada en la gestión del riesgo.
La percepción de Ulrich Beck no podría ser más realista, ya que las tecnologías digitales han dominado la economía y las grandes empresas que las controlan y dirigen su desarrollo han impuesto un estilo de gestión de riesgos. El filósofo Yuk Hui abrió su texto Catástrofe algorítmica: la venganza de la contingencia2020, las catástrofes tecnológicas no son simplemente fallas materiales, sino fallas de la razón. Inspirándose en Paul Virilio, Yuk Hui piensa en los sistemas tecnológicos contemporáneos como portadores de catástrofes y técnicas para mitigar las tragedias que sus dinámicas y propósitos generan.
Las catástrofes son inevitables debido a la propia naturaleza de la automatización y las tecnologías de automatización. Nuestros sistemas avanzan hacia el uso cada vez mayor de soluciones de inteligencia artificial basadas en estadística y probabilidad convertidas en sistemas algorítmicos que operan a partir de un gigantesco poder computacional, generando modelos que sirven para automatizar las actividades y su riesgo.
Norbert Wiener, en el texto Algunas consecuencias morales y técnicas de la automatización, publicado en mayo de 1960 en la revista Ciencias:, declaró que las máquinas podían desarrollar estrategias imprevistas, ya que llevaban algoritmos de aprendizaje, que no siempre podían ser comprendidos y seguidos por sus programadores.
2.
Lo ocurrido los días 18 y 19 de julio de 2024 es un ejemplo de catástrofe algorítmica. El sistema de gestión de riesgos, más precisamente la mitigación de ciberataques, fracasó. Un error en la actualización de software de la empresa de ciberseguridad CrowdStrike que se aplica al sistema operativo de Microsoft generó lo que la prensa mundial denominó un apagón cibernético o digital. Un mensaje de Microsoft en el antiguo Twitter, ahora X, decía: "Somos conscientes de un problema con las PC con Windows 365 Cloud causado por una actualización reciente del software CrowdStrike Falcon Sensor".
Todo sistema digital incorpora de alguna manera el intento de detectar y contener errores, fallas, ataques, es decir, riesgos e incidentes. Por ello, existen otros sistemas algorítmicos que trabajan todo el tiempo para analizar fallos, errores y ataques. Los antivirus son un ejemplo de acción preventiva para proteger un sistema del envío de archivos maliciosos que pueden destruir información e incluso cifrar una base de datos para obtener un rescate de los delincuentes que poseen la clave para descifrar la información. Curiosamente, el problema ocurrido y llamado “apagón” se produjo cuando el sistema de protección o prevención de ataques terminó promoviendo un ataque al sistema que se suponía debía defender.
Anthony Giddens y Ulrich Beck escribieron que en la modernidad tardía los riesgos son producidos en gran medida por la propia sociedad, principalmente por la tecnología, la industrialización y la globalización. Sin embargo, llevamos mucho tiempo en la modernidad tardía, estamos en un sistema capitalista podrido. El sueño del capitalista es distópico y busca sustituir al extremo el trabajo humano por sistemas automatizados con el objetivo de reducir costes y aumentar la calidad y precisión de los servicios y productos aumentando la productividad.
Así, en el capitalismo contemporáneo, las grandes empresas tecnológicas avanzan en la incesante recopilación de datos para mejorar la extracción de patrones de procesos humanos, sociales y maquínicos. Sin embargo, este sueño tiene consecuencias sociotécnicas que no son predecibles y no pueden controlarse.
Es importante resaltar aquí que los riesgos se combinan con objetivos que los aumentan, entre los que se encuentra la búsqueda de dominio del mercado promovida por los oligopolios digitales, las llamadas Big Techs. En la primera década del siglo XXI, se extendió el modelo de negocio basado en la llamada computación en la nube, acelerando la concentración del poder de computación y el almacenamiento de datos y, en consecuencia, expandiendo la concentración económica.
¿Cómo es el negocio de la nube? ¿Qué significa la frase “mis datos están en la nube”? La nube es una metáfora del negocio de almacenar y procesar datos y sistemas que se encuentran en los centros de datos a los que se accede de forma remota a través de Internet. Como dice el chiste “la nube son las computadoras de otras personas”.
Algunas empresas se especializaron y terminaron dominando el negocio de aprovisionamiento de la nube. Amazon Web Server y Microsoft Azure, en 2021, poseían el 60% del mercado global de la nube ofreciendo infraestructura como servicio. Que quiere decir eso. Que varias empresas, instituciones y gobiernos reemplazaron sus propias infraestructuras locales de procesamiento y almacenamiento de datos con contratos para que Amazon y Microsoft “cuiden” y “alquilen” el espacio de almacenamiento de datos y los servicios informáticos.
Los costes de contratación de la nube para empresas y gobiernos resultaron atractivos. Esto llevó a un crecimiento gigantesco en este mercado. La consecuencia fue una mayor concentración económica.
Según Gartner Group, la concentración en el mercado de infraestructura en la nube como servicio (IaaS) en 2023 fue la siguiente: Amazon tenía el 39%, Microsoft el 23%, Google el 8,2%, Alibaba el 7,9% y Huawei el 4,3%. Estas cinco empresas dominaron el 82,4% del mercado mundial de la nube. Además, este escenario está empeorando debido al entrenamiento de grandes modelos de lenguaje, LLM, que requieren muchos ordenadores disponibles con altísima capacidad de procesamiento o potencia computacional. Por tanto, la Inteligencia Artificial Generativa basada en la extracción de patrones a partir de grandes cantidades de datos está contribuyendo a la concentración de poder computacional que implica poder económico.
3.
El día del apagón, muchas empresas acudieron a acceder a sus aplicaciones y sistemas en la nube de Microsoft y se encontraron con la famosa pantalla azul, lo que significaba que el sistema operativo no podía funcionar. Muchas personas que tenían Microsoft 365 también tenían bloqueado el acceso a sus archivos. Microsoft 365 es como un servicio de suscripción que brinda a los usuarios acceso al paquete Office y otros servicios a través de Internet, en lugar de instalarlos localmente en sus propias máquinas.
Esto significa que los datos y archivos de los usuarios se almacenan en la nube de Microsoft, lo que les permite acceder a sus documentos e información desde cualquier lugar con conexión a Internet. Excepto cuando la empresa que ofrece el servicio tenga una falla, un ataque o bloqueos, ya sean intencionados o no.
El apagón demostró el gigantesco poder que posee un mediador de relaciones digitales y un operador de procesamiento de datos como Microsoft. Sin duda, el fallo involuntario provocó el apagón. Pero está claro que Microsoft tiene el poder de impedir que empresas e instituciones accedan a sus propios datos ubicados en sus los centros de datos, lejos de nuestra jurisdicción y de nuestra capacidad de acceder físicamente a él.
Tenemos un problema de soberanía digital allí. Los líderes del Estado brasileño deben evaluar los riesgos de continuar alojando sus datos estratégicos y utilizando software cotidiano en infraestructuras fuera de nuestro país. Nuestras universidades necesitan debatir si no sería imprescindible conservar sus datos de comunicación y de investigación en infraestructuras instaladas en nuestro país, en nuestra jurisdicción y sometidos a nuestros comités de ética. La autonomía necesaria para el desarrollo implica cada vez más la soberanía digital.
*Sergio Amadeu de Silveira es profesor de la Universidad Federal del ABC. Autor, entre otros libros, de Colonialismo de datos: cómo opera la trinchera algorítmica en la guerra neoliberal (Autonomía literaria). Elhttps://amzn.to/3ZZjDfb]
Referencias
BECK, Ulrich; GIDDENS, Antonio; LASH, Scott. La reinvención de la política: hacia una teoría de la modernización reflexiva. Prensa de la Universidad de Stanford, 1994.
BECK, Ulrico. sociedad de riesgo. São Paulo: Editora 34, 2010.
GARTNER afirma que los ingresos mundiales por servicios de nube pública IaaS crecieron un 16.2 % en 2023
STAMFORD, Connecticut, 22 de julio de 2024. Enlace: https://www.gartner.com/en/newsroom/press-releases/2024-07-22-gartner-says-worldwide-iaas-public-cloud-services-revenue-grew-16-point-2-percent-in-2023
HUI, ¡puaj! Catástrofe algorítmica. La venganza de la contingencia. Parresía: una revista de filosofía crítica, No. 34, 2020.
WIENER, Norberto. Algunas consecuencias morales y técnicas de la automatización: A medida que las máquinas aprenden, pueden desarrollar estrategias imprevistas a un ritmo que desconcierta a sus programadores. Ciencias:, v. 131, n. 3410, pág. 1355-1358, 1960.
la tierra es redonda hay gracias a nuestros lectores y seguidores.
Ayúdanos a mantener esta idea en marcha.
CONTRIBUIR
