por EUGENIO BUCCI*
Si los procesos de toma de decisiones de las sociedades democráticas son secuestrados por la ignorancia fabricada por la Inteligencia Artificial, la humanidad se verá seriamente amenazada.
A finales de la semana pasada, tuvimos otra noticia más sobre el uso oscuro de las tecnologías luminosas. Esta vez, una pandilla utilizó herramientas de falso profundo para llevar a cabo un golpe de un millón de dólares, que tuvo mucho éxito. Falso profundo, como bien sabes, es el nombre que reciben estos vídeos manipulados que parecen tan genuinos como el discurso metálico de los presentadores de los informativos. National Journal. Son vídeos fraudulentos, pero tan exquisitamente fraudulentos, tan cristalinos, que generan imágenes creíbles, fiables, perfectas e irrefutables de hechos que nunca sucedieron.
Están en todos lados. En la pantalla del móvil, los famosos dicen frases que no dirían en el mundo real, sin olvidar a personajes públicos que protagonizan gestos orgiásticos que –por suerte o por desgracia– nunca existieron. Lo que pasó ahora es que los mismos recursos ilusionistas convencieron a un empleado del sector financiero de una multinacional en Hong Kong de que su jefe, vía teleconferencia, ordenó la transferencia inmediata de 25,6 millones de dólares a una cuenta desconocida. El tipo obedeció, la fortuna se le escapó y la policía local busca los daños y a los ladrones. Parece que ya se han realizado algunas detenciones.
Quizás pienses que esto no es suficiente. Tal vez digas que no hay nada sorprendente en un crimen. de alta tecnología y que como el mundo es inmundo, las malas acciones requieren los servicios de las innovaciones, ya sea un trozo de piedra labrada, un curare, una máquina de escribir o, más actualmente, la teléfono inteligente. Aun así, sería prudente examinar otro episodio, éste un poco más intrigante.
En diciembre, un robot atacó a un ingeniero en la línea de montaje de una de las instalaciones de Tesla en Estados Unidos. La máquina incluso hundió sus garras de acero en el brazo del desprevenido ser humano. Las explicaciones llegaron sesgadas, de mala gana y, hasta ahora, existen dudas sobre qué pasó y cómo. ¿Que paso ahi? ¿Fue un error de programación? Si la hipótesis es cierta, el monstruo lubricado no estaba al servicio de un criminal sin escrúpulos, sino que habría actuado por su cuenta, como si tuviera libre albedrío o, al menos, una arbitrariedad demencial. De hecho, esto es más intrigante.
Ahora imaginemos una combinación, o una superposición, entre la primera y la segunda noticia. Imaginemos un robot virtual (un bot, como dicen) que ordena la creación de imágenes artificiales que satisfagan las sedientas curiosidades del público. En ocasiones, este ser inmaterial trabajaría bajo las órdenes de seres supuestamente humanos.
Otras veces, sin embargo, gracias a las admirables proezas de la automatización, nuestro ser cibernético sería capaz, de forma autónoma, de idear hazañas impresionantes, de la misma manera que el algoritmo de Spotify, con sus automatismos bien entrenados, es capaz de elegir la música que escuchará. .a continuación, y hazlo bien. Imaginemos, entonces, una bot que manipula el falso profundo para complacer las retinas perversas de las multitudes más furiosas, que se deleitan con el sufrimiento de aquellos a quienes dedican su odio más venenoso y que, en nombre de su odio incondicional, toman como verdad definitiva cualquier ultraje que confirme sus prejuicios y sus defectos.
¿Te imaginaste? Ahora ve más allá. Se necesita. El Foro Económico Mundial (FEM) fue más allá. En enero, el Foro Económico Mundial mencionó la desinformación y las herramientas para difundirla como el mayor riesgo que enfrentará la humanidad en los próximos dos años. Este riesgo es real, insidioso y acecha a la vuelta de la esquina de su casa. En 2024, más de dos mil millones de votantes serán llamados a decidir el destino de 58 países, incluidos Rusia, México, India y Estados Unidos. La mitad del planeta acudirá a las urnas recién en 2024, el año electoral más importante de la historia, según las estadísticas. Si la mentira industrializada continúa causando el daño que ya está causando, se producirán desastres acumulativos.
No hay manera de no verlo más. Si los procesos de toma de decisiones de las sociedades democráticas son abducidos por la ignorancia fabricada por la Inteligencia Artificial, la humanidad se verá seriamente amenazada. El Foro Mundial tiene razón, no se puede negar. Por ahora, es cierto, solo estamos hablando de un riesgo, pero este riesgo no se parece en nada a una “pequeña gripe”. Es real. Si triunfa la desinformación, la democracia generará su opuesto y será devorada por él. Y no nos faltan pruebas prácticas que demuestran la inminencia del peor de los casos. En nuestros días, he insistido en esto, la desinformación es poder.
¿Pueden los circuitos electrónicos y los medios digitales servir para siempre? Sí, obviamente pueden. Están la contabilidad de las Campañas de Fraternidad, las consultas virtuales de telemedicina, los modelos ultracomplejos de previsión meteorológica. Cada técnica puede servir a buenas causas. Pero, sin gobierno o rendidos a los caprichos del capital, la técnica sin ley nos llevará al peor de los precipicios. Pensadores como Günther Anders, que entendieron las inversiones de la Ilustración, intuyeron la aparición del apocalipsis producido por la técnica. Pero lo que nos espera, si no hacemos nada, es aún más sorprendente.
*Eugenio Bucci Es profesor titular de la Facultad de Comunicaciones y Artes de la USP. Autor, entre otros libros, de Incertidumbre, un ensayo: cómo pensamos la idea que nos desorienta (y orienta el mundo digital) (auténtico). [https://amzn.to/3SytDKl]
Publicado originalmente en el diario El Estado de S. Pablo.
la tierra es redonda existe gracias a nuestros lectores y seguidores.
Ayúdanos a mantener esta idea en marcha.
CONTRIBUIR
