por EUGENIO BUCCI*
Una tregua de seis meses en la investigación de IA no va a resolver nada. Mira con ternura y compasión el mundo que te rodea, pues desaparecerá en un suspiro.
En las últimas semanas, el historiador israelí Yuval Noah Harari ha escrito un par de artículos afirmando que la inteligencia artificial (IA) ha “hackeado” el “sistema operativo” de la especie humana. Es una metáfora: “sistema operativo” aquí significa lenguaje. La máquina finalmente se ha apoderado de nuestras formas de expresión y comunicación, y el peligro que representa no tiene precedentes, es colosal, mayor que cualquiera que hayamos conocido antes.
Yuval Noah Harari teje argumentos con irresistible claridad. Autor de best-sellers mundiales como Homo Sapiens (publicado en Brasil por Companhia das Letras), tiene el don de hacer digeribles, accesibles e incluso atractivos algunos de los dilemas más insoportables de nuestro tiempo. El primero de los artículos, publicado originalmente en The New York Times, fue traducida a periódicos y sitios web brasileños.
Poco después, el escritor encabezó una petición transnacional pidiendo una tregua de seis meses en la investigación de la inteligencia artificial. Luego, volvió a la carga con un nuevo texto, esta vez en el semanario inglés The Economist (28 de abril), publicado en portugués en el sitio web la tierra es redonda, con el mismo mensaje: una tecnología capaz de apoderarse del lenguaje humano tiene todo para gravar a toda la humanidad.
El argumento continúa. Todos los mitos, todas las religiones y todas las culturas que existen o han existido sobre la faz de la Tierra no están hechos de aminoácidos ni de cromosomas, sino de signos lingüísticos. Estos signos sustentan el "sistema operativo" de nuestros sistemas de fe, nuestra expresión artística y nuestra identidad: son el tejido de nuestra conciencia. Pronto, softwares e Hardware quien se apropie de este “sistema” podrá gobernarnos. Por eso, en opinión de mucha gente bien informada, la inteligencia artificial está a la par de las armas nucleares en términos de potencial destructivo.
Pero eso no es ni la mitad de la misa de réquiem que acaba de comenzar. Si miramos el tema de frente, notaremos que Yuval Harari podría haber dicho más de lo que dijo. El desarrollo de la convocatoria. máquina de aprendizaje, Yo grandes volúmenes de datos y los equipos autoprogramables siguen un curso imparable. Ningún abajo firmante puede detenerlo. El punto de no retorno ya puede estar detrás de nosotros.
Para comprender la irreversibilidad del proceso tecnológico, es bueno recordar ese otro proceso, el jurídico, tal como lo describe Franz Kafka. Independientemente de la existencia o no de pruebas, la trama judicial avanzaba, sin que nadie pudiera detenerla. La tecnología, como el derecho, es una creación humana. Sin embargo, a diferencia del derecho, se fortalece a medida que se deshumaniza y se libera de las personas.
Algo similar intuyó Martin Heidegger cuando habló del poder de la tecnología en la primera mitad del siglo XX. Trescientos años antes, Thomas Hobbes señaló que el Estado, poseído por el monstruo Leviatán, haría lo que quisiera, contra cualquiera. La sensación de que el ingenio humano fabrica “monstruos” que cobran vida propia no es nueva. Adam Smith imaginó una “mano invisible” tirando de los hilos del mercado. Karl Marx detectó un “sujeto automático” escondido en algún receso entre la mercancía y el capital.
La realidad les dio la razón. La burocracia que Max Weber veía con una punzada de optimismo pronto se degradó al estalinismo y devoró a sus padres, como si confirmara la maldición de la novela. Frankenstein, de 1818, en el que Mary Shelley retrataba a la criatura que subyuga al creador. En las tragedias de la Antigua Grecia, la fatalidad que no tenía gobierno se llamaba sino. En los tiempos modernos, puedes llamarlo inconsciente. El pensamiento comprende incluso lo que contempla, pero no tiene forma de impedirlo.
Y aquí estamos, cara a cara con la inteligencia artificial. La posibilidad de domarla es escasa. Logró la proeza de sacar el lenguaje humano del dominio de los hablantes de carne y hueso. Ella, el lenguaje, que sólo podía existir a través de nosotros, ahora podrá vivir más allá de nosotros. No subestimemos el tamaño de este pequeño paso que supondrá un gran salto tecnológico. El lingüista Ferdinand de Saussure enseñó que quien inventa una lengua y la pone en circulación pierde el control sobre ella. Pronto, podemos perder el control sobre las máquinas que aprendieron a hablar el idioma que era solo nuestro.
La inteligencia artificial automatiza protocolos que eran de origen humano y extrae predicciones efectivas de ellos, en escalas cada vez más rápidas y gigantescas. Crece y se vuelve más complejo dentro del bunkers privado y opaco grandes tecnológicos – o dentro de los secretos de Estado mejor guardados, también opacos. Actualmente no existe una fuerza política capaz de romper estas dos opacidades simultáneamente. No, una tregua de seis meses no resolverá nada. Nuestras posibilidades son escasas.
Mira con ternura y compasión el mundo que te rodea, porque desaparecerá en un suspiro.
*Eugenio Bucci Es profesor de la Facultad de Comunicación y Artes de la USP. Autor, entre otros libros, de Incertidumbre, un ensayo (auténtico).
Publicado originalmente en el diario El Estado de S. Pablo.
la tierra es redonda existe gracias a nuestros lectores y seguidores.
Ayúdanos a mantener esta idea en marcha.
CONTRIBUIR
