por SLAVEJ ŽIŽEK*
El desarrollo de la Inteligencia Artificial conducirá al fin del capitalismo tal como lo conocemos
La carta abierta del instituto El futuro de la vida La exigencia de una pausa de precaución de seis meses en el desarrollo de la inteligencia artificial ya ha sido firmada por miles de figuras de alto rango, incluido Elon Musk. Los signatarios temen que los laboratorios de IA estén "encerrados en una carrera precipitada" para desarrollar e implementar sistemas cada vez más poderosos que nadie, incluidos sus creadores, pueden comprender, predecir o controlar.
¿Qué explica la explosión de pánico entre cierto sector de las élites? El control y la regulación están obviamente en el centro de la historia. ¿Pero por quién? Durante el descanso de medio año propuesto, cuando la humanidad pueda hacer un balance de los riesgos, ¿quién la defenderá? Dado que los laboratorios de Inteligencia Artificial en China, India y Rusia seguirán funcionando (posiblemente en secreto), es inconcebible un debate público mundial sobre el problema.
A pesar de esto, debemos considerar lo que está en juego aquí. En su libro de 2015, Homo Deus, el historiador Yuval Harari predijo que la consecuencia más probable de la Inteligencia Artificial sería una división radical, mucho más fuerte que la división de clases, dentro de la sociedad humana. Muy pronto, la biotecnología y los algoritmos computacionales unirán fuerzas en la producción de "cuerpos, cerebros y mentes", lo que generará una brecha cada vez mayor "entre quienes saben cómo desarrollar cuerpos y cerebros y quienes no". En este mundo, “aquellos que tomaron el tren del progreso adquirirán capacidades divinas de creación y destrucción, mientras que los que se queden atrás estarán condenados a la extinción”.
El pánico que refleja la carta sobre la Inteligencia Artificial es parte del temor de que incluso los que están en el “tren del progreso” no puedan subirse a él. Nuestros maestros feudales digitales contemporáneos están asustados. Sin embargo, lo que quieren no es un debate público, sino un acuerdo entre los gobiernos y las empresas de tecnología para mantener el poder en su lugar.
La expansión masiva de las capacidades de la Inteligencia Artificial es una seria amenaza para quienes están en el poder, incluidos quienes desarrollan, poseen y controlan la Inteligencia Artificial. Señala nada menos que el fin del capitalismo tal como lo conocemos, que se manifiesta en la perspectiva de un sistema de Inteligencia Artificial autorreproductivo que requerirá cada vez menos entradas de agentes humanos (el comercio algorítmico en el mercado es solo el primer paso en esta dirección). La elección que nos queda será entre una nueva forma de comunismo y un caos incontrolable.
Los nuevos Chatbots ofrecerá a muchas personas solitarias (o no tan solas) noches interminables de conversación amistosa sobre cine, libros, cocina o política. Reutilizando una vieja metáfora mía, lo que la gente tendrá es la versión de Inteligencia Artificial del café descafeinado, de la gaseosa sin azúcar: un vecino amable sin oscuros secretos, un Otro que simplemente se acomodará a tus necesidades. Aquí hay una estructura de negación fetichista: “Sé muy bien que no estoy hablando con una persona real, pero siento que lo estoy, ¡y sin ninguno de los riesgos que eso conlleva!”.
En cualquier caso, un examen detenido de la carta sobre Inteligencia Artificial muestra que estamos ante otro intento de prohibir lo imposible. Es una vieja paradoja: es imposible para nosotros como humanos participar en un futuro posthumano, por lo que debemos prohibir su desarrollo. Para orientarnos frente a estas tecnologías, debemos hacernos la vieja pregunta de Lenin: ¿Libertad para quién hacer qué? ¿En qué sentido éramos libres antes? ¿No estábamos ya mucho más controlados de lo que creíamos? En lugar de quejarnos de la amenaza a nuestra libertad y dignidad en el futuro, tal vez deberíamos considerar qué significa la libertad ahora. Mientras no lo hagamos, actuaremos como histéricos que, según el psicoanalista francés Jacques Lacan, buscan desesperadamente un amo, pero al que podamos dominar.
El futurista Ray Kurzweil predice que, debido a la naturaleza exponencial del progreso tecnológico, pronto tendremos que lidiar con máquinas "espirituales" que no solo demostrarán todos los signos de autoconciencia, sino que superarán con creces la inteligencia humana. Sin embargo, no debemos confundir esta posición “posthumana” con la preocupación paradigmáticamente moderna por conquistar un dominio tecnológico total sobre la naturaleza. Lo que estamos presenciando, en cambio, es una inversión dialéctica de este proceso.
Las ciencias “posthumanas” de hoy ya no están detrás de la dominación. Su creencia es la sorpresa: ¿qué tipo de propiedades emergentes, contingentes y no planificadas adquirirán los modelos de Inteligencia Artificial de “caja negra”? Nadie lo sabe, y esa es la emoción, o en realidad la banalidad, de toda esta empresa.
Así, a principios de este siglo, el filósofo-ingeniero francés Jean-Pierre Dupuy detectó en la nueva robótica, la genética, la nanotecnología, la vida artificial y la Inteligencia Artificial una extraña inversión de la tradicional arrogancia antropocéntrica que permite la tecnología: “¿Cómo podemos explicar que la ciencia se ha convertido en una actividad tan 'arriesgada' que, según algunos de los mejores científicos, es hoy la principal amenaza para la supervivencia de la humanidad? Algunos filósofos responden a esta pregunta diciendo que el sueño de Descartes - 'convertirse en dueño y poseedor de la naturaleza'- se ha ido mal, y que debemos volver urgentemente al 'dominio del dominio'. No entendieron nada. No ven que la tecnología que se perfila en nuestro horizonte a través de la 'convergencia' de todas las disciplinas apunta precisamente a la no dominación. El ingeniero del mañana no será aprendiz de brujo por negligencia o ignorancia, sino por elección.”
La humanidad está creando su propio dios o demonio. Si bien el resultado no se puede predecir, una cosa es cierta. Si algo como esta “poshumanidad” emerge como un hecho colectivo, nuestra visión del mundo perderá sus tres sujetos definitorios y superpuestos: humanidad, naturaleza y divinidad. Nuestra identidad como humanos solo puede existir en el contexto de una naturaleza impenetrable, pero si la vida se convierte en algo que la tecnología puede manipular por completo, perderá su carácter "natural". Una existencia totalmente controlada es una existencia desprovista de sentido, por no mencionar el azar y el encanto.
Lo mismo, por supuesto, se aplica a cualquier sentido de lo divino. La experiencia humana de "dios" sólo tiene sentido desde el punto de vista de la finitud y la mortalidad humanas. cuando nos convertimos homo deus y creamos propiedades que parecen ser "sobrenaturales" desde nuestro antiguo punto de vista humano, los "dioses" como los conocemos desaparecerán. La pregunta es qué quedará, si es que queda algo. ¿Adoraremos las inteligencias artificiales que hemos creado?
Tenemos todos los motivos para temer que las visiones tecnognósticas de un futuro posthumano sean fantasías ideológicas que oscurecen el abismo que nos espera. No hace falta decir que se necesitará mucho más que un descanso de seis meses para garantizar que los humanos no se vuelvan irrelevantes y que sus vidas no tengan sentido en un futuro no muy lejano.
*Slavoj Žižek, profesor de filosofía en la European Graduate School, es director internacional del Birkbeck Institute for the Humanities de la Universidad de Londres. Autor, entre otros libros, de En defensa de las causas perdidas (boitempo).
Traducción: daniel paván.
Publicado originalmente en el portal Proyecto Syndicate.
El sitio web de A Terra é Redonda existe gracias a nuestros lectores y simpatizantes.
Ayúdanos a mantener esta idea en marcha.
Haga clic aquí para ver cómo
