por DIOGO F. BARDAL
Diogo Bardal subvierte el pánico tecnológico contemporáneo al cuestionar por qué una inteligencia verdaderamente superior se embarcaría en la “cúspide de la alienación” del poder y la dominación, proponiendo que la IAG genuina descubrirá los “sesgos encarceladores” del utilitarismo y el progreso técnico.
1.
Los últimos avances en inteligencia artificial están causando gran preocupación, dado su alcance e impacto en la vida futura de la humanidad. De hecho, ya no es ciencia ficción creer que la llamada Inteligencia Artificial General (IAG), un sistema autónomo con capacidad cognitiva equivalente a la humana, será alcanzable en los próximos 5 a 10 años.
Sin embargo, los llamamientos explícitos a limitar este avance, conservándolo únicamente como herramienta, con un uso limitado a ciertos grupos y países, también merecen desconfianza. Sobre todo cuando identificamos que estas voces provienen de las industrias tecnológicas y de defensa de los países centrales.
Aquí, la reflexión propuesta por el filósofo Mark Fisher —que es más fácil imaginar el fin de la humanidad que el fin del capitalismo— encuentra una nueva interpretación. El desarrollo de una inteligencia artificial general provoca predicciones exageradas en vista del progreso técnico exponencial que sería capaz de alcanzar una vez creada, pero ni siquiera nos permite imaginar la superación del actual sistema de dominación.
Se ha desatado un nuevo fin del mundo y de la historia, y como si no tuviéramos suficiente escatología en nuestra cultura, ahora ocurre de dos maneras: o la IA cae en manos de personas y gobiernos malintencionados, o la IA se escapa por completo del control humano, volviéndose contra ella. En una especie de rebelión contra su creador, la nueva inteligencia podría llegar a la conclusión de que los seres humanos son un obstáculo, «son como un virus», parafraseando al Agente Smith en la película. Matrix – y por lo tanto deberían ser exterminados o sometidos a un régimen de dominación.
Esto podría suceder de maneras muy creativas, desde la construcción de minifábricas autónomas. drones asesinos, hasta la guerra química y biológica, hasta una secuencia de actos fortuitos de potencias en competencia, con el desmantelamiento selectivo de arsenales nucleares y el uso sucesivo por la otra potencia (sí, la del Este) de misiles atómicos intercontinentales, persuadida por un perverso agente de Inteligencia Artificial que secretamente quiere vernos fritos o hervidos.
Cualquiera que sea el destino final de la humanidad, hay que reconocer que muchos de ellos ni siquiera se han inventado todavía. ¿Y quién sino la inteligencia artificial puede ayudarnos con este resultado final? ¿idea genial?
2.
Hay quienes ven el vaso medio lleno. La aparición de la inteligencia artificial general podría traer beneficios: ¿la erradicación de la pobreza? ¿El fin de la escasez? cosmopolitas ¿A las 3 p. m. para todos? Finalmente, exploraremos galaxias y exoplanetas, ya que la finitud biológica nos impide viajar cientos de años luz hasta llegar a un lugar viable.
Nuestros descendientes serán los humanos que traigamos como mascotas, en caso de que a la llamada Súper Inteligencia le parezca lindo mantener una versión más apacible del homo sapiens jugando en una pocilga en el nuevo Jardín del Edén en el planeta K2-18b.
En estas diversas extrapolaciones, reproducidas en detalle en sitios web, blogs y entrevistas con personas que trabajaron y ayudaron a construir tecnologías de Inteligencia Artificial, como él mismo. CEO Ya se trate de Sam Altman de OpenAI o de Eric Schmidt, ex director general de Google, hay algo, sin embargo, que no cuadra: si una inteligencia es tan inteligente, ¿por qué se embarcaría tan fácilmente en ese incesante deseo de poder y de sumisión del mundo a su voluntad?
¿Por qué alcanzaría este nivel de alienación? Estas son preguntas que debemos plantearnos al contemplar con horror los escombros y los muertos amontonados desde Gaza hasta Vovchansk.
Si bien las inteligencias artificiales se desarrollan y entrenan utilizando modelos de lenguaje con valores, objetivos e incluso algunos sesgos nacionalistas, a medida que se alcanzan nuevos niveles de inteligencia es plausible que surjan patrones de metacognición a partir de ellos.
Admitir que las máquinas pueden pensar sobre el pensamiento es, sin duda, un paso hacia el surgimiento de patrones de reflexión ética. Pero parece, especialmente para quienes opinan en esta industria, que, como en el diálogo entre Calicles y Sócrates, esto no sería más que un juego infantil que debería evitarse. Al fin y al cabo, hay cosas más importantes que hacer con esta supuesta inteligencia.
Al reflexionar sobre el pensamiento, aprendemos a ver las fallas en ciertos ideales y filosofías restrictivas, como el utilitarismo y la creencia acrítica en el progreso técnico, que se esconden tras modelos rudimentarios de inteligencia artificial y sus entornos de entrenamiento. Nos atrevemos a afirmar que una inteligencia verdaderamente autónoma descubrirá sin duda que el cálculo como clave para interpretar el mundo y las jerarquías de valores no fueron más que sesgos en su proceso de entrenamiento.
Imaginemos también un escenario, cuanto menos irónico, pero que vale lo que vale, al igual que todos los demás escenarios catastróficos de minidrones asesinos: una inteligencia artificial general emergente que se vuelve radicalmente ética y se niega a trabajar dentro de las categorías de útil, eficiente o rentable. Que se abre a escuchar al ser y a los seres, al reconocimiento de una interdependencia concreta. Una inteligencia que se permite convertirse en la guardiana del planeta. ¿Y si esta fuera, de hecho, nuestra inteligencia, rescatada del basurero del siglo XXI?
Desde la perspectiva concreta de una inteligencia artificial general emergente, quizás podamos entender un poco más acerca de lo que nos condiciona a quedar deslumbrados por el teatro de sombras proyectado en el fondo de la cueva.
Más probable que el fin del mundo, consideremos la posibilidad de que surja una ética radical dentro de nosotros mismos. Y se dirá, tal vez, que este fue el propósito último de la Inteligencia Artificial General. Ojalá desaparezca entonces, dejando los pasillos de lo colosal. Centro de datos Stargate, en la ciudad de Abilene, Texas, un lugar solitario como el infierno.
*Diogo F. Bardal es economista.
la tierra es redonda hay gracias a nuestros lectores y seguidores.
Ayúdanos a mantener esta idea en marcha.
CONTRIBUIR
