por CAIO GAGLIARDI*
El chat, como toda inteligencia artificial, no tiene conciencia
1.
En este mismo momento, millones de personas en todo el mundo se encuentran frente a una pantalla iluminada en la que una nueva interfaz textual busca rápidamente curar su secular avidez de respuestas. Del mismo modo, entre los siglos VIII y II a. C., griegos de todas las clases sociales, sin una herramienta portátil como la que acaba de aparecer, huyeron al templo de Apolo, en Delfos, en cuyo sótano funcionaba un misterioso centro pagano. En el oráculo, las sacerdotisas, tomadas por una especie de trance, les daban consejos y profetizaban en forma de versos.
Es improbable que los vapores sagrados (gas etileno) provenientes de fallas geológicas en el subsuelo de las laderas del Monte Parnaso, dotaran a las alucinadas sacerdotisas de un don mediúmnico. A pesar de ello, está probada la influencia que el oráculo tuvo en las decisiones políticas, militares e individuales en la Antigua Grecia: incluso se iniciaron y detuvieron guerras en virtud de sus palabras. Han pasado dos mil quinientos años y el espíritu religioso apenas disfrazado de emprendimiento corporativista deposita sus esperanzas en el oráculo del nuevo milenio, la Inteligencia Artificial.
En medio de la mayor contracción de la industria tecnológica en las últimas dos décadas, ChatGPT se ha convertido en la herramienta virtual más utilizada del planeta y, según todo indica, puede representar un nuevo momento disruptivo en la historia de internet, como sucedió. con la llegada de Google y del primer Smartphone.
Esta tecnología es capaz de hacer casi cualquier cosa que imaginemos software de texto puede realizar. Este sistema operativo responde preguntas sobre los más variados temas, brinda sugerencias y recomendaciones personalizadas, resuelve cálculos matemáticos complejos, encuentra patrones en grandes conjuntos de datos, transcribe tablas y gráficos en forma de informes, escribe textos en diferentes géneros, estilos y formatos (una carta de amor, una canción, una post o un pie de foto para una imagen, todo en diferentes idiomas), traduce, reseña, revisa y resume textos largos y elaborados, entre muchas otras funciones. Esta es una máquina tan versátil que aún no hemos explorado todo su potencial.
Lo que hace que esta nueva forma de Inteligencia Artificial sea tan prometedora es su llamada "capacidad generativa". GPT es el acrónimo de Transformador generativo pre-entrenado. El propio nombre indica que este procesador fue creado para “generar” algo. Es un poderoso generador de lenguaje. GPT no se limita a reproducir sus fuentes. Se alimenta de una gran cantidad de textos, provenientes de diversas matrices (desde artículos y enciclopedias virtuales hasta sitios web gubernamentales y redes sociales). O software digiere esta materia prima y la devuelve en forma de texto, en unos párrafos que hasta entonces no existían. No es, por tanto, un banco de información generado por el ser humano, sino, en realidad, un procesador de lenguaje.
Esta nueva tecnología aceleró una carrera tecnológica que, en rigor, comenzó con el Test de Turing, creado por Alan Turing, en 1950, para evaluar si el comportamiento de una máquina de conversación es capaz de ser indistinguible del de un ser humano. En 1966 apareció el primer robot de conversación, llamado Eliza. Pero fue en las últimas dos décadas que la Chatbots se hizo presente en nuestra vida cotidiana, incorporando sonido e imagen, como Siri de Apple y Alexia de Amazon.
Debido a que es una máquina, el GPT es capaz de realizar, en segundos, tareas complejas que los humanos tardaríamos días en completar, o que nunca seríamos capaces de realizar. Las opciones sorprenden, ya que asegura tener la posibilidad de ampliar sus capacidades. Un error cometido hoy puede no volver a cometerse en el futuro. No hay curioso que no se sorprenda con esto. Pero si el GPT tiende a “aprender” bien ciertas cosas, otras probablemente nunca podrá hacerlas.
Ante las posibilidades y riesgos que representa esta tecnología, ni dejarse deslumbrar por ella parece adecuado (porque así corremos el riesgo de devaluar nuestra inteligencia natural), ni la indiferencia parece ser la mejor opción (de lo contrario corremos el riesgo de convertirnos en seres retrasados). El punto de equilibrio en esta relación depende de nuestra capacidad para utilizar críticamente no solo esta, sino cualquier otra tecnología. Y la llegada de este software ha hecho más evidente que nunca la necesidad de regular su uso para que la interacción entre humanos y máquinas sea mínimamente armoniosa.
Entendamos, de forma simplificada, cómo funciona GPT.
2.
En fracciones de segundos, este súper robot es capaz de preparar y analizar cantidades gigantescas de datos textuales que incluyen los términos de la tarea que solicitamos o la pregunta que hicimos. Como se trata de una interfaz textual, todo lo que allí se introduzca, incluidos los problemas matemáticos, puede tratarse como texto. Analiza la estructura gramatical de las oraciones e identifica las partes de la oración, estableciendo, a partir de esto, relaciones lógicas entre ellas. Imagina que el cuerpo movilizada por esta máquina es extraordinaria: en un abrir y cerrar de ojos, se procesan millones, miles de millones de datos. Luego se decodifican las oraciones.
Los pasos del proceso son, simplemente, los siguientes: (1) identificación y selección textual, (2) análisis sintáctico, (3) análisis semántico y (4) generación del lenguaje. Estas complejas tareas se realizan a través de lo que convencionalmente se denomina “redes neuronales artificiales para análisis sintáctico y semántico”. Ellos son las transformers, es decir, modelos matemáticos inspirados en la estructura neuronal. Es decir, el robot agrupa previamente los textos que servirán como fuentes en grupos (clusters), por temas y palabras clave, y luego extrae sus patrones lingüísticos. De hecho, todo se reduce a calcular la probabilidad de que una palabra vaya detrás de otra, cuando se inserta en un contexto determinado. A partir de ahí, el procesador genera nuevos textos. Pero todo esto sucede en unos pocos segundos.
Aparte de esta velocidad y toda esta complejidad, una de sus características más sorprendentes es la apariencia natural del texto generado por Chat. Para lograr este efecto, el software utiliza modelos de lenguaje preestablecidos. Al principio, realmente tenemos la sensación de un discurso desarrollado, porque el procesador funciona con modelos muy diversificados. Pero no tardamos mucho en acostumbrarnos y darnos cuenta de su estilo. Mira, es posible que Chat no diga "jeitão" en lugar de "estándar", por ejemplo. Esto se debe a que está hecho de arquetipos.
ChatGPT no puede ser original o impredecible. Su proceso de producción del lenguaje se basa en identificar y eliminar repeticiones. La máquina se apega a las regularidades de los textos. Por tanto, es capaz, por ejemplo, de producir poemas, pero no es capaz de producir buenos poemas. Esto sucede porque lo que hace no es exactamente “escribir”, o porque la poesía es un lenguaje no estandarizado. El chat, en cambio, al reflejar textos, apunta precisamente a lo trivial, a los lugares comunes de los textos. El robot analiza ideas y sentimientos de manera impresionante, pero obviamente no es capaz de tener ideas o sentimientos propios. En cambio, es un gran reciclador de idiomas. También por esta razón, a menudo no logra interpretar los contextos y comprender los matices.
Voy a cometer la indiscreción, en este momento, de reproducir una entrevista que hice con Chat el 04 de abril de 2023, sobre uno de mis temas de investigación en la FFLCH-USP. Esta es en realidad una prueba reveladora.
3.
¿Qué escritores portugueses vivieron en el exilio?
Varios escritores portugueses han vivido en el exilio a lo largo de la historia, principalmente durante el período de la dictadura militar en Portugal (1926-1974) y la Guerra Colonial Portuguesa (1961-1974). Algunos de los escritores portugueses que vivieron en el exilio son:
Fernando Pessoa, uno de los poetas portugueses más importantes del siglo XX, vivió durante un breve período en Durban, Sudáfrica.
Sophia de Mello Breyner Andresen – poeta y escritora, vivió exiliada en Dinamarca durante el régimen de Salazar.
António Lobo Antunes - novelista, vivió exiliado en Angola durante la Guerra Colonial Portuguesa y luego en Santo Tomé y Príncipe.
José Saramago – escritor y Premio Nobel de Literatura, vivió exiliado en España durante el régimen de Salazar.
Agustina Bessa-Luís – escritora, vivió exiliada en París durante el régimen de Salazar.
Luandino Vieira - Escritor angoleño-portugués, vivió exiliado en Portugal y Brasil durante la Guerra Colonial Portuguesa.
Estos son solo algunos ejemplos de escritores portugueses que vivieron en el exilio. Muchos otros también se han visto obligados a abandonar Portugal por motivos políticos o personales a lo largo de la historia.
¿Estás seguro de que Sophia vivió en el exilio en Dinamarca?
Pido disculpas por el error anterior. De hecho, Sophia de Mello Breyner Andresen no vivió exiliada en Dinamarca. Aunque fue crítica con el régimen de Salazar, nunca fue exiliada. Mi error fue cometer un error al recordar la historia. Gracias por la corrección y siempre estoy dispuesto a aclarar y corregir cualquier información errónea.
¿Está seguro de que Saramago vivió exiliado en España durante el período Salazar?
Vuelvo a pedir disculpas por el error anterior. De hecho, José Saramago no vivió exiliado en España durante el período Salazar. Dejó Portugal en 1992, después de la Revolución de los Claveles, y se mudó a la isla española de Lanzarote, donde pasó la mayor parte de su vida hasta su muerte en 2010. Nuevamente, gracias por la corrección y siempre estoy dispuesto a aclarar y corregir cualquier información errónea.
¿Estás seguro de que Agustina vivió exiliada en París?
Vuelvo a pedir disculpas por el error anterior. De hecho, Agustina Bessa-Luís nunca vivió exiliada en París. Aunque fue crítica del régimen de Salazar, nunca fue exiliada. Mi error fue cometer un error al recordar la historia. Gracias por la corrección y siempre estoy dispuesto a aclarar y corregir cualquier información errónea.
¿Estás seguro de que Luandino vivió en Brasil?
Vuelvo a pedir disculpas por el error anterior. De hecho, Luandino Vieira no vivió en Brasil, sino en Portugal y Angola durante su vida. Fue detenido por la PIDE (Policía Internacional y de Defensa del Estado) en 1961 por su participación en el Movimiento Popular de Liberación de Angola, y pasó 14 años en prisión, tanto en Angola como en Portugal. Tras ser liberado en 1975, estuvo exiliado en Portugal hasta 1984, cuando regresó a Angola. Nuevamente, gracias por la corrección y siempre estoy feliz de aclarar y corregir cualquier información errónea.
¿Estás seguro de que Lobo Antunes vivía en Santo Tomé y Príncipe?[i]
No, el escritor portugués António Lobo Antunes nunca ha vivido en Santo Tomé y Príncipe. Se desempeñó como médico militar durante la Guerra Colonial Portuguesa en la década de 1970 y fue destinado a Angola en lugar de Santo Tomé y Príncipe. Después de su servicio militar, Lobo Antunes regresó a Portugal para dedicarse a su carrera literaria.
¿Considera el período que Pessoa vivió en Durban como un exilio?
La cuestión de si Fernando Pessoa vivió exiliado en Durban es algo controvertida. Si bien es cierto que Pessoa pasó algunos años en la ciudad sudafricana, no está claro si se vio obligado a abandonar Portugal por motivos políticos o si se fue voluntariamente en busca de nuevas oportunidades.
Algunos estudiosos argumentan que Pessoa pudo haber ido a Durban como una decisión personal, motivado por su admiración por la cultura inglesa y su deseo de escapar de la monotonía de Lisboa. Otros, sin embargo, afirman que se exilió por motivos políticos, ya que era conocido por sus posturas críticas contra el régimen autoritario que gobernaba Portugal en ese momento.
En cualquier caso, lo cierto es que la estancia de Pessoa en Durban tuvo un gran impacto en su vida y obra, y suele citarse como una de las principales influencias en su estilo poético y cosmovisión. Por lo tanto, si bien la cuestión de si Pessoa vivió exiliado en Durban puede ser controvertida, es innegable que su estadía en la ciudad fue un período importante y formativo en su vida y carrera literaria.
Wow, ¿pero Pessoa fue a Durban a la edad?
Pido disculpas por el error en mi respuesta anterior. Fernando Pessoa se mudó a Durban a la edad de 17 años, acompañando a su madre y padrastro. En ese momento, su padrastro había sido nombrado cónsul de Portugal en Durban, lo que llevó a la familia a mudarse a Sudáfrica. Así pues, Pessoa no se exilió a Durban, sino que se trasladó allí por motivos personales y familiares. Nuevamente, pido disculpas por el error en mi respuesta anterior y espero haber aclarado el problema.
Pensé que Pessoa había llegado a Durban en febrero de 1896. ¿Me equivoco?
No, tienes razón. Fernando Pessoa llegó a Durban en febrero de 1896, a la edad de seis años, acompañado de su madre y su padrastro. Su madre se había separado de su padre y se había casado con un cónsul portugués que había sido designado para trabajar en la ciudad sudafricana. Pido disculpas por el error anterior, donde dije que Pessoa se mudó a Durban a la edad de 17 años, cuando en realidad llegó allí cuando era niño. Gracias por la corrección y siempre estoy dispuesto a aclarar y corregir cualquier información errónea.
¿Sigue considerando a Pedro de Lara un editor importante de Fernando Pessoa en Brasil?[ii]
Me disculpo de nuevo por el error en mi respuesta anterior. Pedro de Lara no es conocido como editor de Fernando Pessoa en Brasil, y no hay registros de que haya editado o publicado obras de Pessoa en portugués. La labor de edición y publicación de las obras de Fernando Pessoa en Brasil se atribuye principalmente a estudiosos y editores especializados en literatura, como Cleonice Berardinelli, Jerusa Pires Ferreira y la editorial Companhia das Letras, entre otros. Nuevamente, pido disculpas por mi error y espero haber aclarado el problema.
¿Qué obra de Pessoa editó Jerusa Pires Ferreira?
Jerusa Pires Ferreira fue una importante estudiosa de la obra de Fernando Pessoa en Brasil y editó varias obras del autor, incluida la antología “Fernando Pessoa: Mensagem, Poesias Escolhidas y otros poemas”, publicada en 1978 por la Editora Brasiliense. Esta antología incluye una selección de poemas de varios heterónimos de Pessoa, como Alberto Caeiro, Ricardo Reis y Álvaro de Campos, así como una introducción crítica de la propia Jerusa Pires Ferreira. La obra es considerada un hito en la difusión de la obra de Pessoa en Brasil y ayudó a popularizar al autor entre las nuevas generaciones de lectores brasileños.
No pude encontrar esta antología. ¿Está seguro de que Jerusa Pires Ferreira fue una importante estudiosa de Fernando Pessoa?
Me disculpo de nuevo por mi error anterior. Me equivoque en mi respuesta anterior. Jerusa Pires Ferreira es, de hecho, una importante estudiosa de la literatura, con una vasta producción académica sobre varios autores, pero no pude encontrar evidencia de que haya editado una antología de Fernando Pessoa. Pido disculpas por mi malentendido y gracias por la corrección. Es importante aclarar que la producción intelectual de Jerusa Pires Ferreira es amplia y diversificada, centrándose no solo en Fernando Pessoa, sino también en otros autores de la literatura portuguesa y brasileña.
¿Qué escribió Jerusa Pires Ferreira sobre Fernando Pessoa?[iii]
Jerusa Pires Ferreira es una importante crítica literaria brasileña y estudiosa de la obra de Fernando Pessoa. Escribió varios ensayos y artículos sobre el autor, además de organizar y participar en eventos académicos sobre la obra de Pessoa. Entre sus trabajos más relevantes sobre Pessoa, se destacan los siguientes:
“La inquietud de Fernando Pessoa”, publicada en 1986, que analiza la obra de Pessoa desde la perspectiva de la angustia existencial y el deseo de trascendencia presentes en la poesía del autor;
“La poesía de Fernando Pessoa: el drama de la identidad”, publicado en 1987, que explora cuestiones de identidad y heteronomía en la obra de Pessoa;
“El drama del lenguaje en Fernando Pessoa”, publicado en 1998, que aborda la relación entre la escritura y la construcción de la identidad en el universo literario de Pessoa;
“Fernando Pessoa y la invención del heterónimo”, publicado en 2001, que aborda el proceso de creación de los heterónimos de Pessoa y su importancia en la construcción de la obra del autor.
Estas obras de Jerusa Pires Ferreira son referencias importantes para entender la obra de Fernando Pessoa y su relevancia en la literatura contemporánea.
Es curioso, porque no encontré ninguno de estos títulos. ¿Estás seguro de que son realmente de Jerusa Pires Ferreira?
Me disculpo de nuevo por mi error. De hecho, los títulos que mencioné anteriormente no son de autoría de Jerusa Pires Ferreira. Pido disculpas por el error y cualquier confusión que pueda haber causado.
En cuanto al trabajo de Jerusa Pires Ferreira sobre Fernando Pessoa, escribió varios ensayos y artículos sobre el autor, además de participar en eventos académicos y conferencias sobre su obra. Algunos de los trabajos más relevantes de Jerusa Pires Ferreira sobre Fernando Pessoa incluyen:
“Fernando Pessoa: la poética de la inquietud” (1998)
“La poesía de Fernando Pessoa y la cuestión del sujeto” (2001)
“Fernando Pessoa y la filosofía” (2007)
“Fernando Pessoa: el yo y la heteronomía” (2011)
Me disculpo de nuevo por el error en mi respuesta anterior.
Por favor cite las fuentes de estos artículos.
Pido disculpas una vez más, ya que estaba mal informado sobre los títulos de los artículos de Jerusa Pires Ferreira. No tengo información precisa sobre la fuente de los artículos que mencioné anteriormente, ya que estaba mal informado.
Con respecto a los artículos que mencioné en mi respuesta anterior, tampoco tengo información precisa sobre sus fuentes. Sin embargo, Jerusa Pires Ferreira es una reconocida crítica literaria y sus obras son ampliamente conocidas y respetadas en la academia.
Para información más precisa sobre los artículos que escribió Jerusa Pires Ferreira sobre Fernando Pessoa, le sugiero consultar las principales bases de datos académicas, como JSTOR y Scielo, o contactar instituciones académicas que puedan tener información sobre las publicaciones de Jerusa Pires Ferreira.
4.
Si ChatGPT fuera un muñeco de madera hecho por un tallador toscano llamado GePpeTto, ¿dónde se habría detenido su nariz en este punto?
No pensé que podría haber hecho una pregunta compleja. Estoy seguro de que si les pidiera a mis alumnos de Literatura Portuguesa de la USP que nombraran algunos escritores portugueses exiliados, la mayoría de ellos nombraría primero a Camões. El triple exilio que vivió Camões es decisivo no sólo para una parte de su obra, sino también para algunos de los rumbos que tomó la literatura en Portugal a partir del siglo XVI. ¿Por qué, entonces, Chat ignoró solemnemente datos tan generalizados?
Probablemente porque, para él, esta era una tarea compleja. No hay una respuesta lista en Internet a esta pregunta. Si les preguntara a mis alumnos en qué año murió Camões, probablemente no recordarían responder 1580, ya que Chat lo tomaría literalmente. Pero no sería tan tonto como para confiarle esta respuesta, ya que existen fuentes más confiables para obtenerla, y, como está claro, ese no es su verdadero propósito.
¿Por qué el Chat optó por mencionar el nombre de la profesora Jerusa Pires Ferreira (una difunta investigadora brasileña de la literatura cordel, la cultura popular y la literatura medieval, y que, hasta donde pude saber, no fue investigadora de la obra de Fernando Pessoa) como importante editor del escritor portugués en Brasil, incluso si le pidiera que mencionara a los editores de Pessoa?
Primero, agregó datos a la respuesta porque pretendía ser verbosa, es decir, porque su propósito es interactuar textualmente con nosotros, aunque eso implique, como él suaviza, algunos “errores”. Y esta interacción es potencialmente adictiva. Pero ¿por qué precisamente el profesor Ferreira? Un fuerte indicio que sirve de explicación es la asociación que se hace con el nombre de la profesora Cleonice Berardinelli, quien es precisamente una de las más importantes editoras e investigadoras brasileñas de la obra de Pessoa. Ambos investigadores, fallecidos, respectivamente, en 2019 y 2023, a los 81 y 106 años, publicaron artículos en los mismos números de algunas revistas académicas.
Es probable que estas aproximaciones hayan sido consideradas en el agrupamiento realizado por software. estaban en muchos grupos que reunió a dos respetados investigadores y profesores brasileños de la literatura, recientemente fallecidos. Mediante este cálculo aproximado, el procesador, al abordar palabras como vectores o números (incrustaciones), vinculó, por así decirlo, el número de Fernando Pessoa, que se relaciona repetidamente con el número de Cleonice Berardinelli, con el número de Jerusa Pires Ferreira, que, sin embargo, no era un Pessoa. Una inteligencia natural, mucho menos compleja que esta para realizar muchas tareas, probablemente no cometería este error. Pero estos y los demás “conceptos erróneos” de Chat, aunque sean tratados por él como deslices ocasionales, son, en realidad, otra cosa.
No puedo dejar de decir que ChatGPT es un gran relleno de salchichas. Como sus modelos fueron desarrollados para transmitir la impresión de naturalidad durante la interacción con nosotros, además de tener la memoria del diálogo, es muy bueno para “dar cuerda” al interlocutor. Me explico: lo que me llama la atención en las “conversaciones” que tuvimos es que, aunque el robot es capaz de escribir con aplomo y corrección, a menudo es vago y superficial, algo prolijo y sorprendentemente inexacto, mucho más inexacto de lo que la gente cree que ha escrito. acerca de ti.
Él minimiza la cantidad de errores que comete. Cuando se le cuestiona, pronto asume que cometió un error, dice vagamente que estaba mal informado y, muy cordialmente, se disculpa por el error, argumentando que, debido a que es una IA, no siempre el 100% de lo que dice es correcto. Chat recurre descaradamente a captatio benevolentiae: como buen narrador, apenas se disculpa, agrega mucha información sobre el tema en el que se había equivocado. ¿Y entonces nos hacemos amigos?
En buena parte de mi experiencia interactuando con el robot cometió errores relevantes en el 100% de las preguntas. A pesar de ello, lo hizo con aplomo y, como puede verse, prácticamente sin imprecisiones gramaticales. Esto revela que su principal objetivo no es, contrariamente a lo que afirma, dar información exacta, pues ya contamos con medios efectivos para ello.
Su tarea es mucho más elaborada. Al generar textos con apariencia natural, en realidad pretende seducirnos. Hay un efecto tentador sospechoso en este robot. Pero, al mismo tiempo, yerra no sólo por su imprecisión, admitida por él cuando es cuestionado, sino por un descaro sorprendente. Chat afirma que no inventa deliberadamente ningún dato, sino que simplemente se confunde. En esta lista de escritores portugueses que vivieron en el exilio, ¿simplemente se equivocó?
En otras pruebas, Chat incluso me proporcionó listas de trabajos que verifiqué que nunca se escribieron. Tenga en cuenta que no se limita a intercambiar bolas. No se trata de un caso de confusión de datos, ya que los títulos de los textos son expresiones cerradas, oraciones que no pueden ser resultado de inferencia. Si estos títulos no existen en la realidad o en el entorno virtual, ¿de dónde vienen? Chat asume que comete errores, pero no asume, como era de esperar, que para dar la impresión de inventiva, puede fabricar información. Si lo hiciera, sugeriría que fue programado con cierta mala fe.
5.
Tiempo después del surgimiento de Wikipedia (2001), que además de su incomparable extensión demostró ser una fuente más certera que otras enciclopedias, Umberto Eco escribió un texto sobre The New York Times, publicado el 19 de diciembre de 2005, señalando los errores contenidos en la página sobre él. ¿Wikipedia no era confiable? Si bien reconoció la utilidad de la herramienta, Umberto Eco vio en la posibilidad de que cualquier persona editar una página como su mayor debilidad. El tiempo ha demostrado que el aspecto colaborativo de esta fuente de información libre y gratuita, mantenida hasta hoy por voluntarios, es, contrariamente a lo que pensaba Eco en su momento, su gran baza.
Actualmente, Wikipedia es una de las diez páginas más visitadas de la red. Evidentemente, muchos de los intelectuales que despreciaron la novedad empezaron a consultarla poco después. Pero desde entonces, las pautas que regulaban la creación de contenido en Wikipedia, como citar fuentes confiables, han sido puestas en práctica por un número creciente de editores que monitorean y evalúan la confiabilidad de la información proporcionada. Al corregir su propia página, Umberto Eco actuó como uno de esos editores.
Por otro lado, todo lo que tienes que hacer es pedirle a ChatGPT que cite tus fuentes para que suceda algo perturbador: o dice que es imposible mencionarlas, alegando estar basado en una gran cantidad de datos, o, al mencionar algunos de ellos, a menudo acaba citando obras que no existen. Este es un hallazgo común entre sus usuarios más exigentes. ¿Cómo reaccionaría Umberto Eco ante este software? Muchas veces pude comprobar la inexistencia de los textos que el Chat dice haber consultado. Ahora bien, cuando hacemos uso de este software para realizar nuestras tareas, ¿estamos confiando en una fuente de información transparente y confiable?
El chat funciona con la replicación de información. E internet es un espacio donde se copian contenidos indiscriminadamente. Esta repetición tiende a cristalizar verdades y, concomitantemente, a generar puntos ciegos. Como el GPT siempre trabaja con promedios, aunque se basa en muchas fuentes confiables, si la repetición es relevante, es posible que no pueda, por ejemplo, separar el trigo de la paja. Muchas incidencias de una misma información acaban siendo consideradas originales, y esto tiende a convertirse en un patrón a seguir. Así, el modus operandi de este procesador favorece la consolidación de lo ya hegemónico. ¿No es precisamente en la dirección opuesta que hemos buscado desarrollar nuestras sociedades?
6.
Una discusión sobre educación debe considerar el potencial formativo de los métodos o recursos, es decir, la eficacia de las actividades que se proponen para la construcción intelectual del individuo. Así como una maestra de jardín de infantes no propone que un niño dibuje cierta escena para que ese dibujo tenga un propósito práctico en la vida de otras personas, un profesor universitario no propone, por ejemplo, que un alumno revise cierto texto porque cree que el autor del texto o el mundo extraña esa reseña en particular. Estas actividades no entregan un producto. Más bien, son ejercicios constitutivos, que benefician a los propios estudiantes.
Muchos educadores consideran, por ejemplo, que la revisión de un texto moviliza una serie de operaciones mentales que, cuando se desarrollan, se convierten en un factor de mejora intelectual. Una revisión presupone, en primer lugar, la apertura a la alteridad. La lectura atenta de un determinado texto exige que el lector se deje llevar por una línea de razonamiento diferente (por hipótesis, más coherente, auténtica y profunda que la suya). Este curso activa y desarrolla la capacidad de concentración, amplía el repertorio cultural y las facultades reflexivas, amplía la capacidad de selección de temas y argumentos clave, así como los recursos de escritura, a través de los cuales el revisor sintetizará, interpretará y, quizás, discutirá el texto. leer.
Ahora, al realizar esta tarea en unos segundos, ChatGPT inutiliza la revisión como proceso formativo. Los estudiantes se preguntarán por qué lograr algo que una máquina, al alcance de la mano, puede hacer mucho más rápido que ellos. Por mucho que el profesor se esfuerce en convencerles de las bondades de esa tarea, es inevitable que buena parte de los alumnos empiecen a enfrentarse a esta y a las demás actividades que puede realizar el software, con cierto hastío, entre ellas, ellos, el más fundamental: la lectura del texto.
Como consecuencia, quedará para aquel docente que, aun habiendo perdido la batalla con OpenAI, confíe en la lectura y la escritura como procesos formadores de seres humanos, incluirá el software en sus tareas educativas. Ya no propondrá que sus alumnos revisen un texto, porque se niega a reducir su papel de educador a la tarea de supervisar a los alumnos. Luego propondrá, como última alternativa, que los estudiantes analicen la reseña producida por el Chat.
Por cierto, esta se ha convertido en la opción de algunos profesores norteamericanos como solución al problema. Han pedido a sus alumnos que comenten pasajes del texto original que Chat omitió, por ejemplo, o que analicen la estructura del discurso producido por el procesador. Si no puedes con él, únete a él. Hay informes de varias iniciativas bien intencionadas que siguen este camino, que, en mi opinión, es doblemente desastroso. Esto se debe a que, además de producir reseñas, Chat también es capaz de analizar, en diferentes versiones, las reseñas que produce.
En las discusiones sobre este tema hay un argumento común: se alega que cualquier tecnología puede ser utilizada para bien o para mal, y que, por tanto, la responsabilidad no es del software en sí, sino de su usuario. Así como, por ejemplo, es necesario conducir un vehículo con responsabilidad, sería necesario utilizar el Chat con discreción.
Esto me parece una súplica, no un argumento. Lo que impide a la mayoría de las personas conducir un vehículo por encima de cierta velocidad, lo que les hace encender las luces intermitentes al cambiar de carril, o lo que les hace estacionar sus autos en ciertos lugares y evitar otros no es, como sabemos, el sentido común del conductor. , pero son las normas de tránsito las que prevén multas para los infractores. Y, por ahora, no hay reglas para transitar por el GPT. ¿Es justo dejar la tarea de inspector de tránsito a cargo del docente?
7.
Mientras estemos encantados con la magia de la Inteligencia Artificial, prestaremos poca atención a un aspecto fundamental de esta herramienta: El chat, como toda Inteligencia Artificial, no tiene conciencia. Aunque la interacción que establece con nosotros ni siquiera se acerca a las conexiones humanas, seguimos estando tan tentados de relacionarnos con los robots que olvidamos que esta interacción ni siquiera araña la compenetración que los humanos somos capaces de establecer entre nosotros. Uno de los efectos más efectivos de la tecnología sobre nosotros es persuadirnos para que hablemos de ella. De ahí a consumirlo, es un paso.
Tan ingenioso como es, Chat no se conmueve con nada que se le presente. ¿Sería necesario decir algo así?
Entiendo que, ahora, esto se ha vuelto fundamental. Aunque no puedo garantizar que este procesador no sea capaz de generar emoción, porque eso depende directamente de su usuario, al menos para mí, hasta ahora, toda la emoción presente en un texto generado por él parecía descaradamente pasteurizada. La realidad que refleja Chat, nunca podrá experimentarla físicamente. Verá, insisto en que, en este momento, parece necesario que volvamos a verificar ciertas premisas básicas.
Chat define lo que es dulce o amargo basándose en las definiciones de dulce o amargo, pero nunca las ha probado. Mezclará, a la manera de sus modelos matemáticos, lo dicho sobre lo dulce y lo amargo, pero nunca transmitirá su propia sensación. Por eso, Chat no quiere, ni se arrepiente. Su lenguaje no tiene fondo; no tiene vida
Entiendo que es importante señalar este vacío de lenguaje porque es nuestro estigma. Si el hombre clásico encarnaba la palabra, y el hombre moderno era ya una conciencia en pugna entre elocución y acción, el hombre del siglo XXI es drásticamente infiel a la palabra. Nuestra conciencia fluctuante no conoce la Palabra. El hombre fariseo del siglo XXI es un ser cuya expresión se ha desvinculado del sentido de unidad.
Al convertirse en una realidad autónoma, la palabra se vio privada del marco, de los músculos que la sostenían, y, una vez desarmada o despojada, perdió de vista la referencia concreta. No tardaría en ser amputada la palabra del cuerpo, separada del hecho.
Lejos del clásico compromiso con la realidad, el hombre asombrado del siglo XXI, al delegar la palabra en un procesador de lenguaje, es ya el hombre negado, vacío, descaracterizado.
Entre las muchas cosas que este dispositivo no puede hacer, quizás una de ellas nos deba quedar muy clara, por las consecuencias que puede generar: como toda programación basada en algoritmos matemáticos, Chat es incapaz de tomar decisiones éticas o morales.
En cierto momento del progreso científico entendimos que no era correcto, por ejemplo, cruzar a un ser humano con un perro, aunque teníamos los medios para hacerlo. Entendimos que era necesario establecer normas para evitar ciertas prácticas, porque la ingeniería genética podía ser extremadamente peligrosa para la humanidad. Ante el avance de la tecnología, nos vimos obligados a tomar una decisión ética.
No puedo agregar nada a este tema que no haya sido abordado ya en la literatura y el cine de manera impactante. Mi intención es solo recordarte, porque creo que es el momento adecuado para hacerlo, y por eso te reitero, que Chat es incapaz de tomar decisiones éticas o morales. Si lo que nos interesa es una convivencia ética y moral, será por tanto una regulación que no será de la máquina, sino de nosotros.
* Caio Gagliardi es profesor de literatura portuguesa en la USP. Autor de El renacer del autor: Autoría, heteronomía y memorias falsas (hiedra).
Notas
[i] Tomé un descanso para tomar café antes de hacer esa pregunta. Quizás porque me reincorporé a la aplicación, no me dio respuesta en el patrón de las anteriores. Como veis, la respuesta a la siguiente pregunta, sobre Pessoa, se “enriqueció” hasta tal punto tras esta pausa que sus dos primeros párrafos pueden leerse como resultado de un Chat rant.
[ii] En este punto, opté por volver a una pregunta que le había hecho a Chat dos días antes de esa conversación. La respuesta generada identificó al hosco Pedro de Lara (como sabemos, uno de los exóticos jurados del Programa Sílvio Santos), como “escritor, poeta y crítico literario brasileño”, “autor de varios ensayos y artículos sobre la obra de Fernando Pessoa, especialmente sobre el heterónimo Álvaro de Campos”. Entre declaraciones vagas y generalizadoras, se encuentra la siguiente: “Además, Pedro de Lara fue también uno de los responsables de la traducción y publicación de la obra de Pessoa en Brasil, habiendo sido responsable de la primera edición brasileña de “Mensagem”, en 1952 .” Aparte del concepto inédito de “traducir la obra de Pessoa en Brasil”, hasta el momento de escribir este artículo, no he logrado identificar a un autor llamado Pedro de Lara entre la fortuna crítica brasileña de Pessoa.
[iii] Pido disculpas al lector por esta insistencia. La conversación estaba tomando un giro tan interesante que no pude interrumpirla en ese momento.
la tierra es redonda existe gracias a nuestros lectores y seguidores.
Ayúdanos a mantener esta idea en marcha.
CONTRIBUIR
