Lo no tan inteligente de lo artificial en la educación

La IA está plagada de errores y sesgos. El ChatGTP y otros similares lo advierten al inicio. Esto, paradójicamente, es lo que la hace más humana.

por

Oskar Gutiérrez Garay

Psicólogo, magister en literatura y doctor en pensamiento complejo


02.10.2024

Imagen por Nefazta

Gracias a una conversación con mi mejor amiga, un año atrás decidí utilizar por primera vez el ChatGTP. 

Lo primero que hice fue preguntarle por mi nombre. No sabía nada. Luego le pregunté por mi novela El tiempo del lenguaje, publicada en 2018. Ahí sí reaccionó y me dio un pequeño resumen, pero luego me habló del personaje Raúl, que tiene problemas de memoria. No existe el tal Raúl. Le pregunté otra vez y me respondió que no era una novela, sino varios ensayos sobre temas asociados a la lingüística. También se equivocó y de manera grosera. Luego le pedí (diciendo antes, por favor, no sé exactamente por qué) que escribiera un poema al estilo de Cesar Vallejo utilizando las palabras Sibilancia, Amor y Destierro. Escribió algo muy decente, pero ni tenía la sensibilidad contundente de Vallejo, y el poema se volvía predecible, plano, con la inocencia de una aspiración infantil por llegar a la luna de un solo brinco. Luego le dije que pensara en una canción de Nick Cave, pero como si él estuviera en la época del imperio romano. No me preguntó específicamente por alguno de los subperiodos de los casi cinco siglos del imperio, y casi con afán compuso una vaina aún peor que la de Vallejo. Era una especie de oda de tres versos y un estribillo donde convergen la brutalidad de la guerra y el consuelo del amor.

No sentí que estuviera pasando el test de Turing, y no por ser incapaz de diferenciar si esto era una máquina o un ser humano, sino porque la máquina, el algoritmo, con todos sus errores, se quería mostrar más humana que lo humano; más suficiente y sabionda de lo que realmente era.  

Pero continué. Le planteé una escena: en un bar de Belfast, Nick Cave le mostraba a Dylan Thomas su canción de la época del imperio romano, y como si estuviera frente a una persona de carne y hueso, comenzó a recular, a excusarse, a decir que sería difícil saber qué pensaría o cómo respondería Dylan Thomas, pero que era posible que admirara la creatividad y el esfuerzo que Nick puso en recrear una canción en un contexto histórico diferente. En ese momento, el ChatGTP fue más humano que nunca. Se excusó, fue mediocre y respondió lo primero que le vino a la mente sin una pizca de reflexión o de vergüenza.

La instrucción no era que Nick Cave recreara la canción en el imperio romano, la instrucción era que Nick Cave estaba en el imperio romano. Luego pensé en qué pasaría si en esa escena entrara el gran Alfredo Gutiérrez cantando Anhelos. Y ahí fue peor. Comenzó a hablar de cada uno de estos elementos por separado, y en buena onda, todo positivo, dijo que a Cave y Thomas les parecería chévere el vallenato y no tuvo la previsión de pensar un poco si, efectivamente, por la lengua, entenderían la canción Anhelos. Mi última pregunta fue por algo a tres manos entre Cave, Thomas y Gutiérrez. Puso un pequeño fragmento en inglés de No entres dócilmente en esa buena noche; algo supuestamente de Cave hablando de la noche y el dolor, y un verso de aparente vallenato que haría sonrojar no solo al maestro Alfredo Gutiérrez, sino al más novato de los fanáticos. El chat mezclaba con poco sentido de la proporción, como esos batidos dietéticos que no sirven para nada: ni para alimentarte, ni para adelgazar.

«Los grupos antiderechos reaccionan a una transformación cultural que es imparable»

Le preguntamos a Laura Castro, coordinadora de La Mesa por la Vida y la Salud de las Mujeres, cuál es su balance frente al acceso al servicio de Interrupción Voluntaria del Embarazo hoy.

Click acá para ver

La tecnología puede embobar, fascinar, asustar. Sin embargo, parece que actualmente, como casi todo en educación, se le da más énfasis al resultado que al proceso. Algo usual que hago es utilizar una herramienta para criticar la misma, así que le pregunté al mismo ChatGTP sobre el número de maestrías y especializaciones en IA que actualmente se ofertan en el mundo. Esta fue su respuesta:

“Es difícil obtener un número exacto de los programas de maestría en inteligencia artificial (IA) que existen en todo el mundo, ya que estos programas están en constante expansión. Sin embargo, se puede decir que hay cientos de programas de maestría en IA ofrecidos por universidades y otras instituciones académicas en diferentes países”.

Sonreí satisfecho porque era exactamente la respuesta que yo daría. No sabía, pero dijo cualquier cosa obvia, como yo, como cualquiera. Aunque, para ser sincero, luego le pregunté por el caso de Colombia. Su respuesta fue más precisa y la pude comprobar. La Universidad de los Andes ya oferta una maestría en inteligencia artificial, al igual que la Javeriana. Me mostró también maestrías que, sin ser en IA, sí tienen énfasis y líneas de investigación en las principales universidades del país.

Buscando otras fuentes, se ofertan literalmente en todo el mundo. La Complutense de Madrid la ofrece, así como la Universidad de Texas. Harvard tiene varios cursos al respecto. La Universidad de Barcelona, así como la de São Paulo y la Universidad de Nottingham tienen máster. China no podía faltar con la Tsinghua University y, claro, la más importante: la Escuela de ingeniería electrónica y ciencias de la computación de la Universidad de Pekín (PKU) que ofrece un curso.  Oxford tiene un programa (curso de seis semanas que cuesta 2300 libras, casi 12 millones de pesos). Y así podría continuar, navegando por cursos, especializaciones, maestrías ofertadas por universidades e institutos de diferentes pelambres que transitan entre lo divino y lo humano: entre el capitalismo del conocimiento y un genuino interés investigativo.  

La IA puede dar miedo, como hace todo sistema humano o social que reacciona ante algo novedoso e incierto. Ya me imagino a algunos colegas profesores preocupados, escandalizados, gritando a alguien más para que elimine la herramienta o por alguna forma de control que los haga seguir enseñando de la misma forma que lo han hecho durante años.

¿Otro boom como lo neuro?

En los años 2000 se dio una explosión lingüística con respecto a lo neuro. El prefijo se llevó hasta el límite, prometiendo resolver lo irresoluble con la pretensión de que la neuro cosa o el neuro coso, empujaran de forma novedosa los límites de nuestras falencias, permitiendo así, mediante una reducción funcional, dar respuesta a los males que aún hoy nos aquejan, quemando y pordebajeando lo que realmente son las neurociencias. Llegamos hasta el neuromarketing, el neurocoaching, la neurocrianza… la neura colectiva. Sin haber resuelto todo lo que prometía, llega ahora otra moda explosiva con las mismas ínfulas. Toda la IA precede no solo la promesa de resolver eso que lo neuro no pudo resolver. Sin saber aun si de verdad la IA es inteligencia, pero bajo luces, artificios y voces de sirenas, todo lo que tiene esta clase de “inteligencia” parece blindarnos ante lo indómito, con la seguridad de lo que no se entiende muy bien, pero suena y hace cosas rimbombantes es, o muy bueno, o pésimo y peligroso. No solo están pululando esos cursillos y programas oficiales, también los emprendimientos y todas las otras formas posibles para explotar comercial y logísticamente la IA. Las palabras configuran la manera en la que entendemos o queremos comprender el mundo. Espero que no le dejemos a la IA la responsabilidad, no solo de lidiar con nuestra propia estupidez, sino el tratar de eliminar y controlar eso que nos hace precisamente humanos.

Para Voltaire, la filosofía es esencialmente tolerancia, es benigna y humana, inculca la indulgencia y destruye la discordia porque es capaz de comprender la diversidad de las creencias y las actitudes del espíritu humano. Al igual que la religión, puede ser tolerante cuando no degenera en superstición. En el pensamiento humano, los extremos son cómodos, fáciles, como diría la poeta Louise Glück. Por eso, la virulencia y el peligro engatillan fácil desde ahí. En el medio, en la zona gris, está el enigma y la clave. Pero la polaridad siempre arrastrará, lo que la hace difícil de conciliar. Pensar de manera filosófica es madurar la inquietud por eso que está del otro lado, ceder a eso que incomoda. Educar y educarse es sumergirse sin miedo en la zona gris, en la complejidad que desde la periferia se confunde con tibieza o neutralidad.

Hace casi 350 años Giambattista Vico formulaba una teoría anticartesiana que ponía en cintura a la razón. La verdad, dice, no se debe reducir a la evidencia racional. Es importante, claro, pero también lo probable, lo verosímil y, sobre todo, el error. No por el error, la IA es humana o puede remplazar lo humano. Como persona he sido, como muchos, afecto al control. Quiero saber exactamente qué va a pasar, cómo, cuándo y he hecho de esto casi una necesidad. 

Mi proyecto humano, y no solo desde que soy profesor, especialmente desde que soy padre, ha sido tratar de luchar con esa ilusión de control. He coqueteado con la incertidumbre y con el poderoso y temido valor del error. La severidad de la vida, ese impulso bestial por querer no solo saber qué va a pasar, también ejercer un dominio inocente de lo que creo que puedo controlar, me han quitado tranquilidad. De ahí mi fascinación por las ciencias de la complejidad, porque aparte de abordar lo caótico, lo imprevisible y lo aperiódico, me ha servido para soltar, para abrazar cada vez más lo incierto, reconocer el valor y la intensidad de lo transitorio y pensar, sin tanto ego, en mi papel real en este momento de vida y mi relación con los otros. Siento que uno de los cantos de sirena más atractivos de la IA, es el de eliminar el error. Cada vez me duele menos lo que no me sale, lo que pierdo, mis fracasos y desilusiones; he aprendido a disfrutar mucho más lo que he logrado, lo que tengo, la robusta realidad de estar presente y de estar acá, escribiendo esto sin decirle a al ChatGTP que me ayude.

La información no es saber, así lo diga el ChatGTP, así lo vea en YouTube, así lo vea en una cadena de WhatsApp.

Esta es la conversación que tuve hace un par de meses con una señora a la que le compro siempre una chocolatinita antes de clase:

     —Monito, venga ¿puedo molestarlo y hacerle una pregunta y molestarlo? 

—Claro, sumercé, pregunte no más… (Tiene cara de preocupación auténtica)

—¿Usted sabe si Paola Rey se murió? ¿La actriz, la de Pasión de Gavilanes? (Me muestra en su celular un video de YouTube)

—Uy sumercé, no sé la verdad, no he escuchado nada (también me comienzo a preocupar; es Paola Rey, es Pasión de Gavilanes…) —Pero venga y miramos. (Abro el antiguo Twitter, luego el Google y busco noticias, pero nada). —No aparece nada, veci… déjeme ver el video otra vez. (El vídeo tenía más de un año) —No veci, no se preocupe, es falso. Mire la fecha. Eso es falso.

—Uy, monito, gracias. ¡Qué pena!

—No se preocupe, para eso estamos.

Es tan fácil caer en noticias falsas que es casi un imperativo el poder verificar los hechos y ayudarles a los que más se pueda a hacerlo. Usamos tecnologías que no entendemos del todo y nos exponemos a toneladas de información imposible de procesar y depurar. Esto era una noticia falsa, casi una bobada farandulera como las cientos de miles que salen al día. Yo caí hace unos meses en la de la muerte de José Luis Perales. Pero muchas decisiones políticas, sociales y personales pueden ser trascendentalmente influidas por este tipo de información abiertamente falsa, sesgada, simplificada y maliciosa. Lo vimos recién en los olímpicos con las polémicas que se encadenaron y se regaron como pólvora, y lo seguiremos viendo más adelante. Esa, a mi parecer, es la principal amenaza de la IA: que sea imposible ya distinguir lo que es real de lo que no.

La IA está plagada de errores y sesgos. El ChatGTP y otros similares lo advierten al inicio. Esto, paradójicamente, es lo que la hace más humana. Y me resulta fascinante, estimulante. Pienso en no mínimo cincuenta combinaciones de poemas con varios comandos, varias mezclas de autores y estilos, y claro, mi propia voz, mi propia edición. La herramienta sigue, como en su momento el internet, manejando una cantidad inhumana de información, pero ahí no está el conocimiento. El conocimiento está en establecer el diálogo con la herramienta, porque lo interesante no está en la respuesta sino en las preguntas que me permitía hacerle, en eso que produce mi imaginación para preguntarle a la máquina. Ese volumen de información es absolutamente genial, pero no sirve de nada si no podemos depurar, crear, interpelar, criticar, relacionar, sintetizar o proponer algo nuevo, excitante e iluminador. 

Algunos profesores estarán preocupados por el plagio y, sobre todo, porque creen que la herramienta les va a quitar su trabajo o que va a tomar consciencia y destruir todo como en Terminator o Matrix, como hace treinta años pensábamos con el internet. La inquietud pedagógica que me sucinta es por nuestra relación con ella, donde lo ético, pero también lo estético y lo imaginativo, puede facilitar esa hermosa posibilidad para deconstruirnos y reconstruirnos y por las nuevas estructuras de pensamiento y de relación que emerjan. Me parece fascinante una herramienta que trata de aprender, que integrará más información, que es capaz de alimentarse a velocidades incomprensibles. Sigo imaginando muchas posibilidades para potenciar mi escritura, mi conocimiento, la información que manejo, las clases que daré. Habría algo para preocuparnos y es ¿por qué luego de tantos siglos aún nos aterra lo incierto, lo imprevisible, lo novedoso y por qué nuestra primera reacción es a eliminarlo o censurarlo? Un día le voy a preguntar al chat a ver qué responde, seguro dirá algo en versión Wikipedia 2.0 que no está ni cerca de la verdad.

Tres breves consideraciones sobre la calidad educativa

1.      Calidad es todo lo contrario a lo que estamos haciendo ahora.

2.      Un profesor debe afinar su estilo, debe encontrar su voz. Un buen profesor sabe de su materia, de lo que enseña y cómo enseñarlo. Uno excelente trasciende eso y tiene mucho estilo. Ve muchas películas buenas, muchas malas, conoce de libros geniales, va a museos, se deja atravesar por el arte y la sensibilidad de maneras casi infinitas. No anda hablando todo el tiempo, escucha mucho y puede contemplar y diferenciar la belleza verdadera de la falsa. No es bueno porque sabe lo último y usa lo último. Esta calidad no se puede medir y no sale en un segundo por el ChatGTP, por eso, sí es de calidad.

3.     La actualidad no es sinónimo de calidad. Exigir currículos donde solamente haya lecturas de los últimos 5 años, porque debemos estar actualizados, es una mera estulticia. Que se obligue a saber y utilizar la IA puede ser igual de nocivo. Una sociedad que escribe más de lo que piensa o lee, solo puede sacar toda esa basura que se publica y se clasifica en rankings hoy en día. Eso no es calidad, eso es negocio. Hay que leer a los clásicos. Como decía Comenio: “hay que dulcificar las costumbres”, no es necesario volverlas competencias.

Uno de mis principales miedos es que la IA encierre más al individuo dentro de sí mismo. La educación basada en el individuo es frágil y tacaña. El sujeto que busca con afán una falsa felicidad y bienestar se vuelve débil y caprichoso. La educación es un proceso comunitario, cooperativo. La educación debe fortalecer la otredad, ya que el respeto, no se alcanza entre los iguales sino entre distintos. La educación de calidad no está en función de los estándares, de sí se preocupa por obligar a usar o no la IA. La educación no son las herramientas que utiliza. La verdadera calidad lima las agresiones y las asperezas, revitaliza las tensiones, porque al pensar en el otro es cuando se forma el verdadero amor propio, se fortalece el real concepto de sujeto.

Ahogados en la maraña burocrática de las instituciones educativas, con sus indicadores de calidad, con sus interminables formatos y tablas, con esa horrorosa bancarización de resultados y cifras, los profesores y los estudiantes debemos llamarnos a la apatía. Todo nuestro esfuerzo debe enfocarse a propender el dialogismo que surge en clase. El docente y el estudiante no pueden ser tibios. Hay que preparar las clases, hay que apasionar y apasionarse, hay que discutir y conciliar; ¡Hay que arder! La pereza y la apatía deben ser actos de resistencia para lo urgente. Lo importante requiere madurez y calma. ¡Tiempo! Un trabajo escolar se puede sacar en un minuto por alguna IA. Una buena clase no es necesario calcularla o parametrizarla, ni se hace sola: hay que vivirla, respirarla, disfrutarla, permitir que nos interpele y nos cuestione, prepararla con la pureza y el esfuerzo de los grandes proyectos. Debemos, como profesores, revalidar la importancia del aula, y siempre altivos y apáticos con los tecnócratas que pretenden monetizar, mutilar y controlar algo indomable como el saber, el conocimiento y la palabra.

Hace 39 años, Estanislao Zuleta afirmaba en una entrevista con Hernán Suárez que los medios Audiovisuales crean en el estudiante la ilusión de que saben y que el problema de enseñar por resultados omitiendo los procesos del conocimiento, es uno de los mayores desastres de la educación, porque se enseña sin filosofía, es decir, sin la posibilidad de pensar las cosas, de hacer preguntas y de ver contradicciones. Ahora, con la irrupción de la IA, el miedo, la velocidad o de la comodidad que supone, esto es más latente aún. Seguirán proliferando como moscas en boñiga los cursos, especializaciones, maestrías, emprendimientos, formas de ponerle como prefijo IA a algo. Lo que sea. Todos hablan de ello. Lo siente como lo que hay que hacer sí o sí. No está del todo mal, pero hay que remitirse a la raíz: conocer no es atiborrarse de datos e información no combustibles, ni de hechos pasivos que parecen respirar por sí mismos. La inteligencia no está en lo artificial, la inteligencia verdadera está en el diálogo crítico y nutrido con ella. La educación encuentra ahí no un sustituto, sino otro campo fértil de combate.

COMPARTIR ARTÍCULO
Compartir en Facebook Compartir en LinkedIn Tweet Enviar por WhatsApp Enviar por WhatsApp Enviar por email

Oskar Gutiérrez Garay

Psicólogo, magister en literatura y doctor en pensamiento complejo


Oskar Gutiérrez Garay

Psicólogo, magister en literatura y doctor en pensamiento complejo


  • Ojalá lo lean
    (2)
  • Maravilloso
    (2)
  • KK
    (0)
  • Revelador
    (2)
  • Ni fú ni fá
    (0)
  • Merece MEME
    (0)

Relacionados

#ElNiusléterDe070 📬