El tema de la Inteligencia Artificial (IA), especialmente su promoción y uso en las aulas de etapas obligatorias, es algo que me preocupa. He escrito desde agosto, aunque ya estaba leyendo cosillas desde hacía años, algunos artículos sobre el tema y, por desgracia, conforme pasa el tiempo voy cuestionándome más y más cosas.

Por cierto, permitidme un inciso y que os comenté, ya haciendo un poco de memoria, cuál fue la primer lectura que realicé acerca del tema. Pues fue en los 2000, cuando todavía era joven (bueno, más joven que ahora) y leí el libro “Principios de Inteligencia Artificial” escrito por Nils J. Nilsson. Un libro, por cierto, que todavía tengo en casa (no lo he perdido en las mudanzas) y que mostraba el funcionamiento de esa inteligencia artificial que ahora nos han vendido con productos “que nos lo hacen todo”, con “expertos que solo saben usar chatGPT” y con un planteamiento técnico que deberían saber todos aquellos que quieran dar lecciones acerca de cómo usar determinadas herramientas. Las tripas de la inteligencia artificial son importantes. Eso y la ética que subyace tras su uso.

Retomo el primer párrafo. Esto no está escrito con inteligencia artificial y ello hace que, por desgracia para los que os pasáis por aquí, sea bastante incoherente todo lo que escribo. Y lo retomo enlazándoos los artículos que llevo escritos en este blog sobre el tema.

• Modelo de protocolo del uso de la inteligencia artificial (IA) en los centros educativos (agosto 2023).

• Dar cuatro instrucciones no es ser experto en inteligencia artificial (octubre 2023).
• Algunas reflexiones acerca del uso de la inteligencia artificial en el ámbito educativo (noviembre 2023).
• ¿Debería haber un equipo de trabajo de inteligencia artificial en la administración educativa? (noviembre 2023).

Lo digo para que entendáis que, a pesar de lo que vais a leer a continuación, no soy de las personas que estén en contra de la incorporación de determinadas herramientas en las aulas. Y que creo que, como toda tecnología emergente que aparece, se debería analizar qué sentido tiene la misma, si debe realizarse algún sistema de protección al alumnado de la misma o, simplemente, si se deben modificar ciertas prácticas. Por eso, como ya dije en su momento, me parece perfecto que haya equipos de trabajo acerca de esto en las diferentes administraciones y que se intente parametrizar su introducción (en caso de considerarse necesaria).

El problema es que se está haciendo mal. Se está haciendo muy mal. Ayer, sin ir más lejos, el Departament d’Educació catalán sacó unas “recomendaciones y orientaciones para el uso de la IA en los centros educativos” (enlace) y, por desgracia, publicaron cosas muy surrealistas en la misma, al igual de obviar, como está sucediendo en los últimos tiempos, toda la parte ética del asunto. Estoy seguro de la buena intención en su realización. También estoy convencido de que algunos de los que están tras la misma son excelentes profesionales y tienen un perfil técnico adecuado para poder hablar, con cierto bagaje, de la inteligencia artificial pero,…, sí, hay un pero muy importante. O más bien varios.

Lo primero que encuentro a faltar en esta guía y en los debates acerca del uso de la IA en educación (especialmente en etapas obligatorias) es lo que hace referencia a la necesidad de prohibir, tal y como recomienda la Agencia Española de Protección de Datos (AEPD) y las diferentes normativas, el uso de determinadas herramientas. En las aulas no se pueden usar herramientas cuyos datos se intercambien fuera del Espacio Europeo. No lo digo yo, lo dice la normativa. Y eso es algo que se obvia. Si incluso en la guía que os he enlazado antes ponen textualmente, antes de las aplicaciones que recomiendan, “que se debe ser consciente del riesgo de dar estos datos a una empresa”. No es que haya de ser consciente de lo anterior. Es que está prohibido dar determinados datos, especialmente en el ámbito educativo, a una empresa si la misma no cumple la normativa acerca de protección de datos. No se puede obviar lo anterior al escribir una guía para docentes. Es algo clave.

Es clave lo anterior y es clave el preguntarse para qué es necesario el uso de la IA en etapas obligatorias. ¿Es necesario revisar textos con IA? ¿Es necesario pasar de dibujar a pedirle a una herramienta que, plagiando imágenes de internet, dibuje algo por vosotros? ¿Mejor la creatividad el uso de la IA? ¿Sabéis cómo ha sido entrenada la herramienta que estáis usando? ¿Sabéis que muchas herramientas de dibujo con IA, especialmente en las que aparecen niños, han sido entrenadas con pornografía infantil? ¿Es necesario pedir resúmenes a una IA? ¿Hasta qué punto es necesario, también y como plantean en la guía, crear música usando una IA? ¿De verdad no os dais cuenta de lo absurdo de lo anterior, sin entrar en cuestiones de ética, en etapas educativas obligatorias?

Cuando veo a docentes publicando los dibujos tan bonitos que han hecho sus alumnos usando la IA, no puedo menos que preocuparme. ¿Qué les estamos enseñando? ¿Qué aprendizajes les estamos sustrayendo? ¿Qué parte de la creatividad y del pensamiento crítico les estamos robando? ¿Cuál es el sentido educativo de lo anterior? ¿Hay sentido educativo o es, simplemente, usar la última herramienta que ha llegado a nuestras manos?

En las Universidades ya están empezando a llegar, a chorro, artículos, trabajos y tesis realizadas con IA. Una IA generativa, tal y como las que se está usando, tiene sus utilidades pero, lo que no tiene es la capacidad de encontrar datos que no tiene disponibles para usar o de experimentos que todavía no se han realizado. Y repito, yo sí que veo la utilidad de este tipo de herramientas para hacer un cribado de información y poder acceder a determinada información, más estructurada, que nos permita ampliar nuestros conocimientos. Algo que solo puede hacerse si uno tiene conocimientos previos. Al igual que los proyectos. Cosas sin sentido, con demasiadas contraindicaciones, en determinadas etapas del aprendizaje.

Sé que hubiera sido de los innovadores y encumbrado al altar de la pedagogía IA si hubiera apostado en este artículo por su uso indiscriminado en las aulas. Sé que escribir un artículo acerca de las “10 herramientas de IA que van a revolucionar la educación”, además escrito por chatGPT, lo hubiera llevado a una viralización extrema. El problema es que, por desgracia, conforme más leo, menos entiendo la necesidad de apostar por el uso de la IA en etapas educativas obligatorias. Otra cuestión que siempre voy a defender y que no va reñido con lo anterior, es la necesidad de que el alumnado conozca que es la IA, sus peligros, una noción básica y rudimentaria de los algoritmos que subyacen tras lo anterior y una visión ética del asunto. Hacer un producto final con IA, al igual que hacer una fotocopia de un libro de texto, es robar. Da igual las vueltas que le demos al asunto.

La imagen que ilustra este artículo ha sido realizada con inteligencia artificial. Para hacerla ha tenido que haber alguien en el pasado que, de forma creativa, haya publicado alguna de las imágenes que se han usado en la composición, en internet. Pensad un poco acerca de ello. Y analizad qué consecuencias puede tener el uso indiscriminado y sin control de esta IA. E insisto, se trata de una herramienta muy potente que, para determinados usos en algunos ámbitos, puede tener múltiples beneficios.

Mis libros/Donar

Os recuerdo que tenéis la posibilidad descargaros mis libros en formato digital, a partir de cero euros, desde el botón de arriba. Y que, tanto donando en los tres libros que llevo escritos una cantidad, como haciéndoos con el ebook recopilatorio de los artículos publicados de 2023 (en este caso no es posible la descarga gratuita), ayudáis a mantener este blog y otros proyectos que, seguramente, perpetraré este año.

También os informo que tenéis un canal de WhatsApp (aquí), en el cual no compartís ningún dato personal (no, no se comparte vuestro número teléfono, ni tampoco vais a ver el mío), en el que podéis recibir todos los artículos que estoy publicando.