Riesgos de la IA en escuelas: desinformación, falta de interacción y plagios.

La irrupción de la inteligencia artificial ha creado una división de opiniones en cuanto a integrar esta tecnología de moda en la vida cotidiana. Uno de los ámbitos en los que se está implementando el uso de esta tecnología es en las escuelas y universidades. La herramienta ChatGPT ha sido muy controvertida porque deja en bandeja el plagio de trabajos por parte de los alumnos. En cuanto a la forma de impartir la docencia está suscitando numerosas críticas entre profesores, y también por parte del alumnado que está en contra.

Unos días previos a la apertura del actual curso escolar, 2023-2024, la empresa ChatGPT de SamAltman, presentó una guía para profesores, en la cual explicaba los distintos usos de la herramienta, con indicaciones para comprender su funcionamiento.

Esta guía viene acompañada por advertencias como que la automatización de ciertos procesos y la delegación de decisiones en la IA puede comportar algunos riesgos.  Por ejemplo, que el modelo no produzca siempre información correcta, y que el experto que está al cargo es el propio usuario. Además, advierte de que sus consejos puede que no sean los más apropiados para las aulas.

Esto ha llevado a una enorme confusión en el inicio escolar debido a que no se está usando una tecnología contrastada y probada, y de la que no consta un amplio conocimiento del uso negativo que se pueda hacer con ella. Además, una de las causas que ha generado la división entre el profesorado se justifica por la pérdida de importancia de la imagen del profesor.

La llegada de esta tecnología a EEUU tuvo una reacción negativa, llegando a bloquear la herramienta ChatGPT en las escuelas. Ciudades como Los Ángeles, Nueva York, Washington, Virginia  o  Alabama prohibieron su uso. Además, otros países como Italia ya prohibieron a finales de 2023 su uso. En España, tras esta medida en Italia, se planteó su prohibición.

Según los expertos, los principales riesgos que presenta el uso de la IA en las escuelas sería cambiar el modelo tradicional de enseñanza, disminuyendo la interacción humana entre profesores y alumnos, perdiendo comunicación y desarrollo de las habilidades sociales, requeriría de un coste económico en cuanto a infraestructuras tecnológicas sin haber constatado el dudoso éxito que tendría, la calidad del material bajaría así como la atención individual a cada alumno, crearía una dependencia de la tecnología, su réplica de voz generaría desinformación o una suplantación de la identidad, afectaría a la propiedad intelectual y a la creatividad, y generaría una gran desconfianza por la recopilación y análisis de datos que lleva a cabo, pudiendo ser utilizado por terceros de manera inadecuada.

Riesgos de la IA en la educación

Los problemas que presenta el cambiar el modelo tradicional de enseñanza para acomodarlo a uno con inteligencia artificial, son numerosos. Uno de ellos es el deterioro de la interacción humana en el aula entre profesores y alumnos, y entre los propios alumnos. Atentaría contra la participación directa de los profesores y estudiantes suponiendo una pérdida en la comunicación, la colaboración y el desarrollo de habilidades sociales de los jóvenes.

La inclusión de la IA en una institución educativa requeriría de una inversión significativa en infraestructura tecnológica y formación del personal docente. Supondría un gasto económico, y una inversión en un modelo que desde la propia empresa no ofrece garantías de éxito como bien afirma la guía ofrecida al profesorado, acompañado por la parte negativa de advertencias y consejos mencionados. Requeriría además de una adaptación del profesorado a saber cómo y en qué incidir con el uso de esta tecnología sabiendo de los problemas que tiene. Un mal uso o un uso con material mal proporcionado por IA conllevaría una mala enseñanza con dicha información por los sesgos de los algoritmos, que podrían afectar a la calidad de los materiales que genera. Además, la delegación en la IA de tareas propias de los docentes podría llegar a ser excesiva, y pudiendo crear una posible dependencia.

Cabe recordar que es una herramienta muy sofisticada, capaz de crear avatares o replicar voces pudiendo generar desinformación o una suplantación de la identidad. Además, la integración de la IA en el proceso artístico cuestionaría cómo se establece la propiedad intelectual y pudiendo obligar a una redefinición del concepto del proceso creativo.

Podría incurrir en una deshumanización de la experiencia de aprendizaje por los algoritmos que generarían los contenidos y decidirían el ritmo de la docencia. Los alumnos podrían llegar a perder la calidad de un enfoque matizado que ofrece un profesor humano. Además, los algoritmos podrían dar lugar a prejuicios, llegando a no ofrecer un plan de estudios cubriendo la inclusión y diversidad adaptada a las necesidades de cada alumno.

La IA también genera preocupación en cuanto a la seguridad y privacidad de los datos. Su uso implicaría una recopilación y análisis de información de índole personal de los estudiantes. Esto plantea interrogantes desconocidos sobre la gestión de cómo se almacenan, protegen y utilizan estos datos. No existen políticas claras y mecanismos de seguridad para garantizar la confidencialidad y la protección de la información de los estudiantes y, por lo tanto, a la información personal y sensible de los estudiantes podrían llegar a acceder o a utilizarlos terceros de manera indebida, si no se llega a proteger adecuadamente.

La Inteligencia Artificial bien utilizada y cómo se debe, es el punto de inflexión del futuro en el avance de la tecnología en búsqueda de un mundo más tecnológico, fácil y mejor. Pero un uso inadecuado y sin información contrastada pueden llegar a ser muy negativos, y más en la base de la enseñanza como es la escuela.