Uso ético de la inteligencia artificial
en el ámbito académico
Las herramientas de inteligencia artificial (IA) se han vuelto muy útiles para estudiantes y docentes, puesto que prometen optimizar tiempo, crear contenido por nosotros, revisar, traducir y un sinnúmero de otras funciones dependiendo de nuestras necesidades. Sin embargo, es importante tener en cuenta sus limitantes para saber hasta dónde se puede confiar en su uso.
Desde el momento que asumimos una inteligencia artificial como infalible, es cuando empezamos a tener problemas. Por otro lado, cuando demonizamos su uso y tratamos de tener una visión prohibitiva, también caemos en un profundo error. La idea es entender cómo funcionan y tener siempre en mente cuáles son sus limitaciones y cómo podemos sacarles el mejor provecho.
Cuando se habla del uso ético de las herramientas de inteligencia artificial, se debe, en primer lugar, establecer una definición del término.
¿Qué es la ética en la inteligencia artificial?
En términos simples, la ética es la reflexión de lo que se considera correcto o incorrecto y que define cómo debemos comportarnos en la sociedad. En cuanto al uso de la IA para garantizar su adecuada implementación, es necesario un enfoque colaborativo y multidisciplinario, de modo de garantizar una utilización responsable y justa de este tipo de tecnología.
Al definir este concepto podemos evidenciar que el cuestionamiento sobre el uso apropiado de las herramientas de inteligencia artificial se hace imprescindible. Entonces, ¿qué es un uso ético de las herramientas de inteligencia artificial en la educación superior? Sin duda, es uno los aspectos fundamentales que promueve el pensamiento crítico, guiando su aplicación mediante lineamientos construidos a partir de una reflexión realizada en conjunto por docentes, estudiantes, colaboradores y toda la comunidad educativa.
Al respecto, la UNESCO, plantea la importancia de generar y fomentar el diálogo entre los diferentes agentes que participan de los procesos educativos, con el fin de construir propuestas en conjunto y establecer principios éticos que guíen el desarrollo y uso de las herramientas de inteligencia artificial. Así, se realiza un llamado también a quienes desarrollan las herramientas de inteligencia artificial a darle un uso ético, fijándose en cómo comprometemos nuestros valores y principios de modo que las herramientas sean beneficiosas para la sociedad sin dejar de respetar nuestros valores ni principios como seres humanos.
Al hablar de principios éticos para el uso de herramientas de inteligencia artificial, debemos poder identificar 3 valores clave, que tienen que estar presentes y garantizarse en nuestros lineamientos éticos. Cabe destacar que la UNESCO, ya en noviembre de 2021, elaboró la primera norma sobre recomendaciones éticas en el uso de la inteligencia artificial, las que pasamos a detallar:
- Transparencia: es importante definir claramente cuáles son los usos que le damos a las herramientas de inteligencia artificial y hasta dónde vamos a permitir, como docentes, que nuestros estudiantes las utilicen o para qué propósitos lo hagan. Esto significa que debemos acompañarlos en los procesos y guiarlos en el uso adecuado de la IA. En el caso de los desarrolladores de herramientas de inteligencia artificial, es primordial que evidencien los datos, los modelos y los algoritmos utilizados, para así evitar sesgos y la mantención de desigualdades existentes en la educación.
- Justicia y equidad: cuando queremos construir espacios de aprendizaje justos y con equidad, debemos ser capaces de tratar que todos los estudiantes se beneficien por igual, que no exista brecha en el aprendizaje para ninguno de ellos, procurando que los espacios sean accesibles para todos y que no exista diferencia entre quienes cuentan con o sin acceso a la tecnología.
- Responsabilidad: los seres humanos somos responsables por las decisiones que tomamos, así nos haya aconsejado una inteligencia artificial ante la toma de esta decisión o no. Debemos ser capaces de no depender excesivamente de la tecnología en lugar de propiciar el pensamiento crítico. Es necesario mantener la supervisión humana constante sobre la tecnología.
Así, aplicar tecnologías de inteligencia artificial de manera responsable, justa y transparente, considerando los valores humanos, el bienestar de la sociedad y evitando consecuencias negativas concierne al ámbito del uso ética de la IA. En este contexto, los principios éticos se convierten en cimientos sólidos sobre los cuales se construye una base de confianza y responsabilidad compartida por toda la comunidad académica, la que incluye a docentes, estudiantes, administradores y expertos. Se trata de un aprendizaje colectivo que implica el diálogo constante y la reflexión conjunta sobre las implicaciones éticas de la implementación de la IA en el ámbito académico.
A partir de estos principios, se desprenden diversas acciones que tienen como propósito velar por un uso ético de la IA en la educación superior, tal como lo ilustra el siguiente esquema:
Por otro lado, resulta necesario realizar una evaluación continua que dé cuenta del uso ético de la IA en la educación superior a través de preguntas orientadoras:
Recuerda:
El proceso de aprendizaje y de enseñanza es nuestra responsabilidad. Las herramientas que funcionan con inteligencia artificial, por sofisticadas que sean o por mucho que nos puedan ayudar, no pueden aprender ni enseñar por nosotros. La combinación de las capacidades de la IA con la creatividad, la empatía y el juicio humano puede llevar a un aprendizaje más enriquecedor y efectivo. No obstante, en cuanto a juicio crítico y a creatividad se refiere, debemos tener siempre en consideración sus limitaciones y seguir reflexionando sobre su uso ético y responsable tanto en la educación superior como en otros campos.
Bibliografía
Admin. (2023, 18 mayo). Noam Chomsky sobre ChatGPT. El Siglo. https://elsiglo.cl/noam-chomsky-sobre-chatgpt/
¿Están claros los límites de la ética en educación e inteligencia artificial? | Oficina de Transferencia de Resultados de Investigación. (s. f.). https://www.ucm.es/otri/noticias-etica-inteligencia-artificial-ucm
Moyano, L. (2023). Dilemas éticos asociados a generadores de lenguaje basados en inteligencia artificial. Educación continua UC. https://educacioncontinua.uc.cl/noticias/dilemas-eticos-lenguaje-nteligencia-artificial/
Urbán, A. (2021, 8 diciembre). UNESCO busca regular éticamente a la inteligencia artificial. El Universal. https://www.eluniversal.com.mx/techbit/unesco-busca-regular-eticamente-la-inteligencia-artificial/
