16 Habla de IA: sistemas basados en datos -Parte 1

Los sistemas educativos siempre han generado datos –datos personales de los estudiantes, registros académicos, datos de asistencia y más. Con la digitalización y las aplicaciones de AIED, se registran y almacenan más datos: clics del ratón, páginas abiertas, marcas de tiempo y pulsaciones de teclado¹. Con el pensamiento centrado en los datos convirtiéndose en la norma en la sociedad, es natural preguntarse cómo aprovechar todos estos datos para hacer algo pertinente. ¿Podríamos ofrecer retroalimentación más personalizada al estudiante? ¿Podríamos diseñar mejores herramientas de visualización y notificación para el profesor?²

Cualquier tecnología utilizada debe satisfacer una necesidad real en el aula. Una vez identificada la necesidad, podemos mirar los datos disponibles y preguntarnos qué es relevante para un resultado deseado. Esto implica descubrir factores que permitan a los profesores tomar decisiones matizadas. ¿Se pueden capturar estos factores utilizando los datos disponibles? ¿Son los datos y los sistemas basados en datos la mejor manera de abordar la necesidad? ¿Cuáles podrían ser las consecuencias no deseadas de usar los datos de esta manera³?

El aprendizaje automático nos permite delegar muchas de estas preguntas en los propios datos⁴. Las aplicaciones de ML se entrenan con datos. Funcionan operando con datos. Encuentran patrones, hacen generalizaciones y almacenan estos como modelos: datos que se pueden usar para responder preguntas futuras⁴. Sus decisiones y predicciones, y cómo estas afectan el aprendizaje de los estudiantes, también son datos. Por lo tanto, saber cómo los programadores, la máquina y el usuario manejan los datos es una parte importante de entender cómo funciona la IA.

Acerca de los datos

Los datos generalmente se refieren a una entidad del mundo real: una persona, un objeto o un evento. Cada entidad puede ser descrita por una serie de atributos (características o variables)⁵. Por ejemplo, nombre, edad y clase son algunos atributos de un estudiante. El conjunto de estos atributos son los datos que tenemos sobre el estudiante, que, aunque de ninguna manera se acercan a la entidad real, sí nos dicen algo sobre ellos. Los datos recopilados, utilizados y procesados en el sistema educativo se llaman datos educativos¹.

Un conjunto de datos son los datos sobre una colección de entidades organizados en filas y columnas. El registro de asistencia de una clase es un conjunto de datos. En este caso, cada fila es el registro de un estudiante. Las columnas podrían ser su presencia o ausencia durante un día o sesión particular. Así, cada columna es un atributo.

Los datos se crean eligiendo atributos y midiendo los mismos: cada pieza de datos es el resultado de decisiones y elecciones humanas. Así, la creación de datos es un proceso subjetivo, parcial y a veces desordenado propenso a dificultades técnicas^4,5. Además, lo que elegimos medir, y lo que no, puede tener una gran influencia en los resultados esperados.

Huellas de datos son registros de actividad estudiantil como clics del ratón, datos sobre páginas abiertas, el momento de las interacciones o pulsaciones de teclas en un sistema digital¹. Metadatos son datos que describen otros datos⁵. Datos derivados son datos calculados o inferidos de otros datos: las calificaciones individuales de cada estudiante son datos. El promedio de la clase es un dato derivado. A menudo, los datos derivados son más pertinentes para obtener perspectivas útiles, encontrar patrones y hacer predicciones. Las aplicaciones de Aprendizaje Automático pueden crear datos derivados y vincularlos con huellas de datos y metadatos para crear detallados modelos de aprendizaje, que ayudan en la personalización del aprendizaje¹.

Para que cualquier aplicación basada en datos sea exitosa, los atributos deben ser cuidadosamente elegidos y medidos correctamente. Los patrones descubiertos en ellos deben ser verificados para ver si tienen sentido en el contexto educativo. Cuando se diseñan y mantienen correctamente, los sistemas impulsados por datos pueden ser muy valiosos.

Este capítulo tiene como objetivo introducir algunos conceptos básicos de datos y tecnología basada en datos pero la alfabetización de datos es una habilidad muy importante para poseer y merece una formación dedicada y un apoyo y actualización continuos¹.

Legislación que deberías conocer

Debido a la drástica reducción en los costos de almacenamiento de datos, se guardan y retienen más datos y metadatos durante más tiempo⁶. Esto puede llevar a violaciones de la privacidad y derechos. Leyes como el Reglamento General de Protección de Datos (GDPR) desalientan tales prácticas y otorgan a los ciudadanos de la UE más control sobre sus datos personales. Proporcionan regulaciones de protección de datos legalmente exigibles en todos los estados miembros de la UE.

Según el GDPR, los datos personales son cualquier información relacionada con una persona identificada o identificable (sujeto de datos). Las escuelas, además de interactuar con empresas que manejan sus datos, almacenan enormes cantidades de información personal sobre estudiantes, padres, personal, gestión y proveedores. Como controladores de datos, están obligados a almacenar los datos que procesan de manera confidencial como segura y tener procedimientos para la protección y uso adecuado de todos los datos personales¹.

Los derechos establecidos por el GDPR incluyen:

• El Derecho de Acceso hace obligatorio para ellos saber(fácilmente) qué datos se están recopilando sobre ellos
• El derecho del ciudadano Derecho a ser Informado sobre el uso que se hace de sus datos
• El Derecho de Supresión permite a un ciudadano cuyos datos han sido recopilados por una plataforma solicitar que esos datos se eliminen del conjunto de datos construido por la plataforma (y que puede ser vendido a otros)
• El  Derecho a la explicación: se debe proporcionar una explicación siempre que se necesite aclaración sobre un proceso de decisión automatizado que les afecte.

Aunque, el GDPR sí permite la recopilación de algunos datos bajo «interés legítimo»⁷y el uso de datos derivados, agregados o anonimizados indefinidamente y sin consentimiento⁵. La nueva Ley de Servicios Digitales restringe el uso de datos personales para fines de publicidad dirigida⁷.» Además de estos, el Escudo de Privacidad UE-EEUU fortalece los derechos de protección de datos para los ciudadanos de la UE en el contexto donde sus datos han sido trasladados fuera de la UE⁵.

Por favor, consulta GDPR para principiantes para el análisis realizado por expertos independientes de la Unión de Libertades Civiles para Europa (Liberties). Este es un organismo de vigilancia que protege los derechos humanos de los ciudadanos de la UE.

^{1 European Commission. (2022, October). Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators. Publications Office of the European Union. https://education.ec.europa.eu/document/ethical-guidelines-on-the-use-of-ai-and-data-in-teaching-and-learning-for-educators}

² du Boulay, B., Poulovassilis, A., Holmes, W., & Mavrikis, M. (2018). Artificial intelligence and big data technologies to close the achievement gap. En R. Luckin (Ed.), Enhancing learning and teaching with technology (pp. 256–285). UCL Institute of Education Press. https://discovery.ucl.ac.uk/id/eprint/10058950/1/Enhancing-learning-and-teaching-with-technology.pdf

^{3 Hutchinson, B., Smart, A., Hanna, A., Denton, E., Greer, C., Kjartansson, O., Barnes, P., & Mitchell, M. (2021). Towards accountability for machine learning datasets: Practices from software engineering and infrastructure. En Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (pp. 560–575). Association for Computing Machinery. https://doi.org/10.1145/3442188.3445880}

^{4 Barocas, S., Hardt, M., & Narayanan, A. (2023). Fairness and machine learning: Limitations and opportunities. MIT Press. https://fairmlbook.org/}

^{5 Kelleher, J. D., & Tierney, B. (2018). Data science. MIT Press.}

⁶ Schneier, B. (2015). Data and Goliath: The hidden battles to capture your data and control your world. W. W. Norton & Company.

⁷ Kant, T. (2021). Identity, advertising, and algorithmic targeting: Or how (not) to target your “ideal user.” MIT Case Studies in Social and Ethical Responsibilities of Computing. https://dspace.mit.edu/handle/1721.1/123480