Se invierte mucho dinero, recursos inform\u00e1ticos, tiempo y esfuerzo en la creaci\u00f3n de conjuntos de datos, puntos de referencia y algoritmos para el AA. Esto es particularmente cierto para el aprendizaje profundo y los modelos a gran escala. Por lo tanto, tiene sentido que los recursos creados se compartan dentro de este ecosistema. Este es el caso de muchos de los sistemas de ML que a menudo utilizamos -incluso cuando los productos finales son diferentes y son creados por una empresa diferente- la metodolog\u00eda, los conjuntos de datos, las bibliotecas de AA y las evaluaciones a menudo se comparten1<\/sup>. As\u00ed, hay un argumento para que sus resultados sean similares bajo condiciones similares.<\/p>\r\n Si el resultado es una decisi\u00f3n educativa, genera preocupaci\u00f3n, por ejemplo, para el estudiante que podr\u00eda ser rechazado injustamente de toda oportunidad educativa1<\/sup>. Pero si la homogeneizaci\u00f3n algor\u00edtmica constituye o no una injusticia solo se puede decidir caso por caso1<\/sup>.<\/p>\r\n Por otro lado, si la tarea del sistema es ayudar al estudiante a escribir, pone en foco la estandarizaci\u00f3n de estilos de escritura, vocabulario y, por ende, patrones de pensamiento. Los modelos de lenguaje utilizados en estos casos se deciden para predecir el texto m\u00e1s probable, basado en su conjunto de datos de entrenamiento. Estos conjuntos de datos, si no se comparten entre sistemas, se construyen de manera similar, a menudo con datos p\u00fablicos de internet. Incluso cuando estos datos se filtran en busca de sesgos, prejuicios y contenido extremo, representan solo un peque\u00f1o ecosistema y no son representativos del mundo en toda su diversidad de ideas, cultura y pr\u00e1cticas. Se ha demostrado que los sistemas de texto predictivo, basados en aprendizaje profundo y utilizados para mensajes de texto y correos electr\u00f3nicos, cambian la forma en que las personas escriben. La escritura tiende a volverse \"m\u00e1s sucinta, m\u00e1s predecible y menos colorida\"2<\/sup>.<\/p>\r\n\r\n Las secuencias de palabras que se repiten en el conjunto de datos de entrenamiento se filtran en la salida de los grandes modelos de lenguaje. As\u00ed, los valores de los creadores de la base de datos obtienen el poder de limitar opiniones alternativas y expresiones plurales de ideas. Sin intervenciones pedag\u00f3gicas adecuadas, esto a su vez podr\u00eda limitar la creatividad y originalidad de los estudiantes, no solo llevando a una escritura formulista, sino en \u00faltima instancia, a ciudadanos con menores habilidades de pensamiento cr\u00edtico y as\u00ed a un mundo en general menos colorido3<\/sup>.<\/p>\r\n \u00cdntimamente ligado con muchas de las consecuencias negativas del aprendizaje autom\u00e1tico, incluida la homogeneidad como se discuti\u00f3 anteriormente, es el hecho de que las tecnolog\u00edas se han vuelto tan avanzadas que la interfaz humano-m\u00e1quina es fluida y pr\u00e1cticamente invisible. Ya sea que se trate de los motores de b\u00fasqueda incorporados en la barra de direcciones del navegador, o la predicci\u00f3n de texto que funciona de manera intuitiva, sin retraso de tiempo entre escribir, predecir y elegir sugerencias, a menudo actuamos bajo la influencia de la tecnolog\u00eda sin ser conscientes de ello o tener la opci\u00f3n de poner un freno y repensar situaciones y tomar nuestras propias decisiones. Adem\u00e1s, cuando la usamos habitualmente para tomar decisiones, tendemos a olvidar su existencia por completo4<\/sup>. \"Una vez que nos habituamos a las tecnolog\u00edas, dejamos de mirarlas, y en su lugar miramos a trav\u00e9s de ellas hacia la informaci\u00f3n y actividades que nos facilitan\". Esto plantea preocupaciones tan serias sobre la agencia humana, la transparencia y la confianza, especialmente cuando se trata de mentes j\u00f3venes, que los expertos han recomendado que las interfaces se hagan m\u00e1s visibles e incluso inc\u00f3modas4<\/sup>.<\/p>\r\n\r\n En cada parte de este libro de texto abierto, hemos discutido impactos pedag\u00f3gicos, \u00e9ticos y sociales de la IA, especialmente la IA basada en datos. Datos y Privacidad, fiabilidad del contenido y autonom\u00eda del usuario<\/a>, impacto en la identidad personal<\/a>, Sesgo y Justicia<\/a> y Agencia Humana<\/a> se discutieron en sus respectivas p\u00e1ginas. Los problemas espec\u00edficos de los motores de b\u00fasqueda se discutieron en Detr\u00e1s del Lente de B\u00fasqueda: Efectos de la b\u00fasqueda en el individuo<\/a> y la sociedad<\/a>, los problemas relacionados con los sistemas adaptativos se trataron en El Lado Oscuro de ALS<\/a> y aquellos particulares a la IAG en Lo Degenerativo<\/a>. En varios lugares a lo largo del libro, hemos analizado medidas correctivas que se pueden tomar en el aula para tratar problemas espec\u00edficos. Nuestra esperanza es que estas medidas se vuelvan menos onerosas una vez que tengamos sistemas de IA \u00e9ticos y confiables para la educaci\u00f3n. Esta IA \u00e9tica se desarrollar\u00eda, desplegar\u00eda y usar\u00eda de acuerdo con normas y principios \u00e9ticos5<\/sup> y ser\u00eda responsable y resiliente.<\/p>\r\n Dado que cedemos tanto poder a los modelos de IA y a sus programadores, vendedores y evaluadores, es razonable pedirles que sean transparentes y asuman la responsabilidad y remedien los errores cuando las cosas salen mal6<\/sup>. Necesitamos acuerdos de nivel de servicio que delineen claramente \"los servicios de soporte y mantenimiento y los pasos a seguir para abordar los problemas reportados\"5<\/sup>.<\/p>\r\n Una IA resiliente aceptar\u00eda sus imperfecciones, las esperar\u00eda y podr\u00eda trabajar a pesar de ellas. Los sistemas de IA resilientes fallar\u00edan de una manera predecible y tendr\u00edan protocolos para lidiar con estos fallos6<\/sup>.<\/p>\r\n En educaci\u00f3n, la IA \u00e9tica deber\u00eda guiarse por principios de dise\u00f1o centrados en el usuario y tener en cuenta todos los aspectos de la educaci\u00f3n7<\/sup>. Los profesores podr\u00edan inspeccionar c\u00f3mo funciona, entender sus explicaciones, anular sus decisiones o pausar su uso sin dificultad8<\/sup>. Estos sistemas reducir\u00edan la carga de trabajo de los profesores, les dar\u00edan informaci\u00f3n detallada sobre sus estudiantes y los apoyar\u00edan en mejorar el alcance y la calidad de la educaci\u00f3n8<\/sup>. No causar\u00edan da\u00f1o a sus usuarios o al medio ambiente y mejorar\u00edan el bienestar social y emocional de estudiante y profesores5<\/sup>.<\/p>\r\n Hasta que llegue ese d\u00eda, un profesor tendr\u00e1 que intentar desarrollar y participar en una comunidad de colegas y educadores para crear conciencia sobre los problemas, compartir experiencias y mejores pr\u00e1cticas, e identificar proveedores confiables de IA. Tambi\u00e9n podr\u00edan involucrar a estudiantes y padres en discusiones y decisiones para abordar mejor diferentes preocupaciones y desarrollar un ambiente de confianza y camarader\u00eda. Les servir\u00eda mejor hacer todo lo posible para mantenerse al d\u00eda con las \u00faltimas tendencias en AIED y adquirir competencias cuando y donde sea posible5<\/sup>.<\/p>\r\n \r\n\r\n 1 Bommasani, R., D\u2019Amour, A., Liu, J., & Jain, S.<\/strong> (2022). Picking on the same person: Does algorithmic monoculture lead to outcome homogenization? Advances in Neural Information Processing Systems, 35<\/em>. https:\/\/openreview.net\/forum?id=rJWc4eU6z5z<\/a><\/sup><\/p>\r\n 2 Varshney, L. R.<\/strong> (2020). Respect for human autonomy in recommender systems. En Proceedings of the 3rd FAccTRec Workshop on Responsible Recommendation<\/em>. https:\/\/facctrec.github.io\/facctrec2020\/Varshney.pdf<\/sup><\/p>\r\n 3 Holmes, W., & Miao, F.<\/strong> (2023). Guidance for generative AI in education and research<\/em>. UNESCO. https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000386946<\/a><\/sup><\/p>\r\n 4 Susser, D.<\/strong> (2019). Invisible influence: Artificial intelligence and the ethics of adaptive choice architectures. En Proceedings of the 2019 AAAI\/ACM Conference on AI, Ethics, and Society<\/em> (pp. 403\u2013408). Association for Computing Machinery. https:\/\/doi.org\/10.1145\/3306618.3314286<\/a><\/sup><\/p>\r\n 5 European Commission.<\/strong> (2022, October). Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators<\/em>. Publications Office of the European Union. https:\/\/education.ec.europa.eu\/document\/ethical-guidelines-on-the-use-of-ai-and-data-in-teaching-and-learning-for-educators<\/a><\/sup><\/p>\r\n 6 Schneier, B.<\/strong> (2015). Data and Goliath: The hidden battles to capture your data and control your world<\/em>. W. W. Norton & Company.<\/sup><\/p>\r\n 7 Tlili, A., Shehata, B., Adarkwah, M. A., Bozkurt, A., Altinpulluk, H., Elbyaly, M. Y., ... & Burgos, D.<\/strong> (2023). What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education. Smart Learning Environments, 10<\/em>, 15. https:\/\/doi.org\/10.1186\/s40561-023-00236-5<\/a><\/sup><\/p>\r\n 8 U.S. Department of Education, Office of Educational Technology.<\/strong> (2023). Artificial intelligence and the future of teaching and learning: Insights and recommendations<\/em>. Washington, DC. https:\/\/tech.ed.gov\/ai-future-of-teaching-and-learning\/<\/a><\/sup><\/p>","rendered":" Se invierte mucho dinero, recursos inform\u00e1ticos, tiempo y esfuerzo en la creaci\u00f3n de conjuntos de datos, puntos de referencia y algoritmos para el AA. Esto es particularmente cierto para el aprendizaje profundo y los modelos a gran escala. Por lo tanto, tiene sentido que los recursos creados se compartan dentro de este ecosistema. Este es el caso de muchos de los sistemas de ML que a menudo utilizamos -incluso cuando los productos finales son diferentes y son creados por una empresa diferente- la metodolog\u00eda, los conjuntos de datos, las bibliotecas de AA y las evaluaciones a menudo se comparten1<\/sup>. As\u00ed, hay un argumento para que sus resultados sean similares bajo condiciones similares.<\/p>\n Si el resultado es una decisi\u00f3n educativa, genera preocupaci\u00f3n, por ejemplo, para el estudiante que podr\u00eda ser rechazado injustamente de toda oportunidad educativa1<\/sup>. Pero si la homogeneizaci\u00f3n algor\u00edtmica constituye o no una injusticia solo se puede decidir caso por caso1<\/sup>.<\/p>\n Por otro lado, si la tarea del sistema es ayudar al estudiante a escribir, pone en foco la estandarizaci\u00f3n de estilos de escritura, vocabulario y, por ende, patrones de pensamiento. Los modelos de lenguaje utilizados en estos casos se deciden para predecir el texto m\u00e1s probable, basado en su conjunto de datos de entrenamiento. Estos conjuntos de datos, si no se comparten entre sistemas, se construyen de manera similar, a menudo con datos p\u00fablicos de internet. Incluso cuando estos datos se filtran en busca de sesgos, prejuicios y contenido extremo, representan solo un peque\u00f1o ecosistema y no son representativos del mundo en toda su diversidad de ideas, cultura y pr\u00e1cticas. Se ha demostrado que los sistemas de texto predictivo, basados en aprendizaje profundo y utilizados para mensajes de texto y correos electr\u00f3nicos, cambian la forma en que las personas escriben. La escritura tiende a volverse \u00abm\u00e1s sucinta, m\u00e1s predecible y menos colorida\u00bb2<\/sup>.<\/p>\n Las secuencias de palabras que se repiten en el conjunto de datos de entrenamiento se filtran en la salida de los grandes modelos de lenguaje. As\u00ed, los valores de los creadores de la base de datos obtienen el poder de limitar opiniones alternativas y expresiones plurales de ideas. Sin intervenciones pedag\u00f3gicas adecuadas, esto a su vez podr\u00eda limitar la creatividad y originalidad de los estudiantes, no solo llevando a una escritura formulista, sino en \u00faltima instancia, a ciudadanos con menores habilidades de pensamiento cr\u00edtico y as\u00ed a un mundo en general menos colorido3<\/sup>.<\/p>\n \u00cdntimamente ligado con muchas de las consecuencias negativas del aprendizaje autom\u00e1tico, incluida la homogeneidad como se discuti\u00f3 anteriormente, es el hecho de que las tecnolog\u00edas se han vuelto tan avanzadas que la interfaz humano-m\u00e1quina es fluida y pr\u00e1cticamente invisible. Ya sea que se trate de los motores de b\u00fasqueda incorporados en la barra de direcciones del navegador, o la predicci\u00f3n de texto que funciona de manera intuitiva, sin retraso de tiempo entre escribir, predecir y elegir sugerencias, a menudo actuamos bajo la influencia de la tecnolog\u00eda sin ser conscientes de ello o tener la opci\u00f3n de poner un freno y repensar situaciones y tomar nuestras propias decisiones. Adem\u00e1s, cuando la usamos habitualmente para tomar decisiones, tendemos a olvidar su existencia por completo4<\/sup>. \u00abUna vez que nos habituamos a las tecnolog\u00edas, dejamos de mirarlas, y en su lugar miramos a trav\u00e9s de ellas hacia la informaci\u00f3n y actividades que nos facilitan\u00bb. Esto plantea preocupaciones tan serias sobre la agencia humana, la transparencia y la confianza, especialmente cuando se trata de mentes j\u00f3venes, que los expertos han recomendado que las interfaces se hagan m\u00e1s visibles e incluso inc\u00f3modas4<\/sup>.<\/p>\n En cada parte de este libro de texto abierto, hemos discutido impactos pedag\u00f3gicos, \u00e9ticos y sociales de la IA, especialmente la IA basada en datos. Datos y Privacidad, fiabilidad del contenido y autonom\u00eda del usuario<\/a>, impacto en la identidad personal<\/a>, Sesgo y Justicia<\/a> y Agencia Humana<\/a> se discutieron en sus respectivas p\u00e1ginas. Los problemas espec\u00edficos de los motores de b\u00fasqueda se discutieron en Detr\u00e1s del Lente de B\u00fasqueda: Efectos de la b\u00fasqueda en el individuo<\/a> y la sociedad<\/a>, los problemas relacionados con los sistemas adaptativos se trataron en El Lado Oscuro de ALS<\/a> y aquellos particulares a la IAG en Lo Degenerativo<\/a>. En varios lugares a lo largo del libro, hemos analizado medidas correctivas que se pueden tomar en el aula para tratar problemas espec\u00edficos. Nuestra esperanza es que estas medidas se vuelvan menos onerosas una vez que tengamos sistemas de IA \u00e9ticos y confiables para la educaci\u00f3n. Esta IA \u00e9tica se desarrollar\u00eda, desplegar\u00eda y usar\u00eda de acuerdo con normas y principios \u00e9ticos5<\/sup> y ser\u00eda responsable y resiliente.<\/p>\n Dado que cedemos tanto poder a los modelos de IA y a sus programadores, vendedores y evaluadores, es razonable pedirles que sean transparentes y asuman la responsabilidad y remedien los errores cuando las cosas salen mal6<\/sup>. Necesitamos acuerdos de nivel de servicio que delineen claramente \u00ablos servicios de soporte y mantenimiento y los pasos a seguir para abordar los problemas reportados\u00bb5<\/sup>.<\/p>\n Una IA resiliente aceptar\u00eda sus imperfecciones, las esperar\u00eda y podr\u00eda trabajar a pesar de ellas. Los sistemas de IA resilientes fallar\u00edan de una manera predecible y tendr\u00edan protocolos para lidiar con estos fallos6<\/sup>.<\/p>\n En educaci\u00f3n, la IA \u00e9tica deber\u00eda guiarse por principios de dise\u00f1o centrados en el usuario y tener en cuenta todos los aspectos de la educaci\u00f3n7<\/sup>. Los profesores podr\u00edan inspeccionar c\u00f3mo funciona, entender sus explicaciones, anular sus decisiones o pausar su uso sin dificultad8<\/sup>. Estos sistemas reducir\u00edan la carga de trabajo de los profesores, les dar\u00edan informaci\u00f3n detallada sobre sus estudiantes y los apoyar\u00edan en mejorar el alcance y la calidad de la educaci\u00f3n8<\/sup>. No causar\u00edan da\u00f1o a sus usuarios o al medio ambiente y mejorar\u00edan el bienestar social y emocional de estudiante y profesores5<\/sup>.<\/p>\n Hasta que llegue ese d\u00eda, un profesor tendr\u00e1 que intentar desarrollar y participar en una comunidad de colegas y educadores para crear conciencia sobre los problemas, compartir experiencias y mejores pr\u00e1cticas, e identificar proveedores confiables de IA. Tambi\u00e9n podr\u00edan involucrar a estudiantes y padres en discusiones y decisiones para abordar mejor diferentes preocupaciones y desarrollar un ambiente de confianza y camarader\u00eda. Les servir\u00eda mejor hacer todo lo posible para mantenerse al d\u00eda con las \u00faltimas tendencias en AIED y adquirir competencias cuando y donde sea posible5<\/sup>.<\/p>\n <\/p>\n 1 Bommasani, R., D\u2019Amour, A., Liu, J., & Jain, S.<\/strong> (2022). Picking on the same person: Does algorithmic monoculture lead to outcome homogenization? Advances in Neural Information Processing Systems, 35<\/em>. https:\/\/openreview.net\/forum?id=rJWc4eU6z5z<\/a><\/sup><\/p>\n 2 Varshney, L. R.<\/strong> (2020). Respect for human autonomy in recommender systems. En Proceedings of the 3rd FAccTRec Workshop on Responsible Recommendation<\/em>. https:\/\/facctrec.github.io\/facctrec2020\/Varshney.pdf<\/sup><\/p>\n 3 Holmes, W., & Miao, F.<\/strong> (2023). Guidance for generative AI in education and research<\/em>. UNESCO. https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000386946<\/a><\/sup><\/p>\n 4 Susser, D.<\/strong> (2019). Invisible influence: Artificial intelligence and the ethics of adaptive choice architectures. En Proceedings of the 2019 AAAI\/ACM Conference on AI, Ethics, and Society<\/em> (pp. 403\u2013408). Association for Computing Machinery. https:\/\/doi.org\/10.1145\/3306618.3314286<\/a><\/sup><\/p>\n 5 European Commission.<\/strong> (2022, October). Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators<\/em>. Publications Office of the European Union. https:\/\/education.ec.europa.eu\/document\/ethical-guidelines-on-the-use-of-ai-and-data-in-teaching-and-learning-for-educators<\/a><\/sup><\/p>\n 6 Schneier, B.<\/strong> (2015). Data and Goliath: The hidden battles to capture your data and control your world<\/em>. W. W. Norton & Company.<\/sup><\/p>\n 7 Tlili, A., Shehata, B., Adarkwah, M. A., Bozkurt, A., Altinpulluk, H., Elbyaly, M. Y., … & Burgos, D.<\/strong> (2023). What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education. Smart Learning Environments, 10<\/em>, 15. https:\/\/doi.org\/10.1186\/s40561-023-00236-5<\/a><\/sup><\/p>\nInvisibilidad<\/h3>\r\n
Qu\u00e9 hay m\u00e1s all\u00e1: una IA \u00e9tica<\/h3>\r\n
\r\nHomogeneizaci\u00f3n<\/h3>\n
Invisibilidad<\/h3>\n
Qu\u00e9 hay m\u00e1s all\u00e1: una IA \u00e9tica<\/h3>\n
\n