{"id":150,"date":"2023-11-30T16:30:50","date_gmt":"2023-11-30T16:30:50","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/homogenisation-invisibility-and-beyond-towards-an-ethical-ai\/"},"modified":"2024-01-31T11:51:18","modified_gmt":"2024-01-31T11:51:18","slug":"homogenisation-invisibility-and-beyond-towards-an-ethical-ai","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/homogenisation-invisibility-and-beyond-towards-an-ethical-ai\/","title":{"raw":"Homog\u00e9n\u00e9isation, invisibilit\u00e9 et au-del\u00e0, vers une IA \u00e9thique","rendered":"Homog\u00e9n\u00e9isation, invisibilit\u00e9 et au-del\u00e0, vers une IA \u00e9thique"},"content":{"raw":"<h3>Homog\u00e9n\u00e9isation<\/h3>\n<p class=\"no-indent\">Beaucoup d\u2019argent, de ressources informatiques, de temps et d\u2019efforts sont investis dans la cr\u00e9ation d\u2019ensembles de donn\u00e9es, de crit\u00e8res de r\u00e9f\u00e9rence et d\u2019algorithmes pour l\u2019Apprentissage Automatique. Ceci est particuli\u00e8rement vrai pour le <em>Deep Learning<\/em> et les Mod\u00e8les \u00e0 Grande \u00c9chelle. Il est donc logique que les ressources ainsi cr\u00e9\u00e9es soient partag\u00e9es au sein de l\u2019\u00e9cosyst\u00e8me. C\u2019est ce qui se passe pour un grand nombre de syst\u00e8mes d\u2019Apprentissage Automatique que nous utilisons souvent. M\u00eame lorsque les produits finis sont diff\u00e9rents et sont cr\u00e9\u00e9s par une entreprise diff\u00e9rente, la m\u00e9thode, les ensembles de donn\u00e9es, les biblioth\u00e8ques d\u2019apprentissage automatique et les \u00e9valuations sont souvent partag\u00e9s<sup>1<\/sup>. Il y a donc tout lieu de penser que leurs r\u00e9sultats seront similaires, dans des conditions similaires.<\/p>\n<p class=\"indent\">Si le r\u00e9sultat est une d\u00e9cision p\u00e9dagogique, cela peut susciter des inqui\u00e9tudes, par exemple, dans le cas d\u2019un \u00e9l\u00e8ve qui pourrait \u00eatre injustement exclu de toute opportunit\u00e9 \u00e9ducative1. Toutefois, le fait de savoir si l\u2019homog\u00e9n\u00e9isation algorithmique constitue ou non une injustice doit \u00eatre \u00e9valu\u00e9 au cas par cas<sup>1<\/sup>.<\/p>\n<p class=\"indent\">D\u2019autre part, si le syst\u00e8me a pour but d\u2019aider l\u2019\u00e9l\u00e8ve \u00e0 \u00e9crire, cela pose la question de la normalisation des styles d\u2019\u00e9criture, du choix du vocabulaire et, par cons\u00e9quent, des mod\u00e8les de pens\u00e9e. Les mod\u00e8les de langage utilis\u00e9s dans ce cas sont \u00e9tablis pour pr\u00e9dire le texte le plus probable qui sera produit \u00e0 partir de l\u2019ensemble de donn\u00e9es d\u2019entra\u00eenement. Ces ensembles de donn\u00e9es, s\u2019ils ne sont pas partag\u00e9s entre les syst\u00e8mes, sont construits de fa\u00e7on similaire, souvent avec des donn\u00e9es disponibles au public sur Internet. M\u00eame lorsque ces donn\u00e9es sont analys\u00e9es pour d\u00e9tecter les biais, les pr\u00e9jug\u00e9s et les contenus extr\u00eames, cela ne repr\u00e9sente qu\u2019un petit \u00e9cosyst\u00e8me, qui n\u2019est pas repr\u00e9sentatif du monde dans toute sa diversit\u00e9 d\u2019id\u00e9es, de cultures et de pratiques. Il a \u00e9t\u00e9 d\u00e9montr\u00e9 que les syst\u00e8mes de texte pr\u00e9dictif fond\u00e9s sur le<em> deep learning<\/em> qui sont utilis\u00e9s pour les textos et les courriels changent la fa\u00e7on d\u2019\u00e9crire des utilisateurs : leur \u00e9criture devient \u201cplus succincte, plus pr\u00e9visible et moins cr\u00e9ative\u201d<sup>2<\/sup>.<\/p>\n<p class=\"indent\">Les s\u00e9ries de mots qui se r\u00e9p\u00e8tent dans les donn\u00e9es d\u2019entra\u00eenement alimentent les r\u00e9sultats des Grands Mod\u00e8les de Langage. Par cons\u00e9quent, les valeurs des cr\u00e9ateurs de bases de donn\u00e9es ont le pouvoir d\u2019att\u00e9nuer les opinions non conventionnelles et l\u2019expression plurielle des id\u00e9es. Sans une intervention p\u00e9dagogique appropri\u00e9e, ceci peut limiter la cr\u00e9ativit\u00e9 et l\u2019originalit\u00e9 des \u00e9l\u00e8ves, ce qui m\u00e8nerait non seulement \u00e0 une \u00e9criture normalis\u00e9e, mais aussi, finalement, \u00e0 une absence de sens critique chez les citoyens et, globalement, \u00e0 un monde moins vari\u00e9<sup>3<\/sup>.<\/p>\n\n<h3>Invisibilit\u00e9<\/h3>\n<p class=\"no-indent\">Les technologies sont maintenant tellement avanc\u00e9es que l\u2019interface homme-machine est devenue transparente et pratiquement invisible. Ce ph\u00e9nom\u00e8ne est \u00e9troitement li\u00e9 \u00e0 un grand nombre d\u2019inconv\u00e9nients li\u00e9s \u00e0 l\u2019Apprentissage Automatique, et notamment \u00e0 l\u2019homog\u00e9n\u00e9it\u00e9, dont nous avons parl\u00e9 au paragraphe pr\u00e9c\u00e9dent. Qu\u2019il s\u2019agisse des moteurs de recherche int\u00e9gr\u00e9s \u00e0 la barre d\u2019adresse du navigateur ou de la pr\u00e9diction de texte qui fonctionne de mani\u00e8re intuitive sans aucune pause entre l\u2019\u00e9criture, la pr\u00e9diction et le choix des suggestions, nous agissons souvent sous l\u2019influence de la technologie sans en \u00eatre conscients ou sans avoir le choix de mettre un frein \u00e0 son activit\u00e9, de r\u00e9fl\u00e9chir aux situations et de prendre nos propres d\u00e9cisions. De plus, quand nous l\u2019utilisons r\u00e9guli\u00e8rement pour la prise de d\u00e9cision, nous avons tendance \u00e0 oublier son existence<sup>4<\/sup>. \u201cUne fois que nous avons pris l\u2019habitude d\u2019utiliser les technologies, nous arr\u00eatons d\u2019y faire attention et nous regardons \u00e0 travers elles les informations et les activit\u00e9s pour lesquelles nous les utilisons\u201d. Ceci suscite de telles inqui\u00e9tudes en termes d\u2019agentivit\u00e9, de transparence et de confiance, notamment quand il s\u2019agit de jeunes esprits, que les experts ont recommand\u00e9 de rendre les interfaces plus visibles, voire plus difficiles \u00e0 manier<sup>4<\/sup>.<\/p>\n\n<h3>Qu\u2019y a-t-il au-del\u00e0 : une IA \u00e9thique<\/h3>\n<p class=\"no-indent\">Dans chaque chapitre de ce manuel ouvert, nous avons parl\u00e9 de l\u2019impact p\u00e9dagogique, \u00e9thique et social de l\u2019IA, notamment de l\u2019IA bas\u00e9e sur les donn\u00e9es. Nous avons trait\u00e9, dans les rubriques correspondantes, des questions suivantes : <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual\/\" target=\"_blank\" rel=\"noopener\">les donn\u00e9es et la vie priv\u00e9e, la fiabilit\u00e9 des contenus et l\u2019autonomie de l\u2019utilisateur<\/a>, <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual\/\" target=\"_blank\" rel=\"noopener\">l\u2019impact sur l\u2019identit\u00e9 personnelle<\/a>, <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/issues-with-data-bias-and-fairness\/\" target=\"_blank\" rel=\"noopener\">les biais et l\u2019\u00e9quit\u00e9<\/a> et <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/ai-aied-and-human-agency\/\" target=\"_blank\" rel=\"noopener\">l\u2019agentivit\u00e9<\/a>. Les questions relatives aux moteurs de recherche ont \u00e9t\u00e9 trait\u00e9es dans <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual\/\" target=\"_blank\" rel=\"noopener\">Derri\u00e8re la lentille de recherche : Effets de la recherche sur la soci\u00e9t\u00e9<\/a>, celles relatives aux syst\u00e8mes adaptatifs dans <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/the-flip-side-of-als-some-paradigms-to-take-note-of\/\" target=\"_blank\" rel=\"noopener\">L'envers des syst\u00e8mes d'apprentissage adaptatif : quelques paradigmes \u00e0 prendre en compte<\/a> et les probl\u00e8mes relatifs \u00e0 l\u2019IA g\u00e9n\u00e9rative dans <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/the-degenerative\/\" target=\"_blank\" rel=\"noopener\">l'IA d\u00e9g\u00e9nerative<\/a>. Nous avons analys\u00e9, \u00e0 plusieurs reprises, dans le manuel, des mesures correctives qui pourraient \u00eatre adopt\u00e9es en classe, pour r\u00e9soudre certains probl\u00e8mes particuliers. Nous esp\u00e9rons que ces mesures deviendront moins on\u00e9reuses une fois que nous disposerons de syst\u00e8mes d\u2019IA \u00e9thiques et efficaces dans le domaine de l\u2019\u00e9ducation. Cette IA \u00e9thique serait d\u00e9velopp\u00e9e, d\u00e9ploy\u00e9e et utilis\u00e9e dans le respect des normes et des principes d\u2019\u00e9thique5 et serait responsable et r\u00e9siliente.<\/p>\n<p class=\"indent\">Puisque nous laissons tant de pouvoir aux mod\u00e8les d\u2019IA et \u00e0 leurs programmeurs, vendeurs et \u00e9valuateurs, il est tout \u00e0 fait raisonnable de leur demander d\u2019\u00eatre transparents et d\u2019assumer leurs responsabilit\u00e9s et de r\u00e9parer leurs erreurs quand les choses ne vont pas dans le bon sens6. Nous avons besoin de contrats de niveau de service qui d\u00e9finissent clairement \u201cles services d\u2019assistance et de maintenance et les mesures \u00e0 adopter pour r\u00e9soudre les probl\u00e8mes notifi\u00e9s\u201d<sup>5<\/sup>.<\/p>\n<p class=\"indent\">Une IA r\u00e9siliente devrait accepter ses imperfections, les pr\u00e9voir et pouvoir fonctionner malgr\u00e9 elles. Des syst\u00e8mes d\u2019IA r\u00e9silients devraient conna\u00eetre des d\u00e9faillances pr\u00e9visibles et avoir mis en place des protocoles pour r\u00e9soudre ces d\u00e9faillances<sup>6<\/sup>.<\/p>\n<p class=\"indent\">Dans le domaine de l\u2019\u00e9ducation, l\u2019IA \u00e9tique sera orient\u00e9e par des principes de conception bas\u00e9e sur l\u2019utilisateur et devra prendre en compte tous les aspects de l\u2019\u00e9ducation<sup>7<\/sup>. Les enseignants pourraient v\u00e9rifier son fonctionnement, comprendre ses explications, passer outre ses d\u00e9cisions ou interrompre son fonctionnement sans probl\u00e8mes<sup>8<\/sup>. Ces syst\u00e8mes r\u00e9duiraient la charge de travail de l\u2019enseignant, lui fourniraient des informations d\u00e9taill\u00e9es sur ses \u00e9l\u00e8ves et l\u2019aideraient \u00e0 am\u00e9liorer la port\u00e9e et la qualit\u00e9 de l\u2019enseignement<sup>8<\/sup>. Ils ne nuiraient pas \u00e0 leurs utilisateurs et \u00e0 l\u2019environnement et am\u00e9lioraient le bien-\u00eatre social et \u00e9motionnel des \u00e9l\u00e8ves et des enseignants<sup>5<\/sup>.<\/p>\n<p class=\"indent\">Tant que l\u2019IA \u00e9thique n\u2019existera pas, les enseignants devront tenter de d\u00e9velopper et de participer \u00e0 une communaut\u00e9 de coll\u00e8gues et p\u00e9dagogues pour am\u00e9liorer la sensibilisation aux probl\u00e8mes, partager des exp\u00e9riences et de meilleures pratiques et identifier des fournisseurs fiables d\u2019IA. Ils pourraient \u00e9galement encourager la participation des \u00e9l\u00e8ves et de leurs parents \u00e0 des d\u00e9bats et des d\u00e9cisions, pour mieux r\u00e9pondre aux diff\u00e9rentes pr\u00e9occupations et d\u00e9velopper un environnement empreint de camaraderie et de confiance. Ils devront tout mettre en \u0153uvre pour se tenir au courant des derni\u00e8res tendances de l\u2019AIED et acqu\u00e9rir des comp\u00e9tences l\u00e0 o\u00f9 c\u2019est possible et chaque fois que possible<sup>5<\/sup>.<\/p>\n\n\n<hr>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>1\u00a0<\/sup>Bommasani, R., et al, <em>Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?<\/em>, Advances in Neural Information Processing Systems, 2022.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>2\u00a0<\/sup>Varshney, L., <em>Respect for Human Autonomy in Recommender System<\/em>, 3rd FAccTRec Workshop on Responsible Recommendation, 2020.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>3 <\/sup>Holmes, W., Miao, F., <em>Guidance for generative AI in education and research<\/em>, UNESCO, Paris, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>4 <\/sup>Susser, D., <em>Invisible Influence: Artificial Intelligence and the Ethics of Adaptive Choice Architectures,<\/em> Proceedings of the 2019 AAAI\/ACM Conference on AI, Ethics, and Society, Association for Computing Machinery, New York, 403\u2013408, 2019.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>5 <\/sup><a href=\"https:\/\/education.ec.europa.eu\/news\/ethical-guidelines-on-the-use-of-artificial-intelligence-and-data-in-teaching-and-learning-for-educators\">Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators<\/a>, European Commission, October 2022.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>6 <\/sup>Schneier, B., <em>Data and Goliath: The Hidden Battles to Capture Your Data and Control Your World, <\/em>W. W. Norton &amp; Company, 2015.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>7 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, <em>What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>8 <\/sup>U.S. Department of Education, Office of Educational Technology, <em>Artificial Intelligence and Future of Teaching and Learning: Insights and Recommendations<\/em>, Washington, DC, 2023.<\/p>","rendered":"<h3>Homog\u00e9n\u00e9isation<\/h3>\n<p class=\"no-indent\">Beaucoup d\u2019argent, de ressources informatiques, de temps et d\u2019efforts sont investis dans la cr\u00e9ation d\u2019ensembles de donn\u00e9es, de crit\u00e8res de r\u00e9f\u00e9rence et d\u2019algorithmes pour l\u2019Apprentissage Automatique. Ceci est particuli\u00e8rement vrai pour le <em>Deep Learning<\/em> et les Mod\u00e8les \u00e0 Grande \u00c9chelle. Il est donc logique que les ressources ainsi cr\u00e9\u00e9es soient partag\u00e9es au sein de l\u2019\u00e9cosyst\u00e8me. C\u2019est ce qui se passe pour un grand nombre de syst\u00e8mes d\u2019Apprentissage Automatique que nous utilisons souvent. M\u00eame lorsque les produits finis sont diff\u00e9rents et sont cr\u00e9\u00e9s par une entreprise diff\u00e9rente, la m\u00e9thode, les ensembles de donn\u00e9es, les biblioth\u00e8ques d\u2019apprentissage automatique et les \u00e9valuations sont souvent partag\u00e9s<sup>1<\/sup>. Il y a donc tout lieu de penser que leurs r\u00e9sultats seront similaires, dans des conditions similaires.<\/p>\n<p class=\"indent\">Si le r\u00e9sultat est une d\u00e9cision p\u00e9dagogique, cela peut susciter des inqui\u00e9tudes, par exemple, dans le cas d\u2019un \u00e9l\u00e8ve qui pourrait \u00eatre injustement exclu de toute opportunit\u00e9 \u00e9ducative1. Toutefois, le fait de savoir si l\u2019homog\u00e9n\u00e9isation algorithmique constitue ou non une injustice doit \u00eatre \u00e9valu\u00e9 au cas par cas<sup>1<\/sup>.<\/p>\n<p class=\"indent\">D\u2019autre part, si le syst\u00e8me a pour but d\u2019aider l\u2019\u00e9l\u00e8ve \u00e0 \u00e9crire, cela pose la question de la normalisation des styles d\u2019\u00e9criture, du choix du vocabulaire et, par cons\u00e9quent, des mod\u00e8les de pens\u00e9e. Les mod\u00e8les de langage utilis\u00e9s dans ce cas sont \u00e9tablis pour pr\u00e9dire le texte le plus probable qui sera produit \u00e0 partir de l\u2019ensemble de donn\u00e9es d\u2019entra\u00eenement. Ces ensembles de donn\u00e9es, s\u2019ils ne sont pas partag\u00e9s entre les syst\u00e8mes, sont construits de fa\u00e7on similaire, souvent avec des donn\u00e9es disponibles au public sur Internet. M\u00eame lorsque ces donn\u00e9es sont analys\u00e9es pour d\u00e9tecter les biais, les pr\u00e9jug\u00e9s et les contenus extr\u00eames, cela ne repr\u00e9sente qu\u2019un petit \u00e9cosyst\u00e8me, qui n\u2019est pas repr\u00e9sentatif du monde dans toute sa diversit\u00e9 d\u2019id\u00e9es, de cultures et de pratiques. Il a \u00e9t\u00e9 d\u00e9montr\u00e9 que les syst\u00e8mes de texte pr\u00e9dictif fond\u00e9s sur le<em> deep learning<\/em> qui sont utilis\u00e9s pour les textos et les courriels changent la fa\u00e7on d\u2019\u00e9crire des utilisateurs : leur \u00e9criture devient \u201cplus succincte, plus pr\u00e9visible et moins cr\u00e9ative\u201d<sup>2<\/sup>.<\/p>\n<p class=\"indent\">Les s\u00e9ries de mots qui se r\u00e9p\u00e8tent dans les donn\u00e9es d\u2019entra\u00eenement alimentent les r\u00e9sultats des Grands Mod\u00e8les de Langage. Par cons\u00e9quent, les valeurs des cr\u00e9ateurs de bases de donn\u00e9es ont le pouvoir d\u2019att\u00e9nuer les opinions non conventionnelles et l\u2019expression plurielle des id\u00e9es. Sans une intervention p\u00e9dagogique appropri\u00e9e, ceci peut limiter la cr\u00e9ativit\u00e9 et l\u2019originalit\u00e9 des \u00e9l\u00e8ves, ce qui m\u00e8nerait non seulement \u00e0 une \u00e9criture normalis\u00e9e, mais aussi, finalement, \u00e0 une absence de sens critique chez les citoyens et, globalement, \u00e0 un monde moins vari\u00e9<sup>3<\/sup>.<\/p>\n<h3>Invisibilit\u00e9<\/h3>\n<p class=\"no-indent\">Les technologies sont maintenant tellement avanc\u00e9es que l\u2019interface homme-machine est devenue transparente et pratiquement invisible. Ce ph\u00e9nom\u00e8ne est \u00e9troitement li\u00e9 \u00e0 un grand nombre d\u2019inconv\u00e9nients li\u00e9s \u00e0 l\u2019Apprentissage Automatique, et notamment \u00e0 l\u2019homog\u00e9n\u00e9it\u00e9, dont nous avons parl\u00e9 au paragraphe pr\u00e9c\u00e9dent. Qu\u2019il s\u2019agisse des moteurs de recherche int\u00e9gr\u00e9s \u00e0 la barre d\u2019adresse du navigateur ou de la pr\u00e9diction de texte qui fonctionne de mani\u00e8re intuitive sans aucune pause entre l\u2019\u00e9criture, la pr\u00e9diction et le choix des suggestions, nous agissons souvent sous l\u2019influence de la technologie sans en \u00eatre conscients ou sans avoir le choix de mettre un frein \u00e0 son activit\u00e9, de r\u00e9fl\u00e9chir aux situations et de prendre nos propres d\u00e9cisions. De plus, quand nous l\u2019utilisons r\u00e9guli\u00e8rement pour la prise de d\u00e9cision, nous avons tendance \u00e0 oublier son existence<sup>4<\/sup>. \u201cUne fois que nous avons pris l\u2019habitude d\u2019utiliser les technologies, nous arr\u00eatons d\u2019y faire attention et nous regardons \u00e0 travers elles les informations et les activit\u00e9s pour lesquelles nous les utilisons\u201d. Ceci suscite de telles inqui\u00e9tudes en termes d\u2019agentivit\u00e9, de transparence et de confiance, notamment quand il s\u2019agit de jeunes esprits, que les experts ont recommand\u00e9 de rendre les interfaces plus visibles, voire plus difficiles \u00e0 manier<sup>4<\/sup>.<\/p>\n<h3>Qu\u2019y a-t-il au-del\u00e0 : une IA \u00e9thique<\/h3>\n<p class=\"no-indent\">Dans chaque chapitre de ce manuel ouvert, nous avons parl\u00e9 de l\u2019impact p\u00e9dagogique, \u00e9thique et social de l\u2019IA, notamment de l\u2019IA bas\u00e9e sur les donn\u00e9es. Nous avons trait\u00e9, dans les rubriques correspondantes, des questions suivantes : <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual\/\" target=\"_blank\" rel=\"noopener\">les donn\u00e9es et la vie priv\u00e9e, la fiabilit\u00e9 des contenus et l\u2019autonomie de l\u2019utilisateur<\/a>, <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual\/\" target=\"_blank\" rel=\"noopener\">l\u2019impact sur l\u2019identit\u00e9 personnelle<\/a>, <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/issues-with-data-bias-and-fairness\/\" target=\"_blank\" rel=\"noopener\">les biais et l\u2019\u00e9quit\u00e9<\/a> et <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/ai-aied-and-human-agency\/\" target=\"_blank\" rel=\"noopener\">l\u2019agentivit\u00e9<\/a>. Les questions relatives aux moteurs de recherche ont \u00e9t\u00e9 trait\u00e9es dans <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual\/\" target=\"_blank\" rel=\"noopener\">Derri\u00e8re la lentille de recherche : Effets de la recherche sur la soci\u00e9t\u00e9<\/a>, celles relatives aux syst\u00e8mes adaptatifs dans <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/the-flip-side-of-als-some-paradigms-to-take-note-of\/\" target=\"_blank\" rel=\"noopener\">L&rsquo;envers des syst\u00e8mes d&rsquo;apprentissage adaptatif : quelques paradigmes \u00e0 prendre en compte<\/a> et les probl\u00e8mes relatifs \u00e0 l\u2019IA g\u00e9n\u00e9rative dans <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/the-degenerative\/\" target=\"_blank\" rel=\"noopener\">l&rsquo;IA d\u00e9g\u00e9nerative<\/a>. Nous avons analys\u00e9, \u00e0 plusieurs reprises, dans le manuel, des mesures correctives qui pourraient \u00eatre adopt\u00e9es en classe, pour r\u00e9soudre certains probl\u00e8mes particuliers. Nous esp\u00e9rons que ces mesures deviendront moins on\u00e9reuses une fois que nous disposerons de syst\u00e8mes d\u2019IA \u00e9thiques et efficaces dans le domaine de l\u2019\u00e9ducation. Cette IA \u00e9thique serait d\u00e9velopp\u00e9e, d\u00e9ploy\u00e9e et utilis\u00e9e dans le respect des normes et des principes d\u2019\u00e9thique5 et serait responsable et r\u00e9siliente.<\/p>\n<p class=\"indent\">Puisque nous laissons tant de pouvoir aux mod\u00e8les d\u2019IA et \u00e0 leurs programmeurs, vendeurs et \u00e9valuateurs, il est tout \u00e0 fait raisonnable de leur demander d\u2019\u00eatre transparents et d\u2019assumer leurs responsabilit\u00e9s et de r\u00e9parer leurs erreurs quand les choses ne vont pas dans le bon sens6. Nous avons besoin de contrats de niveau de service qui d\u00e9finissent clairement \u201cles services d\u2019assistance et de maintenance et les mesures \u00e0 adopter pour r\u00e9soudre les probl\u00e8mes notifi\u00e9s\u201d<sup>5<\/sup>.<\/p>\n<p class=\"indent\">Une IA r\u00e9siliente devrait accepter ses imperfections, les pr\u00e9voir et pouvoir fonctionner malgr\u00e9 elles. Des syst\u00e8mes d\u2019IA r\u00e9silients devraient conna\u00eetre des d\u00e9faillances pr\u00e9visibles et avoir mis en place des protocoles pour r\u00e9soudre ces d\u00e9faillances<sup>6<\/sup>.<\/p>\n<p class=\"indent\">Dans le domaine de l\u2019\u00e9ducation, l\u2019IA \u00e9tique sera orient\u00e9e par des principes de conception bas\u00e9e sur l\u2019utilisateur et devra prendre en compte tous les aspects de l\u2019\u00e9ducation<sup>7<\/sup>. Les enseignants pourraient v\u00e9rifier son fonctionnement, comprendre ses explications, passer outre ses d\u00e9cisions ou interrompre son fonctionnement sans probl\u00e8mes<sup>8<\/sup>. Ces syst\u00e8mes r\u00e9duiraient la charge de travail de l\u2019enseignant, lui fourniraient des informations d\u00e9taill\u00e9es sur ses \u00e9l\u00e8ves et l\u2019aideraient \u00e0 am\u00e9liorer la port\u00e9e et la qualit\u00e9 de l\u2019enseignement<sup>8<\/sup>. Ils ne nuiraient pas \u00e0 leurs utilisateurs et \u00e0 l\u2019environnement et am\u00e9lioraient le bien-\u00eatre social et \u00e9motionnel des \u00e9l\u00e8ves et des enseignants<sup>5<\/sup>.<\/p>\n<p class=\"indent\">Tant que l\u2019IA \u00e9thique n\u2019existera pas, les enseignants devront tenter de d\u00e9velopper et de participer \u00e0 une communaut\u00e9 de coll\u00e8gues et p\u00e9dagogues pour am\u00e9liorer la sensibilisation aux probl\u00e8mes, partager des exp\u00e9riences et de meilleures pratiques et identifier des fournisseurs fiables d\u2019IA. Ils pourraient \u00e9galement encourager la participation des \u00e9l\u00e8ves et de leurs parents \u00e0 des d\u00e9bats et des d\u00e9cisions, pour mieux r\u00e9pondre aux diff\u00e9rentes pr\u00e9occupations et d\u00e9velopper un environnement empreint de camaraderie et de confiance. Ils devront tout mettre en \u0153uvre pour se tenir au courant des derni\u00e8res tendances de l\u2019AIED et acqu\u00e9rir des comp\u00e9tences l\u00e0 o\u00f9 c\u2019est possible et chaque fois que possible<sup>5<\/sup>.<\/p>\n<hr \/>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>1\u00a0<\/sup>Bommasani, R., et al, <em>Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?<\/em>, Advances in Neural Information Processing Systems, 2022.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>2\u00a0<\/sup>Varshney, L., <em>Respect for Human Autonomy in Recommender System<\/em>, 3rd FAccTRec Workshop on Responsible Recommendation, 2020.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>3 <\/sup>Holmes, W., Miao, F., <em>Guidance for generative AI in education and research<\/em>, UNESCO, Paris, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>4 <\/sup>Susser, D., <em>Invisible Influence: Artificial Intelligence and the Ethics of Adaptive Choice Architectures,<\/em> Proceedings of the 2019 AAAI\/ACM Conference on AI, Ethics, and Society, Association for Computing Machinery, New York, 403\u2013408, 2019.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>5 <\/sup><a href=\"https:\/\/education.ec.europa.eu\/news\/ethical-guidelines-on-the-use-of-artificial-intelligence-and-data-in-teaching-and-learning-for-educators\">Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators<\/a>, European Commission, October 2022.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>6 <\/sup>Schneier, B., <em>Data and Goliath: The Hidden Battles to Capture Your Data and Control Your World, <\/em>W. W. Norton &amp; Company, 2015.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>7 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, <em>What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>8 <\/sup>U.S. Department of Education, Office of Educational Technology, <em>Artificial Intelligence and Future of Teaching and Learning: Insights and Recommendations<\/em>, Washington, DC, 2023.<\/p>\n","protected":false},"author":1,"menu_order":6,"template":"","meta":{"pb_show_title":"","pb_short_title":"","pb_subtitle":"","pb_authors":[],"pb_section_license":""},"chapter-type":[],"contributor":[],"license":[],"part":133,"_links":{"self":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/150"}],"collection":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters"}],"about":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/types\/chapter"}],"author":[{"embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/users\/1"}],"version-history":[{"count":1,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/150\/revisions"}],"predecessor-version":[{"id":151,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/150\/revisions\/151"}],"part":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/parts\/133"}],"metadata":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/150\/metadata\/"}],"wp:attachment":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/media?parent=150"}],"wp:term":[{"taxonomy":"chapter-type","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapter-type?post=150"},{"taxonomy":"contributor","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/contributor?post=150"},{"taxonomy":"license","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/license?post=150"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}