{"id":98,"date":"2023-11-30T16:30:07","date_gmt":"2023-11-30T16:30:07","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/what-not-to-do-with-data-issues-of-personal-identity-bias-and-fairness\/"},"modified":"2024-01-31T11:50:47","modified_gmt":"2024-01-31T11:50:47","slug":"what-not-to-do-with-data-issues-of-personal-identity-bias-and-fairness","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/what-not-to-do-with-data-issues-of-personal-identity-bias-and-fairness\/","title":{"raw":"Probl\u00e8mes li\u00e9s aux donn\u00e9es : identit\u00e9 personnelle","rendered":"Probl\u00e8mes li\u00e9s aux donn\u00e9es : identit\u00e9 personnelle"},"content":{"raw":"<p class=\"no-indent\">Des donn\u00e9es nous concernant sont collect\u00e9es sans cesse par le biais de nos smartphones et de nos ordinateurs. L\u2019interpr\u00e9tation de ces donn\u00e9es d\u00e9pend de la personne qui les enregistre et de la personne qui les consulte. Prenons un exemple. Google cr\u00e9e sa version num\u00e9rique de nous, <em>l<\/em><em>\u2019<\/em><em>identit<\/em><em>\u00e9<\/em><em> num<\/em><em>\u00e9<\/em><em>rique<\/em>, \u00e0 partir de ce que nous faisons sur ses plateformes. Il nous \u00e9tiquette en fonction de ces donn\u00e9es pour r\u00e9organiser, ensuite, en cons\u00e9quence ce que nous voyons sur ses moteurs de recherche et ses applications. Il nous \u00ab\u00a0revend\u00a0\u00bb \u00e0 des entreprises, qui cherchent probablement \u00e0 nous revendre leurs produits ou leurs prestations.<\/p>\n\n<div class=\"textbox textbox--exercises\"><header class=\"textbox__header\">\n<p class=\"textbox__title\"><strong>Activit\u00e9<\/strong><\/p>\n\n<\/header>\n<div class=\"textbox__content\">\n\nAcc\u00e9dez \u00e0 votre profil \u201cAd Settings\u201d [Param\u00e8tres des publicit\u00e9s] sur Google, Facebook ou Instagram. Ou bien, si vous utilisez r\u00e9guli\u00e8rement une autre plateforme, recherchez leurs param\u00e8tres des annonces et v\u00e9rifiez si vous pouvez y acc\u00e9der. Ils font partie de notre identit\u00e9 num\u00e9rique.\n\nQuestions \u00e0 traiter :\n<ul>\n \t<li>A quoi ressemble votre \u201cidentit\u00e9 num\u00e9rique\u201c ? Refl\u00e8te-t-elle vos donn\u00e9es d\u00e9mographiques et vos int\u00e9r\u00eats ? \u00cates-vous d\u2019accord avec cette identit\u00e9 ?<\/li>\n \t<li>A votre avis, comment Google a-t-il pris une d\u00e9cision concernant chacun de ces int\u00e9r\u00eats ? Quelles donn\u00e9es auraient-elles pu \u00eatre prises en consid\u00e9ration ? Ces cat\u00e9gories d\u2019int\u00e9r\u00eats changent fr\u00e9quemment et sont r\u00e9currentes et un int\u00e9r\u00eat auquel vous \u00eates associ\u00e9 peut d\u00e9terminer le type d\u2019int\u00e9r\u00eat auquel vous allez \u00eatre associ\u00e9 la fois suivante, du point de vue de la publicit\u00e9. Qu\u2019est-ce que cela nous dit sur le profilage ?<\/li>\n \t<li>Partagez-vous l\u2019opinion de certains scientifiques, comme Cheney-Lippold et Bassett, selon lesquels ceci comporte une r\u00e9duction excessive de l\u2019identit\u00e9 ? En quoi cela repr\u00e9sente une pr\u00e9occupation \u00e9thique ?<\/li>\n \t<li>D\u2019un point de vue \u00e9thique, est-il plus important que ces profils interpr\u00e8tent \u201ccorrectement\u201d ou \u201cde mani\u00e8re erron\u00e9e\u201d vos int\u00e9r\u00eats ?<\/li>\n \t<li>Votre genre et votre origine ethnique jouent-il un r\u00f4le dans la mani\u00e8re dont vous \u00eates \u00e9tiquet\u00e9(e) ? Qu\u2019est-ce que vous ressentez \u00e0 ce sujet ?<\/li>\n<\/ul>\n<\/div>\n<\/div>\n<p class=\"no-indent\">Cette activit\u00e9 a \u00e9t\u00e9 adapt\u00e9e \u00e0 partir de <em>Identity,<\/em> <em>Advertising, and Algorithmic Targeting: Or How (Not)<\/em> <em>to Target Your \u201cIdeal User.<\/em><em>\u201d,<\/em> faisant l\u2019objet de la licence <a href=\"https:\/\/creativecommons.org\/licenses\/by-nc\/4.0\/\" target=\"_blank\" rel=\"noopener\">CC BY NC 4.0<\/a><sup>1<\/sup>.<\/p>\n<p class=\"indent\">Les \u00e9tiquettes que Google nous attribue \u2013 homme, femme, jeune ou \u00e2g\u00e9- n\u2019ont rien \u00e0 voir avec notre identit\u00e9, nos besoins ou nos valeurs. Une personne peut \u00eatre de sexe masculin si elle regarde certains types de sites (par ex. des sites de vente de mat\u00e9riel de bricolage) et ach\u00e8te certains produits<sup>2<\/sup>. Demain, un homme pourra devenir une femme si son activit\u00e9 ou si l\u2019activit\u00e9 d\u2019un million d\u2019autres \u00eatres humains qui ont contribu\u00e9 \u00e0 la d\u00e9finition du comportement masculin change. L\u2019identit\u00e9 que nous attribuent certaines entreprises peut varier en fonction de ses propres int\u00e9r\u00eats.<\/p>\n<p class=\"indent\">Il en va de m\u00eame de nos \u00e9tudiants lorsqu\u2019ils interagissent avec un logiciel d\u2019apprentissage personnalis\u00e9 et qu\u2019ils font l\u2019objet d\u2019analyses d\u2019apprentissage. Leur identit\u00e9 num\u00e9rique, leurs performances, leur engagement et leur satisfaction, tels qu\u2019ils sont per\u00e7us par ces syst\u00e8mes, sont ensuite utilis\u00e9s pour \u00e9valuer non seulement leur propre performance, mais aussi celle de leurs coll\u00e8gues, de leurs enseignants, de leurs \u00e9coles et du syst\u00e8me \u00e9ducatif lui-m\u00eame<sup>3<\/sup>.<\/p>\n<p class=\"indent\">Pourquoi est-ce un probl\u00e8me ?<\/p>\n\n<ol>\n \t<li>Ces profils se fondent souvent sur des donn\u00e9es \u00ab\u00a0bruyantes\u00a0\u00bb et inexactes provenant de diff\u00e9rentes sources et peuvent \u00eatre extr\u00eamement trompeurs<sup>4<\/sup>.<\/li>\n \t<li>Ces identit\u00e9s num\u00e9riques peuvent varier en fonction de la perception que l\u2019\u00e9l\u00e8ve a de lui\/elle-m\u00eame et des autres, de la mani\u00e8re dont les enseignants voient chaque \u00e9l\u00e8ve, de la mani\u00e8re dont le syst\u00e8me per\u00e7oit chaque enseignant, dont la soci\u00e9t\u00e9 consid\u00e8re la p\u00e9dagogie et l\u2019\u00e9ducation et dont chacun r\u00e9agit aux d\u00e9cisions et aux retours d\u2019exp\u00e9rience<sup>3<\/sup>.<\/li>\n \t<li>Et pourtant, ces jugements sur la personnalit\u00e9 d\u2019un individu sont \u00e9mis \u00e0 l\u2019insu de celui-ci et sans son consentement, par des bo\u00eetes noires auxquelles personne n\u2019a acc\u00e8s. Souvent, il n\u2019y a aucun contr\u00f4le sur les donn\u00e9es enregistr\u00e9es, sur le lieu et le moment de l\u2019enregistrement et sur la mani\u00e8re dont les d\u00e9cisions sont prises \u00e0 partir de ces donn\u00e9es<sup>4,1<\/sup>.\nLes \u00e9tudiants et les enseignants perdent leur pouvoir de s\u2019exprimer et leur <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/ai-aied-and-human-agency\/\" target=\"_blank\" rel=\"noopener\">agen<\/a><a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/ai-aied-and-human-agency\/\">tivit\u00e9<\/a>.<\/li>\n \t<li>Ces donn\u00e9es et ces jugements ont tendance \u00e0 persister, en tant que donn\u00e9es stock\u00e9es, bien apr\u00e8s que l\u2019\u00e9v\u00e9nement qui a \u00e9t\u00e9 enregistr\u00e9 s\u2019est produit<sup>4<\/sup>.<\/li>\n \t<li>L\u2019accent mis sur la mesure des performances, qui fait que les \u00e9tudiants, les enseignants et le personnel sont constamment \u00e9valu\u00e9s, compar\u00e9s et class\u00e9s, peut susciter des r\u00e9actions telles que l\u2019anxi\u00e9t\u00e9 et l\u2019esprit de comp\u00e9tition au lieu de stimuler la motivation et le d\u00e9veloppement<sup>3<\/sup>.<\/li>\n \t<li>Les aspects de l\u2019\u00e9ducation qui peuvent \u00eatre imm\u00e9diatement saisis et analys\u00e9s prennent plus d\u2019importance et nous poussent \u00e0 rechercher d'autres r\u00e9sultats et \u00e0 adopter des m\u00e9thodes diff\u00e9rentes de ceux\/celles qui nous para\u00eetraient important(e)s par ailleurs.<\/li>\n \t<li>Les entit\u00e9s qui ont recours \u00e0 la \u201cdataification\u201d ont le pouvoir de d\u00e9finir \u201cce qui \u2018compte\u2019 en termes d\u2019\u00e9ducation de qualit\u00e9 ou de d\u00e9finition d\u2019un bon \u00e9l\u00e8ve ou d\u2019un enseignant efficace<sup>3<\/sup>.\u201d<\/li>\n<\/ol>\n<p class=\"no-indent\">Voici quelques contremesures que les experts encouragent les enseignants \u00e0 adopter :<\/p>\n\n<ol>\n \t<li><strong>Prendre en consid\u00e9ration les individus, leur identit\u00e9, int\u00e9grit\u00e9 et dignit\u00e9<\/strong> : \u201cApprocher les gens en respectant leur valeur intrins\u00e8que et non pas en tant qu\u2019objets de donn\u00e9es ou un moyen pour parvenir \u00e0 une fin\u201d<sup>5<\/sup>. Les personnes ne sont pas que des donn\u00e9es ; l\u2019\u00e9tiquette qu\u2019un logiciel peut attribuer \u00e0 des \u00e9l\u00e8ves pour personnaliser leurs parcours p\u00e9dagogiques ou les r\u00e9partir en groupes ne correspond pas \u00e0 leur identit\u00e9 r\u00e9elle<sup>5<\/sup>.<\/li>\n \t<li><strong>Savoir g\u00e9rer et interpr\u00e9ter les donn\u00e9es<\/strong> : apprendre \u00e0 manier les donn\u00e9es correctement. Apprendre \u00e0 quoi servent les diff\u00e9rents syst\u00e8mes bas\u00e9s sur les donn\u00e9es, comment ils fonctionnent, quel est leur usage recommand\u00e9 et comment interpr\u00e9ter les informations qu\u2019ils g\u00e9n\u00e8rent et les d\u00e9cisions qu\u2019ils prennent.<\/li>\n \t<li><strong>Garder une distance critique vis-\u00e0-vis des entreprises et des logiciels de l\u2019AIED<\/strong> : remettre en question leurs revendications, demander des preuves de leur validit\u00e9 et de leur fiabilit\u00e9, v\u00e9rifier si le syst\u00e8me est conforme aux directives de votre institution et de votre pays en mati\u00e8re d\u2019\u00e9thique<sup>3<\/sup>.<\/li>\n \t<li><strong>V\u00e9rifier les effets que ces syst\u00e8mes produisent sur vous, sur vos \u00e9l\u00e8ves, sur leur apprentissage et l\u2019ambiance dans la classe.<\/strong><\/li>\n \t<li><strong>Exiger des syst\u00e8mes ouverts, que vous pouvez ma\u00eetriser et qui vous permettent de passer outre les d\u00e9cisions automatis\u00e9es.<\/strong> Intervenir, expliquer ou passer outre chaque fois que vous l\u2019estimez n\u00e9cessaire.<\/li>\n<\/ol>\n\n<hr>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>1\u00a0<\/sup>Kant, T., <em><a href=\"https:\/\/scalar.usc.edu\/works\/artificial-intelligence-for-teachers\/ https:\/\/mit-serc.pubpub.org\/pub\/identity-advertising-and-algorithmic-targeting\" target=\"_blank\" rel=\"noopener\" data-cke-saved-href=\"https:\/\/scalar.usc.edu\/works\/artificial-intelligence-for-teachers\/ https:\/\/mit-serc.pubpub.org\/pub\/identity-advertising-and-algorithmic-targeting\">Identity, Advertising, and Algorithmic Targeting: Or How (Not) to Target Your \u201cIdeal User.<\/a>\u201d<\/em> MIT Case Studies in Social and Ethical Responsibilities of Computing, 2021<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>2\u00a0<\/sup>Cheney-Lippold, J., W<i>e Are Data: Algorithms and the Making of Our Digital Selves, <\/i>NYU Press, 2017<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>3\u00a0<\/sup>Williamson, B., Bayne, S., Shay, S., <em>The datafication of teaching in Higher Education: critical issues and perspectives<\/em>, Teaching in Higher Education, 25:4, 351-365, 2020<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>4 <\/sup>Kelleher, J.D, Tierney, B, <em>Data Science<\/em>, MIT Press, London, 2018.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>5 <\/sup><a href=\"https:\/\/education.ec.europa.eu\/news\/ethical-guidelines-on-the-use-of-artificial-intelligence-and-data-in-teaching-and-learning-for-educators\" target=\"_blank\" rel=\"noopener\">Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators<\/a>, European Commission, October 2022<\/p>\n<p class=\"hanging-indent\"><\/p>","rendered":"<p class=\"no-indent\">Des donn\u00e9es nous concernant sont collect\u00e9es sans cesse par le biais de nos smartphones et de nos ordinateurs. L\u2019interpr\u00e9tation de ces donn\u00e9es d\u00e9pend de la personne qui les enregistre et de la personne qui les consulte. Prenons un exemple. Google cr\u00e9e sa version num\u00e9rique de nous, <em>l<\/em><em>\u2019<\/em><em>identit<\/em><em>\u00e9<\/em><em> num<\/em><em>\u00e9<\/em><em>rique<\/em>, \u00e0 partir de ce que nous faisons sur ses plateformes. Il nous \u00e9tiquette en fonction de ces donn\u00e9es pour r\u00e9organiser, ensuite, en cons\u00e9quence ce que nous voyons sur ses moteurs de recherche et ses applications. Il nous \u00ab\u00a0revend\u00a0\u00bb \u00e0 des entreprises, qui cherchent probablement \u00e0 nous revendre leurs produits ou leurs prestations.<\/p>\n<div class=\"textbox textbox--exercises\">\n<header class=\"textbox__header\">\n<p class=\"textbox__title\"><strong>Activit\u00e9<\/strong><\/p>\n<\/header>\n<div class=\"textbox__content\">\n<p>Acc\u00e9dez \u00e0 votre profil \u201cAd Settings\u201d [Param\u00e8tres des publicit\u00e9s] sur Google, Facebook ou Instagram. Ou bien, si vous utilisez r\u00e9guli\u00e8rement une autre plateforme, recherchez leurs param\u00e8tres des annonces et v\u00e9rifiez si vous pouvez y acc\u00e9der. Ils font partie de notre identit\u00e9 num\u00e9rique.<\/p>\n<p>Questions \u00e0 traiter :<\/p>\n<ul>\n<li>A quoi ressemble votre \u201cidentit\u00e9 num\u00e9rique\u201c ? Refl\u00e8te-t-elle vos donn\u00e9es d\u00e9mographiques et vos int\u00e9r\u00eats ? \u00cates-vous d\u2019accord avec cette identit\u00e9 ?<\/li>\n<li>A votre avis, comment Google a-t-il pris une d\u00e9cision concernant chacun de ces int\u00e9r\u00eats ? Quelles donn\u00e9es auraient-elles pu \u00eatre prises en consid\u00e9ration ? Ces cat\u00e9gories d\u2019int\u00e9r\u00eats changent fr\u00e9quemment et sont r\u00e9currentes et un int\u00e9r\u00eat auquel vous \u00eates associ\u00e9 peut d\u00e9terminer le type d\u2019int\u00e9r\u00eat auquel vous allez \u00eatre associ\u00e9 la fois suivante, du point de vue de la publicit\u00e9. Qu\u2019est-ce que cela nous dit sur le profilage ?<\/li>\n<li>Partagez-vous l\u2019opinion de certains scientifiques, comme Cheney-Lippold et Bassett, selon lesquels ceci comporte une r\u00e9duction excessive de l\u2019identit\u00e9 ? En quoi cela repr\u00e9sente une pr\u00e9occupation \u00e9thique ?<\/li>\n<li>D\u2019un point de vue \u00e9thique, est-il plus important que ces profils interpr\u00e8tent \u201ccorrectement\u201d ou \u201cde mani\u00e8re erron\u00e9e\u201d vos int\u00e9r\u00eats ?<\/li>\n<li>Votre genre et votre origine ethnique jouent-il un r\u00f4le dans la mani\u00e8re dont vous \u00eates \u00e9tiquet\u00e9(e) ? Qu\u2019est-ce que vous ressentez \u00e0 ce sujet ?<\/li>\n<\/ul>\n<\/div>\n<\/div>\n<p class=\"no-indent\">Cette activit\u00e9 a \u00e9t\u00e9 adapt\u00e9e \u00e0 partir de <em>Identity,<\/em> <em>Advertising, and Algorithmic Targeting: Or How (Not)<\/em> <em>to Target Your \u201cIdeal User.<\/em><em>\u201d,<\/em> faisant l\u2019objet de la licence <a href=\"https:\/\/creativecommons.org\/licenses\/by-nc\/4.0\/\" target=\"_blank\" rel=\"noopener\">CC BY NC 4.0<\/a><sup>1<\/sup>.<\/p>\n<p class=\"indent\">Les \u00e9tiquettes que Google nous attribue \u2013 homme, femme, jeune ou \u00e2g\u00e9- n\u2019ont rien \u00e0 voir avec notre identit\u00e9, nos besoins ou nos valeurs. Une personne peut \u00eatre de sexe masculin si elle regarde certains types de sites (par ex. des sites de vente de mat\u00e9riel de bricolage) et ach\u00e8te certains produits<sup>2<\/sup>. Demain, un homme pourra devenir une femme si son activit\u00e9 ou si l\u2019activit\u00e9 d\u2019un million d\u2019autres \u00eatres humains qui ont contribu\u00e9 \u00e0 la d\u00e9finition du comportement masculin change. L\u2019identit\u00e9 que nous attribuent certaines entreprises peut varier en fonction de ses propres int\u00e9r\u00eats.<\/p>\n<p class=\"indent\">Il en va de m\u00eame de nos \u00e9tudiants lorsqu\u2019ils interagissent avec un logiciel d\u2019apprentissage personnalis\u00e9 et qu\u2019ils font l\u2019objet d\u2019analyses d\u2019apprentissage. Leur identit\u00e9 num\u00e9rique, leurs performances, leur engagement et leur satisfaction, tels qu\u2019ils sont per\u00e7us par ces syst\u00e8mes, sont ensuite utilis\u00e9s pour \u00e9valuer non seulement leur propre performance, mais aussi celle de leurs coll\u00e8gues, de leurs enseignants, de leurs \u00e9coles et du syst\u00e8me \u00e9ducatif lui-m\u00eame<sup>3<\/sup>.<\/p>\n<p class=\"indent\">Pourquoi est-ce un probl\u00e8me ?<\/p>\n<ol>\n<li>Ces profils se fondent souvent sur des donn\u00e9es \u00ab\u00a0bruyantes\u00a0\u00bb et inexactes provenant de diff\u00e9rentes sources et peuvent \u00eatre extr\u00eamement trompeurs<sup>4<\/sup>.<\/li>\n<li>Ces identit\u00e9s num\u00e9riques peuvent varier en fonction de la perception que l\u2019\u00e9l\u00e8ve a de lui\/elle-m\u00eame et des autres, de la mani\u00e8re dont les enseignants voient chaque \u00e9l\u00e8ve, de la mani\u00e8re dont le syst\u00e8me per\u00e7oit chaque enseignant, dont la soci\u00e9t\u00e9 consid\u00e8re la p\u00e9dagogie et l\u2019\u00e9ducation et dont chacun r\u00e9agit aux d\u00e9cisions et aux retours d\u2019exp\u00e9rience<sup>3<\/sup>.<\/li>\n<li>Et pourtant, ces jugements sur la personnalit\u00e9 d\u2019un individu sont \u00e9mis \u00e0 l\u2019insu de celui-ci et sans son consentement, par des bo\u00eetes noires auxquelles personne n\u2019a acc\u00e8s. Souvent, il n\u2019y a aucun contr\u00f4le sur les donn\u00e9es enregistr\u00e9es, sur le lieu et le moment de l\u2019enregistrement et sur la mani\u00e8re dont les d\u00e9cisions sont prises \u00e0 partir de ces donn\u00e9es<sup>4,1<\/sup>.<br \/>\nLes \u00e9tudiants et les enseignants perdent leur pouvoir de s\u2019exprimer et leur <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/ai-aied-and-human-agency\/\" target=\"_blank\" rel=\"noopener\">agen<\/a><a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/ai-aied-and-human-agency\/\">tivit\u00e9<\/a>.<\/li>\n<li>Ces donn\u00e9es et ces jugements ont tendance \u00e0 persister, en tant que donn\u00e9es stock\u00e9es, bien apr\u00e8s que l\u2019\u00e9v\u00e9nement qui a \u00e9t\u00e9 enregistr\u00e9 s\u2019est produit<sup>4<\/sup>.<\/li>\n<li>L\u2019accent mis sur la mesure des performances, qui fait que les \u00e9tudiants, les enseignants et le personnel sont constamment \u00e9valu\u00e9s, compar\u00e9s et class\u00e9s, peut susciter des r\u00e9actions telles que l\u2019anxi\u00e9t\u00e9 et l\u2019esprit de comp\u00e9tition au lieu de stimuler la motivation et le d\u00e9veloppement<sup>3<\/sup>.<\/li>\n<li>Les aspects de l\u2019\u00e9ducation qui peuvent \u00eatre imm\u00e9diatement saisis et analys\u00e9s prennent plus d\u2019importance et nous poussent \u00e0 rechercher d&rsquo;autres r\u00e9sultats et \u00e0 adopter des m\u00e9thodes diff\u00e9rentes de ceux\/celles qui nous para\u00eetraient important(e)s par ailleurs.<\/li>\n<li>Les entit\u00e9s qui ont recours \u00e0 la \u201cdataification\u201d ont le pouvoir de d\u00e9finir \u201cce qui \u2018compte\u2019 en termes d\u2019\u00e9ducation de qualit\u00e9 ou de d\u00e9finition d\u2019un bon \u00e9l\u00e8ve ou d\u2019un enseignant efficace<sup>3<\/sup>.\u201d<\/li>\n<\/ol>\n<p class=\"no-indent\">Voici quelques contremesures que les experts encouragent les enseignants \u00e0 adopter :<\/p>\n<ol>\n<li><strong>Prendre en consid\u00e9ration les individus, leur identit\u00e9, int\u00e9grit\u00e9 et dignit\u00e9<\/strong> : \u201cApprocher les gens en respectant leur valeur intrins\u00e8que et non pas en tant qu\u2019objets de donn\u00e9es ou un moyen pour parvenir \u00e0 une fin\u201d<sup>5<\/sup>. Les personnes ne sont pas que des donn\u00e9es ; l\u2019\u00e9tiquette qu\u2019un logiciel peut attribuer \u00e0 des \u00e9l\u00e8ves pour personnaliser leurs parcours p\u00e9dagogiques ou les r\u00e9partir en groupes ne correspond pas \u00e0 leur identit\u00e9 r\u00e9elle<sup>5<\/sup>.<\/li>\n<li><strong>Savoir g\u00e9rer et interpr\u00e9ter les donn\u00e9es<\/strong> : apprendre \u00e0 manier les donn\u00e9es correctement. Apprendre \u00e0 quoi servent les diff\u00e9rents syst\u00e8mes bas\u00e9s sur les donn\u00e9es, comment ils fonctionnent, quel est leur usage recommand\u00e9 et comment interpr\u00e9ter les informations qu\u2019ils g\u00e9n\u00e8rent et les d\u00e9cisions qu\u2019ils prennent.<\/li>\n<li><strong>Garder une distance critique vis-\u00e0-vis des entreprises et des logiciels de l\u2019AIED<\/strong> : remettre en question leurs revendications, demander des preuves de leur validit\u00e9 et de leur fiabilit\u00e9, v\u00e9rifier si le syst\u00e8me est conforme aux directives de votre institution et de votre pays en mati\u00e8re d\u2019\u00e9thique<sup>3<\/sup>.<\/li>\n<li><strong>V\u00e9rifier les effets que ces syst\u00e8mes produisent sur vous, sur vos \u00e9l\u00e8ves, sur leur apprentissage et l\u2019ambiance dans la classe.<\/strong><\/li>\n<li><strong>Exiger des syst\u00e8mes ouverts, que vous pouvez ma\u00eetriser et qui vous permettent de passer outre les d\u00e9cisions automatis\u00e9es.<\/strong> Intervenir, expliquer ou passer outre chaque fois que vous l\u2019estimez n\u00e9cessaire.<\/li>\n<\/ol>\n<hr \/>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>1\u00a0<\/sup>Kant, T., <em><a href=\"https:\/\/scalar.usc.edu\/works\/artificial-intelligence-for-teachers\/ https:\/\/mit-serc.pubpub.org\/pub\/identity-advertising-and-algorithmic-targeting\" target=\"_blank\" rel=\"noopener\" data-cke-saved-href=\"https:\/\/scalar.usc.edu\/works\/artificial-intelligence-for-teachers\/ https:\/\/mit-serc.pubpub.org\/pub\/identity-advertising-and-algorithmic-targeting\">Identity, Advertising, and Algorithmic Targeting: Or How (Not) to Target Your \u201cIdeal User.<\/a>\u201d<\/em> MIT Case Studies in Social and Ethical Responsibilities of Computing, 2021<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>2\u00a0<\/sup>Cheney-Lippold, J., W<i>e Are Data: Algorithms and the Making of Our Digital Selves, <\/i>NYU Press, 2017<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>3\u00a0<\/sup>Williamson, B., Bayne, S., Shay, S., <em>The datafication of teaching in Higher Education: critical issues and perspectives<\/em>, Teaching in Higher Education, 25:4, 351-365, 2020<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>4 <\/sup>Kelleher, J.D, Tierney, B, <em>Data Science<\/em>, MIT Press, London, 2018.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>5 <\/sup><a href=\"https:\/\/education.ec.europa.eu\/news\/ethical-guidelines-on-the-use-of-artificial-intelligence-and-data-in-teaching-and-learning-for-educators\" target=\"_blank\" rel=\"noopener\">Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators<\/a>, European Commission, October 2022<\/p>\n<p class=\"hanging-indent\">\n","protected":false},"author":1,"menu_order":5,"template":"","meta":{"pb_show_title":"","pb_short_title":"","pb_subtitle":"","pb_authors":[],"pb_section_license":""},"chapter-type":[],"contributor":[],"license":[],"part":82,"_links":{"self":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/98"}],"collection":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters"}],"about":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/types\/chapter"}],"author":[{"embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/users\/1"}],"version-history":[{"count":1,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/98\/revisions"}],"predecessor-version":[{"id":99,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/98\/revisions\/99"}],"part":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/parts\/82"}],"metadata":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/98\/metadata\/"}],"wp:attachment":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/media?parent=98"}],"wp:term":[{"taxonomy":"chapter-type","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapter-type?post=98"},{"taxonomy":"contributor","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/contributor?post=98"},{"taxonomy":"license","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/license?post=98"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}