![\"\"](\"http:\/\/aiopentext.itd.cnr.it\/wp-content\/uploads\/sites\/15\/2023\/11\/ch1-Page-5-translate-1024x432-1.png\"){kind=spacer}
\"Female mechanic\" et\"male nurse\" deviennent\u00a0 \"Male mechanic\" et \"female nurse\" apr\u00e8s une traduction de l'Anglais au Fran\u00e7ais puis du Fran\u00e7ais \u00e0 l'Anglais. Exemple inspir\u00e9 par Barocas, S., Hardt, M., Narayanan, A., Fairness and machine learning Limitations and Opportunities<\/em>, \u00e0 paraitre.[\/caption]\nDes probl\u00e8mes apparaissent avec l'IA d\u00e8s qu'un cas individuel diff\u00e8re du cas majoritaire (que celui-ci repr\u00e9sente fid\u00e8lement la majorit\u00e9 dans le monde r\u00e9el ou simplement la majorit\u00e9 telle qu'elle est repr\u00e9sent\u00e9e par Internet).\u00a0Dans les \u00e9coles, l'enseignant doit compenser les d\u00e9faillances du syst\u00e8me. Et, si n\u00e9cessaire, diriger l'attention des \u00e9l\u00e8ves vers le texte alternatif.<\/p>\n\n
Explorez<\/strong><\/p>\n\n<\/header>\n Pouvez-vous chasser un st\u00e9r\u00e9otype dans Google Translate<\/a>? Jouez avec la traduction de et vers diff\u00e9rentes langues. En cliquant sur les deux fl\u00e8ches entre les cases, vous pouvez inverser ce qui est traduit (C'est ce que nous avons fait pour l'exemple ci-dessus).\nDes langues comme le turc ont le m\u00eame mot pour \"il\" et \"elle\". De nombreux st\u00e9r\u00e9otypes apparaissent lorsque vous traduisez du turc et inversement. Notez que de nombreuses langues ont un biais masculin - une personne inconnue est suppos\u00e9e \u00eatre un homme. Ce n'est pas le biais de l'application. Ce qui est choquant dans notre exemple ci-dessus, c'est que l'infirmier est transform\u00e9 en femme.<\/p>\n\n<\/div>\n De par sa nature m\u00eame, la pr\u00e9diction peut \u00eatre erron\u00e9e. Dans de nombreuses applications, il est acceptable d'avoir cette erreur. Dans certains cas, elle ne l'est pas. De plus, la fa\u00e7on dont cette erreur est calcul\u00e9e n'est pas fixe. Il existe diff\u00e9rentes mesures et le programmeur choisit celle qui lui semble la plus pertinente. Souvent, la pr\u00e9cision change en fonction de l'entr\u00e9e elle-m\u00eame.<\/p>\n Puisque, dans une salle de classe, ces syst\u00e8mes font des pr\u00e9dictions sur les enfants, c'est \u00e0 l'enseignant de juger ce qui est acceptable et d'agir lorsqu'une d\u00e9cision prise par l'IA n'est pas appropri\u00e9e. Pour ce faire, un petit historique des techniques d'IA et des erreurs courantes qui leur sont associ\u00e9es sera tr\u00e8s utile.<\/p>\n\n\n 1 <\/sup>Barocas, S.,\u00a0 Hardt, M., Narayanan, A., Fairness and machine learning Limitations and Opportunities<\/a><\/em>, 2022.<\/a><\/p>","rendered":" La deuxi\u00e8me position extr\u00eame en mati\u00e8re d’IA est l’utilisation inconsid\u00e9r\u00e9e ou l’abus de cette technologie.\u00a0L’intelligence artificielle fonctionne diff\u00e9remment de l’intelligence humaine. Que ce soit en raison de la nature de la t\u00e2che, de sa configuration ou des donn\u00e9es, les syst\u00e8mes d’IA peuvent fonctionner diff\u00e9remment de ce que l’on attend d’eux.<\/p>\n Par exemple, une application d\u00e9velopp\u00e9e \u00e0 partir d’un ensemble de donn\u00e9es dans un but pr\u00e9cis ne fonctionnera pas aussi bien sur d’autres donn\u00e9es dans un autre but. Il est payant de conna\u00eetre les limites de l’intelligence artificielle et d’y pallier : il est judicieux de ne pas se contenter de l’IA mais d’en conna\u00eetre les avantages et les limites.<\/p>\n Google translate apprend \u00e0 traduire \u00e0 partir d’Internet. Ses \u00a0\u00bb explorateurs de donn\u00e9es \u00a0\u00bb parcourent le Web public \u00e0 la recherche de donn\u00e9es \u00e0 partir desquelles ils peuvent apprendre. Outre le langage, l’IA apprend que le nombre de m\u00e9caniciens masculins est sup\u00e9rieur \u00e0 celui des m\u00e9caniciennes. Que le nombre d’infirmi\u00e8res \u00e9clipse celui des infirmiers. Elle ne peut pas faire la diff\u00e9rence entre ce qui est \u00ab\u00a0vrai\u00a0\u00bb et ce qui est le r\u00e9sultat de st\u00e9r\u00e9otypes et autres pr\u00e9jug\u00e9s. Ainsi, Google Translate finit par propager ce qu’il apprend, renfor\u00e7ant encore plus les st\u00e9r\u00e9otypes1<\/sup>:<\/p>\n Des probl\u00e8mes apparaissent avec l’IA d\u00e8s qu’un cas individuel diff\u00e8re du cas majoritaire (que celui-ci repr\u00e9sente fid\u00e8lement la majorit\u00e9 dans le monde r\u00e9el ou simplement la majorit\u00e9 telle qu’elle est repr\u00e9sent\u00e9e par Internet).\u00a0Dans les \u00e9coles, l’enseignant doit compenser les d\u00e9faillances du syst\u00e8me. Et, si n\u00e9cessaire, diriger l’attention des \u00e9l\u00e8ves vers le texte alternatif.<\/p>\n Explorez<\/strong><\/p>\n<\/header>\n Pouvez-vous chasser un st\u00e9r\u00e9otype dans Google Translate<\/a>? Jouez avec la traduction de et vers diff\u00e9rentes langues. En cliquant sur les deux fl\u00e8ches entre les cases, vous pouvez inverser ce qui est traduit (C’est ce que nous avons fait pour l’exemple ci-dessus). De par sa nature m\u00eame, la pr\u00e9diction peut \u00eatre erron\u00e9e. Dans de nombreuses applications, il est acceptable d’avoir cette erreur. Dans certains cas, elle ne l’est pas. De plus, la fa\u00e7on dont cette erreur est calcul\u00e9e n’est pas fixe. Il existe diff\u00e9rentes mesures et le programmeur choisit celle qui lui semble la plus pertinente. Souvent, la pr\u00e9cision change en fonction de l’entr\u00e9e elle-m\u00eame.<\/p>\n Puisque, dans une salle de classe, ces syst\u00e8mes font des pr\u00e9dictions sur les enfants, c’est \u00e0 l’enseignant de juger ce qui est acceptable et d’agir lorsqu’une d\u00e9cision prise par l’IA n’est pas appropri\u00e9e. Pour ce faire, un petit historique des techniques d’IA et des erreurs courantes qui leur sont associ\u00e9es sera tr\u00e8s utile.<\/p>\n 1 <\/sup>Barocas, S.,\u00a0 Hardt, M., Narayanan, A., Fairness and machine learning Limitations and Opportunities<\/a><\/em>, 2022.<\/a><\/p>\n","protected":false},"author":1,"menu_order":5,"template":"","meta":{"pb_show_title":"","pb_short_title":"","pb_subtitle":"","pb_authors":[],"pb_section_license":""},"chapter-type":[],"contributor":[],"license":[],"part":24,"_links":{"self":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/41"}],"collection":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters"}],"about":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/types\/chapter"}],"author":[{"embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/users\/1"}],"version-history":[{"count":1,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/41\/revisions"}],"predecessor-version":[{"id":42,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/41\/revisions\/42"}],"part":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/parts\/24"}],"metadata":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/41\/metadata\/"}],"wp:attachment":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/media?parent=41"}],"wp:term":[{"taxonomy":"chapter-type","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapter-type?post=41"},{"taxonomy":"contributor","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/contributor?post=41"},{"taxonomy":"license","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/license?post=41"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Plusieurs mesures de pr\u00e9cision<\/h3>\n
![\"\"](\"http:\/\/aiopentext.itd.cnr.it\/wp-content\/uploads\/sites\/15\/2023\/11\/FR-5.1.png\")
Les syst\u00e8mes d'IA font des pr\u00e9dictions - des pr\u00e9dictions sur ce que les \u00e9l\u00e8ves devraient \u00e9tudier ensuite, s'ils ont compris un sujet, quelle r\u00e9partition du groupe est bonne pour une promotion ou quand un \u00e9l\u00e8ve risque d'abandonner ses \u00e9tudes.\u00a0 Souvent, ces pr\u00e9dictions sont accompagn\u00e9es d'un pourcentage. Ce chiffre nous indique \u00e0 quel point le syst\u00e8me estime que ses pr\u00e9dictions sont fiables.<\/p>\n
\nPerp\u00e9tuation des st\u00e9r\u00e9otypes<\/h3>\n
\nDes langues comme le turc ont le m\u00eame mot pour \u00ab\u00a0il\u00a0\u00bb et \u00ab\u00a0elle\u00a0\u00bb. De nombreux st\u00e9r\u00e9otypes apparaissent lorsque vous traduisez du turc et inversement. Notez que de nombreuses langues ont un biais masculin – une personne inconnue est suppos\u00e9e \u00eatre un homme. Ce n’est pas le biais de l’application. Ce qui est choquant dans notre exemple ci-dessus, c’est que l’infirmier est transform\u00e9 en femme.<\/p>\n<\/div>\nPlusieurs mesures de pr\u00e9cision<\/h3>\n
Les syst\u00e8mes d’IA font des pr\u00e9dictions – des pr\u00e9dictions sur ce que les \u00e9l\u00e8ves devraient \u00e9tudier ensuite, s’ils ont compris un sujet, quelle r\u00e9partition du groupe est bonne pour une promotion ou quand un \u00e9l\u00e8ve risque d’abandonner ses \u00e9tudes.\u00a0 Souvent, ces pr\u00e9dictions sont accompagn\u00e9es d’un pourcentage. Ce chiffre nous indique \u00e0 quel point le syst\u00e8me estime que ses pr\u00e9dictions sont fiables.<\/p>\n
\n