{"id":178,"date":"2023-11-30T16:31:34","date_gmt":"2023-11-30T16:31:34","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/the-degenerative-part-2\/"},"modified":"2024-01-31T11:51:55","modified_gmt":"2024-01-31T11:51:55","slug":"the-degenerative-part-2","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/the-degenerative-part-2\/","title":{"raw":"IA d\u00e9g\u00e9n\u00e9rative - Partie 2","rendered":"IA d\u00e9g\u00e9n\u00e9rative &#8211; Partie 2"},"content":{"raw":"<p class=\"no-indent\">Les dangers sp\u00e9cifiques \u00e0 l\u2019IA g\u00e9n\u00e9rative sont les suivants :<\/p>\n<p class=\"no-indent\"><strong>Inexactitudes et hallucinations :<\/strong> les mod\u00e8les g\u00e9n\u00e9ratifs sont impressionnants dans leur capacit\u00e9 \u00e0 produire un langage coh\u00e9rent, fluide et humain. Derri\u00e8re cette aisance se cachent en r\u00e9alit\u00e9 des erreurs factuelles, des demi-v\u00e9rit\u00e9s, des r\u00e9f\u00e9rences invent\u00e9es et de la pure fiction : ce que l\u2019on appelle des \u00ab hallucinations \u00bb<sup>1,2<\/sup>. Dans l\u2019interface de ChatGPT, en bas de toutes les conversations, on retrouve l\u2019avis suivant : \u00ab\u00a0ChatGPT peut g\u00e9n\u00e9rer des informations inexactes concernant des personnes, des lieux ou des faits\u00a0\u00bb<sup>1<\/sup>. Le taux d\u2019exactitude de ChatGPT se situe, au maximum, autour de 60%, selon le sujet abord\u00e9<sup>2,3<\/sup>.<\/p>\n<p class=\"indent\">Pire encore, ChatGPT a tendance \u00e0 pr\u00e9senter des faits comme \u00e9tant des v\u00e9rit\u00e9s, sans preuve ou qualification. Lorsqu\u2019on lui demande sp\u00e9cifiquement des r\u00e9f\u00e9rences, il peut pr\u00e9senter des r\u00e9f\u00e9rences qui n\u2019existent pas ou qui ne soutiennent pas les faits pr\u00e9sent\u00e9s comme v\u00e9ritables dans le texte<sup>4,2<\/sup>. Pourtant, de nombreux utilisateurs ont tendance \u00e0 l\u2019utiliser comme un \u00ab\u00a0moteur de recherche en ligne, comme une biblioth\u00e8que de r\u00e9f\u00e9rences ou m\u00eame comme Wikipedia\u00a0\u00bb<sup>5<\/sup>. Lorsque des enseignants ou des \u00e9tudiants utilisent ChatGPT pour obtenir des informations concernant un sujet qu\u2019ils ne connaissent pas du tout, ils risquent d\u2019apprendre des choses fausses ou de les pr\u00e9senter \u00e0 d\u2019autres personnes<sup>1,5<\/sup>.<\/p>\n<p class=\"indent\">Le succ\u00e8s actuel des LLM repose sur le nombre impressionnant de param\u00e8tres et sur la quantit\u00e9 des donn\u00e9es d\u2019entra\u00eenement utilis\u00e9es pour imiter l\u2019assemblage des mots dans les communications humaines. Les enseignants et les \u00e9tudiants ne doivent jamais oublier qu\u2019un texte g\u00e9n\u00e9r\u00e9 par des mod\u00e8les conversationnels n\u2019est pas forc\u00e9ment associ\u00e9 \u00e0 une compr\u00e9hension de ce texte par les mod\u00e8les, ni m\u00eame \u00e0 la moindre notion de r\u00e9alit\u00e91. Si ces mod\u00e8les peuvent manipuler des formes linguistiques avec un certain degr\u00e9 de r\u00e9ussite, ils n\u2019ont pas acc\u00e8s au sens de ces formes<sup>6<\/sup>. \u00ab\u00a0La pens\u00e9e humaine repose sur des explications possibles et sur la correction des erreurs, un processus qui limite progressivement les possibilit\u00e9s qui peuvent \u00eatre raisonnablement envisag\u00e9es\u2026 L\u00e0 o\u00f9 les humains sont limit\u00e9s dans les types d\u2019explications qu\u2019ils peuvent rationnellement supposer, les syst\u00e8mes d\u2019apprentissage automatique peuvent \u00e0 la fois apprendre que la Terre est plate et qu\u2019elle est ronde.\u00a0\u00bb<sup>7<\/sup><\/p>\n<p class=\"no-indent\"><strong>Transfert ou Aggravation du Pouvoir et du Contr\u00f4le :<\/strong> l\u2019IA g\u00e9n\u00e9rative s\u2019appuie sur des quantit\u00e9s colossales de donn\u00e9es, une puissance informatique consid\u00e9rable, ainsi que sur des m\u00e9thodes de calcul avanc\u00e9es. Seul un petit groupe d\u2019entreprises, de pays et de langues ont acc\u00e8s \u00e0 tous ces \u00e9l\u00e9ments. Pourtant, alors que de plus en plus de personnes adoptent ces technologies, la majorit\u00e9 de la population humaine est tenue de \u00ab suivre la ligne \u00bb, est ali\u00e9n\u00e9e et perd son pouvoir d\u2019expression<sup>1<\/sup>.<\/p>\n<p class=\"indent\">Si les cr\u00e9ateurs gardent le pouvoir, ils sous-traitent les responsabilit\u00e9s. Par exemple, la lourde t\u00e2che de contr\u00f4ler et d\u2019assainir les contenus g\u00e9n\u00e9r\u00e9s par ChatGPT a \u00e9t\u00e9 confi\u00e9e \u00e0 des travailleurs kenyans qui ont d\u00fb \u00ab\u00a0trier des contenus violents et troublants, li\u00e9s notamment \u00e0 des abus sexuels, \u00e0 des discours haineux et \u00e0 de la violence\u00a0\u00bb<sup>4<\/sup>.<\/p>\n<p class=\"no-indent\"><strong>Violation du Copyright et de la Propri\u00e9t\u00e9 Intellectuelle :<\/strong> une grande partie du savoir-faire technologique li\u00e9 aux syst\u00e8mes g\u00e9n\u00e9ratifs est prot\u00e9g\u00e9e par des syst\u00e8mes d\u2019entreprises. Pourtant, les donn\u00e9es proviennent du grand public<sup>1<\/sup>. Peut-on utiliser des images rendues publiques sur une plateforme et les utiliser sans que leur sujet en soit conscient ? Et si, par exemple, le visage de quelqu\u2019un \u00e9tait utilis\u00e9 dans le cadre d\u2019\u00e9l\u00e9ments de propagande racistes<sup>8<\/sup>\u00a0? La seule mani\u00e8re de contrer l\u2019IA g\u00e9n\u00e9rative consiste-t-elle \u00e0 rendre les contenus priv\u00e9s ?<\/p>\n<p class=\"indent\">Au-del\u00e0 des contenus publics, les mod\u00e8les de langages peuvent prendre des contenus prot\u00e9g\u00e9s par des <em>paywalls<\/em> et en fournir un r\u00e9sum\u00e9 \u00e0 l\u2019utilisateur. On sait que les mod\u00e8les d\u2019images peuvent assembler des images dont certaines parties proviennent clairement d\u2019images prot\u00e9g\u00e9es par un <em>watermark<\/em>. Cela pose \u00e9galement la question des licences Creative Common, lorsqu\u2019un auteur met librement son \u0153uvre \u00e0 disposition du public mais qu\u2019il doit \u00eatre cit\u00e9 \u00e0 chaque fois que l\u2019\u0153uvre est utilis\u00e9e, ce que les mod\u00e8les peuvent choisir de faire ou de ne pas faire.<\/p>\n<p class=\"indent\">Pour les enseignants, cela soul\u00e8ve des questions morales, \u00e9thiques et juridiques. S\u2019ils utilisent du contenu g\u00e9n\u00e9r\u00e9 par des mod\u00e8les, peuvent-ils l\u2019utiliser librement et le publier comme bon leur semble ? Qui est responsable lorsque le contenu est prot\u00e9g\u00e9 par un copyright ou par une licence Creative Commons<sup>9<\/sup>\u00a0? Comment l\u2019utilisateur peut-il m\u00eame savoir qu\u2019il utilise la propri\u00e9t\u00e9 de quelqu\u2019un d\u2019autre<sup>1<\/sup>\u00a0? Malheureusement, il n\u2019existe aucune directive claire \u00e0 ce sujet. Nous devrons rester attentifs aux \u00e9volutions futures, en attendant qu\u2019une directive soit formul\u00e9e.<\/p>\n<p class=\"indent\">Les effets de l\u2019utilisation de l\u2019IA g\u00e9n\u00e9rative, sur le long terme, dans l\u2019Enseignement : en ce qui concerne toutes les utilisations possibles de l\u2019IA g\u00e9n\u00e9rative dans l\u2019enseignement, on ne connait pas clairement tous les effets qu\u2019elle pourrait avoir sur le long terme :<\/p>\n\n<ul>\n \t<li>L\u2019acte d\u2019\u00e9crire structurant \u00e9galement la pens\u00e9e, comment le fait d\u2019\u00e9crire sur la base des \u00e9l\u00e9ments fournis par une IA g\u00e9n\u00e9rative va-t-il impacter les \u00e9tudiants ?<sup>1<\/sup><\/li>\n \t<li>Cela va-t-il affecter la port\u00e9e de leur r\u00e9flexion, leur pens\u00e9e critique, leur cr\u00e9ativit\u00e9 et leurs capacit\u00e9s \u00e0 r\u00e9soudre des probl\u00e8mes ?<sup>1<\/sup><\/li>\n \t<li>Les \u00e9tudiants vont-ils devenir trop d\u00e9pendants de ces technologies compte tenu de la simplicit\u00e9 avec laquelle ils peuvent acc\u00e9der \u00e0 des informations et \u00e0 des solutions<sup>10,9<\/sup> ?<\/li>\n \t<li>Les \u00e9tudiants auront-ils encore envie de d\u00e9couvrir le monde et de parvenir \u00e0 leurs propres conclusions<sup>10 <\/sup>?<\/li>\n \t<li>L\u2019utilisation de ces technologies va-t-elle nous conduire \u00e0 une vision du monde d\u00e9connect\u00e9e de la r\u00e9alit\u00e9 qui nous entoure ?<\/li>\n \t<li>Combien de comp\u00e9tences allons-nous perdre \u00e0 chaque \u00e9tape de maitrise des techniques de prompt ?<\/li>\n<\/ul>\n<p class=\"no-indent\">Si le fait de se concentrer sur des comp\u00e9tences sup\u00e9rieures, en laissant le travail fastidieux aux IA, semble \u00eatre une bonne id\u00e9e, la pratique r\u00e9p\u00e9t\u00e9e des comp\u00e9tences inf\u00e9rieures indispensables, la pers\u00e9v\u00e9rance et m\u00eame la frustration qui peut l\u2019accompagner sont souvent n\u00e9cessaires pour acqu\u00e9rir un niveau de comp\u00e9tence sup\u00e9rieur<sup>1,8<\/sup>. Cela s\u2019av\u00e8re \u00e9galement n\u00e9cessaire pour diminuer la d\u00e9pendance des apprenants aux technologies pour r\u00e9aliser des calculs de base, qui nuit \u00e0 <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/ai-aied-and-human-agency\/\">l'agentivit\u00e9<\/a> et \u00e0 leur capacit\u00e9 d\u2019affronter le monde de mani\u00e8re autonome.<\/p>\n<p class=\"indent\">Certaines mesures pourraient \u00eatre appliqu\u00e9es afin de nous prot\u00e9ger contre ces effets potentiellement nuisibles \u00e0 long terme :<\/p>\n\n<ul>\n \t<li>utiliser des mod\u00e8les de langage uniquement comme point de d\u00e9part, afin de g\u00e9n\u00e9rer des possibilit\u00e9s et d\u2019explorer diff\u00e9rents points de vue, plut\u00f4t que comme une solution compl\u00e8te r\u00e9pondant \u00e0 tous les besoins<sup>10 <\/sup>;<\/li>\n \t<li>v\u00e9rifier la production des mod\u00e8les gr\u00e2ce \u00e0 des exp\u00e9riences directes ou des sources alternatives ;<\/li>\n \t<li>toujours impliquer l\u2019enseignant, \u00e0 tout moment<sup>10<\/sup> ;<\/li>\n \t<li>promouvoir l\u2019apprentissage social et am\u00e9liorer l\u2019exposition \u00e0 la production cr\u00e9ative humaine<sup>1 <\/sup>;<\/li>\n \t<li>chercher de mani\u00e8re active d\u2019autres ressources p\u00e9dagogiques, ainsi que des activit\u00e9s n\u2019impliquant pas l\u2019utilisation d\u2019\u00e9crans<sup>10 <\/sup>;<\/li>\n \t<li>essayer de trouver d\u2019autres explications et d\u2019autres approches et modes de r\u00e9flexion.<\/li>\n<\/ul>\n<p class=\"no-indent\">Il est toujours utile de veiller \u00e0 ne pas assigner de fausses \u00e9quivalences entre humains et machines, voire \u00e0 accorder une forme de sup\u00e9riorit\u00e9 \u00e0 l\u2019IA g\u00e9n\u00e9rative. Par exemple, on dit souvent que les humains ne peuvent pas analyser autant de donn\u00e9es que les IA. L\u2019analyse d\u2019\u00e9normes quantit\u00e9s de donn\u00e9es est-elle pour autant n\u00e9cessaire aux humains, compte tenu de nos capacit\u00e9s d\u2019identification des tendances, d\u2019extrapolation et de nos comp\u00e9tences cr\u00e9atives ? Parce qu\u2019une IA peut analyser le contenu de 100 livres en un instant, est-ce que cela veut forc\u00e9ment dire qu\u2019un \u00e9tudiant ne va pas appr\u00e9cier la lecture d\u2019un de ces livres ou en b\u00e9n\u00e9ficier ? Est-ce que faire quelque chose rapidement est obligatoirement une bonne chose et une attitude que nous souhaitons vraiment adopter<sup>8<\/sup> ?<\/p>\n<p class=\"indent\">Il faut garder en t\u00eate que l\u2019enseignement des enfants ne les pr\u00e9pare pas pour le monde et les technologies d\u2019aujourd\u2019hui, mais qu\u2019il les \u00e9quipe plut\u00f4t pour le monde qui sera le leur dans 10 \u00e0 15 ans<sup>8<\/sup>. La fa\u00e7on dont ChatGPT a tout r\u00e9volutionn\u00e9 en un an indiquerait plut\u00f4t le besoin d\u2019un enseignement qui d\u00e9passe ChatGPT qu\u2019un enseignement destin\u00e9 \u00e0 ChatGPT. Les \u00e9tudiants doivent \u00eatre capables de penser par eux-m\u00eames, d\u2019\u00eatre r\u00e9silients pour s\u2019adapter au changement et de grandir en surmontant les d\u00e9fis qu\u2019ils rencontrent sur leur parcours.<\/p>\n<p class=\"indent\">Le but final de l\u2019enseignement ne doit pas \u00eatre de produire des op\u00e9rateurs efficaces de machines intelligentes ou des ouvriers pour les lignes de production, mais de d\u00e9velopper l\u2019esprit critique, la cr\u00e9ativit\u00e9, la r\u00e9silience de citoyens \u00e9panouis.Il s\u2019agit de questions capitales qui doivent \u00eatre m\u00fbrement r\u00e9fl\u00e9chies et dont les effets sur le long terme doivent \u00eatre analys\u00e9s afin de d\u00e9terminer la meilleure mani\u00e8re d\u2019adopter une technologie pour atteindre ces objectifs. Cela, plus que tout ce qui est \u00e9galement mentionn\u00e9 dans ce texte, ne peut pas \u00eatre d\u00e9l\u00e9gu\u00e9 \u00e0 une IA, g\u00e9n\u00e9rative ou non.<\/p>\n\n\n<hr>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>1 <\/sup>Holmes, W., Miao, F., <em>Guidance for generative AI in education and research<\/em>, UNESCO, Paris, 2023.<\/p>\n<p class=\"hanging-indent\"><sup>2 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, <em>What if the devil is my guardian angel: Chat-GPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>3 <\/sup>Lewkowycz, A., Andreassen, A.,\u00a0 Dohan, D. et al, <em>Solving Quantitative Reasoning Problems with Language Models<\/em>, Google Research, 2022.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>4 <\/sup>Cooper, G., <em>Examining Science Education in ChatGPT: An Exploratory Study of Generative Artificial Intelligence,<\/em> Journal of Science Education and Technology, 32, 444\u2013452, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>5 <\/sup>Trust, T., Whalen, J., &amp; Mouza, C., <em><a href=\"https:\/\/citejournal.org\/volume-23\/issue-1-23\/editorial\/editorial-chatgpt-challenges-opportunities-and-implications-for-teacher-education\" target=\"_blank\" rel=\"noopener\">Editorial: ChatGPT: Challenges, opportunities, and implications for teacher education<\/a>,<\/em> Contemporary Issues in Technology and Teacher Education, 23(1), 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>6 <\/sup>Bender, E.M., et al, <em>On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, <\/em>Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21). Association for Computing Machinery, New York, 610\u2013623, 2021.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>7 <\/sup>Chomsky, N., Roberts, I., Watumull, J., <em>Noam Chomsky: The False Promise of Chat-GPT, <\/em>The New York Times, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>8 <\/sup>Vartiainen, H., Tedre, M., <em>Using artificial intelligence in craft education: crafting with text-to-image generative models<\/em>, Digital Creativity, 34:1, 1-21, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>9\u00a0<\/sup>Becker, B., et al, <em>Programming Is Hard - Or at Least It Used to Be: Educational Opportunities and Challenges of AI Code Generation,<\/em> Proceedings of the 54th ACM Technical Symposium on Computer Science Education V. 1 (SIGCSE 2023), Association for Computing Machinery, New York, 500\u2013506, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>10 <\/sup>Enkelejda, K., et al, <em>Chatgpt for Good? on Opportunities and Challenges of Large Language Models for Education<\/em>, EdArXiv, 2023.<\/p>","rendered":"<p class=\"no-indent\">Les dangers sp\u00e9cifiques \u00e0 l\u2019IA g\u00e9n\u00e9rative sont les suivants :<\/p>\n<p class=\"no-indent\"><strong>Inexactitudes et hallucinations :<\/strong> les mod\u00e8les g\u00e9n\u00e9ratifs sont impressionnants dans leur capacit\u00e9 \u00e0 produire un langage coh\u00e9rent, fluide et humain. Derri\u00e8re cette aisance se cachent en r\u00e9alit\u00e9 des erreurs factuelles, des demi-v\u00e9rit\u00e9s, des r\u00e9f\u00e9rences invent\u00e9es et de la pure fiction : ce que l\u2019on appelle des \u00ab hallucinations \u00bb<sup>1,2<\/sup>. Dans l\u2019interface de ChatGPT, en bas de toutes les conversations, on retrouve l\u2019avis suivant : \u00ab\u00a0ChatGPT peut g\u00e9n\u00e9rer des informations inexactes concernant des personnes, des lieux ou des faits\u00a0\u00bb<sup>1<\/sup>. Le taux d\u2019exactitude de ChatGPT se situe, au maximum, autour de 60%, selon le sujet abord\u00e9<sup>2,3<\/sup>.<\/p>\n<p class=\"indent\">Pire encore, ChatGPT a tendance \u00e0 pr\u00e9senter des faits comme \u00e9tant des v\u00e9rit\u00e9s, sans preuve ou qualification. Lorsqu\u2019on lui demande sp\u00e9cifiquement des r\u00e9f\u00e9rences, il peut pr\u00e9senter des r\u00e9f\u00e9rences qui n\u2019existent pas ou qui ne soutiennent pas les faits pr\u00e9sent\u00e9s comme v\u00e9ritables dans le texte<sup>4,2<\/sup>. Pourtant, de nombreux utilisateurs ont tendance \u00e0 l\u2019utiliser comme un \u00ab\u00a0moteur de recherche en ligne, comme une biblioth\u00e8que de r\u00e9f\u00e9rences ou m\u00eame comme Wikipedia\u00a0\u00bb<sup>5<\/sup>. Lorsque des enseignants ou des \u00e9tudiants utilisent ChatGPT pour obtenir des informations concernant un sujet qu\u2019ils ne connaissent pas du tout, ils risquent d\u2019apprendre des choses fausses ou de les pr\u00e9senter \u00e0 d\u2019autres personnes<sup>1,5<\/sup>.<\/p>\n<p class=\"indent\">Le succ\u00e8s actuel des LLM repose sur le nombre impressionnant de param\u00e8tres et sur la quantit\u00e9 des donn\u00e9es d\u2019entra\u00eenement utilis\u00e9es pour imiter l\u2019assemblage des mots dans les communications humaines. Les enseignants et les \u00e9tudiants ne doivent jamais oublier qu\u2019un texte g\u00e9n\u00e9r\u00e9 par des mod\u00e8les conversationnels n\u2019est pas forc\u00e9ment associ\u00e9 \u00e0 une compr\u00e9hension de ce texte par les mod\u00e8les, ni m\u00eame \u00e0 la moindre notion de r\u00e9alit\u00e91. Si ces mod\u00e8les peuvent manipuler des formes linguistiques avec un certain degr\u00e9 de r\u00e9ussite, ils n\u2019ont pas acc\u00e8s au sens de ces formes<sup>6<\/sup>. \u00ab\u00a0La pens\u00e9e humaine repose sur des explications possibles et sur la correction des erreurs, un processus qui limite progressivement les possibilit\u00e9s qui peuvent \u00eatre raisonnablement envisag\u00e9es\u2026 L\u00e0 o\u00f9 les humains sont limit\u00e9s dans les types d\u2019explications qu\u2019ils peuvent rationnellement supposer, les syst\u00e8mes d\u2019apprentissage automatique peuvent \u00e0 la fois apprendre que la Terre est plate et qu\u2019elle est ronde.\u00a0\u00bb<sup>7<\/sup><\/p>\n<p class=\"no-indent\"><strong>Transfert ou Aggravation du Pouvoir et du Contr\u00f4le :<\/strong> l\u2019IA g\u00e9n\u00e9rative s\u2019appuie sur des quantit\u00e9s colossales de donn\u00e9es, une puissance informatique consid\u00e9rable, ainsi que sur des m\u00e9thodes de calcul avanc\u00e9es. Seul un petit groupe d\u2019entreprises, de pays et de langues ont acc\u00e8s \u00e0 tous ces \u00e9l\u00e9ments. Pourtant, alors que de plus en plus de personnes adoptent ces technologies, la majorit\u00e9 de la population humaine est tenue de \u00ab suivre la ligne \u00bb, est ali\u00e9n\u00e9e et perd son pouvoir d\u2019expression<sup>1<\/sup>.<\/p>\n<p class=\"indent\">Si les cr\u00e9ateurs gardent le pouvoir, ils sous-traitent les responsabilit\u00e9s. Par exemple, la lourde t\u00e2che de contr\u00f4ler et d\u2019assainir les contenus g\u00e9n\u00e9r\u00e9s par ChatGPT a \u00e9t\u00e9 confi\u00e9e \u00e0 des travailleurs kenyans qui ont d\u00fb \u00ab\u00a0trier des contenus violents et troublants, li\u00e9s notamment \u00e0 des abus sexuels, \u00e0 des discours haineux et \u00e0 de la violence\u00a0\u00bb<sup>4<\/sup>.<\/p>\n<p class=\"no-indent\"><strong>Violation du Copyright et de la Propri\u00e9t\u00e9 Intellectuelle :<\/strong> une grande partie du savoir-faire technologique li\u00e9 aux syst\u00e8mes g\u00e9n\u00e9ratifs est prot\u00e9g\u00e9e par des syst\u00e8mes d\u2019entreprises. Pourtant, les donn\u00e9es proviennent du grand public<sup>1<\/sup>. Peut-on utiliser des images rendues publiques sur une plateforme et les utiliser sans que leur sujet en soit conscient ? Et si, par exemple, le visage de quelqu\u2019un \u00e9tait utilis\u00e9 dans le cadre d\u2019\u00e9l\u00e9ments de propagande racistes<sup>8<\/sup>\u00a0? La seule mani\u00e8re de contrer l\u2019IA g\u00e9n\u00e9rative consiste-t-elle \u00e0 rendre les contenus priv\u00e9s ?<\/p>\n<p class=\"indent\">Au-del\u00e0 des contenus publics, les mod\u00e8les de langages peuvent prendre des contenus prot\u00e9g\u00e9s par des <em>paywalls<\/em> et en fournir un r\u00e9sum\u00e9 \u00e0 l\u2019utilisateur. On sait que les mod\u00e8les d\u2019images peuvent assembler des images dont certaines parties proviennent clairement d\u2019images prot\u00e9g\u00e9es par un <em>watermark<\/em>. Cela pose \u00e9galement la question des licences Creative Common, lorsqu\u2019un auteur met librement son \u0153uvre \u00e0 disposition du public mais qu\u2019il doit \u00eatre cit\u00e9 \u00e0 chaque fois que l\u2019\u0153uvre est utilis\u00e9e, ce que les mod\u00e8les peuvent choisir de faire ou de ne pas faire.<\/p>\n<p class=\"indent\">Pour les enseignants, cela soul\u00e8ve des questions morales, \u00e9thiques et juridiques. S\u2019ils utilisent du contenu g\u00e9n\u00e9r\u00e9 par des mod\u00e8les, peuvent-ils l\u2019utiliser librement et le publier comme bon leur semble ? Qui est responsable lorsque le contenu est prot\u00e9g\u00e9 par un copyright ou par une licence Creative Commons<sup>9<\/sup>\u00a0? Comment l\u2019utilisateur peut-il m\u00eame savoir qu\u2019il utilise la propri\u00e9t\u00e9 de quelqu\u2019un d\u2019autre<sup>1<\/sup>\u00a0? Malheureusement, il n\u2019existe aucune directive claire \u00e0 ce sujet. Nous devrons rester attentifs aux \u00e9volutions futures, en attendant qu\u2019une directive soit formul\u00e9e.<\/p>\n<p class=\"indent\">Les effets de l\u2019utilisation de l\u2019IA g\u00e9n\u00e9rative, sur le long terme, dans l\u2019Enseignement : en ce qui concerne toutes les utilisations possibles de l\u2019IA g\u00e9n\u00e9rative dans l\u2019enseignement, on ne connait pas clairement tous les effets qu\u2019elle pourrait avoir sur le long terme :<\/p>\n<ul>\n<li>L\u2019acte d\u2019\u00e9crire structurant \u00e9galement la pens\u00e9e, comment le fait d\u2019\u00e9crire sur la base des \u00e9l\u00e9ments fournis par une IA g\u00e9n\u00e9rative va-t-il impacter les \u00e9tudiants ?<sup>1<\/sup><\/li>\n<li>Cela va-t-il affecter la port\u00e9e de leur r\u00e9flexion, leur pens\u00e9e critique, leur cr\u00e9ativit\u00e9 et leurs capacit\u00e9s \u00e0 r\u00e9soudre des probl\u00e8mes ?<sup>1<\/sup><\/li>\n<li>Les \u00e9tudiants vont-ils devenir trop d\u00e9pendants de ces technologies compte tenu de la simplicit\u00e9 avec laquelle ils peuvent acc\u00e9der \u00e0 des informations et \u00e0 des solutions<sup>10,9<\/sup> ?<\/li>\n<li>Les \u00e9tudiants auront-ils encore envie de d\u00e9couvrir le monde et de parvenir \u00e0 leurs propres conclusions<sup>10 <\/sup>?<\/li>\n<li>L\u2019utilisation de ces technologies va-t-elle nous conduire \u00e0 une vision du monde d\u00e9connect\u00e9e de la r\u00e9alit\u00e9 qui nous entoure ?<\/li>\n<li>Combien de comp\u00e9tences allons-nous perdre \u00e0 chaque \u00e9tape de maitrise des techniques de prompt ?<\/li>\n<\/ul>\n<p class=\"no-indent\">Si le fait de se concentrer sur des comp\u00e9tences sup\u00e9rieures, en laissant le travail fastidieux aux IA, semble \u00eatre une bonne id\u00e9e, la pratique r\u00e9p\u00e9t\u00e9e des comp\u00e9tences inf\u00e9rieures indispensables, la pers\u00e9v\u00e9rance et m\u00eame la frustration qui peut l\u2019accompagner sont souvent n\u00e9cessaires pour acqu\u00e9rir un niveau de comp\u00e9tence sup\u00e9rieur<sup>1,8<\/sup>. Cela s\u2019av\u00e8re \u00e9galement n\u00e9cessaire pour diminuer la d\u00e9pendance des apprenants aux technologies pour r\u00e9aliser des calculs de base, qui nuit \u00e0 <a href=\"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/ai-aied-and-human-agency\/\">l&rsquo;agentivit\u00e9<\/a> et \u00e0 leur capacit\u00e9 d\u2019affronter le monde de mani\u00e8re autonome.<\/p>\n<p class=\"indent\">Certaines mesures pourraient \u00eatre appliqu\u00e9es afin de nous prot\u00e9ger contre ces effets potentiellement nuisibles \u00e0 long terme :<\/p>\n<ul>\n<li>utiliser des mod\u00e8les de langage uniquement comme point de d\u00e9part, afin de g\u00e9n\u00e9rer des possibilit\u00e9s et d\u2019explorer diff\u00e9rents points de vue, plut\u00f4t que comme une solution compl\u00e8te r\u00e9pondant \u00e0 tous les besoins<sup>10 <\/sup>;<\/li>\n<li>v\u00e9rifier la production des mod\u00e8les gr\u00e2ce \u00e0 des exp\u00e9riences directes ou des sources alternatives ;<\/li>\n<li>toujours impliquer l\u2019enseignant, \u00e0 tout moment<sup>10<\/sup> ;<\/li>\n<li>promouvoir l\u2019apprentissage social et am\u00e9liorer l\u2019exposition \u00e0 la production cr\u00e9ative humaine<sup>1 <\/sup>;<\/li>\n<li>chercher de mani\u00e8re active d\u2019autres ressources p\u00e9dagogiques, ainsi que des activit\u00e9s n\u2019impliquant pas l\u2019utilisation d\u2019\u00e9crans<sup>10 <\/sup>;<\/li>\n<li>essayer de trouver d\u2019autres explications et d\u2019autres approches et modes de r\u00e9flexion.<\/li>\n<\/ul>\n<p class=\"no-indent\">Il est toujours utile de veiller \u00e0 ne pas assigner de fausses \u00e9quivalences entre humains et machines, voire \u00e0 accorder une forme de sup\u00e9riorit\u00e9 \u00e0 l\u2019IA g\u00e9n\u00e9rative. Par exemple, on dit souvent que les humains ne peuvent pas analyser autant de donn\u00e9es que les IA. L\u2019analyse d\u2019\u00e9normes quantit\u00e9s de donn\u00e9es est-elle pour autant n\u00e9cessaire aux humains, compte tenu de nos capacit\u00e9s d\u2019identification des tendances, d\u2019extrapolation et de nos comp\u00e9tences cr\u00e9atives ? Parce qu\u2019une IA peut analyser le contenu de 100 livres en un instant, est-ce que cela veut forc\u00e9ment dire qu\u2019un \u00e9tudiant ne va pas appr\u00e9cier la lecture d\u2019un de ces livres ou en b\u00e9n\u00e9ficier ? Est-ce que faire quelque chose rapidement est obligatoirement une bonne chose et une attitude que nous souhaitons vraiment adopter<sup>8<\/sup> ?<\/p>\n<p class=\"indent\">Il faut garder en t\u00eate que l\u2019enseignement des enfants ne les pr\u00e9pare pas pour le monde et les technologies d\u2019aujourd\u2019hui, mais qu\u2019il les \u00e9quipe plut\u00f4t pour le monde qui sera le leur dans 10 \u00e0 15 ans<sup>8<\/sup>. La fa\u00e7on dont ChatGPT a tout r\u00e9volutionn\u00e9 en un an indiquerait plut\u00f4t le besoin d\u2019un enseignement qui d\u00e9passe ChatGPT qu\u2019un enseignement destin\u00e9 \u00e0 ChatGPT. Les \u00e9tudiants doivent \u00eatre capables de penser par eux-m\u00eames, d\u2019\u00eatre r\u00e9silients pour s\u2019adapter au changement et de grandir en surmontant les d\u00e9fis qu\u2019ils rencontrent sur leur parcours.<\/p>\n<p class=\"indent\">Le but final de l\u2019enseignement ne doit pas \u00eatre de produire des op\u00e9rateurs efficaces de machines intelligentes ou des ouvriers pour les lignes de production, mais de d\u00e9velopper l\u2019esprit critique, la cr\u00e9ativit\u00e9, la r\u00e9silience de citoyens \u00e9panouis.Il s\u2019agit de questions capitales qui doivent \u00eatre m\u00fbrement r\u00e9fl\u00e9chies et dont les effets sur le long terme doivent \u00eatre analys\u00e9s afin de d\u00e9terminer la meilleure mani\u00e8re d\u2019adopter une technologie pour atteindre ces objectifs. Cela, plus que tout ce qui est \u00e9galement mentionn\u00e9 dans ce texte, ne peut pas \u00eatre d\u00e9l\u00e9gu\u00e9 \u00e0 une IA, g\u00e9n\u00e9rative ou non.<\/p>\n<hr \/>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>1 <\/sup>Holmes, W., Miao, F., <em>Guidance for generative AI in education and research<\/em>, UNESCO, Paris, 2023.<\/p>\n<p class=\"hanging-indent\"><sup>2 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, <em>What if the devil is my guardian angel: Chat-GPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>3 <\/sup>Lewkowycz, A., Andreassen, A.,\u00a0 Dohan, D. et al, <em>Solving Quantitative Reasoning Problems with Language Models<\/em>, Google Research, 2022.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>4 <\/sup>Cooper, G., <em>Examining Science Education in ChatGPT: An Exploratory Study of Generative Artificial Intelligence,<\/em> Journal of Science Education and Technology, 32, 444\u2013452, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>5 <\/sup>Trust, T., Whalen, J., &amp; Mouza, C., <em><a href=\"https:\/\/citejournal.org\/volume-23\/issue-1-23\/editorial\/editorial-chatgpt-challenges-opportunities-and-implications-for-teacher-education\" target=\"_blank\" rel=\"noopener\">Editorial: ChatGPT: Challenges, opportunities, and implications for teacher education<\/a>,<\/em> Contemporary Issues in Technology and Teacher Education, 23(1), 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>6 <\/sup>Bender, E.M., et al, <em>On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, <\/em>Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT &rsquo;21). Association for Computing Machinery, New York, 610\u2013623, 2021.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>7 <\/sup>Chomsky, N., Roberts, I., Watumull, J., <em>Noam Chomsky: The False Promise of Chat-GPT, <\/em>The New York Times, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>8 <\/sup>Vartiainen, H., Tedre, M., <em>Using artificial intelligence in craft education: crafting with text-to-image generative models<\/em>, Digital Creativity, 34:1, 1-21, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>9\u00a0<\/sup>Becker, B., et al, <em>Programming Is Hard &#8211; Or at Least It Used to Be: Educational Opportunities and Challenges of AI Code Generation,<\/em> Proceedings of the 54th ACM Technical Symposium on Computer Science Education V. 1 (SIGCSE 2023), Association for Computing Machinery, New York, 500\u2013506, 2023.<\/p>\n<p class=\"hanging-indent\" style=\"text-align: left\"><sup>10 <\/sup>Enkelejda, K., et al, <em>Chatgpt for Good? on Opportunities and Challenges of Large Language Models for Education<\/em>, EdArXiv, 2023.<\/p>\n","protected":false},"author":1,"menu_order":8,"template":"","meta":{"pb_show_title":"","pb_short_title":"","pb_subtitle":"","pb_authors":[],"pb_section_license":""},"chapter-type":[],"contributor":[],"license":[],"part":152,"_links":{"self":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/178"}],"collection":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters"}],"about":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/types\/chapter"}],"author":[{"embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/users\/1"}],"version-history":[{"count":1,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/178\/revisions"}],"predecessor-version":[{"id":179,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/178\/revisions\/179"}],"part":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/parts\/152"}],"metadata":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/178\/metadata\/"}],"wp:attachment":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/media?parent=178"}],"wp:term":[{"taxonomy":"chapter-type","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapter-type?post=178"},{"taxonomy":"contributor","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/contributor?post=178"},{"taxonomy":"license","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/license?post=178"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}