I pericoli specifici di un ricorso all\u2019IA generativa comprendono:<\/p>\n
Imprecisioni e allucinazioni:<\/strong> i modelli generativi sfornano meravigliosamente linguaggio coerente, fluente e simile a quello umano. In tutta quella disinvoltura si celano errori fattuali, verit\u00e0 limitate, riferimenti inventati e pura fantasia, tutto ci\u00f2 viene definito con il termine \u201callucinazioni\u201d1,2<\/sup>. Nella parte inferiore dell\u2019interfaccia di Chat-GPT, alla base di tutte le conversazioni, viene riportato l\u2019avviso che \u201cChat-GPT potrebbe produrre informazioni imprecise su persone, luoghi o fatti\u201d1<\/sup>. La precisione di Chat-GPT si aggirerebbe attorno al 60% o a percentuali minori, a seconda dell\u2019argomento2,3<\/sup>.<\/p>\n A peggiorare le cose c\u2019\u00e8 il fatto che Chat-GPT ha la tendenza a presentare delle affermazioni come verit\u00e0, senza prove o precisazioni. Quando le vengono chiesti espressamente dei riferimenti, pu\u00f2 menzionare fonti che non esistono o non suffragano quanto presentato nel testo come verit\u00e04,2<\/sup>. Eppure, molti utenti tendono ad usarla come un \u00abmotore di ricerca su Internet, una biblioteca da consultare, o persino come Wikipedia\u00bb5<\/sup>. Quando un insegnante o uno studente la utilizza per ottenere informazioni su un argomento che non conosce, corre il rischio di apprendere cose sbagliate o presentare false conoscenze ad altri1,5<\/sup>.<\/p>\n Il successo degli LLM odierni \u00e8 insito nell\u2019enorme numero di parametri e nel quantitativo di dati di addestramento, che essi utilizzano per modellare il modo in cui le parole sono combinate fra loro nella comunicazione umana. Insegnanti e studenti dovrebbero sempre ricordare che il testo generato dai modelli conversazionali non \u00e8 collegato alla comprensione di questo testo da parte di quei modelli, o persino a un concetto di realt\u00e01<\/sup>. Anche se essi possono manipolare la forma della lingua con svariati gradi di successo, non hanno accesso ai risultati che stanno dietro questa forma6<\/sup>. \u00abUn pensiero che riproduce quello umano si basa su spiegazioni possibili e sulla correzione degli errori, un processo che limita gradualmente quali possibilit\u00e0 possano essere considerate razionalmente\u2026 Laddove gli esseri umani sono limitati nei tipi di spiegazioni che possiamo razionalmente ipotizzare, i sistemi di apprendimento automatico possono apprendere sia che la terra \u00e8 piatta sia che la terra \u00e8 rotonda\u00bb7<\/sup>.<\/p>\n Spostare o accrescere potere e controllo:<\/strong> l\u2019IA generativa dipende da notevoli quantit\u00e0 di dati, dalla potenza dei calcoli e da metodi di calcolo avanzati. Solo un gruppo ristretto di societ\u00e0, Paesi e lingue ha accesso a tutto ci\u00f2. Eppure, dal momento che sempre pi\u00f9 persone adottano queste tecnologie, gran parte dell\u2019umanit\u00e0 \u00e8 obbligata a conformarsi alle nuove regole, pertanto viene alienata e costretta a perdere la propria capacit\u00e0 espressiva1<\/sup>.<\/p>\n Mentre i creatori mantengono il potere, esternalizzano la responsabilit\u00e0. L\u2019onere della sanificazione degli output di Chat-GPT, per esempio, \u00e8 stato imposto a dei lavoratori kenioti \u00abche hanno dovuto vagliare attentamente contenuti violenti e disturbanti come abusi sessuali, discorsi di odio e violenza\u00bb4<\/sup>.<\/p>\n Copyright e violazione della propriet\u00e0 intellettuale:<\/strong> gran parte del know-how tecnologico dei sistemi generativi \u00e8 custodito entro le mura di alcune societ\u00e0. Eppure, i dati sono prelevati dalla collettivit\u00e01. \u00c8 corretto prendere delle fotografie rese pubbliche su alcune piattaforme e utilizzarle a insaputa e senza il consenso del soggetto interessato? E se, per esempio, il viso di una persona fosse usato per fare della propaganda di stampo razzista8<\/sup>? Rendere privati dei contenuti \u00e8 l\u2019unico modo per bloccare l\u2019IA generativa?<\/p>\n Oltre ai dati pubblici i modelli linguistici possono prelevare dei contenuti da dei paywall e sintetizzarli per gli utenti. \u00c8 risaputo che i modelli per la generazione di immagini hanno composto delle fotografie i cui frammenti mostravano chiaramente la filigrana. Vi \u00e8 inoltre la questione delle licenze Creative Commons con le quali un autore rende il proprio lavoro accessibile al pubblico, ma deve essere citato ogniqualvolta esso venga usato, cosa che i modelli potrebbero fare oppure no.<\/p>\n Per gli insegnanti tutto ci\u00f2 solleva problemi morali, etici e legali. Se prendono dei contenuti generati da dei modelli sono liberi di utilizzarli e divulgarli a proprio piacimento? Chi \u00e8 responsabile se essi sono tutelati da copyright o concessi in licenza con Creative Commons9<\/sup>? Come fa l\u2019utente a sapere che sta usando propriet\u00e0 di altre persone1<\/sup>? Sfortunatamente sull\u2019argomento non esistono linee guida chiare. Dobbiamo aspettare, vedere e procedere con cautela fino a che non saranno adottate delle direttive.<\/p>\n Gli effetti a lungo termine dell\u2019uso dell\u2019IA generativa applicata all\u2019istruzione:<\/strong> per quanto concerne tutti i modi in cui l\u2019IA generativa pu\u00f2 essere utilizzata in ambito didattico, non \u00e8 chiaro quali siano gli effetti nel lungo periodo:<\/p>\n\n Anche se concentrarsi su competenze di livello superiore e lasciare la parte noiosa del lavoro all\u2019IA sembrerebbe una buona idea, la pratica ripetuta di competenze di ordine inferiore, che sono fondamentali, la perseveranza e anche la frustrazione che deriva da ci\u00f2, spesso sono necessarie per acquisire quelle di livello superiore1,8<\/sup>. Ci\u00f2 \u00e8 necessario anche per ridurre la dipendenza dei discenti dalla tecnologia per svolgere calcoli elementari, che mina la capacit\u00e0 di agire dell\u2019essere umano<\/a>, e la loro fiducia nell\u2019affrontare il mondo da soli.<\/p>\n Alcune contromisure per proteggersi da danni potenzialmente a lungo termine potrebbero essere:<\/p>\n\n \u00c8 sempre un bene monitorare la tendenza ad attribuire false equivalenze tra esseri umani e macchine o persino a decretare la superiorit\u00e0 dell\u2019IA generativa. Per esempio, si sostiene spesso che gli esseri umani non sono in grado di incamerare tanti dati quanto l\u2019IA. Masticare gigabyte su gigabyte di dati \u00e8 necessario agli esseri umani considerate le loro abilit\u00e0 nell\u2019identificazione di schemi, nell\u2019estrapolazione e di natura creativa? Il fatto che l\u2019IA possa analizzare il contenuto di cento libri in un solo istante, comporta necessariamente che uno studente non possa apprezzare o trarre beneficio da uno solo tra essi? Fare qualcosa pi\u00f9 velocemente \u00e8 necessariamente positivo e indica che \u00e8 ci\u00f2 che vogliamo adottare per noi8<\/sup>?<\/p>\n Dobbiamo ricordare che non si insegna ai bambini affinch\u00e9 vivano nel mondo e con le tecnologie che esistono oggi. Sono preparati o verranno loro date le competenze per prepararsi per un mondo che arriver\u00e0 tra dieci, quindici anni8<\/sup>. Il modo in cui Chat-GPT ha rivoluzionato ogni cosa in un anno pone la questione di cosa sar\u00e0 l\u2019istruzione dopo il superamento di Chat-GPT piuttosto che all\u2019uso di Chat-GPT. Gli studenti devono essere in grado di pensare con la propria testa, essere resilienti in modo da adeguarsi al cambiamento e crescere con le nuove sfide che la vita pone loro davanti.<\/p>\n L\u2019obiettivo ultimo dell\u2019istruzione non pu\u00f2 essere produrre degli operatori efficienti di macchine intelligenti o lavoratori formiche alla catena di montaggio, ma contribuire a formare cittadini a tutto tondo, in grado di pensare liberamente, creativi e resilienti. Bisogna rimuginare su questioni cruciali, valutare gli effetti a lungo termine prima di decidere come meglio adottare una tecnologia per raggiungere questo obiettivo. Questo, cosa pi\u00f9 importante di qualsiasi altra discussa nelle pagine di questo testo, non pu\u00f2 essere demandato all\u2019IA, generativa o meno.<\/p>\n \n\n 1 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, UNESCO, Paris, 2023.<\/p>\n 2 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, What if the devil is my guardian angel: Chat-GPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n 3 <\/sup>Lewkowycz, A., Andreassen, A.,\u00a0 Dohan, D. et al, Solving Quantitative Reasoning Problems with Language Models<\/em>, Google Research, 2022.<\/p>\n 4 <\/sup>Cooper, G., Examining Science Education in ChatGPT: An Exploratory Study of Generative Artificial Intelligence,<\/em> Journal of Science Education and Technology, 32, 444\u2013452, 2023.<\/p>\n 5 <\/sup>Trust, T., Whalen, J., & Mouza, C., Editorial: ChatGPT: Challenges, opportunities, and implications for teacher education<\/a>,<\/em> Contemporary Issues in Technology and Teacher Education, 23(1), 2023.<\/p>\n 6 <\/sup>Bender, E.M., et al, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, <\/em>Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21). Association for Computing Machinery, New York, 610\u2013623, 2021.<\/p>\n 7 <\/sup>Chomsky, N., Roberts, I., Watumull, J., Noam Chomsky: The False Promise of Chat-GPT, <\/em>The New York Times, 2023.<\/p>\n 8 <\/sup>Vartiainen, H., Tedre, M., Using artificial intelligence in craft education: crafting with text-to-image generative models<\/em>, Digital Creativity, 34:1, 1-21, 2023.<\/p>\n 9\u00a0<\/sup>Becker, B., et al, Programming Is Hard - Or at Least It Used to Be: Educational Opportunities and Challenges of AI Code Generation,<\/em> Proceedings of the 54th ACM Technical Symposium on Computer Science Education V. 1 (SIGCSE 2023), Association for Computing Machinery, New York, 500\u2013506, 2023.<\/p>\n 10 <\/sup>Enkelejda, K., et al, Chatgpt for Good? on Opportunities and Challenges of Large Language Models for Education<\/em>, EdArXiv, 2023.<\/p>","rendered":" I pericoli specifici di un ricorso all\u2019IA generativa comprendono:<\/p>\n Imprecisioni e allucinazioni:<\/strong> i modelli generativi sfornano meravigliosamente linguaggio coerente, fluente e simile a quello umano. In tutta quella disinvoltura si celano errori fattuali, verit\u00e0 limitate, riferimenti inventati e pura fantasia, tutto ci\u00f2 viene definito con il termine \u201callucinazioni\u201d1,2<\/sup>. Nella parte inferiore dell\u2019interfaccia di Chat-GPT, alla base di tutte le conversazioni, viene riportato l\u2019avviso che \u201cChat-GPT potrebbe produrre informazioni imprecise su persone, luoghi o fatti\u201d1<\/sup>. La precisione di Chat-GPT si aggirerebbe attorno al 60% o a percentuali minori, a seconda dell\u2019argomento2,3<\/sup>.<\/p>\n A peggiorare le cose c\u2019\u00e8 il fatto che Chat-GPT ha la tendenza a presentare delle affermazioni come verit\u00e0, senza prove o precisazioni. Quando le vengono chiesti espressamente dei riferimenti, pu\u00f2 menzionare fonti che non esistono o non suffragano quanto presentato nel testo come verit\u00e04,2<\/sup>. Eppure, molti utenti tendono ad usarla come un \u00abmotore di ricerca su Internet, una biblioteca da consultare, o persino come Wikipedia\u00bb5<\/sup>. Quando un insegnante o uno studente la utilizza per ottenere informazioni su un argomento che non conosce, corre il rischio di apprendere cose sbagliate o presentare false conoscenze ad altri1,5<\/sup>.<\/p>\n Il successo degli LLM odierni \u00e8 insito nell\u2019enorme numero di parametri e nel quantitativo di dati di addestramento, che essi utilizzano per modellare il modo in cui le parole sono combinate fra loro nella comunicazione umana. Insegnanti e studenti dovrebbero sempre ricordare che il testo generato dai modelli conversazionali non \u00e8 collegato alla comprensione di questo testo da parte di quei modelli, o persino a un concetto di realt\u00e01<\/sup>. Anche se essi possono manipolare la forma della lingua con svariati gradi di successo, non hanno accesso ai risultati che stanno dietro questa forma6<\/sup>. \u00abUn pensiero che riproduce quello umano si basa su spiegazioni possibili e sulla correzione degli errori, un processo che limita gradualmente quali possibilit\u00e0 possano essere considerate razionalmente\u2026 Laddove gli esseri umani sono limitati nei tipi di spiegazioni che possiamo razionalmente ipotizzare, i sistemi di apprendimento automatico possono apprendere sia che la terra \u00e8 piatta sia che la terra \u00e8 rotonda\u00bb7<\/sup>.<\/p>\n Spostare o accrescere potere e controllo:<\/strong> l\u2019IA generativa dipende da notevoli quantit\u00e0 di dati, dalla potenza dei calcoli e da metodi di calcolo avanzati. Solo un gruppo ristretto di societ\u00e0, Paesi e lingue ha accesso a tutto ci\u00f2. Eppure, dal momento che sempre pi\u00f9 persone adottano queste tecnologie, gran parte dell\u2019umanit\u00e0 \u00e8 obbligata a conformarsi alle nuove regole, pertanto viene alienata e costretta a perdere la propria capacit\u00e0 espressiva1<\/sup>.<\/p>\n Mentre i creatori mantengono il potere, esternalizzano la responsabilit\u00e0. L\u2019onere della sanificazione degli output di Chat-GPT, per esempio, \u00e8 stato imposto a dei lavoratori kenioti \u00abche hanno dovuto vagliare attentamente contenuti violenti e disturbanti come abusi sessuali, discorsi di odio e violenza\u00bb4<\/sup>.<\/p>\n Copyright e violazione della propriet\u00e0 intellettuale:<\/strong> gran parte del know-how tecnologico dei sistemi generativi \u00e8 custodito entro le mura di alcune societ\u00e0. Eppure, i dati sono prelevati dalla collettivit\u00e01. \u00c8 corretto prendere delle fotografie rese pubbliche su alcune piattaforme e utilizzarle a insaputa e senza il consenso del soggetto interessato? E se, per esempio, il viso di una persona fosse usato per fare della propaganda di stampo razzista8<\/sup>? Rendere privati dei contenuti \u00e8 l\u2019unico modo per bloccare l\u2019IA generativa?<\/p>\n Oltre ai dati pubblici i modelli linguistici possono prelevare dei contenuti da dei paywall e sintetizzarli per gli utenti. \u00c8 risaputo che i modelli per la generazione di immagini hanno composto delle fotografie i cui frammenti mostravano chiaramente la filigrana. Vi \u00e8 inoltre la questione delle licenze Creative Commons con le quali un autore rende il proprio lavoro accessibile al pubblico, ma deve essere citato ogniqualvolta esso venga usato, cosa che i modelli potrebbero fare oppure no.<\/p>\n Per gli insegnanti tutto ci\u00f2 solleva problemi morali, etici e legali. Se prendono dei contenuti generati da dei modelli sono liberi di utilizzarli e divulgarli a proprio piacimento? Chi \u00e8 responsabile se essi sono tutelati da copyright o concessi in licenza con Creative Commons9<\/sup>? Come fa l\u2019utente a sapere che sta usando propriet\u00e0 di altre persone1<\/sup>? Sfortunatamente sull\u2019argomento non esistono linee guida chiare. Dobbiamo aspettare, vedere e procedere con cautela fino a che non saranno adottate delle direttive.<\/p>\n Gli effetti a lungo termine dell\u2019uso dell\u2019IA generativa applicata all\u2019istruzione:<\/strong> per quanto concerne tutti i modi in cui l\u2019IA generativa pu\u00f2 essere utilizzata in ambito didattico, non \u00e8 chiaro quali siano gli effetti nel lungo periodo:<\/p>\n Anche se concentrarsi su competenze di livello superiore e lasciare la parte noiosa del lavoro all\u2019IA sembrerebbe una buona idea, la pratica ripetuta di competenze di ordine inferiore, che sono fondamentali, la perseveranza e anche la frustrazione che deriva da ci\u00f2, spesso sono necessarie per acquisire quelle di livello superiore1,8<\/sup>. Ci\u00f2 \u00e8 necessario anche per ridurre la dipendenza dei discenti dalla tecnologia per svolgere calcoli elementari, che mina la capacit\u00e0 di agire dell\u2019essere umano<\/a>, e la loro fiducia nell\u2019affrontare il mondo da soli.<\/p>\n Alcune contromisure per proteggersi da danni potenzialmente a lungo termine potrebbero essere:<\/p>\n \u00c8 sempre un bene monitorare la tendenza ad attribuire false equivalenze tra esseri umani e macchine o persino a decretare la superiorit\u00e0 dell\u2019IA generativa. Per esempio, si sostiene spesso che gli esseri umani non sono in grado di incamerare tanti dati quanto l\u2019IA. Masticare gigabyte su gigabyte di dati \u00e8 necessario agli esseri umani considerate le loro abilit\u00e0 nell\u2019identificazione di schemi, nell\u2019estrapolazione e di natura creativa? Il fatto che l\u2019IA possa analizzare il contenuto di cento libri in un solo istante, comporta necessariamente che uno studente non possa apprezzare o trarre beneficio da uno solo tra essi? Fare qualcosa pi\u00f9 velocemente \u00e8 necessariamente positivo e indica che \u00e8 ci\u00f2 che vogliamo adottare per noi8<\/sup>?<\/p>\n Dobbiamo ricordare che non si insegna ai bambini affinch\u00e9 vivano nel mondo e con le tecnologie che esistono oggi. Sono preparati o verranno loro date le competenze per prepararsi per un mondo che arriver\u00e0 tra dieci, quindici anni8<\/sup>. Il modo in cui Chat-GPT ha rivoluzionato ogni cosa in un anno pone la questione di cosa sar\u00e0 l\u2019istruzione dopo il superamento di Chat-GPT piuttosto che all\u2019uso di Chat-GPT. Gli studenti devono essere in grado di pensare con la propria testa, essere resilienti in modo da adeguarsi al cambiamento e crescere con le nuove sfide che la vita pone loro davanti.<\/p>\n L\u2019obiettivo ultimo dell\u2019istruzione non pu\u00f2 essere produrre degli operatori efficienti di macchine intelligenti o lavoratori formiche alla catena di montaggio, ma contribuire a formare cittadini a tutto tondo, in grado di pensare liberamente, creativi e resilienti. Bisogna rimuginare su questioni cruciali, valutare gli effetti a lungo termine prima di decidere come meglio adottare una tecnologia per raggiungere questo obiettivo. Questo, cosa pi\u00f9 importante di qualsiasi altra discussa nelle pagine di questo testo, non pu\u00f2 essere demandato all\u2019IA, generativa o meno.<\/p>\n <\/p>\n 1 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, UNESCO, Paris, 2023.<\/p>\n 2 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, What if the devil is my guardian angel: Chat-GPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n 3 <\/sup>Lewkowycz, A., Andreassen, A.,\u00a0 Dohan, D. et al, Solving Quantitative Reasoning Problems with Language Models<\/em>, Google Research, 2022.<\/p>\n\n \t
\n \t
\n\n
\n
\n