Molto denaro, risorse informatiche, tempo e impegno sono profusi nella creazione di serie di dati, benchmark e algoritmi per l\u2019apprendimento automatico. Ci\u00f2 vale in particolar modo per l\u2019apprendimento profondo e i modelli di grandi dimensioni. \u00c8 pertanto logico che le risorse create siano condivise in questo ecosistema. \u00c8 il caso di molti sistemi di apprendimento automatico che spesso usiamo. Anche laddove i prodotti finali sono diversi e sono creati da societ\u00e0 diverse, la metodologia, gli insiemi di dati, le librerie per l\u2019apprendimento automatico e le valutazioni sono spesso condivisi1<\/sup>. Pertanto si continua a ragionare sul fatto che, in condizioni analoghe, i loro output debbano essere simili.<\/p>\n Se l\u2019output \u00e8 una decisione in materia didattica, ci\u00f2 \u00e8 motivo di preoccupazione, per esempio, per studenti che potrebbero essere esclusi in modo iniquo da tutte le opportunit\u00e0 di apprendimento1<\/sup>. Ma se l\u2019omologazione prodotta dagli algoritmi costituisca un\u2019ingiustizia pu\u00f2 essere deciso soltanto caso per caso1<\/sup>.<\/p>\n D\u2019altra parte, se il compito del sistema \u00e8 aiutare lo studente a scrivere, l\u2019accento viene a porsi sulla standardizzazione degli stili di scrittura, della terminologia e pertanto dei modelli di pensiero. I modelli linguistici utilizzati in questi casi vengono decisi in modo da prevedere i testi pi\u00f9 probabili sulla base delle serie di dati di addestramento usati. Queste serie di dati, se non sono condivise tra sistemi, sono congegnate in un modo simile, spesso con dati pubblici tratti da Internet. Anche quando questi dati sono controllati per scongiurare la presenza di preconcetti, pregiudizi e contenuti estremi, ci\u00f2 rappresenta solo un piccolo ecosistema e non il mondo in tutta la sua diversit\u00e0 di idee, cultura e pratiche. I sistemi di testi predittivi fondati sull\u2019apprendimento profondo utilizzati per messaggi di testo ed e-mail si sono dimostrati in grado di cambiare il modo in cui le persone scrivono: il modo di scrivere tende ad essere \u00abpi\u00f9 stringato, pi\u00f9 prevedibile e meno vivace\u00bb2<\/sup>.<\/p>\n Le sequenze di parole che vengono ripetute nei dati di addestramento scendono a cascata nell\u2019output dei grandi modelli linguistici. Pertanto i valori dei creatori dei database acquisiscono il potere di ridurre la diversit\u00e0 di opinioni e la pluralit\u00e0 di espressione delle idee. Senza dei corretti interventi pedagogici, ci\u00f2 a propria volta potrebbe limitare la creativit\u00e0 e l\u2019originalit\u00e0 degli studenti, non soltanto portando a uno stile di scrittura stereotipato, ma in ultimo generando cittadini con una ridotta capacit\u00e0 di pensiero critico e quindi nel complesso un mondo meno variegato3<\/sup>.<\/p>\n\n Strettamente correlato con molte delle ricadute negative dell\u2019apprendimento automatico, ivi compresa l\u2019omologazione sopra menzionata, \u00e8 il fatto che le tecnologie sono divenute cos\u00ec progredite che l\u2019interfaccia uomo-macchina non ha interruzioni ed \u00e8 praticamente invisibile. Che si tratti dei motori di ricerca incorporati nella barra degli indirizzi della finestra di un browser o di una funzione di predizione del testo che funziona in modo intuitivo senza sfasamento temporale tra la scrittura, la predizione e la scelta di suggerimenti, spesso agiamo sotto l\u2019influenza della tecnologia senza esserne coscientemente consapevoli o avere la scelta di fermarci a riflettere sulle situazioni e prendere le nostre decisioni. Inoltre, quando ne facciamo abitualmente uso per assumere delle decisioni, tendiamo a dimenticarci completamente della sua esistenza4<\/sup>. \u00abUna volta che ci siamo abituati all\u2019uso delle tecnologie smettiamo di considerarle e invece, attraverso di esse, cerchiamo le informazioni e le attivit\u00e0 per facilitare le quali ne facciamo uso\u00bb. Ci\u00f2 fa sorgere serie preoccupazioni relativamente al libero arbitrio, alla trasparenza e alla fiducia, soprattutto quando sono coinvolte giovani menti, pertanto gli esperti hanno raccomandato che le interfacce siano rese pi\u00f9 visibili e persino meno facili da utilizzare4<\/sup>.<\/p>\n\n In ogni parte di questo manuale open source, abbiamo discusso dell\u2019impatto di natura pedagogica, etica e sulla societ\u00e0 dell\u2019IA, soprattutto dell\u2019IA basata sui dati. Il rapporto tra dati e privacy, l\u2019affidabilit\u00e0 dei contenuti e l\u2019autonomia dell\u2019utente, l\u2019impatto sull\u2019identit\u00e0 personale<\/a>, il\u00a0 rapporto tra pregiudizi e imparzialit\u00e0 <\/a>e il libero arbitrio <\/a>sono tutti temi che sono stati discussi nelle pagine ad essi dedicate. Problematiche specificamente connesse con i motori di ricerca sono state discusse in Dietro la lente d\u2019ingrandimento di Ricerca: effetti delle ricerche sull\u2019individuo e sulla societ\u00e0<\/a>, i problemi relativi ai sistemi adattivi sono stati affrontati ne Il rovescio della medaglia dei sistemi di apprendimento adattivi<\/a> e quelli specifici dell\u2019IA generativa all\u2019interno del capitolo intitolato L\u2019IA degenerativa<\/a>. In svariati punti del libro abbiamo considerato gli interventi correttivi che possono essere assunti in aula per affrontare problemi specifici. La nostra speranza \u00e8 che queste misure divengano meno onerose quando avremo sistemi di IA applicata all\u2019istruzione etici e affidabili. Questa IA etica sar\u00e0 sviluppata, implementata e utilizzata conformemente a norme e principi etici5<\/sup> e sar\u00e0 affidabile e resiliente.<\/p>\n Dal momento che cediamo cos\u00ec tanto potere ai modelli di IA e ai loro programmatori, venditori e valutatori, \u00e8 pi\u00f9 che ragionevole chiedere loro di essere trasparenti, assumersi le proprie responsabilit\u00e0 e porre rimedio ai propri errori quando le cose vanno male6. Abbiamo bisogno di accordi sul livello di servizio che evidenzino chiaramente \u201ci servizi di assistenza e manutenzione e le azioni da intraprendere per risolvere i problemi segnalati\u201d5<\/sup>.<\/p>\n Un\u2019IA resiliente accetterebbe le proprie imperfezioni, le prevederebbe e continuerebbe a funzionare nonostante esse. Dei sistemi di IA resilienti si guasterebbero in modo prevedibile e comprenderebbero dei protocolli per sanare questi guasti6<\/sup>.<\/p>\n Nel campo dell\u2019istruzione, un\u2019IA etica sarebbe guidata da dei principi di progettazione incentrati sull\u2019utente e prenderebbe in considerazione tutti gli aspetti dell\u2019istruzione7<\/sup>. Gli insegnanti sarebbero in grado di analizzarne il funzionamento, comprenderne le spiegazioni, ignorarne le decisioni o mettere in pausa il suo utilizzo senza difficolt\u00e08<\/sup>. Questi sistemi ridurrebbero il carico di lavoro degli insegnanti, fornirebbero loro delle informazioni dettagliate sui loro studenti e li sosterrebbero nel valorizzare la portata e la qualit\u00e0 dell\u2019istruzione8<\/sup>. Non provocherebbero danni agli utenti e all\u2019ambiente e migliorerebbero il benessere sociale ed emozionale di discenti e docenti5<\/sup>.<\/p>\n Fino all\u2019avvento di tale giorno, un insegnante dovr\u00e0 cercare di sviluppare attorno a s\u00e9 una comunit\u00e0 di colleghi e pedagogisti e di farvi attivamente parte in modo da sollevare la consapevolezza riguardo ai problemi, condividere esperienze e pratiche migliori e individuare dei fornitori di IA affidabili. Gli insegnanti potrebbero inoltre coinvolgere studenti e genitori in discussioni e decisioni per affrontare meglio diverse preoccupazioni e sviluppare un\u2019atmosfera di confidenza e cameratismo. Otterrebbero servizi migliori facendo del proprio meglio per rimanere aggiornati sulle ultime tendenze dell\u2019AIED e acquisendo competenze quando e dove possibile5<\/sup>.<\/p>\n \n\n 1\u00a0<\/sup>Bommasani, R., et al, Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?<\/em>, Advances in Neural Information Processing Systems, 2022<\/p>\n 2\u00a0<\/sup>Varshney, L., Respect for Human Autonomy in Recommender System<\/em>, 3rd FAccTRec Workshop on Responsible Recommendation, 2020.<\/p>\n 3 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, UNESCO, Paris, 2023.<\/p>\n 4 <\/sup>Susser, D., Invisible Influence: Artificial Intelligence and the Ethics of Adaptive Choice Architectures,<\/em> Proceedings of the 2019 AAAI\/ACM Conference on AI, Ethics, and Society, Association for Computing Machinery, New York, 403\u2013408, 2019.<\/p>\n 5 <\/sup>Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators<\/a>, European Commission, October 2022<\/p>\n 6 <\/sup>Schneier, B., Data and Goliath: The Hidden Battles to Capture Your Data and Control Your World, <\/em>W. W. Norton & Company, 2015.<\/p>\n 7 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n 8 <\/sup>U.S. Department of Education, Office of Educational Technology, Artificial Intelligence and Future of Teaching and Learning: Insights and Recommendations<\/em>, Washington, DC, 2023.<\/p>","rendered":" Molto denaro, risorse informatiche, tempo e impegno sono profusi nella creazione di serie di dati, benchmark e algoritmi per l\u2019apprendimento automatico. Ci\u00f2 vale in particolar modo per l\u2019apprendimento profondo e i modelli di grandi dimensioni. \u00c8 pertanto logico che le risorse create siano condivise in questo ecosistema. \u00c8 il caso di molti sistemi di apprendimento automatico che spesso usiamo. Anche laddove i prodotti finali sono diversi e sono creati da societ\u00e0 diverse, la metodologia, gli insiemi di dati, le librerie per l\u2019apprendimento automatico e le valutazioni sono spesso condivisi1<\/sup>. Pertanto si continua a ragionare sul fatto che, in condizioni analoghe, i loro output debbano essere simili.<\/p>\n Se l\u2019output \u00e8 una decisione in materia didattica, ci\u00f2 \u00e8 motivo di preoccupazione, per esempio, per studenti che potrebbero essere esclusi in modo iniquo da tutte le opportunit\u00e0 di apprendimento1<\/sup>. Ma se l\u2019omologazione prodotta dagli algoritmi costituisca un\u2019ingiustizia pu\u00f2 essere deciso soltanto caso per caso1<\/sup>.<\/p>\n D\u2019altra parte, se il compito del sistema \u00e8 aiutare lo studente a scrivere, l\u2019accento viene a porsi sulla standardizzazione degli stili di scrittura, della terminologia e pertanto dei modelli di pensiero. I modelli linguistici utilizzati in questi casi vengono decisi in modo da prevedere i testi pi\u00f9 probabili sulla base delle serie di dati di addestramento usati. Queste serie di dati, se non sono condivise tra sistemi, sono congegnate in un modo simile, spesso con dati pubblici tratti da Internet. Anche quando questi dati sono controllati per scongiurare la presenza di preconcetti, pregiudizi e contenuti estremi, ci\u00f2 rappresenta solo un piccolo ecosistema e non il mondo in tutta la sua diversit\u00e0 di idee, cultura e pratiche. I sistemi di testi predittivi fondati sull\u2019apprendimento profondo utilizzati per messaggi di testo ed e-mail si sono dimostrati in grado di cambiare il modo in cui le persone scrivono: il modo di scrivere tende ad essere \u00abpi\u00f9 stringato, pi\u00f9 prevedibile e meno vivace\u00bb2<\/sup>.<\/p>\n Le sequenze di parole che vengono ripetute nei dati di addestramento scendono a cascata nell\u2019output dei grandi modelli linguistici. Pertanto i valori dei creatori dei database acquisiscono il potere di ridurre la diversit\u00e0 di opinioni e la pluralit\u00e0 di espressione delle idee. Senza dei corretti interventi pedagogici, ci\u00f2 a propria volta potrebbe limitare la creativit\u00e0 e l\u2019originalit\u00e0 degli studenti, non soltanto portando a uno stile di scrittura stereotipato, ma in ultimo generando cittadini con una ridotta capacit\u00e0 di pensiero critico e quindi nel complesso un mondo meno variegato3<\/sup>.<\/p>\n Strettamente correlato con molte delle ricadute negative dell\u2019apprendimento automatico, ivi compresa l\u2019omologazione sopra menzionata, \u00e8 il fatto che le tecnologie sono divenute cos\u00ec progredite che l\u2019interfaccia uomo-macchina non ha interruzioni ed \u00e8 praticamente invisibile. Che si tratti dei motori di ricerca incorporati nella barra degli indirizzi della finestra di un browser o di una funzione di predizione del testo che funziona in modo intuitivo senza sfasamento temporale tra la scrittura, la predizione e la scelta di suggerimenti, spesso agiamo sotto l\u2019influenza della tecnologia senza esserne coscientemente consapevoli o avere la scelta di fermarci a riflettere sulle situazioni e prendere le nostre decisioni. Inoltre, quando ne facciamo abitualmente uso per assumere delle decisioni, tendiamo a dimenticarci completamente della sua esistenza4<\/sup>. \u00abUna volta che ci siamo abituati all\u2019uso delle tecnologie smettiamo di considerarle e invece, attraverso di esse, cerchiamo le informazioni e le attivit\u00e0 per facilitare le quali ne facciamo uso\u00bb. Ci\u00f2 fa sorgere serie preoccupazioni relativamente al libero arbitrio, alla trasparenza e alla fiducia, soprattutto quando sono coinvolte giovani menti, pertanto gli esperti hanno raccomandato che le interfacce siano rese pi\u00f9 visibili e persino meno facili da utilizzare4<\/sup>.<\/p>\n In ogni parte di questo manuale open source, abbiamo discusso dell\u2019impatto di natura pedagogica, etica e sulla societ\u00e0 dell\u2019IA, soprattutto dell\u2019IA basata sui dati. Il rapporto tra dati e privacy, l\u2019affidabilit\u00e0 dei contenuti e l\u2019autonomia dell\u2019utente, l\u2019impatto sull\u2019identit\u00e0 personale<\/a>, il\u00a0 rapporto tra pregiudizi e imparzialit\u00e0 <\/a>e il libero arbitrio <\/a>sono tutti temi che sono stati discussi nelle pagine ad essi dedicate. Problematiche specificamente connesse con i motori di ricerca sono state discusse in Dietro la lente d\u2019ingrandimento di Ricerca: effetti delle ricerche sull\u2019individuo e sulla societ\u00e0<\/a>, i problemi relativi ai sistemi adattivi sono stati affrontati ne Il rovescio della medaglia dei sistemi di apprendimento adattivi<\/a> e quelli specifici dell\u2019IA generativa all\u2019interno del capitolo intitolato L\u2019IA degenerativa<\/a>. In svariati punti del libro abbiamo considerato gli interventi correttivi che possono essere assunti in aula per affrontare problemi specifici. La nostra speranza \u00e8 che queste misure divengano meno onerose quando avremo sistemi di IA applicata all\u2019istruzione etici e affidabili. Questa IA etica sar\u00e0 sviluppata, implementata e utilizzata conformemente a norme e principi etici5<\/sup> e sar\u00e0 affidabile e resiliente.<\/p>\n Dal momento che cediamo cos\u00ec tanto potere ai modelli di IA e ai loro programmatori, venditori e valutatori, \u00e8 pi\u00f9 che ragionevole chiedere loro di essere trasparenti, assumersi le proprie responsabilit\u00e0 e porre rimedio ai propri errori quando le cose vanno male6. Abbiamo bisogno di accordi sul livello di servizio che evidenzino chiaramente \u201ci servizi di assistenza e manutenzione e le azioni da intraprendere per risolvere i problemi segnalati\u201d5<\/sup>.<\/p>\n Un\u2019IA resiliente accetterebbe le proprie imperfezioni, le prevederebbe e continuerebbe a funzionare nonostante esse. Dei sistemi di IA resilienti si guasterebbero in modo prevedibile e comprenderebbero dei protocolli per sanare questi guasti6<\/sup>.<\/p>\n Nel campo dell\u2019istruzione, un\u2019IA etica sarebbe guidata da dei principi di progettazione incentrati sull\u2019utente e prenderebbe in considerazione tutti gli aspetti dell\u2019istruzione7<\/sup>. Gli insegnanti sarebbero in grado di analizzarne il funzionamento, comprenderne le spiegazioni, ignorarne le decisioni o mettere in pausa il suo utilizzo senza difficolt\u00e08<\/sup>. Questi sistemi ridurrebbero il carico di lavoro degli insegnanti, fornirebbero loro delle informazioni dettagliate sui loro studenti e li sosterrebbero nel valorizzare la portata e la qualit\u00e0 dell\u2019istruzione8<\/sup>. Non provocherebbero danni agli utenti e all\u2019ambiente e migliorerebbero il benessere sociale ed emozionale di discenti e docenti5<\/sup>.<\/p>\n Fino all\u2019avvento di tale giorno, un insegnante dovr\u00e0 cercare di sviluppare attorno a s\u00e9 una comunit\u00e0 di colleghi e pedagogisti e di farvi attivamente parte in modo da sollevare la consapevolezza riguardo ai problemi, condividere esperienze e pratiche migliori e individuare dei fornitori di IA affidabili. Gli insegnanti potrebbero inoltre coinvolgere studenti e genitori in discussioni e decisioni per affrontare meglio diverse preoccupazioni e sviluppare un\u2019atmosfera di confidenza e cameratismo. Otterrebbero servizi migliori facendo del proprio meglio per rimanere aggiornati sulle ultime tendenze dell\u2019AIED e acquisendo competenze quando e dove possibile5<\/sup>.<\/p>\n <\/p>\n 1\u00a0<\/sup>Bommasani, R., et al, Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?<\/em>, Advances in Neural Information Processing Systems, 2022<\/p>\n 2\u00a0<\/sup>Varshney, L., Respect for Human Autonomy in Recommender System<\/em>, 3rd FAccTRec Workshop on Responsible Recommendation, 2020.<\/p>\n 3 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, UNESCO, Paris, 2023.<\/p>\nInvisibilit\u00e0<\/h3>\n
Cosa c\u2019\u00e8 dietro: un\u2019IA etica<\/h3>\n
\nOmologazione<\/h3>\n
Invisibilit\u00e0<\/h3>\n
Cosa c\u2019\u00e8 dietro: un\u2019IA etica<\/h3>\n
\n