44

La domanda chiave dell’IA di domani potrebbe essere: “per chi lavora l’IA?”.

Quando si utilizza uno strumento che si suppone dia un vantaggio nell’apprendimento, ci si aspetta che sia così. Ma può esserci un motivo per cui lo strumento mira a ottimizzare una funzione più complessa che a soddisfare le vostre esigenze? E questo ha importanza se si ottiene anche il risultato atteso? Vediamo.

Naturalmente, quando l’IA è costruita da un’azienda privata, ha senso capire qual è il suo modello di business, perché questo permette di capire per chi sta lavorando: se si tratta di un software da acquistare una tantum da parte dei genitori, questi dovranno essere convinti che anche altri genitori siano interessati. Se si tratta di scuole, insegnanti o governi, gli argomenti cambieranno e così il software.

Dobbiamo ricordare che quando c’è un software di intelligenza artificiale basato sull’apprendimento automatico, l’apprendimento avverrà in relazione a una certa funzione obiettivo: la rete neurale può essere addestrata per minimizzare il tempo di apprendimento dell’alunno, per massimizzare i risultati dei test a quiz o per una combinazione di entrambi i fattori.

In molti casi, però, l’apprendimento avviene in un ambiente sociale e la raccomandazione dell’intelligenza artificiale può avere un effetto non solo sull’individuo, ma anche sugli altri individui o sul gruppo nel suo complesso.

Per esplorare questa idea, guardiamo come funziona il popolare sistema Waze. Anche se non è di grande impatto per l’insegnamento – nonostante molti insegnanti lo usino per arrivare in tempo a scuola!

Waze

Waze è un’applicazione attualmente utilizzata per aiutare gli automobilisti a trovare il proprio percorso: è quindi un sistema di navigazione. Ma Waze ha anche molte caratteristiche di un social network, poiché molti dei dati che utilizza per analizzare le condizioni del traffico non provengono da archivi ufficiali di dati aperti o da telecamere, ma dagli stessi utenti. Secondo l’azienda stessa, non più e non meno di 150 milioni di persone utilizzano Waze ogni mese, su tutte le piattaforme¹.

Per chi non usa Waze, questo è un riassunto molto semplice del suo funzionamento:
state andando al lavoro. Come ogni giorno. Conoscete la strada, ma userete comunque Waze. Così come una buona parte delle auto intorno a voi. Sulla vostra mappa troverete il percorso calcolato per portarvi dove volete andare, ma anche elementi come l’ora di arrivo stimata, che viene aggiornata ogni pochi minuti man mano che le condizioni del traffico cambiano nel luogo in cui vi trovate e nelle zone che visiterete durante il tragitto. Si può anche sapere che c’è un oggetto sulla strada a 260 m, un incidente stradale a 1 km, un ingorgo a 3 km. In base a questi aggiornamenti, il sistema può proporre un percorso alternativo che vi farà “risparmiare” 7 minuti…

Affinché tutto questo funzioni, voi, in qualità di Wazer, dovrete inserire informazioni e avvertire gli altri wazer, tramite il sistema, che c’è un animale che si aggira nel punto in cui vi trovate o – e questo è importante – che l’oggetto che dovrebbe trovarsi sulla strada non c’è più.

Dov’è l’intelligenza artificiale?

C’è l’intelligenza artificiale nel calcolo dei tempi previsti, dei percorsi, ecc. Ciò significa prendere in considerazione informazioni statiche (distanze) ma anche dinamiche (le velocità delle auto). Waze utilizzerà anche la cronologia dell’utente per tenere conto dei suoi modelli di guida². Waze saprà anche se i semafori sono sincronizzati a vostro vantaggio o meno.

Ma non è tutto: Quando un utente inserisce informazioni su qualcosa di nuovo, come ne tiene conto il sistema? Supponiamo che io avverta che la strada è bloccata, cosa dovrebbe accadere? Un esperto umano potrebbe controllare due volte (gli altri utenti dicono lo stesso?), usare un modello che gli dica quanto credito dovrebbe essere dato a questo particolare utente, controllare se l’utente è davvero fermo… L’intelligenza artificiale farà lo stesso.

E non solo. Quando il sistema rileva un ingorgo sulla strada normale, indirizza gli utenti su un percorso diverso. Ma come può il sistema sapere se l’ingorgo è minore o è un problema se non manda gli utenti a controllare? Gli utenti già bloccati non possono fornire questa informazione. Quindi il sistema deve inviare un po’ di utenti nella zona del problema per scoprire se il problema è stato risolto.

Alcune considerazioni di carattere etico?

1. Sussistono diverse considerazioni di carattere etico:
   Waze sa molto di voi. Dove vivete e lavorate, le vostre soste abituali, le vostre abitudini. Inoltre, vi proporrà alcuni annunci pubblicitari ai quali potrete rispondere o meno.
2. Per soddisfare il maggior numero possibile di clienti, Waze deve risolvere molti dilemmi di esplorazione/sfruttamento come quello sopra descritto. Come prende questa decisione? Esiste un modo “giusto” di prendere questa decisione?
3. L’uso regolare di questi strumenti ha conseguenze sulla nostra capacità di risolvere i problemi da soli. È ormai noto che le nostre capacità cognitive (umane) vengono influenzate. Per fare un esempio, sicuramente non isolato, un autore di questo testo stava usando Waze in un complicato lunedì mattina. Il sistema gli diceva di lasciare l’autostrada per evitare la congestione. Dopo 2 km di una bella strada secondaria, Waze ha cambiato idea e ha suggerito che il percorso migliore era tornare all’autostrada. L’importante in questo esempio non è che il sistema abbia cambiato il suo percorso ottimizzato – il che ha senso – ma il fatto che la nostra dipendenza da questi sistemi guidati dall’intelligenza artificiale ci rende incapaci di esprimere i nostri giudizi³.

Le conseguenze per l’istruzione

Per quanto ne sappiamo, questo problema di gestione dei gruppi non si verifica in ambito educativo. Eppure, quando le risorse sono illimitate (ad esempio, l’accesso a una piattaforma web) questa situazione è di scarsa importanza. Ma supponiamo che le risorse siano limitate: solo 3 alunni possono usare il robot contemporaneamente. In questo caso un sistema di intelligenza artificiale proporrà quali alunni dovranno avere accesso al robot. La decisione può essere influenzata da molti fattori. Se il sistema vuole essere equo, la decisione può essere casuale. Ma molti non ne saranno contenti. Se il sistema vuole ottenere i migliori risultati per tutta la classe, può assegnare più risorse ai bambini svantaggiati. Ma se il sistema si dà come compito quello di garantire che almeno il 90% degli alunni ottenga il voto XYZ alla fine del trimestre, sceglierà inevitabilmente alcuni alunni che faranno parte del restante 10%.

Il ruolo del docente

Un insegnante dell’era dell’intelligenza artificiale deve capire come funzionano questi sistemi e quali sono i limiti degli algoritmi. E assicurarsi che le decisioni vengano prese da lui/lei. Questo è più facile da dire che da fare. Un insegnante può usare un sistema di IA perché – come nel caso dello strumento di navigazione descritto sopra – questo strumento può dare benefici a tutti. Ma l’insegnante può, e deve, confrontare la decisione proposta dall’IA con la propria esperienza. Perdere 15 minuti su una strada non è un grosso problema. Ma fare la scelta sbagliata per i propri alunni lo è.

¹ https://www.cozyberries.com/waze-statistics-users-facts/ and https://www.autoevolution.com/news/waze-reveals-how-many-users-run-the-app-on-android-and-iphone-197107.html for some facts and figures concerning Waze.

² Petranu, Y. Under the Hood: Real-time ETA and How Waze Knows You’re on the Fastest Route
https://medium.com/waze/under-the-hood-real-time-eta-and-how-waze-knows-youre-on-the-fastest-route-78d63c158b90

³ Clemenson, G.D., Maselli, A., Fiannaca, A.J. et al. Rethinking GPS navigation: creating cognitive maps through auditory clues. Sci Rep 11, 7764 (2021). https://doi.org/10.1038/s41598-021-87148-4
https://www.nature.com/articles/s41598-021-87148-4