{"id":242,"date":"2023-11-30T17:20:11","date_gmt":"2023-11-30T17:20:11","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/chapter\/understanding-the-debates-about-the-possible-dangers-of-ai\/"},"modified":"2024-01-31T11:39:47","modified_gmt":"2024-01-31T11:39:47","slug":"understanding-the-debates-about-the-possible-dangers-of-ai","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/chapter\/understanding-the-debates-about-the-possible-dangers-of-ai\/","title":{"raw":"Conoscere i dibattiti sui possibili pericoli dell\u2019IA","rendered":"Conoscere i dibattiti sui possibili pericoli dell\u2019IA"},"content":{"raw":"

Nel marzo del 20231<\/sup> e poi nel maggio del 20232<\/sup>, sono state pubblicate due petizioni\/lettere aperte, firmate in entrambi i casi da centinaia di famosi scienziati ed esperti nel campo dell\u2019IA attivi nel settore, che mettevano in guardia relativamente ad alcuni pericoli insiti nell\u2019IA. Cosa ne sappiamo in proposito?<\/p>\n\n

La questione ha rilevanza per gli insegnanti?<\/h3>\n

Con studenti pi\u00f9 maturi si pone la questione dei rischi posti per la civilt\u00e0 dall\u2019IA e, anche se nessun insegnante ha l\u2019obbligo di fornire delle risposte risolutive a tutte le domande, \u00e8 giusto capire come si delinea la controversia.<\/p>\n\n

In quanto insegnanti, ci si dovrebbe limitare a parlare unicamente degli aspetti tecnici di un argomento, lasciando le questioni umane, economiche, filosofiche agli esperti?<\/h3>\n

Questa domanda \u00e8 interessante e su di essa le opinioni si dividono. Un insegnante di fisica dovrebbe essere a conoscenza di quanto accaduto a Hiroshima o a Chernobyl? Si dovrebbe discutere in classe di questi argomenti? Oppure, nel caso dell\u2019IA, un insegnante dovrebbe limitarsi a utilizzare i software in modo sicuro e comprendere in linea generale come funzionano? O essere anche in grado di capire i dibattiti in corso sulle questioni poste per la societ\u00e0 dall\u2019uso dell\u2019IA?<\/p>\n

La posizione dell\u2019Unesco (e di numerosi esperti) \u00e8 che l\u2019intelligenza artificiale non sia solo tecnologia e che un insegnante debba comprendere le questioni etiche che includono anche quelle inerenti all\u2019impatto che l\u2019IA ha sulla societ\u00e0, la civilt\u00e0 o l\u2019umanit\u00e0.<\/p>\n\n

Queste questioni sono nuove?<\/h3>\n

Alcune delle questioni legate ai pericoli dell\u2019IA si sono poste all\u2019attenzione da tempo. Si \u00e8 discusso a lungo cosa accada quando l\u2019intelligenza artificiale sia \u201csuperiore\u201d all\u2019intelligenza umana. Irving Good4<\/sup>, ex collega di Alan Turing, ha introdotto il concetto di Singolarit\u00e0 tecnologica<\/em> gi\u00e0 nel 1965 per ipotizzare che, quando fosse diventata pi\u00f9 intelligente degli umani o super-intelligente, l\u2019IA sarebbe stata inarrestabile. Good ha anche svolto attivit\u00e0 di consulenza per Stanley\u00a0 Kubrick durante la realizzazione di \u201c2001: odissea nello spazio\u201d, un film che tratta (tra l\u2019altro) di come un\u2019IA possa divenire incontrollabile.<\/p>\n\n

Le posizioni<\/h3>\n

Il testo del primo documento1 metteva in guardia sul fatto che l\u2019IA potesse avere effetti positivi e negativi, che l\u2019impatto sulla societ\u00e0 e sui posti di lavoro avrebbe potuto essere considerevole e ha introdotto il concetto che l\u2019IA non solo avrebbe sostituito gli esseri umani nello svolgimento di lavori noiosi e indesiderabili, ma di cosa sarebbe accaduto ai lavori scelti dalle persone. E inoltre, che gli sviluppi dell\u2019IA avrebbero portato a un\u2019evoluzione della societ\u00e0 e che non sarebbero stati applicati i consueti meccanismi democratici di cambiamento.<\/p>\n

Nel secondo testo2<\/sup>, si sottolineava che il rischio aggiuntivo era quello che l\u2019IA potesse divenire incontrollabile (o delle varianti di questa ipotesi) cosa che avrebbe potuto determinare la fine della civilt\u00e0 umana.<\/p>\n

Dal dibattito emergeva una terza posizione3<\/sup>: quella che l\u2019IA costituiva effettivamente un motivo di preoccupazione, ma non per ragioni esistenziali, dietro le quali si camuffavano i problemi pi\u00f9 impellenti.<\/p>\n\n

Il dibattito \u00e8 terminato?<\/h3>\n

No, il dibattito non \u00e8 terminato. Alcuni esperti continuano a sostenere che i rischi siano molteplici, che queste tecnologie si stiano sviluppando troppo velocemente e che bisogni disciplinarle. Altri ritengono che al momento l\u2019IA comporti unicamente benefici, che certamente dovremo prestare attenzione, ma non dobbiamo avere paura.<\/p>\n

\u00c8 difficile affermare quale posizione sia vincente o perdente, chi abbia ragione e chi torto; sotto molti punti di vista il dibattito ricorda quello inerente alla fisica dopo il 1945.<\/p>\n

Una posizione comune \u00e8 chiedere delle normative, anche se non c\u2019\u00e8 (ancora) una definizione di norme condivise da tutti.<\/p>\n\n

Esiste una posizione valida?<\/h3>\n

Di fatto, entrambe le posizioni sono probabilmente molto valide. Lo stato attuale delle cose pare propendere per la posizione degli entusiasti (l\u2019IA sta permettendo di compiere progressi fantastici nel campo della medicina, in agricoltura, nell\u2019analisi degli scenari climatici, in ambito linguistico e della comunicazione), ma anche l\u2019argomentazione che noi, come esseri umani, abbiamo sempre trovato delle risposte, presenta considerevoli limiti.<\/p>\n\n

Dove approfondire il dibattito?<\/h3>\n

Per persone (o insegnanti) dalla mentalit\u00e0 aperta le fonti sono numerose: blog, siti affidabili, documenti programmatici e filmati di esperti eminenti (in ogni campo, anche gli storici e i filosofi hanno molto da dire).<\/p>\n \n\n

\n

1<\/sup> https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/<\/a><\/p>\n

2<\/sup> https:\/\/www.safe.ai\/statement-on-ai-risk#open-letter<\/a><\/p>\n

3<\/sup> https:\/\/theconversation.com\/lets-focus-on-ais-tangible-risks-rather-than-speculating-about-its-potential-to-pose-an-existential-threat-207842<\/a><\/p>\n

4<\/sup> https:\/\/www.historyofinformation.com\/detail.php?id=2142<\/a><\/p>\n

5<\/sup> https:\/\/en.wikipedia.org\/wiki\/I._J._Good<\/a><\/p>\n

<\/p>","rendered":"

Nel marzo del 20231<\/sup> e poi nel maggio del 20232<\/sup>, sono state pubblicate due petizioni\/lettere aperte, firmate in entrambi i casi da centinaia di famosi scienziati ed esperti nel campo dell\u2019IA attivi nel settore, che mettevano in guardia relativamente ad alcuni pericoli insiti nell\u2019IA. Cosa ne sappiamo in proposito?<\/p>\n

La questione ha rilevanza per gli insegnanti?<\/h3>\n

Con studenti pi\u00f9 maturi si pone la questione dei rischi posti per la civilt\u00e0 dall\u2019IA e, anche se nessun insegnante ha l\u2019obbligo di fornire delle risposte risolutive a tutte le domande, \u00e8 giusto capire come si delinea la controversia.<\/p>\n

In quanto insegnanti, ci si dovrebbe limitare a parlare unicamente degli aspetti tecnici di un argomento, lasciando le questioni umane, economiche, filosofiche agli esperti?<\/h3>\n

Questa domanda \u00e8 interessante e su di essa le opinioni si dividono. Un insegnante di fisica dovrebbe essere a conoscenza di quanto accaduto a Hiroshima o a Chernobyl? Si dovrebbe discutere in classe di questi argomenti? Oppure, nel caso dell\u2019IA, un insegnante dovrebbe limitarsi a utilizzare i software in modo sicuro e comprendere in linea generale come funzionano? O essere anche in grado di capire i dibattiti in corso sulle questioni poste per la societ\u00e0 dall\u2019uso dell\u2019IA?<\/p>\n

La posizione dell\u2019Unesco (e di numerosi esperti) \u00e8 che l\u2019intelligenza artificiale non sia solo tecnologia e che un insegnante debba comprendere le questioni etiche che includono anche quelle inerenti all\u2019impatto che l\u2019IA ha sulla societ\u00e0, la civilt\u00e0 o l\u2019umanit\u00e0.<\/p>\n

Queste questioni sono nuove?<\/h3>\n

Alcune delle questioni legate ai pericoli dell\u2019IA si sono poste all\u2019attenzione da tempo. Si \u00e8 discusso a lungo cosa accada quando l\u2019intelligenza artificiale sia \u201csuperiore\u201d all\u2019intelligenza umana. Irving Good4<\/sup>, ex collega di Alan Turing, ha introdotto il concetto di Singolarit\u00e0 tecnologica<\/em> gi\u00e0 nel 1965 per ipotizzare che, quando fosse diventata pi\u00f9 intelligente degli umani o super-intelligente, l\u2019IA sarebbe stata inarrestabile. Good ha anche svolto attivit\u00e0 di consulenza per Stanley\u00a0 Kubrick durante la realizzazione di \u201c2001: odissea nello spazio\u201d, un film che tratta (tra l\u2019altro) di come un\u2019IA possa divenire incontrollabile.<\/p>\n

Le posizioni<\/h3>\n

Il testo del primo documento1 metteva in guardia sul fatto che l\u2019IA potesse avere effetti positivi e negativi, che l\u2019impatto sulla societ\u00e0 e sui posti di lavoro avrebbe potuto essere considerevole e ha introdotto il concetto che l\u2019IA non solo avrebbe sostituito gli esseri umani nello svolgimento di lavori noiosi e indesiderabili, ma di cosa sarebbe accaduto ai lavori scelti dalle persone. E inoltre, che gli sviluppi dell\u2019IA avrebbero portato a un\u2019evoluzione della societ\u00e0 e che non sarebbero stati applicati i consueti meccanismi democratici di cambiamento.<\/p>\n

Nel secondo testo2<\/sup>, si sottolineava che il rischio aggiuntivo era quello che l\u2019IA potesse divenire incontrollabile (o delle varianti di questa ipotesi) cosa che avrebbe potuto determinare la fine della civilt\u00e0 umana.<\/p>\n

Dal dibattito emergeva una terza posizione3<\/sup>: quella che l\u2019IA costituiva effettivamente un motivo di preoccupazione, ma non per ragioni esistenziali, dietro le quali si camuffavano i problemi pi\u00f9 impellenti.<\/p>\n

Il dibattito \u00e8 terminato?<\/h3>\n

No, il dibattito non \u00e8 terminato. Alcuni esperti continuano a sostenere che i rischi siano molteplici, che queste tecnologie si stiano sviluppando troppo velocemente e che bisogni disciplinarle. Altri ritengono che al momento l\u2019IA comporti unicamente benefici, che certamente dovremo prestare attenzione, ma non dobbiamo avere paura.<\/p>\n

\u00c8 difficile affermare quale posizione sia vincente o perdente, chi abbia ragione e chi torto; sotto molti punti di vista il dibattito ricorda quello inerente alla fisica dopo il 1945.<\/p>\n

Una posizione comune \u00e8 chiedere delle normative, anche se non c\u2019\u00e8 (ancora) una definizione di norme condivise da tutti.<\/p>\n

Esiste una posizione valida?<\/h3>\n

Di fatto, entrambe le posizioni sono probabilmente molto valide. Lo stato attuale delle cose pare propendere per la posizione degli entusiasti (l\u2019IA sta permettendo di compiere progressi fantastici nel campo della medicina, in agricoltura, nell\u2019analisi degli scenari climatici, in ambito linguistico e della comunicazione), ma anche l\u2019argomentazione che noi, come esseri umani, abbiamo sempre trovato delle risposte, presenta considerevoli limiti.<\/p>\n

Dove approfondire il dibattito?<\/h3>\n

Per persone (o insegnanti) dalla mentalit\u00e0 aperta le fonti sono numerose: blog, siti affidabili, documenti programmatici e filmati di esperti eminenti (in ogni campo, anche gli storici e i filosofi hanno molto da dire).<\/p>\n

 <\/p>\n

\n

1<\/sup> https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/<\/a><\/p>\n

2<\/sup> https:\/\/www.safe.ai\/statement-on-ai-risk#open-letter<\/a><\/p>\n

3<\/sup> https:\/\/theconversation.com\/lets-focus-on-ais-tangible-risks-rather-than-speculating-about-its-potential-to-pose-an-existential-threat-207842<\/a><\/p>\n

4<\/sup> https:\/\/www.historyofinformation.com\/detail.php?id=2142<\/a><\/p>\n

5<\/sup> https:\/\/en.wikipedia.org\/wiki\/I._J._Good<\/a><\/p>\n

\n","protected":false},"author":1,"menu_order":14,"template":"","meta":{"pb_show_title":"","pb_short_title":"","pb_subtitle":"","pb_authors":[],"pb_section_license":""},"chapter-type":[49],"contributor":[],"license":[],"part":207,"_links":{"self":[{"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/pressbooks\/v2\/chapters\/242"}],"collection":[{"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/pressbooks\/v2\/chapters"}],"about":[{"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/wp\/v2\/types\/chapter"}],"author":[{"embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/wp\/v2\/users\/1"}],"version-history":[{"count":1,"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/pressbooks\/v2\/chapters\/242\/revisions"}],"predecessor-version":[{"id":243,"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/pressbooks\/v2\/chapters\/242\/revisions\/243"}],"part":[{"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/pressbooks\/v2\/parts\/207"}],"metadata":[{"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/pressbooks\/v2\/chapters\/242\/metadata\/"}],"wp:attachment":[{"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/wp\/v2\/media?parent=242"}],"wp:term":[{"taxonomy":"chapter-type","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/pressbooks\/v2\/chapter-type?post=242"},{"taxonomy":"contributor","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/wp\/v2\/contributor?post=242"},{"taxonomy":"license","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/intelligenzaartificiale\/wp-json\/wp\/v2\/license?post=242"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}