{"id":231,"date":"2023-11-30T16:32:01","date_gmt":"2023-11-30T16:32:01","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/understanding-the-debates-about-the-possible-dangers-of-ai\/"},"modified":"2024-01-31T11:52:09","modified_gmt":"2024-01-31T11:52:09","slug":"understanding-the-debates-about-the-possible-dangers-of-ai","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/chapter\/understanding-the-debates-about-the-possible-dangers-of-ai\/","title":{"raw":"Comprendre le d\u00e9bat autour des possibles dangers de l\u2019IA","rendered":"Comprendre le d\u00e9bat autour des possibles dangers de l\u2019IA"},"content":{"raw":"

En mars 20231<\/sup>, puis en mai 20232<\/sup>, deux lettres ouvertes\/p\u00e9titions ont \u00e9t\u00e9 publi\u00e9es, sign\u00e9es dans les deux cas par des centaines de scientifiques de renom et de sp\u00e9cialistes de l\u2019IA travaillant dans ce secteur, afin de tirer la sonnette d\u2019alarme concernant certains dangers pr\u00e9sent\u00e9s par l\u2019IA. Qu\u2019est-ce que nous pouvons apprendre de cet \u00e9v\u00e8nement ?<\/p>\n\n

S\u2019agit-il d\u2019une question pertinente pour les enseignants ?<\/h3>\n

Pour les \u00e9tudiants les plus matures, la question des risques que repr\u00e9sente l\u2019IA pour notre civilisation va se poser et, m\u00eame si aucun enseignant n\u2019est tenu de r\u00e9pondre de mani\u00e8re cat\u00e9gorique \u00e0 toutes ces questions, il est normal de chercher \u00e0 comprendre les grandes lignes de ce d\u00e9bat.<\/p>\n\n

En tant qu\u2019enseignant, ne devrait-on pas uniquement aborder les aspects techniques du sujet et laisser les questions humaines, \u00e9conomiques ou philosophiques aux sp\u00e9cialistes ?<\/h3>\n

C\u2019est une question int\u00e9ressante qui divise l\u2019opinion. Une personne qui enseigne la physique doit-elle conna\u00eetre en d\u00e9tail les catastrophes que sont Hiroshima ou Tchernobyl ? Un d\u00e9bat li\u00e9 \u00e0 ces \u00e9v\u00e8nements doit-il avoir lieu dans le cadre de ces cours ? Ou, en ce qui concerne l\u2019IA, un enseignant doit-il uniquement \u00eatre capable d\u2019utiliser un logiciel de mani\u00e8re s\u00e9curis\u00e9e et comprendre comment il fonctionne, de mani\u00e8re g\u00e9n\u00e9rale ? Doit-il \u00e9galement \u00eatre en mesure de comprendre les d\u00e9bats actuels qui concernent les questions de soci\u00e9t\u00e9s li\u00e9es \u00e0 l\u2019IA ?<\/p>\n

Selon l\u2019Unesco (et un certain nombre d\u2019experts) l\u2019Intelligence Artificielle n\u2019est pas seulement un sujet technologique et un enseignant doit comprendre les questions \u00e9thiques associ\u00e9es, notamment en ce qui concerne l\u2019impact de l\u2019IA sur la soci\u00e9t\u00e9, la civilisation ou l\u2019humanit\u00e9.<\/p>\n\n

Ces questions sont-elles nouvelles ?<\/h3>\n

Certaines des questions li\u00e9es aux dangers de l\u2019IA ne datent pas d\u2019aujourd\u2019hui. La th\u00e9orie concernant le fait que l\u2019Intelligence Artificielle devienne un jour \u00ab\u00a0sup\u00e9rieure\u00a0\u00bb \u00e0 l\u2019intelligence humaine est abord\u00e9e depuis longtemps. Irving Good4<\/sup>, un ancien coll\u00e8gue d\u2019Alan Turing, pr\u00e9sentait d\u00e9j\u00e0, en 1965, le concept de Singularit\u00e9 Technologique <\/em>selon lequel, une fois que l\u2019IA serait plus intelligente que les humains ou lorsqu\u2019elle deviendrait super-intelligente, il serait impossible de l\u2019arr\u00eater. Good a m\u00eame fourni ses conseils \u00e0 Stanley Kubrick \u00a0dans le cadre du tournage de \u00ab\u00a02001 : Odyss\u00e9e de l\u2019Espace\u00a0\u00bb, qui traite entre autres d\u2019une IA rebelle.<\/p>\n\n

Les positions<\/h3>\n

Le texte du premier document1<\/sup> nous avertissait que l\u2019IA pouvait avoir des effets positifs, mais aussi n\u00e9gatifs, que son impact sur la soci\u00e9t\u00e9 et sur le travail pouvait \u00eatre consid\u00e9rable, en pr\u00e9sentant l\u2019id\u00e9e selon laquelle l\u2019IA n\u2019allait pas seulement remplacer les humains aux postes les plus fastidieux et les moins valoris\u00e9s,mais que cela concernerait \u00e9galement les postes activement recherch\u00e9s. Qui plus est, les \u00e9volutions de l\u2019IA conduiraient \u00e0 des \u00e9volutions de la soci\u00e9t\u00e9, en court-circuitant les m\u00e9canismes d\u00e9mocratiques habituels du changement.<\/p>\n

Dans le deuxi\u00e8me texte2<\/sup>, le risque suppl\u00e9mentaire \u00e9tait celui d\u2019une IA rebelle (ou une variante de ce sc\u00e9nario) qui pourrait mener \u00e0 la fin de la civilisation humaine.<\/p>\n

Une troisi\u00e8me position s\u2019est fait entendre dans ce d\u00e9bat3<\/sup> : l\u2019IA est effectivement une source d\u2019inqui\u00e9tude, mais pas pour des raisons existentielles, qui ne font que cacher les probl\u00e8mes les plus urgents.<\/p>\n\n

Le d\u00e9bat est-il clos ?<\/h3>\n

Non, loin de l\u00e0. Certains scientifiques continuent \u00e0 nous avertir que l\u2019IA pr\u00e9sente de nombreux risques, que ces technologies se d\u00e9veloppent trop rapidement et qu\u2019elles doivent \u00eatre mieux r\u00e8glement\u00e9es. D\u2019autres estiment que, pour l\u2019instant, l\u2019IA pr\u00e9sente principalement des avantages et que nous devrions rester attentifs, mais sans crainte.<\/p>\n

Difficile de dire qui gagne ou qui perd, qui a raison et qui a tort : \u00e0 de nombreux \u00e9gards, ce d\u00e9bat rappelle celui qui animait le monde de la physique apr\u00e8s 1945.<\/p>\n

Une position commune est celle qui consiste \u00e0 demander plus de r\u00e8glementations, m\u00eame si tout le monde ne s\u2019accorde pas (encore) sur une d\u00e9finition de ces r\u00e8glementations.<\/p>\n\n

Doit-il y avoir une position arr\u00eat\u00e9e ?<\/h3>\n

En r\u00e9alit\u00e9, ces deux positions sont probablement tr\u00e8s sens\u00e9es. Actuellement, les faits semblent plut\u00f4t favorables aux d\u00e9fenseurs de l\u2019IA (elle a permis des progr\u00e8s remarquables dans les domaines de la M\u00e9decine, de l\u2019Agriculture, du Climat, des Langues et de la Communication) mais l\u2019argument selon lequel l\u2019humanit\u00e9 a toujours trouv\u00e9 des r\u00e9ponses pr\u00e9sente aussi de s\u00e9rieuses limites.<\/p>\n\n

Comment puis-je me renseigner sur ce d\u00e9bat ?<\/h3>\n

Pour toute personne qui garde l\u2019esprit ouvert (ou pour les enseignants), de nombreuses sources existent : des blogs, des sites fiables et des articles ou vid\u00e9os illustrant les prises de position, produits par des scientifiques de renom (y compris des historiens et des philosophes, qui ont \u00e9galement beaucoup \u00e0 dire sur le sujet).<\/p>\n\n\n

\n

1<\/sup> https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/<\/a><\/p>\n

2<\/sup> https:\/\/www.safe.ai\/statement-on-ai-risk#open-letter<\/a><\/p>\n

3<\/sup> https:\/\/theconversation.com\/lets-focus-on-ais-tangible-risks-rather-than-speculating-about-its-potential-to-pose-an-existential-threat-207842<\/a><\/p>\n

4<\/sup> https:\/\/www.historyofinformation.com\/detail.php?id=2142<\/a><\/p>\n

5<\/sup> https:\/\/en.wikipedia.org\/wiki\/I._J._Good<\/a><\/p>\n

<\/p>","rendered":"

En mars 20231<\/sup>, puis en mai 20232<\/sup>, deux lettres ouvertes\/p\u00e9titions ont \u00e9t\u00e9 publi\u00e9es, sign\u00e9es dans les deux cas par des centaines de scientifiques de renom et de sp\u00e9cialistes de l\u2019IA travaillant dans ce secteur, afin de tirer la sonnette d\u2019alarme concernant certains dangers pr\u00e9sent\u00e9s par l\u2019IA. Qu\u2019est-ce que nous pouvons apprendre de cet \u00e9v\u00e8nement ?<\/p>\n

S\u2019agit-il d\u2019une question pertinente pour les enseignants ?<\/h3>\n

Pour les \u00e9tudiants les plus matures, la question des risques que repr\u00e9sente l\u2019IA pour notre civilisation va se poser et, m\u00eame si aucun enseignant n\u2019est tenu de r\u00e9pondre de mani\u00e8re cat\u00e9gorique \u00e0 toutes ces questions, il est normal de chercher \u00e0 comprendre les grandes lignes de ce d\u00e9bat.<\/p>\n

En tant qu\u2019enseignant, ne devrait-on pas uniquement aborder les aspects techniques du sujet et laisser les questions humaines, \u00e9conomiques ou philosophiques aux sp\u00e9cialistes ?<\/h3>\n

C\u2019est une question int\u00e9ressante qui divise l\u2019opinion. Une personne qui enseigne la physique doit-elle conna\u00eetre en d\u00e9tail les catastrophes que sont Hiroshima ou Tchernobyl ? Un d\u00e9bat li\u00e9 \u00e0 ces \u00e9v\u00e8nements doit-il avoir lieu dans le cadre de ces cours ? Ou, en ce qui concerne l\u2019IA, un enseignant doit-il uniquement \u00eatre capable d\u2019utiliser un logiciel de mani\u00e8re s\u00e9curis\u00e9e et comprendre comment il fonctionne, de mani\u00e8re g\u00e9n\u00e9rale ? Doit-il \u00e9galement \u00eatre en mesure de comprendre les d\u00e9bats actuels qui concernent les questions de soci\u00e9t\u00e9s li\u00e9es \u00e0 l\u2019IA ?<\/p>\n

Selon l\u2019Unesco (et un certain nombre d\u2019experts) l\u2019Intelligence Artificielle n\u2019est pas seulement un sujet technologique et un enseignant doit comprendre les questions \u00e9thiques associ\u00e9es, notamment en ce qui concerne l\u2019impact de l\u2019IA sur la soci\u00e9t\u00e9, la civilisation ou l\u2019humanit\u00e9.<\/p>\n

Ces questions sont-elles nouvelles ?<\/h3>\n

Certaines des questions li\u00e9es aux dangers de l\u2019IA ne datent pas d\u2019aujourd\u2019hui. La th\u00e9orie concernant le fait que l\u2019Intelligence Artificielle devienne un jour \u00ab\u00a0sup\u00e9rieure\u00a0\u00bb \u00e0 l\u2019intelligence humaine est abord\u00e9e depuis longtemps. Irving Good4<\/sup>, un ancien coll\u00e8gue d\u2019Alan Turing, pr\u00e9sentait d\u00e9j\u00e0, en 1965, le concept de Singularit\u00e9 Technologique <\/em>selon lequel, une fois que l\u2019IA serait plus intelligente que les humains ou lorsqu\u2019elle deviendrait super-intelligente, il serait impossible de l\u2019arr\u00eater. Good a m\u00eame fourni ses conseils \u00e0 Stanley Kubrick \u00a0dans le cadre du tournage de \u00ab\u00a02001 : Odyss\u00e9e de l\u2019Espace\u00a0\u00bb, qui traite entre autres d\u2019une IA rebelle.<\/p>\n

Les positions<\/h3>\n

Le texte du premier document1<\/sup> nous avertissait que l\u2019IA pouvait avoir des effets positifs, mais aussi n\u00e9gatifs, que son impact sur la soci\u00e9t\u00e9 et sur le travail pouvait \u00eatre consid\u00e9rable, en pr\u00e9sentant l\u2019id\u00e9e selon laquelle l\u2019IA n\u2019allait pas seulement remplacer les humains aux postes les plus fastidieux et les moins valoris\u00e9s,mais que cela concernerait \u00e9galement les postes activement recherch\u00e9s. Qui plus est, les \u00e9volutions de l\u2019IA conduiraient \u00e0 des \u00e9volutions de la soci\u00e9t\u00e9, en court-circuitant les m\u00e9canismes d\u00e9mocratiques habituels du changement.<\/p>\n

Dans le deuxi\u00e8me texte2<\/sup>, le risque suppl\u00e9mentaire \u00e9tait celui d\u2019une IA rebelle (ou une variante de ce sc\u00e9nario) qui pourrait mener \u00e0 la fin de la civilisation humaine.<\/p>\n

Une troisi\u00e8me position s\u2019est fait entendre dans ce d\u00e9bat3<\/sup> : l\u2019IA est effectivement une source d\u2019inqui\u00e9tude, mais pas pour des raisons existentielles, qui ne font que cacher les probl\u00e8mes les plus urgents.<\/p>\n

Le d\u00e9bat est-il clos ?<\/h3>\n

Non, loin de l\u00e0. Certains scientifiques continuent \u00e0 nous avertir que l\u2019IA pr\u00e9sente de nombreux risques, que ces technologies se d\u00e9veloppent trop rapidement et qu\u2019elles doivent \u00eatre mieux r\u00e8glement\u00e9es. D\u2019autres estiment que, pour l\u2019instant, l\u2019IA pr\u00e9sente principalement des avantages et que nous devrions rester attentifs, mais sans crainte.<\/p>\n

Difficile de dire qui gagne ou qui perd, qui a raison et qui a tort : \u00e0 de nombreux \u00e9gards, ce d\u00e9bat rappelle celui qui animait le monde de la physique apr\u00e8s 1945.<\/p>\n

Une position commune est celle qui consiste \u00e0 demander plus de r\u00e8glementations, m\u00eame si tout le monde ne s\u2019accorde pas (encore) sur une d\u00e9finition de ces r\u00e8glementations.<\/p>\n

Doit-il y avoir une position arr\u00eat\u00e9e ?<\/h3>\n

En r\u00e9alit\u00e9, ces deux positions sont probablement tr\u00e8s sens\u00e9es. Actuellement, les faits semblent plut\u00f4t favorables aux d\u00e9fenseurs de l\u2019IA (elle a permis des progr\u00e8s remarquables dans les domaines de la M\u00e9decine, de l\u2019Agriculture, du Climat, des Langues et de la Communication) mais l\u2019argument selon lequel l\u2019humanit\u00e9 a toujours trouv\u00e9 des r\u00e9ponses pr\u00e9sente aussi de s\u00e9rieuses limites.<\/p>\n

Comment puis-je me renseigner sur ce d\u00e9bat ?<\/h3>\n

Pour toute personne qui garde l\u2019esprit ouvert (ou pour les enseignants), de nombreuses sources existent : des blogs, des sites fiables et des articles ou vid\u00e9os illustrant les prises de position, produits par des scientifiques de renom (y compris des historiens et des philosophes, qui ont \u00e9galement beaucoup \u00e0 dire sur le sujet).<\/p>\n

\n

1<\/sup> https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/<\/a><\/p>\n

2<\/sup> https:\/\/www.safe.ai\/statement-on-ai-risk#open-letter<\/a><\/p>\n

3<\/sup> https:\/\/theconversation.com\/lets-focus-on-ais-tangible-risks-rather-than-speculating-about-its-potential-to-pose-an-existential-threat-207842<\/a><\/p>\n

4<\/sup> https:\/\/www.historyofinformation.com\/detail.php?id=2142<\/a><\/p>\n

5<\/sup> https:\/\/en.wikipedia.org\/wiki\/I._J._Good<\/a><\/p>\n

\n","protected":false},"author":1,"menu_order":14,"template":"","meta":{"pb_show_title":"","pb_short_title":"","pb_subtitle":"","pb_authors":[],"pb_section_license":""},"chapter-type":[49],"contributor":[],"license":[],"part":195,"_links":{"self":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/231"}],"collection":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters"}],"about":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/types\/chapter"}],"author":[{"embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/users\/1"}],"version-history":[{"count":1,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/231\/revisions"}],"predecessor-version":[{"id":232,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/231\/revisions\/232"}],"part":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/parts\/195"}],"metadata":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapters\/231\/metadata\/"}],"wp:attachment":[{"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/media?parent=231"}],"wp:term":[{"taxonomy":"chapter-type","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/pressbooks\/v2\/chapter-type?post=231"},{"taxonomy":"contributor","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/contributor?post=231"},{"taxonomy":"license","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/iapourlesenseignants\/wp-json\/wp\/v2\/license?post=231"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}