{"id":239,"date":"2023-11-30T17:32:16","date_gmt":"2023-11-30T17:32:16","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/chapter\/understanding-the-debates-about-the-possible-dangers-of-ai\/"},"modified":"2024-01-31T11:49:09","modified_gmt":"2024-01-31T11:49:09","slug":"understanding-the-debates-about-the-possible-dangers-of-ai","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/chapter\/understanding-the-debates-about-the-possible-dangers-of-ai\/","title":{"raw":"Razumevanje debat o mo\u017enih nevarnostih AI","rendered":"Razumevanje debat o mo\u017enih nevarnostih AI"},"content":{"raw":"

Marca 20231<\/sup> in nato maja 20232<\/sup> sta bili objavljeni dve peticiji\/odprti pismi, ki ju je v obeh primerih podpisalo na stotine priznanih znanstvenikov in strokovnjakov za AI iz industrije, ki sta opozarjali na nekatere nevarnosti AI. Kaj \u017eelimo vedeti o tem?<\/p>\n\n

Je to zanimivo vpra\u0161anje za u\u010ditelje?<\/h3>\n

Pri zrelej\u0161ih u\u010dencih se bo pojavilo vpra\u0161anje tveganj, ki jih AI predstavlja za civilizacijo, in \u010detudi noben u\u010ditelj ni dol\u017ean dati dokon\u010dnih odgovorov na vsa vpra\u0161anja, je po\u0161teno razumeti obrise polemike.<\/p>\n\n

Ali ne bi moral kot u\u010ditelj govoriti samo o tehni\u010dnih vidikih teme in prepustiti \u010dlove\u0161ka, ekonomska in filozofska vpra\u0161anja strokovnjakom?<\/h3>\n

To je zanimivo vpra\u0161anje, o katerem so mnenja deljena. Bi moral u\u010ditelj fizike vedeti za Hiro\u0161imo ali \u010cernobil? Ali naj pogovor o teh vpra\u0161anjih poteka v tem razredu? Ali pa bi moral biti u\u010ditelj v primeru AI sposoben samo varno uporabljati dolo\u010deno programsko opremo in na splo\u0161no razumeti, kako deluje? Ali pa tudi biti sposoben razumeti teko\u010de debate o vpra\u0161anjih za dru\u017ebo, ko gre za AI?<\/p>\n

Stali\u0161\u010de organizacije Unesco (in \u0161tevilnih strokovnjakov) je, da umetna inteligenca ni le tehnologija in da mora u\u010ditelj razumeti eti\u010dna vpra\u0161anja, ki vklju\u010dujejo tudi vsa tista, ki zadevajo vpliv AI na dru\u017ebo, civilizacijo ali \u010dlove\u0161tvo.<\/p>\n\n

So to nova vpra\u0161anja?<\/h3>\n

Nekatera vpra\u0161anja o nevarnostih AI se pojavljajo \u017ee nekaj \u010dasa. O vpra\u0161anju, kaj se zgodi, ko je AI \"superiorna\" \u010dlove\u0161ki inteligenci, se razpravlja \u017ee dolgo. Irving Good4, nekdanji sodelavec Alana Turinga, je \u017ee leta 1965 uvedel pojem Tehnolo\u0161ke singularnosti<\/em>, da bi nakazal, da bo AI, ko bo neko\u010d bolj inteligentna od ljudi ali super-inteligentna, neustavljiva. Good je nato svetoval Stanleyu Kubricku za \"2001: Odiseja v vesolju\", ki je film (ne le) o AI, ki se spreneveda.<\/p>\n\n

Stali\u0161\u010da<\/h3>\n

Besedilo prvega dokumenta (1) je opozorilo, da lahko AI dela dobro in slabo, da bi lahko bil vpliv na dru\u017ebo in delovna mesta precej\u0161en, in uvedlo zamisel, da AI ne bo samo nadomestila ljudi na dolgo\u010dasnih in neza\u017eelenih delovnih mestih, ampak se bo to zgodilo tudi z delovnimi mesti, ki so jih izbrali ljudje. Nadalje, da je razvoj AI vodil v razvoj dru\u017ebe in da obi\u010dajni demokrati\u010dni mehanizmi sprememb niso bili uporabljeni.<\/p>\n

V drugem besedilu2<\/sup> je bilo dodano tveganje, da bo AI zadajala udarce (ali razli\u010dice tega scenarija), kar bi lahko privedlo do konca \u010dlove\u0161ke civilizacije.<\/p>\n

Iz te debate3<\/sup> se je pojavilo tretje stali\u0161\u010de: da je AI res skrb vzbujajo\u010da, vendar ne zaradi eksistencialnih razlogov, ki bi prikrivali bolj pere\u010de te\u017eave.<\/p>\n\n

Je debata kon\u010dana?<\/h3>\n

Ne, debata \u0161e ni kon\u010dana. Nekateri znanstveniki \u0161e vedno trdijo, da obstaja veliko tveganj, da te tehnologije prehitro rastejo in da je potrebna regulacija. Drugi menijo, da je AI trenutno v bistvu samo v korist in da bi morali biti vsekakor previdni, a ne prestra\u0161eni.<\/p>\n

Te\u017eko je re\u010di, kdo zmaguje ali izgublja, kdo ima prav ali ne; v mnogih pogledih debata spominja na tisto, ki se je odvijala v fiziki po letu 1945.<\/p>\n

Skupno stali\u0161\u010de je, da se zahteva regulacija, \u010deprav (\u0161e) ni opredelitve regulacije, s katero bi se vsi strinjali.<\/p>\n\n

Ali lahko obstaja dobro stali\u0161\u010de?<\/h3>\n

Pravzaprav sta obe stali\u0161\u010di verjetno zelo utemeljeni. Zdi se, da so trenutna dejstva v prid navdu\u0161encem (AI omogo\u010da fantasti\u010den napredek v medicini, kmetijstvu, analizi podnebja, jezikih in komunikaciji), vendar ima utemeljitev, da smo kot ljudje vedno na\u0161li odgovore, tudi resne omejitve.<\/p>\n\n

Kje lahko izvem ve\u010d o tej debati?<\/h3>\n

Za odprto osebo (ali u\u010ditelja) obstajajo \u0161tevilni viri. Blogi, zanesljiva spletna mesta in dokumenti o stali\u0161\u010dih ter videoposnetki vodilnih znanstvenikov (vse vede: tudi zgodovinarji in filozofi imajo veliko za povedati).<\/p>\n\n\n

\n

1<\/sup> https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/<\/a><\/p>\n

2<\/sup> https:\/\/www.safe.ai\/statement-on-ai-risk#open-letter<\/a><\/p>\n

3<\/sup> https:\/\/theconversation.com\/lets-focus-on-ais-tangible-risks-rather-than-speculating-about-its-potential-to-pose-an-existential-threat-207842<\/a><\/p>\n

4<\/sup> https:\/\/www.historyofinformation.com\/detail.php?id=2142<\/a><\/p>\n

5<\/sup> https:\/\/en.wikipedia.org\/wiki\/I._J._Good<\/a><\/p>\n

<\/p>","rendered":"

Marca 20231<\/sup> in nato maja 20232<\/sup> sta bili objavljeni dve peticiji\/odprti pismi, ki ju je v obeh primerih podpisalo na stotine priznanih znanstvenikov in strokovnjakov za AI iz industrije, ki sta opozarjali na nekatere nevarnosti AI. Kaj \u017eelimo vedeti o tem?<\/p>\n

Je to zanimivo vpra\u0161anje za u\u010ditelje?<\/h3>\n

Pri zrelej\u0161ih u\u010dencih se bo pojavilo vpra\u0161anje tveganj, ki jih AI predstavlja za civilizacijo, in \u010detudi noben u\u010ditelj ni dol\u017ean dati dokon\u010dnih odgovorov na vsa vpra\u0161anja, je po\u0161teno razumeti obrise polemike.<\/p>\n

Ali ne bi moral kot u\u010ditelj govoriti samo o tehni\u010dnih vidikih teme in prepustiti \u010dlove\u0161ka, ekonomska in filozofska vpra\u0161anja strokovnjakom?<\/h3>\n

To je zanimivo vpra\u0161anje, o katerem so mnenja deljena. Bi moral u\u010ditelj fizike vedeti za Hiro\u0161imo ali \u010cernobil? Ali naj pogovor o teh vpra\u0161anjih poteka v tem razredu? Ali pa bi moral biti u\u010ditelj v primeru AI sposoben samo varno uporabljati dolo\u010deno programsko opremo in na splo\u0161no razumeti, kako deluje? Ali pa tudi biti sposoben razumeti teko\u010de debate o vpra\u0161anjih za dru\u017ebo, ko gre za AI?<\/p>\n

Stali\u0161\u010de organizacije Unesco (in \u0161tevilnih strokovnjakov) je, da umetna inteligenca ni le tehnologija in da mora u\u010ditelj razumeti eti\u010dna vpra\u0161anja, ki vklju\u010dujejo tudi vsa tista, ki zadevajo vpliv AI na dru\u017ebo, civilizacijo ali \u010dlove\u0161tvo.<\/p>\n

So to nova vpra\u0161anja?<\/h3>\n

Nekatera vpra\u0161anja o nevarnostih AI se pojavljajo \u017ee nekaj \u010dasa. O vpra\u0161anju, kaj se zgodi, ko je AI “superiorna” \u010dlove\u0161ki inteligenci, se razpravlja \u017ee dolgo. Irving Good4, nekdanji sodelavec Alana Turinga, je \u017ee leta 1965 uvedel pojem Tehnolo\u0161ke singularnosti<\/em>, da bi nakazal, da bo AI, ko bo neko\u010d bolj inteligentna od ljudi ali super-inteligentna, neustavljiva. Good je nato svetoval Stanleyu Kubricku za “2001: Odiseja v vesolju”, ki je film (ne le) o AI, ki se spreneveda.<\/p>\n

Stali\u0161\u010da<\/h3>\n

Besedilo prvega dokumenta (1) je opozorilo, da lahko AI dela dobro in slabo, da bi lahko bil vpliv na dru\u017ebo in delovna mesta precej\u0161en, in uvedlo zamisel, da AI ne bo samo nadomestila ljudi na dolgo\u010dasnih in neza\u017eelenih delovnih mestih, ampak se bo to zgodilo tudi z delovnimi mesti, ki so jih izbrali ljudje. Nadalje, da je razvoj AI vodil v razvoj dru\u017ebe in da obi\u010dajni demokrati\u010dni mehanizmi sprememb niso bili uporabljeni.<\/p>\n

V drugem besedilu2<\/sup> je bilo dodano tveganje, da bo AI zadajala udarce (ali razli\u010dice tega scenarija), kar bi lahko privedlo do konca \u010dlove\u0161ke civilizacije.<\/p>\n

Iz te debate3<\/sup> se je pojavilo tretje stali\u0161\u010de: da je AI res skrb vzbujajo\u010da, vendar ne zaradi eksistencialnih razlogov, ki bi prikrivali bolj pere\u010de te\u017eave.<\/p>\n

Je debata kon\u010dana?<\/h3>\n

Ne, debata \u0161e ni kon\u010dana. Nekateri znanstveniki \u0161e vedno trdijo, da obstaja veliko tveganj, da te tehnologije prehitro rastejo in da je potrebna regulacija. Drugi menijo, da je AI trenutno v bistvu samo v korist in da bi morali biti vsekakor previdni, a ne prestra\u0161eni.<\/p>\n

Te\u017eko je re\u010di, kdo zmaguje ali izgublja, kdo ima prav ali ne; v mnogih pogledih debata spominja na tisto, ki se je odvijala v fiziki po letu 1945.<\/p>\n

Skupno stali\u0161\u010de je, da se zahteva regulacija, \u010deprav (\u0161e) ni opredelitve regulacije, s katero bi se vsi strinjali.<\/p>\n

Ali lahko obstaja dobro stali\u0161\u010de?<\/h3>\n

Pravzaprav sta obe stali\u0161\u010di verjetno zelo utemeljeni. Zdi se, da so trenutna dejstva v prid navdu\u0161encem (AI omogo\u010da fantasti\u010den napredek v medicini, kmetijstvu, analizi podnebja, jezikih in komunikaciji), vendar ima utemeljitev, da smo kot ljudje vedno na\u0161li odgovore, tudi resne omejitve.<\/p>\n

Kje lahko izvem ve\u010d o tej debati?<\/h3>\n

Za odprto osebo (ali u\u010ditelja) obstajajo \u0161tevilni viri. Blogi, zanesljiva spletna mesta in dokumenti o stali\u0161\u010dih ter videoposnetki vodilnih znanstvenikov (vse vede: tudi zgodovinarji in filozofi imajo veliko za povedati).<\/p>\n

\n

1<\/sup> https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/<\/a><\/p>\n

2<\/sup> https:\/\/www.safe.ai\/statement-on-ai-risk#open-letter<\/a><\/p>\n

3<\/sup> https:\/\/theconversation.com\/lets-focus-on-ais-tangible-risks-rather-than-speculating-about-its-potential-to-pose-an-existential-threat-207842<\/a><\/p>\n

4<\/sup> https:\/\/www.historyofinformation.com\/detail.php?id=2142<\/a><\/p>\n

5<\/sup> https:\/\/en.wikipedia.org\/wiki\/I._J._Good<\/a><\/p>\n

\n","protected":false},"author":1,"menu_order":14,"template":"","meta":{"pb_show_title":"","pb_short_title":"","pb_subtitle":"","pb_authors":[],"pb_section_license":""},"chapter-type":[49],"contributor":[],"license":[],"part":204,"_links":{"self":[{"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/pressbooks\/v2\/chapters\/239"}],"collection":[{"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/pressbooks\/v2\/chapters"}],"about":[{"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/wp\/v2\/types\/chapter"}],"author":[{"embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/wp\/v2\/users\/1"}],"version-history":[{"count":1,"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/pressbooks\/v2\/chapters\/239\/revisions"}],"predecessor-version":[{"id":240,"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/pressbooks\/v2\/chapters\/239\/revisions\/240"}],"part":[{"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/pressbooks\/v2\/parts\/204"}],"metadata":[{"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/pressbooks\/v2\/chapters\/239\/metadata\/"}],"wp:attachment":[{"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/wp\/v2\/media?parent=239"}],"wp:term":[{"taxonomy":"chapter-type","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/pressbooks\/v2\/chapter-type?post=239"},{"taxonomy":"contributor","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/wp\/v2\/contributor?post=239"},{"taxonomy":"license","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/umetnainteligenca\/wp-json\/wp\/v2\/license?post=239"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}