Obstaja tudi tveganje, da ljudje med navidezno \u010dlove\u0161kim pogovorom razkrijejo ve\u010d ob\u010dutljivih informacij, kot bi jih sicer2<\/sup>. To je \u0161e posebej pomembno v primerih, ko u\u010denci sami neposredno uporabljajo sisteme generativne UI. Ker je tako uspe\u0161na pri posnemanju \u010dlove\u0161kega jezika, zlasti na nivoju otrokovega razumevanja, bi lahko imela ima ta tehnologija \"neznane psiholo\u0161ke u\u010dinke na u\u010dence, kar vzbuja zaskrbljenost glede njihovega kognitivnega razvoja in \u010dustvenega po\u010dutja ter glede mo\u017enosti manipulacije3<\/sup>\".<\/p>\n Preglednost in razlo\u017eljivost:<\/strong> ponudniki domnevno odprtih modelov generativne UI ne razkrivajo vseh podrobnosti glede gradiv in metod, ki so bile uporabljene pri u\u010denju in uravnavanju njihovih modelov. Delovanja zelo globokih modelov z milijoni parametrov, ute\u017ei, dodeljenih tem parametrom, in na\u010dina njihovega zdru\u017eevanja za doseganje rezultatov - ni mogo\u010de (preprosto) razlo\u017eiti3<\/sup>.<\/p>\n Tako oblika kot vsebina rezultatov se lahko zelo razlikujeta, tudi \u010de bi bile le majhne razlike v izto\u010dnici in uporabni\u0161ki zgodovini2<\/sup>. Podobno, \u010de bi dva u\u010denca dobila isto nalogo, ne samo, da bi lahko pri\u0161la do zelo razli\u010dnih odgovorov, ampak teh razlik ne bi bilo mogo\u010de razlo\u017eiti. Na rezultate vpliva tudi vrsta uporabljenega modela generativne UI in dejstvo, ali gre za pla\u010dljivo razli\u010dico ali ne. Vse omenjeno vpliva tako na to, kaj se u\u010denci nau\u010dijo, kot tudi na po\u0161tenost procesa ocenjevanja njihovih rezultatov. Prepoved uporabe generativnih UI je problemati\u010dna, saj se s tem pove\u010da vrzel med u\u010denci, ki bodo do njih doma vseeno lahko dostopali, in tistimi, ki tega ne bodo mogli1<\/sup>.<\/p>\n Homogenost<\/a>:<\/strong> poleg spremenljivih rezultatov in pomanjkanja razlo\u017eljivosti je zaskrbljujo\u010d tudi problem standardizacije in homogenizacije. Ker so sistemi generativne UI modeli, ki se u\u010dijo na podlagi podatkov iz interneta, promovirajo dolo\u010dene poglede in kulturne vrednote bolj kot druge, s \u010dimer omejujejo u\u010den\u010devo izpostavljenost razli\u010dnim perspektivam in s tem sposobnost kriti\u010dnega razmi\u0161ljanja3<\/sup>. \"Vsi sklopi podatkov \u2013 tudi tisti, ki vsebujejo na milijarde slik, pobranih iz interneta \u2013 vsebujejo tudi dolo\u010dene poglede na svet (stali\u0161\u010da) in hkrati svet razvr\u0161\u010dajo na kategorije, ki so lahko zelo problemati\u010dne4<\/sup>.\" Tako na primer, Wikipedia, ki je sicer zelo priljubljen vir u\u010dnih sklopov podatkov, navaja prete\u017eno avtorje mo\u0161kega spola kot ustvarjalce vsebin5<\/sup>.<\/p>\n Ker so osnovni modeli6<\/sup> zasnovani za prilagajanje vsem vrstam nalog na ni\u017ejih stopnjah, je ta te\u017enja po homogenizaciji mo\u010dnej\u0161a kot pri drugih modelih strojnega u\u010denja. Toda na\u010din, kako so prilagojeni, igra pomembno vlogo pri tem, ali se homogenizacija pove\u010da, oslabi ali ostane enaka7<\/sup>.<\/p>\n ChatGPT je \"ve\u010djezi\u010den, a monokulturen\", ker se je u\u010dil \"na besedilih v angle\u0161kem jeziku, skupaj s kulturnimi pristranskostmi in vrednotami, ki jih jezik vsebuje oz. odra\u017ea, in nato usklajen z vrednotami dokaj majhne skupine izvajalcev s sede\u017eem v ZDA\". \u010ce u\u010ditelj uporablja generativno UI za ocenjevanje pisnih sestavkov u\u010dencev, ali ni to, kar se ocenjuje, predvsem odvisno od tega, kako dobro se u\u010denec prilagodi temu pogledu na svet, temu na\u010dinu razmi\u0161ljanja, poznavanja in uporabe jezika1<\/sup>?<\/p>\n Pristranskost, stereotipi in inkluzivnost<\/a>:<\/strong> sistemi generativne UI lahko vsebujejo veliko pristranskosti in stereotipov. Oglejte si primer na sliki spodaj.<\/p>\n\n\n[caption id=\"attachment_184\" align=\"aligncenter\" width=\"713\"] ChatGPT v rezultatih ne bo vklju\u010deval eksplicitno seksisti\u010dne ali rasisti\u010dne vsebine, kar pa ne velja pri pisanju kode v modelu Python1<\/sup>. Tudi Codex odra\u017ea razli\u010dne vrste stereotipov8<\/sup>. BERT povezuje besedne zveze, ki se nana\u0161ajo na ljudi s posebnimi potrebami, z negativnimi besedami, tiste, ki se nana\u0161ajo na du\u0161evne bolezni, pa z nasiljem z oro\u017ejem, brezdomstvom in odvisnostjo od drog5<\/sup>.<\/p>\n Tudi generatorji, ki pretvarjajo besedila v sliko ustvarjajo pristranske vsebine, kar izhaja iz u\u010dnih podatkov, ki so \"izkrivljeni (npr. \u0161kodljivi stereotipi o manj\u0161inah), premalo zastopani (npr. izlo\u010danje prisotnosti enega spola v dolo\u010denih poklicih) ali prekomerno zastopani (npr. privzeti pogled je anglocentri\u010den6,4<\/sup>\".<\/p>\n Obstajajo tudi subtilnej\u0161e oblike negativnosti, kot je dehumanizacija skupin ljudi in na\u010din oblikovanja dolo\u010denih skupin. Veliki jezikovni modeli, ki ohranjajo te predsodke, ne vplivajo samo na aktualnega uporabnika, temve\u010d postanejo (s samodejno distribucijo tak\u0161nih gradiv na forumih in komentarjih) u\u010dni podatki, ki odra\u017eajo \"novo resni\u010dnost\" za novo generacijo velikih jezikovnih modelov5<\/sup>. Na ramenih u\u010diteljev je, da pregledajo generirane rezultate in nemudoma posredujejo, ko u\u010denci naletijo na tak\u0161ne rezultate, ne glede na to, ali jih neposredno omalova\u017eujejo ali pa bi se sami lahko nau\u010dili in naprej \u0161irili vsebovane predsodke.<\/p>\n Moderiranje vsebine: podobno kot pri iskalnikih in priporo\u010dilnih sistemih, generativna UI moderira vsebino, ki jo vidijo uporabniki. Vsebina, ki jo lahko ustvari generativna UI, je nujno nekaj, kar temelji na tem, do \u010desar ima dostop: kar je prakti\u010dno in se njenim ustvarjalcem zdi primerno za uporabo. Njihove perspektive nato opredelijo \"resni\u010dnost\" za uporabnike generativne UI in vplivajo na njihovo delovanje<\/a>. Zato bi morali u\u010ditelji in u\u010denci vedno kriti\u010dno presojati vrednote, obi\u010daje in kulture, ki so v ozadju generiranih besedil in slik3<\/sup>.<\/p>\n Upo\u0161tevati je treba, da generativna UI ni in \"nikdar ne more biti verodostojen vir znanja o kateri koli temi, ki jo obravnava3<\/sup>.\" Da bi se izognili njenemu filtrirnemu u\u010dinku<\/a>, je treba u\u010dencem zagotoviti dovolj prilo\u017enosti, da sodelujejo s svojimi vrstniki, da se pogovarjajo z ljudmi iz razli\u010dnih poklicev in dru\u017ebenih slojev, da raziskujejo ideologije in postavljajo vpra\u0161anja, preverjajo resnice, eksperimentirajo in se u\u010dijo iz svojih uspehov, napak in vsega vmes. Pri nekaterih aktivnostih naj sledijo idejam, kodi ali eksperimentom, ki jih predlaga generativna UI, pri drugih pa naj preizku\u0161ajo lastne zamisli, sami re\u0161ujejo probleme in uporabljajo razli\u010dne u\u010dne vire.<\/p>\n Okolje in trajnost:<\/strong> modeli strojnega u\u010denja potrebujejo veliko procesorske mo\u010di in podatkovnih sredi\u0161\u010d, kar je povezano z vplivi na okolje, vklju\u010dno s stro\u0161ki vode, ki je potrebna za hlajenje stre\u017enikov9<\/sup>. Zmogljivost, ki jo zahtevajo veliki modeli globokega u\u010denja, se je v zadnjih6<\/sup> letih pove\u010dala za 300.000-krat5<\/sup>. U\u010denje velikih jezikovnih modelov porabi veliko energije, pri tem pa mora biti omogo\u010deno njihovo gostovanje in dostop na daljavo8<\/sup>. Tudi natan\u010dno uravnavanje modelov zahteva veliko energije, a prav veliko podatkov o okoljskih stro\u0161kih teh procesov ni na voljo5<\/sup>.<\/p>\n Veliko je govora o u\u010dinkovitosti teh modelov, medtem ko se le redko govori o njihovih vplivih na okolje. Analize stro\u0161kov in koristi ne upo\u0161tevajo, da lahko dolo\u010dena skupnost sicer u\u017eiva koristi teh tehnologij, druga skupnost pa bo za to pla\u010dala ceno5<\/sup>. Tudi \u010de zanemarimo tak\u0161ne nepravi\u010dnosti, to ni dober obet za uspe\u0161no delovanje sistemov generativne UI na dolgi rok.<\/p>\n Preden se bodo tak\u0161ni modeli v \u0161ir\u0161em smislu umestili v izobra\u017eevanje in dokler bodo obstoje\u010de infrastrukture ter na\u010dini u\u010denja zanemarjani v korist tistih, ki jih poganja generativna UI, ostajata njihova trajnost in dolgoro\u010dna izvedljivost predmet razprav.<\/p>\n\n\n 1 <\/sup>Trust, T., Whalen, J., & Mouza, C.,\u00a0Editorial: ChatGPT: Challenges, opportunities, and implications for teacher education<\/a>,<\/em> Contemporary Issues in Technology and Teacher Education, 23(1), 2023.<\/p>\n 2 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n 3 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, Unesco, Paris, 2023.<\/p>\n 4 <\/sup>Vartiainen, H., Tedre, M., Using artificial intelligence in craft education: crafting with text-to-image generative models<\/em>, Digital Creativity, 34:1, 1-21, 2023.<\/p>\n 5 <\/sup>Bender, E.M., et al, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, <\/em>Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21). Association for Computing Machinery, New York, 610\u2013623, 2021.<\/p>\n 6 <\/sup>Bommasani , R., et al., On the Opportunities and Risks of Foundation Models<\/em>, Center for Research on Foundation Models (CRFM) \u2014 Stanford University, 2021.<\/p>\n 7 <\/sup>Bommasani, R., et al, Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?<\/em>, Advances in Neural Information Processing Systems, 2022.<\/p>\n 8 <\/sup>Becker, B., et al, Programming Is Hard - Or at Least It Used to Be: Educational Opportunities and Challenges of AI Code Generation,<\/em> Proceedings of the 54th ACM Technical Symposium on Computer Science Education V. 1 (SIGCSE 2023), Association for Computing Machinery, New York, 500\u2013506, 2023.<\/p>\n 9 <\/sup>Cooper, G., Examining Science Education in ChatGPT: An Exploratory Study of Generative Artificial Intelligence,<\/em> Journal of Science Education and Technology, 32, 444\u2013452, 2023.<\/p>","rendered":" Generativna UI je podedovala vse eti\u010dne in dru\u017ebene pomanjkljivosti modelov strojnega u\u010denja.<\/p>\n Gro\u017enje zasebnosti:<\/strong> ponudniki generativne UI, tako kot mnogi ponudniki drugih vrst tehnologij UI, zbirajo najrazli\u010dnej\u0161e podatke, ki jih nato delijo s tretjimi osebami. Politika zasebnosti OpenAI nalaga, da na zahtevo izbri\u0161e uporabni\u0161ke podatke, ne pa tudi izto\u010dnic (pozivov, vpra\u0161anj) uporabnikov, ki lahko \u017ee same po sebi vsebujejo ob\u010dutljive informacije, s pomo\u010djo katerih je mogo\u010de izslediti pot nazaj do uporabnika1<\/sup>.<\/p>\n Obstaja tudi tveganje, da ljudje med navidezno \u010dlove\u0161kim pogovorom razkrijejo ve\u010d ob\u010dutljivih informacij, kot bi jih sicer2<\/sup>. To je \u0161e posebej pomembno v primerih, ko u\u010denci sami neposredno uporabljajo sisteme generativne UI. Ker je tako uspe\u0161na pri posnemanju \u010dlove\u0161kega jezika, zlasti na nivoju otrokovega razumevanja, bi lahko imela ima ta tehnologija “neznane psiholo\u0161ke u\u010dinke na u\u010dence, kar vzbuja zaskrbljenost glede njihovega kognitivnega razvoja in \u010dustvenega po\u010dutja ter glede mo\u017enosti manipulacije3<\/sup>“.<\/p>\n Preglednost in razlo\u017eljivost:<\/strong> ponudniki domnevno odprtih modelov generativne UI ne razkrivajo vseh podrobnosti glede gradiv in metod, ki so bile uporabljene pri u\u010denju in uravnavanju njihovih modelov. Delovanja zelo globokih modelov z milijoni parametrov, ute\u017ei, dodeljenih tem parametrom, in na\u010dina njihovega zdru\u017eevanja za doseganje rezultatov – ni mogo\u010de (preprosto) razlo\u017eiti3<\/sup>.<\/p>\n Tako oblika kot vsebina rezultatov se lahko zelo razlikujeta, tudi \u010de bi bile le majhne razlike v izto\u010dnici in uporabni\u0161ki zgodovini2<\/sup>. Podobno, \u010de bi dva u\u010denca dobila isto nalogo, ne samo, da bi lahko pri\u0161la do zelo razli\u010dnih odgovorov, ampak teh razlik ne bi bilo mogo\u010de razlo\u017eiti. Na rezultate vpliva tudi vrsta uporabljenega modela generativne UI in dejstvo, ali gre za pla\u010dljivo razli\u010dico ali ne. Vse omenjeno vpliva tako na to, kaj se u\u010denci nau\u010dijo, kot tudi na po\u0161tenost procesa ocenjevanja njihovih rezultatov. Prepoved uporabe generativnih UI je problemati\u010dna, saj se s tem pove\u010da vrzel med u\u010denci, ki bodo do njih doma vseeno lahko dostopali, in tistimi, ki tega ne bodo mogli1<\/sup>.<\/p>\n Homogenost<\/a>:<\/strong> poleg spremenljivih rezultatov in pomanjkanja razlo\u017eljivosti je zaskrbljujo\u010d tudi problem standardizacije in homogenizacije. Ker so sistemi generativne UI modeli, ki se u\u010dijo na podlagi podatkov iz interneta, promovirajo dolo\u010dene poglede in kulturne vrednote bolj kot druge, s \u010dimer omejujejo u\u010den\u010devo izpostavljenost razli\u010dnim perspektivam in s tem sposobnost kriti\u010dnega razmi\u0161ljanja3<\/sup>. “Vsi sklopi podatkov \u2013 tudi tisti, ki vsebujejo na milijarde slik, pobranih iz interneta \u2013 vsebujejo tudi dolo\u010dene poglede na svet (stali\u0161\u010da) in hkrati svet razvr\u0161\u010dajo na kategorije, ki so lahko zelo problemati\u010dne4<\/sup>.” Tako na primer, Wikipedia, ki je sicer zelo priljubljen vir u\u010dnih sklopov podatkov, navaja prete\u017eno avtorje mo\u0161kega spola kot ustvarjalce vsebin5<\/sup>.<\/p>\n Ker so osnovni modeli6<\/sup> zasnovani za prilagajanje vsem vrstam nalog na ni\u017ejih stopnjah, je ta te\u017enja po homogenizaciji mo\u010dnej\u0161a kot pri drugih modelih strojnega u\u010denja. Toda na\u010din, kako so prilagojeni, igra pomembno vlogo pri tem, ali se homogenizacija pove\u010da, oslabi ali ostane enaka7<\/sup>.<\/p>\n ChatGPT je “ve\u010djezi\u010den, a monokulturen”, ker se je u\u010dil “na besedilih v angle\u0161kem jeziku, skupaj s kulturnimi pristranskostmi in vrednotami, ki jih jezik vsebuje oz. odra\u017ea, in nato usklajen z vrednotami dokaj majhne skupine izvajalcev s sede\u017eem v ZDA”. \u010ce u\u010ditelj uporablja generativno UI za ocenjevanje pisnih sestavkov u\u010dencev, ali ni to, kar se ocenjuje, predvsem odvisno od tega, kako dobro se u\u010denec prilagodi temu pogledu na svet, temu na\u010dinu razmi\u0161ljanja, poznavanja in uporabe jezika1<\/sup>?<\/p>\n Pristranskost, stereotipi in inkluzivnost<\/a>:<\/strong> sistemi generativne UI lahko vsebujejo veliko pristranskosti in stereotipov. Oglejte si primer na sliki spodaj.<\/p>\n ChatGPT v rezultatih ne bo vklju\u010deval eksplicitno seksisti\u010dne ali rasisti\u010dne vsebine, kar pa ne velja pri pisanju kode v modelu Python1<\/sup>. Tudi Codex odra\u017ea razli\u010dne vrste stereotipov8<\/sup>. BERT povezuje besedne zveze, ki se nana\u0161ajo na ljudi s posebnimi potrebami, z negativnimi besedami, tiste, ki se nana\u0161ajo na du\u0161evne bolezni, pa z nasiljem z oro\u017ejem, brezdomstvom in odvisnostjo od drog5<\/sup>.<\/p>\n Tudi generatorji, ki pretvarjajo besedila v sliko ustvarjajo pristranske vsebine, kar izhaja iz u\u010dnih podatkov, ki so “izkrivljeni (npr. \u0161kodljivi stereotipi o manj\u0161inah), premalo zastopani (npr. izlo\u010danje prisotnosti enega spola v dolo\u010denih poklicih) ali prekomerno zastopani (npr. privzeti pogled je anglocentri\u010den6,4<\/sup>“.<\/p>\n Obstajajo tudi subtilnej\u0161e oblike negativnosti, kot je dehumanizacija skupin ljudi in na\u010din oblikovanja dolo\u010denih skupin. Veliki jezikovni modeli, ki ohranjajo te predsodke, ne vplivajo samo na aktualnega uporabnika, temve\u010d postanejo (s samodejno distribucijo tak\u0161nih gradiv na forumih in komentarjih) u\u010dni podatki, ki odra\u017eajo “novo resni\u010dnost” za novo generacijo velikih jezikovnih modelov5<\/sup>. Na ramenih u\u010diteljev je, da pregledajo generirane rezultate in nemudoma posredujejo, ko u\u010denci naletijo na tak\u0161ne rezultate, ne glede na to, ali jih neposredno omalova\u017eujejo ali pa bi se sami lahko nau\u010dili in naprej \u0161irili vsebovane predsodke.<\/p>\n Moderiranje vsebine: podobno kot pri iskalnikih in priporo\u010dilnih sistemih, generativna UI moderira vsebino, ki jo vidijo uporabniki. Vsebina, ki jo lahko ustvari generativna UI, je nujno nekaj, kar temelji na tem, do \u010desar ima dostop: kar je prakti\u010dno in se njenim ustvarjalcem zdi primerno za uporabo. Njihove perspektive nato opredelijo “resni\u010dnost” za uporabnike generativne UI in vplivajo na njihovo delovanje<\/a>. Zato bi morali u\u010ditelji in u\u010denci vedno kriti\u010dno presojati vrednote, obi\u010daje in kulture, ki so v ozadju generiranih besedil in slik3<\/sup>.<\/p>\n![\"\"](\"http:\/\/aiopentext.itd.cnr.it\/wp-content\/uploads\/sites\/14\/2023\/11\/ch6-page-x-Paralegal.png\")
Vir: https:\/\/twitter.com\/Eodyne1\/status\/1650632232212520960\/photo\/1<\/a>[\/caption]\n
\n