Veliko denarja, ra\u010dunalni\u0161kih virov, \u010dasa in truda je vlo\u017eenega v ustvarjanje sklopov podatkov, meril in algoritmov za strojno u\u010denje. To \u0161e posebej velja za globoko u\u010denje in obse\u017ene modele. Zato je smiselno, da se ustvarjeni viri znotraj teh ekosistemov a<\/span>delijo. To velja za \u0161tevilne sisteme strojnega u\u010denja, ki jih pogosto uporabljamo. Tudi \u010de gre za razli\u010dne kon\u010dne produkte, ki so jih ustvarila razli\u010dna podjetja, so jim metodologija, sklopi podatkov, knji\u017enice strojnega u\u010denja in vrednotenja pogosto skupne<\/span>1<\/sup>. Zato so njihovi rezultati pod podobnimi pogoji podobni.<\/span><\/p>\n \u010ce je rezultat strojnego u\u010denja izobra\u017eevalna odlo\u010ditev, je to lahko, seveda, skrb zbujajo\u010de za u\u010denca, ki je bil neupravi\u010deno prikraj\u0161an za dolo\u010deno prilo\u017enost za izobra\u017eevanje1<\/sup>. Toda ali gre pri algoritemski homogenizaciji za krivico, lahko ugotavljamo le za vsak posamezen primer posebej1<\/sup>.<\/p>\n \u010ce pa je naloga sistema npr. pomagati u\u010dencu pri pisanju, to postavlja v sredi\u0161\u010de standardizacijo stilov pisanja, besedi\u0161\u010da in s tem vzorcev mi\u0161ljenja. Jezikovni modeli, uporabljeni v tak\u0161nih primerih, predvidijo najverjetnej\u0161e besedile na podlagi sklopa u\u010dnih podatkov, na katerem so se u\u010dili. Ti sklopi podatkov, \u010de \u017ee niso skupni sistemom, so zgrajeni na podoben na\u010din, pogosto s pomo\u010djo javnih podatkov, dostopnih na internetu.<\/span> Toda tudi \u010de so ti po<\/span>datki pregledani v smislu pristranskosti, predsodkov in skrajnih vsebin, predstavljajo le <\/span>majhen ekosistem in ne celega sveta z vsemi raznolikimi idejami, kulturami in praksami. Dokazano je, da sistemi za predvidevanje besedil, ki temeljijo na globokem u\u010denju in se uporabljajo za SMS sporo\u010dila in e-po\u0161to, spreminjajo na\u010din, kako ljudje pi\u0161emo: jezik postaja \"bolj zgo\u0161\u010den, bolj predvidljiv in manj bogat\"<\/span>2<\/sup>.<\/span><\/p>\n\n Z negativnimi posledicami strojnega u\u010denja vklju\u010dno z zgoraj opisano homogenizacijo, je tesno povezano dejstvo, da so tehnologije postale tako napredne, da je vmesnik \u010dlovek-stroj brez\u0161iven in prakti\u010dno neviden. Ne glede na to, ali gre za iskalnike, ki so integrirani v naslovno vrstico okna brskalnika, ali za intuitivno predvidevanje besedila brez \u010dasovnega zamika med pisanjem, predvidevanjem in izbiro predlogov, pogosto delujemo pod vplivom tehnologije, ne da bi se tega zavedali ali imeli imeli mo\u017enost zadeve upo\u010dasniti in o njih ponovno razmisliti ter sprejeti lastno odlo\u010ditev. \u0160e ve\u010d, ko uporaba tehnologij pri sprejemanju odlo\u010ditev postane navada, ponavadi povsem pozabimo, da te tehnologije sploh obstajajo4<\/sup>. \"Ko se navadimo na tehnologije, jih nehamo opazovati in namesto tega gledamo le \u0161e skoznje, v iskanju informacij ali aktivnosti, ki nam jih njihova uporaba omogo\u010da.\" To vzbuja tako zelo resne pomisleke glede aktivnega \u010dlove\u0161kega delovanja, transparentnosti in zaupanja,\u00a0da nekateri strokovnjaki priporo\u010dajo, <\/span>zlasti ko gre za mlade ume, naj postanejo vmesniki vidnej\u0161i in celo bolj togi<\/span>4<\/sup>.<\/span><\/p>\n\n V tem priro\u010dniku ves \u010das govorimo o pedago\u0161kih, eti\u010dnih in dru\u017ebenih vplivih UI, zlasti na podatkih temlje\u010de UI (oglejte si poglavja: V ozadju: u\u010dinki spletnega iskanja na posameznika<\/a>,\u00a0Te\u017eave s podatki: osebna identiteta <\/a>ter \u010clove\u0161ko delovanje<\/a>). Te\u017eave z iskalniki smo obravnavali v poglavjih V ozadju: u\u010dinki spletnega iskanja na posameznika \/ dru\u017ebo;<\/em> o prilagodljivih u\u010dnih sistemih smo govorilli v poglavju Druga plat prilagodljivih u\u010dnih sistemov;<\/em> o generativni UI v poglavju Degenerativna UI<\/a>. Na ve\u010d mestih v opisujemo ukrepe za izbolj\u0161anje\u00a0dolo<\/span>\u010denih te\u017eav v u\u010dilnici. Upamo, da bodo ti ukrepi vse manj potrebni z razvojem zanesljivih eti\u010dnih sistemov UI za izobra\u017eevanje. Eti\u010dna UI bi morala biti razvita, uvedena in uporabljana v skladu z eti\u010dnimi normami in na\u010deli5<\/sup> ter bi morala biti odgovorna in odporna.<\/span><\/p>\n Ker prepu\u0161\u010damo toliko mo\u010di modelom UI in njihovim programerjem, prodajalcem in ocenjevalcem, je edino razumno, da od njih zahtevamo transparentnost ter prevzemanje odgovornosti za napake, ko gre kaj narobe6<\/sup>. Potrebujemo sporazume o ravni storitev (SLA), v katerih bodo jasno opisani \"podporne in vzdr\u017eevalne storitve ter koraki, ki jih je treba sprejeti za re\u0161evanje prijavljenih te\u017eav\"5<\/sup>.<\/p>\n Odporna UI bi sprejela svoje nepopolnosti, jih predvidela in kljub njim vseeno delovala. Pri odpornih sistemih UI bi se pojavljale predvidljive napake in obstajali bi protokoli za obravnavo tak\u0161nih napak6<\/sup>.<\/p>\n V izobra\u017eevanju bi morala eti\u010dno UI voditi na uporabnika osredoto\u010dena na\u010dela oblikovanja, in upo\u0161tevani bi morali biti vsi vidiki izobra\u017eevanja7<\/sup>. U\u010ditelji bi morali imeti mo\u017enost preverjati njeno delovanje, razumeti njene razlage, preglasiti njene odlo\u010ditve ali za\u010dasno ustaviti njeno uporabo8<\/sup>. Tak\u0161ni sistemi bi razbremenili u\u010ditelje, jim omogo\u010dili podroben vpogled v u\u010dence in jih podpirali pri izvajanju bolj kakovostnega izobra\u017eevanja8<\/sup>. Uporabnikom in okolju ne bi povzro\u010dali \u0161kode<\/span>\u00a0<\/span>ter bi izbolj\u0161ali socialno in \u010dustveno dobrobit u\u010dencev in u\u010diteljev<\/span>5<\/sup>.<\/span><\/p>\n Dokler pa ta \u010das ne nastopi, se bodo morali u\u010ditelji truditi razvijati in aktivno sodelovati v skupnosti sodelavcev, da bi ozave\u0161\u010dali druge in sebe o tej problematiki, delili izku\u0161nje in najbolj\u0161e prakse ter prepoznali zanesljive ponudnike storitev UI. V svoje razprave in odlo\u010ditve bi lahko vklju\u010dili u\u010dence in star\u0161e, da bi skupaj bolje obravnavali razli\u010dne pomisleke v okoljih, pre\u017eetih z zaupanjem in kolegialnostjo. Vsekakor u\u010diteljem priporo\u010damo, da se po svojih najbolj\u0161ih mo\u010deh trudijo biti na teko\u010dem z najnovej\u0161imi trendi na podro\u010dju AIED in pridobivajo kompetence, kadarkoli in kjerkoli je to mogo\u010de5<\/sup>.<\/p>\n\n\n 1\u00a0<\/sup>Bommasani, R., et al, Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?<\/em>, Advances in Neural Information Processing Systems, 2022<\/p>\n 2\u00a0<\/sup>Varshney, L., Respect for Human Autonomy in Recommender System<\/em>, 3rd FAccTRec Workshop on Responsible Recommendation, 2020<\/p>\n 3 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, Unesco, Paris, 2023<\/p>\n 4 <\/sup>Susser, D., Invisible Influence: Artificial Intelligence and the Ethics of Adaptive Choice Architectures,<\/em> Proceedings of the 2019 AAAI\/ACM Conference on AI, Ethics, and Society, Association for Computing Machinery, New York, 403\u2013408, 2019<\/p>\n 5 <\/sup>Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators<\/a>, European Commission, October 2022<\/p>\n 6 <\/sup>Schneier, B., Data and Goliath: The Hidden Battles to Capture Your Data and Control Your World, <\/em>W. W. Norton & Company, 2015.<\/p>\n 7 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023<\/p>\n 8 <\/sup>U.S. Department of Education, Office of Educational Technology, Artificial Intelligence and Future of Teaching and Learning: Insights and Recommendations<\/em>, Washington, DC, 2023.<\/p>","rendered":" Veliko denarja, ra\u010dunalni\u0161kih virov, \u010dasa in truda je vlo\u017eenega v ustvarjanje sklopov podatkov, meril in algoritmov za strojno u\u010denje. To \u0161e posebej velja za globoko u\u010denje in obse\u017ene modele. Zato je smiselno, da se ustvarjeni viri znotraj teh ekosistemov a<\/span>delijo. To velja za \u0161tevilne sisteme strojnega u\u010denja, ki jih pogosto uporabljamo. Tudi \u010de gre za razli\u010dne kon\u010dne produkte, ki so jih ustvarila razli\u010dna podjetja, so jim metodologija, sklopi podatkov, knji\u017enice strojnega u\u010denja in vrednotenja pogosto skupne<\/span>1<\/sup>. Zato so njihovi rezultati pod podobnimi pogoji podobni.<\/span><\/p>\n \u010ce je rezultat strojnego u\u010denja izobra\u017eevalna odlo\u010ditev, je to lahko, seveda, skrb zbujajo\u010de za u\u010denca, ki je bil neupravi\u010deno prikraj\u0161an za dolo\u010deno prilo\u017enost za izobra\u017eevanje1<\/sup>. Toda ali gre pri algoritemski homogenizaciji za krivico, lahko ugotavljamo le za vsak posamezen primer posebej1<\/sup>.<\/p>\n \u010ce pa je naloga sistema npr. pomagati u\u010dencu pri pisanju, to postavlja v sredi\u0161\u010de standardizacijo stilov pisanja, besedi\u0161\u010da in s tem vzorcev mi\u0161ljenja. Jezikovni modeli, uporabljeni v tak\u0161nih primerih, predvidijo najverjetnej\u0161e besedile na podlagi sklopa u\u010dnih podatkov, na katerem so se u\u010dili. Ti sklopi podatkov, \u010de \u017ee niso skupni sistemom, so zgrajeni na podoben na\u010din, pogosto s pomo\u010djo javnih podatkov, dostopnih na internetu.<\/span> Toda tudi \u010de so ti po<\/span>datki pregledani v smislu pristranskosti, predsodkov in skrajnih vsebin, predstavljajo le <\/span>majhen ekosistem in ne celega sveta z vsemi raznolikimi idejami, kulturami in praksami. Dokazano je, da sistemi za predvidevanje besedil, ki temeljijo na globokem u\u010denju in se uporabljajo za SMS sporo\u010dila in e-po\u0161to, spreminjajo na\u010din, kako ljudje pi\u0161emo: jezik postaja “bolj zgo\u0161\u010den, bolj predvidljiv in manj bogat”<\/span>2<\/sup>.<\/span><\/p>\n Zaporedja besed, ki se ponavljajo v u\u010dnih podatkih, si po kapljicah utirajo pot med rezultate velikih jezikovnih modelov. Tako imajo ustvarjalci baz podatkov mo\u010d nadzirati alternativna mnenja in mno\u017ei\u010dne izraze idej. Brez ustreznih pedago\u0161kih intervencij bi lahko to v u\u010dilnicah posledi\u010dno za\u010delo omejevati ustvarjalnost in izvirnost u\u010dencev, kar ne bi privedlo le do formalisti\u010dnega pisanja, ampak potencialno do okrnjene sposobnosti kriti\u010dnega mi\u0161ljenja in s tem v splo\u0161nem do manj barvitega sveta3<\/sup>.<\/p>\n Z negativnimi posledicami strojnega u\u010denja vklju\u010dno z zgoraj opisano homogenizacijo, je tesno povezano dejstvo, da so tehnologije postale tako napredne, da je vmesnik \u010dlovek-stroj brez\u0161iven in prakti\u010dno neviden. Ne glede na to, ali gre za iskalnike, ki so integrirani v naslovno vrstico okna brskalnika, ali za intuitivno predvidevanje besedila brez \u010dasovnega zamika med pisanjem, predvidevanjem in izbiro predlogov, pogosto delujemo pod vplivom tehnologije, ne da bi se tega zavedali ali imeli imeli mo\u017enost zadeve upo\u010dasniti in o njih ponovno razmisliti ter sprejeti lastno odlo\u010ditev. \u0160e ve\u010d, ko uporaba tehnologij pri sprejemanju odlo\u010ditev postane navada, ponavadi povsem pozabimo, da te tehnologije sploh obstajajo4<\/sup>. “Ko se navadimo na tehnologije, jih nehamo opazovati in namesto tega gledamo le \u0161e skoznje, v iskanju informacij ali aktivnosti, ki nam jih njihova uporaba omogo\u010da.” To vzbuja tako zelo resne pomisleke glede aktivnega \u010dlove\u0161kega delovanja, transparentnosti in zaupanja,\u00a0da nekateri strokovnjaki priporo\u010dajo, <\/span>zlasti ko gre za mlade ume, naj postanejo vmesniki vidnej\u0161i in celo bolj togi<\/span>4<\/sup>.<\/span><\/p>\n V tem priro\u010dniku ves \u010das govorimo o pedago\u0161kih, eti\u010dnih in dru\u017ebenih vplivih UI, zlasti na podatkih temlje\u010de UI (oglejte si poglavja: V ozadju: u\u010dinki spletnega iskanja na posameznika<\/a>,\u00a0Te\u017eave s podatki: osebna identiteta <\/a>ter \u010clove\u0161ko delovanje<\/a>). Te\u017eave z iskalniki smo obravnavali v poglavjih V ozadju: u\u010dinki spletnega iskanja na posameznika \/ dru\u017ebo;<\/em> o prilagodljivih u\u010dnih sistemih smo govorilli v poglavju Druga plat prilagodljivih u\u010dnih sistemov;<\/em> o generativni UI v poglavju Degenerativna UI<\/a>. Na ve\u010d mestih v opisujemo ukrepe za izbolj\u0161anje\u00a0dolo<\/span>\u010denih te\u017eav v u\u010dilnici. Upamo, da bodo ti ukrepi vse manj potrebni z razvojem zanesljivih eti\u010dnih sistemov UI za izobra\u017eevanje. Eti\u010dna UI bi morala biti razvita, uvedena in uporabljana v skladu z eti\u010dnimi normami in na\u010deli5<\/sup> ter bi morala biti odgovorna in odporna.<\/span><\/p>\n Ker prepu\u0161\u010damo toliko mo\u010di modelom UI in njihovim programerjem, prodajalcem in ocenjevalcem, je edino razumno, da od njih zahtevamo transparentnost ter prevzemanje odgovornosti za napake, ko gre kaj narobe6<\/sup>. Potrebujemo sporazume o ravni storitev (SLA), v katerih bodo jasno opisani “podporne in vzdr\u017eevalne storitve ter koraki, ki jih je treba sprejeti za re\u0161evanje prijavljenih te\u017eav”5<\/sup>.<\/p>\n Odporna UI bi sprejela svoje nepopolnosti, jih predvidela in kljub njim vseeno delovala. Pri odpornih sistemih UI bi se pojavljale predvidljive napake in obstajali bi protokoli za obravnavo tak\u0161nih napak6<\/sup>.<\/p>\n V izobra\u017eevanju bi morala eti\u010dno UI voditi na uporabnika osredoto\u010dena na\u010dela oblikovanja, in upo\u0161tevani bi morali biti vsi vidiki izobra\u017eevanja7<\/sup>. U\u010ditelji bi morali imeti mo\u017enost preverjati njeno delovanje, razumeti njene razlage, preglasiti njene odlo\u010ditve ali za\u010dasno ustaviti njeno uporabo8<\/sup>. Tak\u0161ni sistemi bi razbremenili u\u010ditelje, jim omogo\u010dili podroben vpogled v u\u010dence in jih podpirali pri izvajanju bolj kakovostnega izobra\u017eevanja8<\/sup>. Uporabnikom in okolju ne bi povzro\u010dali \u0161kode<\/span>\u00a0<\/span>ter bi izbolj\u0161ali socialno in \u010dustveno dobrobit u\u010dencev in u\u010diteljev<\/span>5<\/sup>.<\/span><\/p>\n Dokler pa ta \u010das ne nastopi, se bodo morali u\u010ditelji truditi razvijati in aktivno sodelovati v skupnosti sodelavcev, da bi ozave\u0161\u010dali druge in sebe o tej problematiki, delili izku\u0161nje in najbolj\u0161e prakse ter prepoznali zanesljive ponudnike storitev UI. V svoje razprave in odlo\u010ditve bi lahko vklju\u010dili u\u010dence in star\u0161e, da bi skupaj bolje obravnavali razli\u010dne pomisleke v okoljih, pre\u017eetih z zaupanjem in kolegialnostjo. Vsekakor u\u010diteljem priporo\u010damo, da se po svojih najbolj\u0161ih mo\u010deh trudijo biti na teko\u010dem z najnovej\u0161imi trendi na podro\u010dju AIED in pridobivajo kompetence, kadarkoli in kjerkoli je to mogo\u010de5<\/sup>.<\/p>\n 1\u00a0<\/sup>Bommasani, R., et al, Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?<\/em>, Advances in Neural Information Processing Systems, 2022<\/p>\n 2\u00a0<\/sup>Varshney, L., Respect for Human Autonomy in Recommender System<\/em>, 3rd FAccTRec Workshop on Responsible Recommendation, 2020<\/p>\n 3 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, Unesco, Paris, 2023<\/p>\nNevidnost<\/h3>\nZaporedja besed, ki se ponavljajo v u\u010dnih podatkih, si po kapljicah utirajo pot med rezultate velikih jezikovnih modelov. Tako imajo ustvarjalci baz podatkov mo\u010d nadzirati alternativna mnenja in mno\u017ei\u010dne izraze idej. Brez ustreznih pedago\u0161kih intervencij bi lahko to v u\u010dilnicah posledi\u010dno za\u010delo omejevati ustvarjalnost in izvirnost u\u010dencev, kar ne bi privedlo le do formalisti\u010dnega pisanja, ampak potencialno do okrnjene sposobnosti kriti\u010dnega mi\u0161ljenja in s tem v splo\u0161nem do manj barvitega sveta3<\/sup>.\n
Onkraj: v smeri eti\u010dne UI<\/h3>\n
\nHomogenizacija<\/h3>\n
Nevidnost<\/h3>\n
Onkraj: v smeri eti\u010dne UI<\/h3>\n
\n