Danes v svetu vedno bolj prevladuje ob\u010dutek, da se vse, kar je pomembno, nahaja na spletu in da bi moralo biti vse to dostopno s pomo\u010djo spletnega iskanja1<\/sup>. L. M. Hinman pravi: \"Esse est indicato in Google\"\u00a0(Biti<\/em> pomeni biti indeksiran<\/em> na Googlu), in dodaja: \u201cdr\u017eavljani v demokrati\u010dno urejeni dr\u017eavi ne morejo sprejemati informiranih odlo\u010ditev brez dostopa do to\u010dnih informacij2,3<\/sup>.\u201d \u010ce demokracija temelji na prostem dostopu do neizkrivljenih informacij, potem iskalniki neposredno vplivajo na to, kako demokrati\u010dne so na\u0161e dr\u017eave. Njihova vloga varuhov znanja je v neposrednem nasprotju z njihovo naravo zasebnih podjetij, katerih prihodki so odvisni od oglasov. Zato moramo v imenu svobodne dru\u017ebe vztrajati pri odgovornosti iskalnikov in preglednosti delovanja algoritmov, ki jih poganjajo2<\/sup>.<\/p>\n\n Sistemi, ki priporo\u010dajo vsebine na podlagi uporabni\u0161kih profilov (vklju\u010dno s spletnimi iskalniki), lahko uporabnike izolirajo pred izpostavljenostjo raznolikim pogledom. S podajanjem vsebin, ki so uporabniku v\u0161e\u010d, spodbujajo pristranskost, ki krepi sama sebe, in t. i. \u201cfiltrirne mehur\u010dke\u201d2,4<\/sup>. Tak\u0161ni mehur\u010dki, ki nastanejo, kadar novo pridobljeno znanje temelji na preteklih interesih in aktivnostih5<\/sup>, zacementirajo predsodke kot trdne temelje znanja. To je \u0161e posebej nevarno za mlade, zelo dovzetne glave. Zato je potrebno v u\u010dilnicah spodbujati odprte razprave z vrstniki in u\u010ditelji ter aktivnosti sodelovalnega u\u010denja.<\/p>\n\n Iskalniki in drugi sistemi za generiranje priporo\u010dil predvidevajo, kaj bo uporabnika zanimalo. Ko uporabnik klikne na priporo\u010deno vsebino, je to pozitivna povratna informacija. Ta povratna informacija vpliva na to, katere povezave bodo prikazane v prihodnosti. Pa je uporabnik res kliknil na prvo prikazano povezavo zato, ker se mu je zdela ustrezna, ali preprosto zato, ker je bil to prvi rezultat in ga je bilo zato la\u017eje izbrati?<\/p>\nImplicitne povratne informacije je te\u017eko interpretirati. Kadar napovedi temeljijo na nepravilni intrepretaciji, je u\u010dinke \u0161e te\u017eje napovedati. Kadar se dolo\u010deni rezultati prika\u017eejo ve\u010dkrat, in \u010de so edino, kar uporabnik vidi, potem se lahko zares spremenijo celo uporabnikove preference (kaj mu je v\u0161e\u010d in kaj ne). Temu bi lahko rekli samouresni\u010dujo\u010da se prerokba.\n V nekem mestu v ZDA so uvedli sistem predvidevanja za uporabo v policiji: sistem opozarja, v katerih predelih mesta obstaja veliko tveganje za kriminaliteto. To pomeni, da so na tak\u0161na obmo\u010dja po\u0161iljali ve\u010d policistov. Ker so policisti vedeli, da so ta obmo\u010dja izpostavljena visoki stopnji tveganja, so bili zelo previdni in so ustavili, preiskali ali aretirali ve\u010d ljudi kot sicer. Aretacije so tako potrdile napoved (predvidevanje), tudi \u010de je bila v osnovi pristranska. Ne samo to, aretacije so slu\u017eile kot vhodni podatki za nadaljnje napovedi na istih in podobnih obmo\u010djih, s \u010dimer se je pristranskost s\u010dasoma \u0161e pove\u010dala5<\/sup>.<\/p>\n Sisteme za napovedovanje uporabljamo zato, da lahko na podlagi napovedi ukrepamo. Toda delovanje na podlagi pristranskih napovedi vpliva na prihodnje izide, na vpletene ljudi in s tem na dru\u017ebo samo. \"Kot stranski u\u010dinek izpolnjevanja svojega namena pridobivanja ustreznih informacij bo iskalnik nujno spremenil prav tisto, kar \u017eeli meriti, razvr\u0161\u010dati in rangirati. Podobno bo ve\u010dina sistemov strojnega u\u010denja vplivala na pojave, ki jih napoveduje5<\/sup>.\"<\/p>\n\n Na spletnih forumih, dru\u017eabnih omre\u017ejih in blogih, ki so u\u010dencem na voljo prek iskanja, je vse ve\u010d la\u017enih novic. Majhne, ciljno usmerjene skupine ljudi lahko zvi\u0161ujejo ocene dolo\u010denih videoposnetkov in spletnih strani z ekstremnimi vsebinami. S tem se pove\u010da priljubljenost tak\u0161nih vsebin in okrepi videz avtenti\u010dnosti, kar izigrava algoritme razvr\u0161\u010danja4<\/sup>. Vendar pa med podjetji na trgu do danes \u0161e ni zasnovane nobene jasne, nedvoumne politike za nadzor nad la\u017enimi novicami2<\/sup>.<\/p>\n Po drugi strani pa iskalniki sistemati\u010dno izklju\u010dujejo dolo\u010dena spletna mesta v korist drugih6<\/sup>. Cenzurirajo vsebine nekaterih avtorjev, \u010deprav jih javnost ni pooblastila za to nalogo. Zato je treba spletne iskalnike vselej uporabljati ozave\u0161\u010deno in previdno.<\/p>\n\n\n 1\u00a0<\/sup>Hillis, K., Petit, M., Jarrett, K., Google and the Culture of Search, <\/em>Routledge Taylor and Francis, 2013.<\/p>\n 2<\/sup>\u00a0Tavani, H., Zimmer, M., Search Engines and Ethics<\/a><\/em>, The Stanford Encyclopedia of Philosophy, Fall 2020 Edition), Edward N. Zalta (ed.).<\/p>\n 3 <\/sup>Hinman, L. M., Esse Est Indicato in Google: Ethical and Political Issues in Search Engines<\/em>, International Review of Information Ethics, 3: 19\u201325, 2005.<\/p>\n 4 <\/sup>Milano, S., Taddeo, M., Floridi, L. Recommender systems and their ethical challenges<\/a><\/em>, AI & Soc<\/i> 35, 957\u2013967, 2020.<\/p>\n 5 <\/sup>Barocas, S.,\u00a0 Hardt, M., Narayanan, A., Fairness and machine learning Limitations and Opportunities<\/a>, <\/em>yet to be published.<\/p>\n 6 <\/sup>Introna, L. and Nissenbaum, H., Shaping the Web: Why The Politics of Search Engines Matters<\/em>, The Information Society, 16(3): 169\u2013185, 2000.<\/p>","rendered":" Danes v svetu vedno bolj prevladuje ob\u010dutek, da se vse, kar je pomembno, nahaja na spletu in da bi moralo biti vse to dostopno s pomo\u010djo spletnega iskanja1<\/sup>. L. M. Hinman pravi: “Esse est indicato in Google”\u00a0(Biti<\/em> pomeni biti indeksiran<\/em> na Googlu), in dodaja: \u201cdr\u017eavljani v demokrati\u010dno urejeni dr\u017eavi ne morejo sprejemati informiranih odlo\u010ditev brez dostopa do to\u010dnih informacij2,3<\/sup>.\u201d \u010ce demokracija temelji na prostem dostopu do neizkrivljenih informacij, potem iskalniki neposredno vplivajo na to, kako demokrati\u010dne so na\u0161e dr\u017eave. Njihova vloga varuhov znanja je v neposrednem nasprotju z njihovo naravo zasebnih podjetij, katerih prihodki so odvisni od oglasov. Zato moramo v imenu svobodne dru\u017ebe vztrajati pri odgovornosti iskalnikov in preglednosti delovanja algoritmov, ki jih poganjajo2<\/sup>.<\/p>\n Sistemi, ki priporo\u010dajo vsebine na podlagi uporabni\u0161kih profilov (vklju\u010dno s spletnimi iskalniki), lahko uporabnike izolirajo pred izpostavljenostjo raznolikim pogledom. S podajanjem vsebin, ki so uporabniku v\u0161e\u010d, spodbujajo pristranskost, ki krepi sama sebe, in t. i. \u201cfiltrirne mehur\u010dke\u201d2,4<\/sup>. Tak\u0161ni mehur\u010dki, ki nastanejo, kadar novo pridobljeno znanje temelji na preteklih interesih in aktivnostih5<\/sup>, zacementirajo predsodke kot trdne temelje znanja. To je \u0161e posebej nevarno za mlade, zelo dovzetne glave. Zato je potrebno v u\u010dilnicah spodbujati odprte razprave z vrstniki in u\u010ditelji ter aktivnosti sodelovalnega u\u010denja.<\/p>\n Iskalniki in drugi sistemi za generiranje priporo\u010dil predvidevajo, kaj bo uporabnika zanimalo. Ko uporabnik klikne na priporo\u010deno vsebino, je to pozitivna povratna informacija. Ta povratna informacija vpliva na to, katere povezave bodo prikazane v prihodnosti. Pa je uporabnik res kliknil na prvo prikazano povezavo zato, ker se mu je zdela ustrezna, ali preprosto zato, ker je bil to prvi rezultat in ga je bilo zato la\u017eje izbrati?<\/p>\n Implicitne povratne informacije je te\u017eko interpretirati. Kadar napovedi temeljijo na nepravilni intrepretaciji, je u\u010dinke \u0161e te\u017eje napovedati. Kadar se dolo\u010deni rezultati prika\u017eejo ve\u010dkrat, in \u010de so edino, kar uporabnik vidi, potem se lahko zares spremenijo celo uporabnikove preference (kaj mu je v\u0161e\u010d in kaj ne). Temu bi lahko rekli samouresni\u010dujo\u010da se prerokba.<\/p>\n V nekem mestu v ZDA so uvedli sistem predvidevanja za uporabo v policiji: sistem opozarja, v katerih predelih mesta obstaja veliko tveganje za kriminaliteto. To pomeni, da so na tak\u0161na obmo\u010dja po\u0161iljali ve\u010d policistov. Ker so policisti vedeli, da so ta obmo\u010dja izpostavljena visoki stopnji tveganja, so bili zelo previdni in so ustavili, preiskali ali aretirali ve\u010d ljudi kot sicer. Aretacije so tako potrdile napoved (predvidevanje), tudi \u010de je bila v osnovi pristranska. Ne samo to, aretacije so slu\u017eile kot vhodni podatki za nadaljnje napovedi na istih in podobnih obmo\u010djih, s \u010dimer se je pristranskost s\u010dasoma \u0161e pove\u010dala5<\/sup>.<\/p>\n Sisteme za napovedovanje uporabljamo zato, da lahko na podlagi napovedi ukrepamo. Toda delovanje na podlagi pristranskih napovedi vpliva na prihodnje izide, na vpletene ljudi in s tem na dru\u017ebo samo. “Kot stranski u\u010dinek izpolnjevanja svojega namena pridobivanja ustreznih informacij bo iskalnik nujno spremenil prav tisto, kar \u017eeli meriti, razvr\u0161\u010dati in rangirati. Podobno bo ve\u010dina sistemov strojnega u\u010denja vplivala na pojave, ki jih napoveduje5<\/sup>.”<\/p>\n Na spletnih forumih, dru\u017eabnih omre\u017ejih in blogih, ki so u\u010dencem na voljo prek iskanja, je vse ve\u010d la\u017enih novic. Majhne, ciljno usmerjene skupine ljudi lahko zvi\u0161ujejo ocene dolo\u010denih videoposnetkov in spletnih strani z ekstremnimi vsebinami. S tem se pove\u010da priljubljenost tak\u0161nih vsebin in okrepi videz avtenti\u010dnosti, kar izigrava algoritme razvr\u0161\u010danja4<\/sup>. Vendar pa med podjetji na trgu do danes \u0161e ni zasnovane nobene jasne, nedvoumne politike za nadzor nad la\u017enimi novicami2<\/sup>.<\/p>\n Po drugi strani pa iskalniki sistemati\u010dno izklju\u010dujejo dolo\u010dena spletna mesta v korist drugih6<\/sup>. Cenzurirajo vsebine nekaterih avtorjev, \u010deprav jih javnost ni pooblastila za to nalogo. Zato je treba spletne iskalnike vselej uporabljati ozave\u0161\u010deno in previdno.<\/p>\n 1\u00a0<\/sup>Hillis, K., Petit, M., Jarrett, K., Google and the Culture of Search, <\/em>Routledge Taylor and Francis, 2013.<\/p>\n 2<\/sup>\u00a0Tavani, H., Zimmer, M., Search Engines and Ethics<\/a><\/em>, The Stanford Encyclopedia of Philosophy, Fall 2020 Edition), Edward N. Zalta (ed.).<\/p>\n 3 <\/sup>Hinman, L. M., Esse Est Indicato in Google: Ethical and Political Issues in Search Engines<\/em>, International Review of Information Ethics, 3: 19\u201325, 2005.<\/p>\n 4 <\/sup>Milano, S., Taddeo, M., Floridi, L. Recommender systems and their ethical challenges<\/a><\/em>, AI & Soc<\/i> 35, 957\u2013967, 2020.<\/p>\nVzpostavljanje filtrirnih mehur\u010dkov<\/h3>\n
Povratne zanke<\/h3>\n
La\u017ene novice, ekstremne vsebine in cenzura<\/h3>\n
\nSocialni u\u010dinki<\/h3>\n
Vzpostavljanje filtrirnih mehur\u010dkov<\/h3>\n
Povratne zanke<\/h3>\n
La\u017ene novice, ekstremne vsebine in cenzura<\/h3>\n
\n