Mehr und mehr hat man das Gef\u00fchl, dass alles, was wichtig ist, im Internet zu finden ist und \u00fcber die Suche zug\u00e4nglich sein sollte1<\/sup>. Wie L. M. Hinman es ausdr\u00fcckt, \u201eEsse est indicato in Google\u201d (\u201ezu sein bedeutet, bei Google indexiert zu sein\u201d). Wie er au\u00dferdem feststellt, \u201ek\u00f6nnen die B\u00fcrgerinnen und B\u00fcrger in einer Demokratie ohne Zugang zu genauen Informationen keine fundierten Entscheidungen treffen\u201d2,3<\/sup>. Wenn Demokratie auf dem freien Zugang zu unverf\u00e4lschten Informationen beruht, haben Suchmaschinen einen direkten Einfluss darauf, wie demokratisch unsere L\u00e4nder sind. Ihre Rolle als W\u00e4chter des Wissens steht in direktem Widerspruch zu ihrer Natur als private Unternehmen, die von Werbeeinnahmen abh\u00e4ngig sind. Deshalb m\u00fcssen wir im Interesse einer freien Gesellschaft die Rechenschaftspflicht von Suchmaschinen und die Transparenz ihrer Algorithmen fordern2<\/sup>.<\/p>\n\n Systeme, die Inhalte auf der Grundlage von Benutzerprofilen empfehlen, einschlie\u00dflich Suchmaschinen, k\u00f6nnen Nutzende davon abhalten, sich mit anderen Ansichten auseinanderzusetzen. Indem sie Inhalte empfehlen, die der nutzenden Person gefallen, schaffen sie sich selbst verst\u00e4rkende Vorurteile und \u201eFilterblasen\u201d2,4<\/sup>. Diese Blasen, die entstehen, wenn neu erworbenes Wissen auf fr\u00fcheren Interessen und Aktivit\u00e4ten beruht2<\/sup>, zementieren Vorurteile als solide Grundlagen des Wissens. Das kann besonders gef\u00e4hrlich werden, wenn man mit jungen und beeinflussbaren Menschen arbeitet. Daher sollten offene Diskussionen mit Gleichaltrigen und Lehrkr\u00e4ften sowie kollaborative Lernaktivit\u00e4ten im Klassenzimmer gef\u00f6rdert werden.<\/p>\n\n Suchmaschinen, wie auch andere Empfehlungssysteme, sagen voraus, was f\u00fcr die nutzende Person von Interesse ist. Wenn der Nutzende dann auf die Empfehlung klickt, wird dies als positives Feedback gewertet. Dieses Feedback beeinflusst, welche Links in Zukunft angezeigt werden. Wenn eine nutzende Person auf den ersten angezeigten Link klickt, liegt das daran, dass er oder sie den Link f\u00fcr relevant h\u00e4lt, oder einfach daran, dass es der erste Treffer war und daher leichter auszuw\u00e4hlen ist?<\/p>\n Implizites Feedback ist schwierig zu interpretieren. Wenn Vorhersagen auf falschen Interpretationen beruhen, sind die Auswirkungen sogar noch schwieriger vorherzusagen. Wenn Ergebnisse einer bestimmten Art wiederholt angezeigt werden \u2014 und das Einzige sind, was der Nutzende zu sehen bekommt \u2014, kann dies sogar dazu f\u00fchren, dass sich die Vorlieben und Abneigungen dieser Person \u00e4ndern: ein Fall von sich selbst erf\u00fcllender Vorhersage.<\/p>\n In einer Stadt in den Vereinigten Staaten wurde ein Predictive Policing System<\/em> eingef\u00fchrt, das auf die kriminalit\u00e4tsgef\u00e4hrdeten Gebiete einer Stadt hinweist. Das bedeutet, dass mehr Polizeibedienstete in diesen Gebieten eingesetzt werden. Da diese Polizeibediensteten wussten, dass das Gebiet ein hohes Risiko darstellt, waren sie sehr vorsichtig und haben mehr Menschen angehalten, durchsucht oder verhaftet, als sie es normalerweise getan h\u00e4tten. Die Verhaftungen best\u00e4tigten also die Vorhersage, selbst wenn diese von vornherein falsch war. Und nicht nur das: Die Verhaftungen waren Daten f\u00fcr k\u00fcnftige Vorhersagen in denselben und \u00e4hnlichen Gebieten, wodurch sich die Verzerrungen im Laufe der Zeit noch verst\u00e4rkten5<\/sup>.<\/p>\n Wir nutzen Vorhersagesysteme, damit wir nach den Vorhersagen handeln k\u00f6nnen. Aber wenn wir auf der Grundlage von verzerrten Vorhersagen handeln, hat das Auswirkungen auf die zuk\u00fcnftigen Ergebnisse, die betroffenen Menschen und damit auf die Gesellschaft selbst. \u201eAls Nebeneffekt der Erf\u00fcllung ihres Zwecks, relevante Informationen zu finden, ver\u00e4ndert eine Suchmaschine zwangsl\u00e4ufig genau das, was sie messen, sortieren und einordnen soll. In \u00e4hnlicher Weise werden die meisten maschinellen Lernsysteme die Ph\u00e4nomene beeinflussen, die sie vorhersagen.\"5<\/sup><\/p>\n\n In Online-Foren, sozialen Medien und Blogs, die f\u00fcr Lernende \u00fcber die Suche zug\u00e4nglich sind, werden immer h\u00e4ufiger Fake News<\/em> (falsche Geschichten, die als Nachrichten erscheinen) verbreitet. Kleine, zielgerichtete Gruppen von Menschen k\u00f6nnen die Bewertungen f\u00fcr bestimmte Videos und Websites mit extremen Inhalten in die H\u00f6he treiben. Das erh\u00f6ht die Popularit\u00e4t und den Anschein von Authentizit\u00e4t und spielt den Ranking-Algorithmen in die H\u00e4nde4<\/sup>. Bis heute gibt es jedoch keine klare und explizite Richtlinie, die von den Suchmaschinenunternehmen verabschiedet wurde, um Fake News<\/em> zu kontrollieren2<\/sup>.<\/p>\n Auf der anderen Seite schlie\u00dfen Suchmaschinen systematisch bestimmte Websites und bestimmte Arten von Websites zugunsten anderer aus6<\/sup>. Sie zensieren die Inhalte einiger Autorinnen und Autoren, obwohl sie von der \u00d6ffentlichkeit nicht mit dieser Augabe betraut wurden. Daher sollten Sie sie mit Bedacht und Unterscheidungsverm\u00f6gen nutzen.<\/p>\n\n\n 1\u00a0<\/sup>Hillis, K., Petit, M., Jarrett, K., Google and the Culture of Search, <\/em>Routledge Taylor and Francis, 2013.<\/p>\n 2<\/sup>\u00a0Tavani, H., Zimmer, M., Search Engines and Ethics<\/a><\/em>, The Stanford Encyclopedia of Philosophy, Fall 2020 Edition), Edward N. Zalta (ed.).<\/p>\n 3 <\/sup>Hinman, L. M., Esse Est Indicato in Google: Ethical and Political Issues in Search Engines<\/em>, International Review of Information Ethics, 3: 19\u201325, 2005.<\/p>\n 4 <\/sup>Milano, S., Taddeo, M., Floridi, L. Recommender systems and their ethical challenges<\/a><\/em>, AI & Soc<\/i> 35, 957\u2013967, 2020.<\/p>\n 5 <\/sup>Barocas, S.,\u00a0 Hardt, M., Narayanan, A., Fairness and machine learning Limitations and Opportunities<\/a>, <\/em>yet to be published.<\/p>\n 6 <\/sup>Introna, L. and Nissenbaum, H., Shaping the Web: Why The Politics of Search Engines Matters<\/em>, The Information Society, 16(3): 169\u2013185, 2000.<\/p>","rendered":" Mehr und mehr hat man das Gef\u00fchl, dass alles, was wichtig ist, im Internet zu finden ist und \u00fcber die Suche zug\u00e4nglich sein sollte1<\/sup>. Wie L. M. Hinman es ausdr\u00fcckt, \u201eEsse est indicato in Google\u201d (\u201ezu sein bedeutet, bei Google indexiert zu sein\u201d). Wie er au\u00dferdem feststellt, \u201ek\u00f6nnen die B\u00fcrgerinnen und B\u00fcrger in einer Demokratie ohne Zugang zu genauen Informationen keine fundierten Entscheidungen treffen\u201d2,3<\/sup>. Wenn Demokratie auf dem freien Zugang zu unverf\u00e4lschten Informationen beruht, haben Suchmaschinen einen direkten Einfluss darauf, wie demokratisch unsere L\u00e4nder sind. Ihre Rolle als W\u00e4chter des Wissens steht in direktem Widerspruch zu ihrer Natur als private Unternehmen, die von Werbeeinnahmen abh\u00e4ngig sind. Deshalb m\u00fcssen wir im Interesse einer freien Gesellschaft die Rechenschaftspflicht von Suchmaschinen und die Transparenz ihrer Algorithmen fordern2<\/sup>.<\/p>\n Systeme, die Inhalte auf der Grundlage von Benutzerprofilen empfehlen, einschlie\u00dflich Suchmaschinen, k\u00f6nnen Nutzende davon abhalten, sich mit anderen Ansichten auseinanderzusetzen. Indem sie Inhalte empfehlen, die der nutzenden Person gefallen, schaffen sie sich selbst verst\u00e4rkende Vorurteile und \u201eFilterblasen\u201d2,4<\/sup>. Diese Blasen, die entstehen, wenn neu erworbenes Wissen auf fr\u00fcheren Interessen und Aktivit\u00e4ten beruht2<\/sup>, zementieren Vorurteile als solide Grundlagen des Wissens. Das kann besonders gef\u00e4hrlich werden, wenn man mit jungen und beeinflussbaren Menschen arbeitet. Daher sollten offene Diskussionen mit Gleichaltrigen und Lehrkr\u00e4ften sowie kollaborative Lernaktivit\u00e4ten im Klassenzimmer gef\u00f6rdert werden.<\/p>\n Suchmaschinen, wie auch andere Empfehlungssysteme, sagen voraus, was f\u00fcr die nutzende Person von Interesse ist. Wenn der Nutzende dann auf die Empfehlung klickt, wird dies als positives Feedback gewertet. Dieses Feedback beeinflusst, welche Links in Zukunft angezeigt werden. Wenn eine nutzende Person auf den ersten angezeigten Link klickt, liegt das daran, dass er oder sie den Link f\u00fcr relevant h\u00e4lt, oder einfach daran, dass es der erste Treffer war und daher leichter auszuw\u00e4hlen ist?<\/p>\n Implizites Feedback ist schwierig zu interpretieren. Wenn Vorhersagen auf falschen Interpretationen beruhen, sind die Auswirkungen sogar noch schwieriger vorherzusagen. Wenn Ergebnisse einer bestimmten Art wiederholt angezeigt werden \u2014 und das Einzige sind, was der Nutzende zu sehen bekommt \u2014, kann dies sogar dazu f\u00fchren, dass sich die Vorlieben und Abneigungen dieser Person \u00e4ndern: ein Fall von sich selbst erf\u00fcllender Vorhersage.<\/p>\n In einer Stadt in den Vereinigten Staaten wurde ein Predictive Policing System<\/em> eingef\u00fchrt, das auf die kriminalit\u00e4tsgef\u00e4hrdeten Gebiete einer Stadt hinweist. Das bedeutet, dass mehr Polizeibedienstete in diesen Gebieten eingesetzt werden. Da diese Polizeibediensteten wussten, dass das Gebiet ein hohes Risiko darstellt, waren sie sehr vorsichtig und haben mehr Menschen angehalten, durchsucht oder verhaftet, als sie es normalerweise getan h\u00e4tten. Die Verhaftungen best\u00e4tigten also die Vorhersage, selbst wenn diese von vornherein falsch war. Und nicht nur das: Die Verhaftungen waren Daten f\u00fcr k\u00fcnftige Vorhersagen in denselben und \u00e4hnlichen Gebieten, wodurch sich die Verzerrungen im Laufe der Zeit noch verst\u00e4rkten5<\/sup>.<\/p>\n Wir nutzen Vorhersagesysteme, damit wir nach den Vorhersagen handeln k\u00f6nnen. Aber wenn wir auf der Grundlage von verzerrten Vorhersagen handeln, hat das Auswirkungen auf die zuk\u00fcnftigen Ergebnisse, die betroffenen Menschen und damit auf die Gesellschaft selbst. \u201eAls Nebeneffekt der Erf\u00fcllung ihres Zwecks, relevante Informationen zu finden, ver\u00e4ndert eine Suchmaschine zwangsl\u00e4ufig genau das, was sie messen, sortieren und einordnen soll. In \u00e4hnlicher Weise werden die meisten maschinellen Lernsysteme die Ph\u00e4nomene beeinflussen, die sie vorhersagen.”5<\/sup><\/p>\n In Online-Foren, sozialen Medien und Blogs, die f\u00fcr Lernende \u00fcber die Suche zug\u00e4nglich sind, werden immer h\u00e4ufiger Fake News<\/em> (falsche Geschichten, die als Nachrichten erscheinen) verbreitet. Kleine, zielgerichtete Gruppen von Menschen k\u00f6nnen die Bewertungen f\u00fcr bestimmte Videos und Websites mit extremen Inhalten in die H\u00f6he treiben. Das erh\u00f6ht die Popularit\u00e4t und den Anschein von Authentizit\u00e4t und spielt den Ranking-Algorithmen in die H\u00e4nde4<\/sup>. Bis heute gibt es jedoch keine klare und explizite Richtlinie, die von den Suchmaschinenunternehmen verabschiedet wurde, um Fake News<\/em> zu kontrollieren2<\/sup>.<\/p>\n Auf der anderen Seite schlie\u00dfen Suchmaschinen systematisch bestimmte Websites und bestimmte Arten von Websites zugunsten anderer aus6<\/sup>. Sie zensieren die Inhalte einiger Autorinnen und Autoren, obwohl sie von der \u00d6ffentlichkeit nicht mit dieser Augabe betraut wurden. Daher sollten Sie sie mit Bedacht und Unterscheidungsverm\u00f6gen nutzen.<\/p>\n 1\u00a0<\/sup>Hillis, K., Petit, M., Jarrett, K., Google and the Culture of Search, <\/em>Routledge Taylor and Francis, 2013.<\/p>\n 2<\/sup>\u00a0Tavani, H., Zimmer, M., Search Engines and Ethics<\/a><\/em>, The Stanford Encyclopedia of Philosophy, Fall 2020 Edition), Edward N. Zalta (ed.).<\/p>\n 3 <\/sup>Hinman, L. M., Esse Est Indicato in Google: Ethical and Political Issues in Search Engines<\/em>, International Review of Information Ethics, 3: 19\u201325, 2005.<\/p>\n 4 <\/sup>Milano, S., Taddeo, M., Floridi, L. Recommender systems and their ethical challenges<\/a><\/em>, AI & Soc<\/i> 35, 957\u2013967, 2020.<\/p>\nEntstehung von Filterblasen<\/h3>\n
Feedback-Schleifen<\/h3>\n
Fake News, extreme Inhalte und Zensur<\/h3>\n
\nSoziale Auswirkungen<\/h3>\n
Entstehung von Filterblasen<\/h3>\n
Feedback-Schleifen<\/h3>\n
Fake News, extreme Inhalte und Zensur<\/h3>\n
\n