In die Erstellung von Datens\u00e4tzen, Benchmarks und Algorithmen f\u00fcr maschinelles Lernen flie\u00dfen viel Geld, Rechenressourcen, Zeit und M\u00fche. Dies gilt insbesondere f\u00fcr Deep Learning und Large Scale Models. Daher ist es sinnvoll, dass die erstellten Ressourcen innerhalb dieses \u00d6kosystems gemeinsam genutzt werden. Dies ist bei vielen der ML-Systeme, die wir h\u00e4ufig verwenden, der Fall. Selbst wenn die Endprodukte unterschiedlich sind und von einem anderen Unternehmen erstellt wurden, werden Methodik, Datens\u00e4tze, Bibliotheken f\u00fcr maschinelles Lernen und Bewertungen h\u00e4ufig gemeinsam genutzt1<\/sup>. Es spricht also einiges daf\u00fcr, dass ihre Outputs unter \u00e4hnlichen Bedingungen \u00e4hnlich sind.<\/p>\n Wenn es sich beim Output um eine schulische Entscheidung handelt, gibt dies beispielsweise Anlass zur Besorgnis f\u00fcr die Sch\u00fclerin oder den Sch\u00fcler, der zu Unrecht von jeder Bildungsm\u00f6glichkeit ausgeschlossen werden k\u00f6nnte1<\/sup>. Ob eine algorithmische Homogenisierung jedoch eine Ungerechtigkeit darstellt, kann nur von Fall zu Fall entschieden werden1<\/sup>.<\/p>\n Besteht auf der anderen Hand die Aufgabe des Systems darin, dem Sch\u00fcler oder der Sch\u00fclerin beim Schreiben zu helfen, r\u00fcckt es die Standardisierung von Schreibstilen, Vokabular und damit von Denkmustern in den Mittelpunkt. Die Sprachmodelle, die in diesen F\u00e4llen verwendet werden, sind darauf ausgelegt, den wahrscheinlichsten Text auf der Grundlage ihres Trainingsdatensatzes vorherzusagen. Diese Datens\u00e4tze werden, wenn sie nicht von verschiedenen Systemen gemeinsam genutzt werden, auf \u00e4hnliche Weise erstellt, oft mit \u00f6ffentlichen Internetdaten. Selbst wenn diese Daten auf Voreingenommenheit, Vorurteile und extreme Inhalte gepr\u00fcft werden, repr\u00e4sentieren sie nur ein kleines \u00d6kosystem und sind nicht repr\u00e4sentativ f\u00fcr die Welt in ihrer ganzen Vielfalt an Ideen, Kultur und Praktiken. Auf Deep Learning basierende pr\u00e4diktive Textsysteme, die f\u00fcr Textnachrichten und E-Mails verwendet werden, k\u00f6nnen nachweislich die Art und Weise ver\u00e4ndern, wie Menschen schreiben: Das Schreiben wird tendenziell \u201epr\u00e4gnanter, vorhersehbarer und weniger bunt\u201c2<\/sup>.<\/p>\n Wortfolgen, die sich in den Trainingsdaten wiederholen, flie\u00dfen in den Output von Large Language Models ein. Auf diese Weise erhalten die Werte der Datenbankersteller die Macht, alternative Meinungen und plurale Ausdrucksformen von Ideen zu unterdr\u00fccken. Ohne geeignete p\u00e4dagogische Ma\u00dfnahmen k\u00f6nnte dies wiederum die Kreativit\u00e4t und Originalit\u00e4t der Sch\u00fclerinnen und Sch\u00fcler einschr\u00e4nken, was nicht nur zu formelhaften Texten, sondern letztlich auch zu B\u00fcrgerinnen und B\u00fcrgern mit geringeren F\u00e4higkeiten zum kritischen Denken und damit zu einer insgesamt weniger bunten Welt f\u00fchrt3<\/sup>.<\/p>\n\n Eng verbunden mit vielen der negativen Auswirkungen des maschinellen Lernens, einschlie\u00dflich der oben erw\u00e4hnten Homogenisierung, ist die Tatsache, dass die Technologien so weit fortgeschritten sind, dass die Schnittstelle zwischen Mensch und Maschine nahtlos und praktisch unsichtbar ist. Ob es sich nun um Suchmaschinen handelt, die in die Adressleiste des Browserfensters integriert sind, oder um Textvorhersagen, die intuitiv und ohne Zeitverz\u00f6gerung zwischen dem Schreiben, der Vorhersage und der Vorschlagauswahl funktionieren - wir handeln oft unter dem Einfluss von Technologie, ohne uns dessen bewusst zu sein oder ohne die M\u00f6glichkeit zu haben, die Bremse zu ziehen, Situationen zu \u00fcberdenken und unsere eigenen Entscheidungen zu treffen. Wenn wir sie gewohnheitsm\u00e4\u00dfig nutzen, um Entscheidungen zu treffen, neigen wir dazu, ihre Existenz ganz und gar zu vergessen4<\/sup>. \u201eWenn wir uns erst einmal an Technologien gew\u00f6hnt haben, sehen wir sie nicht mehr, sondern schauen durch sie hindurch auf die Informationen und Aktivit\u00e4ten, die wir durch sie einfacher machen\". Dies wirft so ernste Bedenken in Bezug auf die menschlichen Handlungsf\u00e4higkeit, Transparenz und Vertrauen auf, insbesondere wenn es um junge Menschen geht, dass Expertinnen und Experten empfohlen haben, die Schnittstellen sichtbarer und sogar sperriger zu machen4<\/sup>.<\/p>\n\n In jedem Teil dieses offenen Lehrbuchs haben wir p\u00e4dagogische, ethische und gesellschaftliche Auswirkungen der KI, insbesondere der datenbasierten KI, er\u00f6rtert. Daten und Privatsph\u00e4re, inhaltliche Verl\u00e4sslichkeit und Nutzer-Autonomit\u00e4t<\/a>, Auswirkungen auf die pers\u00f6nliche Identit\u00e4t<\/a>, Vorurteile und Fairness <\/a>und Menschliche Handlungsf\u00e4higkeit<\/a> wurden alle auf den entsprechenden Seiten behandelt. Spezifische Fragen zu Suchmaschinen wurden er\u00f6rtert in: Auswirkungen der Suche auf das Individuum und die Gesellschaft, Probleme im Zusammenhang mit anpassenden Systemen wurden behandelt in Die Kehrzseite von ALS und diejenigen, die speziell f\u00fcr Generative KI gelten in Die negative Seite<\/a>. An mehreren Stellen im Buch haben wir uns mit Ma\u00dfnahmen zur Verbesserung befasst, die im Klassenzimmer ergriffen werden k\u00f6nnen, um bestimmte Probleme zu l\u00f6sen. Wir hoffen, dass diese Ma\u00dfnahmen weniger erschwerend sein werden, sobald wir \u00fcber ethische und zuverl\u00e4ssige KI-Systeme f\u00fcr die Bildung verf\u00fcgen. Eine solche Ethische KI w\u00fcrde in \u00dcbereinstimmung mit ethischen Normen und Grunds\u00e4tzen5<\/sup> entwickelt, eingesetzt und genutzt werden und w\u00e4re rechenschaftspflichtig und belastbar.<\/p>\n Da wir KI-Modellen und ihren Programmierern, Verk\u00e4ufern und Bewertern so viel Macht \u00fcberlassen, ist es nur vern\u00fcnftig, von ihnen zu verlangen, dass sie transparent sind, Verantwortung \u00fcbernehmen und Fehler beheben, wenn etwas schief geht6<\/sup>. Wir brauchen Dienstleistungsvereinbarungen, in denen \u201edie Support- und Wartungsdienste und die Schritte zur Behebung gemeldeter Probleme\" klar umrissen werden5<\/sup>.<\/p>\n Eine belastbare KI w\u00fcrde ihre Unzul\u00e4nglichkeiten akzeptieren, sie vorhersehen und trotzdem funktionieren. Belastbare KI-Systeme w\u00fcrden auf vorhersehbare Weise versagen und \u00fcber Protokolle verf\u00fcgen, um mit diesen Fehlern umzugehen6<\/sup>.<\/p>\n Im Bildungsbereich sollte sich eine ethische KI an nutzerzentrierten Gestaltungsprinzipien orientieren und alle Aspekte von Bildung ber\u00fccksichtigen7. Die Lehrkr\u00e4fte w\u00e4ren in der Lage, die Funktionsweise des Systems \u00fcberpr\u00fcfen, seine Erkl\u00e4rungen verstehen, seine Entscheidungen au\u00dfer Kraft setzen oder seine Verwendung ohne Schwierigkeiten unterbrechen8<\/sup>. Derartige Systeme w\u00fcrden die Arbeitsbelastung der Lehrkr\u00e4fte in der Tat verringern, ihnen detaillierte Erkenntnisse \u00fcber ihre Sch\u00fcler geben und sie dabei unterst\u00fctzen, die Bandbreite und Qualit\u00e4t des Unterrichts zu verbessern8<\/sup>. Sie w\u00fcrden ihren Nutzern und der Umwelt keinen Schaden zuf\u00fcgen und das soziale und emotionale Wohlbefinden von Lernenden und Lehrer:innen f\u00f6rdern5<\/sup>.<\/p>\n Bis es soweit ist, m\u00fcssen Lehrer:innen versuchen, eine Gemeinschaft von Kolleg:innen und Kolleginnen und Kollegen aufzubauen und sich an ihr zu beteiligen, um das Bewusstsein f\u00fcr Probleme zu sch\u00e4rfen, Erfahrungen und bew\u00e4hrte Verfahren auszutauschen und zuverl\u00e4ssige Anbieter von KI zu finden. Sie k\u00f6nnten auch Lernende und Eltern in Diskussionen und Entscheidungen einbeziehen, um besser auf unterschiedliche Anliegen eingehen zu k\u00f6nnen und ein Klima des Vertrauens und der Kameradschaft zu schaffen. Am besten w\u00e4re es, wenn sie ihr Bestes t\u00e4ten, um \u00fcber die neuesten Trends im Bereich der k\u00fcnstlichen Intelligenz in der Bildung auf dem Laufenden zu bleiben und Kompetenzen zu erwerben, wann und wo immer dies m\u00f6glich ist5<\/sup>.<\/p>\n\n\n 1\u00a0<\/sup>Bommasani, R., et al, Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?<\/em>, Advances in Neural Information Processing Systems, 2022<\/p>\n 2\u00a0<\/sup>Varshney, L., Respect for Human Autonomy in Recommender System<\/em>, 3rd FAccTRec Workshop on Responsible Recommendation, 2020<\/p>\n 3 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, Unesco, Paris, 2023<\/p>\n 4 <\/sup>Susser, D., Invisible Influence: Artificial Intelligence and the Ethics of Adaptive Choice Architectures,<\/em> Proceedings of the 2019 AAAI\/ACM Conference on AI, Ethics, and Society, Association for Computing Machinery, New York, 403\u2013408, 2019<\/p>\n 5 <\/sup>Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators<\/a>, European Commission, October 2022<\/p>\n 6 <\/sup>Schneier, B., Data and Goliath: The Hidden Battles to Capture Your Data and Control Your World, <\/em>W. W. Norton & Company, 2015.<\/p>\n 7 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023<\/p>\n 8 <\/sup>U.S. Department of Education, Office of Educational Technology, Artificial Intelligence and Future of Teaching and Learning: Insights and Recommendations<\/em>, Washington, DC, 2023.<\/p>","rendered":" In die Erstellung von Datens\u00e4tzen, Benchmarks und Algorithmen f\u00fcr maschinelles Lernen flie\u00dfen viel Geld, Rechenressourcen, Zeit und M\u00fche. Dies gilt insbesondere f\u00fcr Deep Learning und Large Scale Models. Daher ist es sinnvoll, dass die erstellten Ressourcen innerhalb dieses \u00d6kosystems gemeinsam genutzt werden. Dies ist bei vielen der ML-Systeme, die wir h\u00e4ufig verwenden, der Fall. Selbst wenn die Endprodukte unterschiedlich sind und von einem anderen Unternehmen erstellt wurden, werden Methodik, Datens\u00e4tze, Bibliotheken f\u00fcr maschinelles Lernen und Bewertungen h\u00e4ufig gemeinsam genutzt1<\/sup>. Es spricht also einiges daf\u00fcr, dass ihre Outputs unter \u00e4hnlichen Bedingungen \u00e4hnlich sind.<\/p>\n Wenn es sich beim Output um eine schulische Entscheidung handelt, gibt dies beispielsweise Anlass zur Besorgnis f\u00fcr die Sch\u00fclerin oder den Sch\u00fcler, der zu Unrecht von jeder Bildungsm\u00f6glichkeit ausgeschlossen werden k\u00f6nnte1<\/sup>. Ob eine algorithmische Homogenisierung jedoch eine Ungerechtigkeit darstellt, kann nur von Fall zu Fall entschieden werden1<\/sup>.<\/p>\n Besteht auf der anderen Hand die Aufgabe des Systems darin, dem Sch\u00fcler oder der Sch\u00fclerin beim Schreiben zu helfen, r\u00fcckt es die Standardisierung von Schreibstilen, Vokabular und damit von Denkmustern in den Mittelpunkt. Die Sprachmodelle, die in diesen F\u00e4llen verwendet werden, sind darauf ausgelegt, den wahrscheinlichsten Text auf der Grundlage ihres Trainingsdatensatzes vorherzusagen. Diese Datens\u00e4tze werden, wenn sie nicht von verschiedenen Systemen gemeinsam genutzt werden, auf \u00e4hnliche Weise erstellt, oft mit \u00f6ffentlichen Internetdaten. Selbst wenn diese Daten auf Voreingenommenheit, Vorurteile und extreme Inhalte gepr\u00fcft werden, repr\u00e4sentieren sie nur ein kleines \u00d6kosystem und sind nicht repr\u00e4sentativ f\u00fcr die Welt in ihrer ganzen Vielfalt an Ideen, Kultur und Praktiken. Auf Deep Learning basierende pr\u00e4diktive Textsysteme, die f\u00fcr Textnachrichten und E-Mails verwendet werden, k\u00f6nnen nachweislich die Art und Weise ver\u00e4ndern, wie Menschen schreiben: Das Schreiben wird tendenziell \u201epr\u00e4gnanter, vorhersehbarer und weniger bunt\u201c2<\/sup>.<\/p>\n Wortfolgen, die sich in den Trainingsdaten wiederholen, flie\u00dfen in den Output von Large Language Models ein. Auf diese Weise erhalten die Werte der Datenbankersteller die Macht, alternative Meinungen und plurale Ausdrucksformen von Ideen zu unterdr\u00fccken. Ohne geeignete p\u00e4dagogische Ma\u00dfnahmen k\u00f6nnte dies wiederum die Kreativit\u00e4t und Originalit\u00e4t der Sch\u00fclerinnen und Sch\u00fcler einschr\u00e4nken, was nicht nur zu formelhaften Texten, sondern letztlich auch zu B\u00fcrgerinnen und B\u00fcrgern mit geringeren F\u00e4higkeiten zum kritischen Denken und damit zu einer insgesamt weniger bunten Welt f\u00fchrt3<\/sup>.<\/p>\n Eng verbunden mit vielen der negativen Auswirkungen des maschinellen Lernens, einschlie\u00dflich der oben erw\u00e4hnten Homogenisierung, ist die Tatsache, dass die Technologien so weit fortgeschritten sind, dass die Schnittstelle zwischen Mensch und Maschine nahtlos und praktisch unsichtbar ist. Ob es sich nun um Suchmaschinen handelt, die in die Adressleiste des Browserfensters integriert sind, oder um Textvorhersagen, die intuitiv und ohne Zeitverz\u00f6gerung zwischen dem Schreiben, der Vorhersage und der Vorschlagauswahl funktionieren – wir handeln oft unter dem Einfluss von Technologie, ohne uns dessen bewusst zu sein oder ohne die M\u00f6glichkeit zu haben, die Bremse zu ziehen, Situationen zu \u00fcberdenken und unsere eigenen Entscheidungen zu treffen. Wenn wir sie gewohnheitsm\u00e4\u00dfig nutzen, um Entscheidungen zu treffen, neigen wir dazu, ihre Existenz ganz und gar zu vergessen4<\/sup>. \u201eWenn wir uns erst einmal an Technologien gew\u00f6hnt haben, sehen wir sie nicht mehr, sondern schauen durch sie hindurch auf die Informationen und Aktivit\u00e4ten, die wir durch sie einfacher machen”. Dies wirft so ernste Bedenken in Bezug auf die menschlichen Handlungsf\u00e4higkeit, Transparenz und Vertrauen auf, insbesondere wenn es um junge Menschen geht, dass Expertinnen und Experten empfohlen haben, die Schnittstellen sichtbarer und sogar sperriger zu machen4<\/sup>.<\/p>\n In jedem Teil dieses offenen Lehrbuchs haben wir p\u00e4dagogische, ethische und gesellschaftliche Auswirkungen der KI, insbesondere der datenbasierten KI, er\u00f6rtert. Daten und Privatsph\u00e4re, inhaltliche Verl\u00e4sslichkeit und Nutzer-Autonomit\u00e4t<\/a>, Auswirkungen auf die pers\u00f6nliche Identit\u00e4t<\/a>, Vorurteile und Fairness <\/a>und Menschliche Handlungsf\u00e4higkeit<\/a> wurden alle auf den entsprechenden Seiten behandelt. Spezifische Fragen zu Suchmaschinen wurden er\u00f6rtert in: Auswirkungen der Suche auf das Individuum und die Gesellschaft, Probleme im Zusammenhang mit anpassenden Systemen wurden behandelt in Die Kehrzseite von ALS und diejenigen, die speziell f\u00fcr Generative KI gelten in Die negative Seite<\/a>. An mehreren Stellen im Buch haben wir uns mit Ma\u00dfnahmen zur Verbesserung befasst, die im Klassenzimmer ergriffen werden k\u00f6nnen, um bestimmte Probleme zu l\u00f6sen. Wir hoffen, dass diese Ma\u00dfnahmen weniger erschwerend sein werden, sobald wir \u00fcber ethische und zuverl\u00e4ssige KI-Systeme f\u00fcr die Bildung verf\u00fcgen. Eine solche Ethische KI w\u00fcrde in \u00dcbereinstimmung mit ethischen Normen und Grunds\u00e4tzen5<\/sup> entwickelt, eingesetzt und genutzt werden und w\u00e4re rechenschaftspflichtig und belastbar.<\/p>\n Da wir KI-Modellen und ihren Programmierern, Verk\u00e4ufern und Bewertern so viel Macht \u00fcberlassen, ist es nur vern\u00fcnftig, von ihnen zu verlangen, dass sie transparent sind, Verantwortung \u00fcbernehmen und Fehler beheben, wenn etwas schief geht6<\/sup>. Wir brauchen Dienstleistungsvereinbarungen, in denen \u201edie Support- und Wartungsdienste und die Schritte zur Behebung gemeldeter Probleme” klar umrissen werden5<\/sup>.<\/p>\n Eine belastbare KI w\u00fcrde ihre Unzul\u00e4nglichkeiten akzeptieren, sie vorhersehen und trotzdem funktionieren. Belastbare KI-Systeme w\u00fcrden auf vorhersehbare Weise versagen und \u00fcber Protokolle verf\u00fcgen, um mit diesen Fehlern umzugehen6<\/sup>.<\/p>\n Im Bildungsbereich sollte sich eine ethische KI an nutzerzentrierten Gestaltungsprinzipien orientieren und alle Aspekte von Bildung ber\u00fccksichtigen7. Die Lehrkr\u00e4fte w\u00e4ren in der Lage, die Funktionsweise des Systems \u00fcberpr\u00fcfen, seine Erkl\u00e4rungen verstehen, seine Entscheidungen au\u00dfer Kraft setzen oder seine Verwendung ohne Schwierigkeiten unterbrechen8<\/sup>. Derartige Systeme w\u00fcrden die Arbeitsbelastung der Lehrkr\u00e4fte in der Tat verringern, ihnen detaillierte Erkenntnisse \u00fcber ihre Sch\u00fcler geben und sie dabei unterst\u00fctzen, die Bandbreite und Qualit\u00e4t des Unterrichts zu verbessern8<\/sup>. Sie w\u00fcrden ihren Nutzern und der Umwelt keinen Schaden zuf\u00fcgen und das soziale und emotionale Wohlbefinden von Lernenden und Lehrer:innen f\u00f6rdern5<\/sup>.<\/p>\n Bis es soweit ist, m\u00fcssen Lehrer:innen versuchen, eine Gemeinschaft von Kolleg:innen und Kolleginnen und Kollegen aufzubauen und sich an ihr zu beteiligen, um das Bewusstsein f\u00fcr Probleme zu sch\u00e4rfen, Erfahrungen und bew\u00e4hrte Verfahren auszutauschen und zuverl\u00e4ssige Anbieter von KI zu finden. Sie k\u00f6nnten auch Lernende und Eltern in Diskussionen und Entscheidungen einbeziehen, um besser auf unterschiedliche Anliegen eingehen zu k\u00f6nnen und ein Klima des Vertrauens und der Kameradschaft zu schaffen. Am besten w\u00e4re es, wenn sie ihr Bestes t\u00e4ten, um \u00fcber die neuesten Trends im Bereich der k\u00fcnstlichen Intelligenz in der Bildung auf dem Laufenden zu bleiben und Kompetenzen zu erwerben, wann und wo immer dies m\u00f6glich ist5<\/sup>.<\/p>\n 1\u00a0<\/sup>Bommasani, R., et al, Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?<\/em>, Advances in Neural Information Processing Systems, 2022<\/p>\n 2\u00a0<\/sup>Varshney, L., Respect for Human Autonomy in Recommender System<\/em>, 3rd FAccTRec Workshop on Responsible Recommendation, 2020<\/p>\n 3 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, Unesco, Paris, 2023<\/p>\nUnsichtbarkeit<\/h3>\n
Was steckt dahinter: Eine ethische KI<\/h3>\n
\nHomogenisierung<\/h3>\n
Unsichtbarkeit<\/h3>\n
Was steckt dahinter: Eine ethische KI<\/h3>\n
\n