Zu den besonderen Gefahren der generativen KI geh\u00f6ren:<\/p>\n
Ungenauigkeiten und \u201eHalluzinationen\u201c: Generative Modelle sind ein wahres Wunder, wenn es darum geht, eine koh\u00e4rente, flie\u00dfende, menschen\u00e4hnliche Sprache zu erzeugen. Hinter all dieser Gewandheit verbergen sich faktische Fehler, eingeschr\u00e4nkte Wahrheiten, erfundene Referenzen und reine Fiktion, die als \u201eHalluzinationen\" bezeichnet wird\u201c1,2<\/sup>. Am unteren Rand der ChatGPT-Schnittstelle, als Untermalung der Unterhaltung, steht der Hinweis, dass \u201eChatGPT m\u00f6glicherweise ungenaue Informationen \u00fcber Personen, Orte oder Fakten liefert\"1<\/sup>. Die Genauigkeit von ChatGPT kann je nach Thema bei 60 % oder darunter liegen2,3<\/sup>.<\/p>\n Erschwerend kommt hinzu, dass ChatGPT dazu neigt, Tatsachen ohne Belege oder Einschr\u00e4nkungen zu pr\u00e4sentieren. Wenn man nach Referenzen fragt, kann sie Quellen herbeizaubern, die nicht existieren oder die nicht die Tatsache, wie sie im Text dargestellt wird, belegen4,2<\/sup>. Dennoch neigen viele Nutzer dazu, sie wie eine \u201eInternet-Suchmaschine, eine Bibliothek oder sogar Wikipedia\"5<\/sup> zu benutzen. Wenn sie von einer Lehrkraft oder einem Lernenden genutzt wird, um Informationen zu erhalten, \u00fcber die sie keine Vorkenntnisse haben, laufen diese Gefahr, das Falsche zu lernen oder anderen falsches Wissen zu vermitteln1,5<\/sup>.<\/p>\n Der Erfolg der heutigen LLMs liegt in der schieren Anzahl der Parameter und der Menge der Trainingsdaten, die sie nutzen, um zu imitieren, wie W\u00f6rter in der menschlichen Kommunikation zusammengef\u00fcgt werden. Lehrende und Lernende sollten sich immer vor Augen halten, dass der Text, der durch konversationelle Modelle generiert wird, nicht beinhaltet, dass der Text von diesen Modellen verstanden wird oder sie gar eine Vorstellung von der Realit\u00e4t haben1<\/sup>. Sie k\u00f6nnen zwar die sprachliche Form mit mehr oder weniger gro\u00dfem Erfolg beeinflussen, aber sie haben keinen Zugang zu der Bedeutung, die dahinter steht6<\/sup>. \u201eMenschliches Denken basiert auf m\u00f6glichen Erkl\u00e4rungen und Fehlerkorrekturen, ein Prozess, der die M\u00f6glichkeiten, die rational in Betracht gezogen werden k\u00f6nnen, allm\u00e4hlich einschr\u00e4nkt... W\u00e4hrend Menschen nur auf Erkl\u00e4rungen, die wir rational akzeptieren k\u00f6nnen, beschr\u00e4nkt sind, k\u00f6nnen maschinelle Lernsysteme sowohl lernen, dass die Erde flach ist, als auch, dass die Erde rund ist.\"7<\/sup><\/p>\n Verlagerung oder Versch\u00e4rfung von Macht und Kontrolle: Generative KI ist auf riesige Datenmengen, Rechenleistung und fortschrittliche Datenverarbeitungsmethoden angewiesen. Nur eine Handvoll von Unternehmen, L\u00e4ndern und Sprachen hat Zugang zu all diesen M\u00f6glichkeiten. Doch je mehr Menschen diese Technologien annehmen, desto mehr wird ein Gro\u00dfteil der Menschheit gezwungen, sich ihnen anzupassen, wodurch sie entfremdet wird und ihre Ausdruckskraft verliert1<\/sup>.<\/p>\n Die Sch\u00f6pfer behalten zwar die Macht, lagern aber die Verantwortung aus. So wurde beispielsweise die Aufgabe, den Output von ChatGPT zu s\u00e4ubern, kenianischen Mitarbeitern \u00fcbertragen, \u201edie gewaltt\u00e4tige und verst\u00f6rende Inhalte, wie sexuellen Missbrauch, Hassreden und Gewalt sichten mussten\"4<\/sup>.<\/p>\n Verst\u00f6\u00dfe gegen das Urheberrecht und geistiges Eigentum: Ein Gro\u00dfteil des technologischen Know-hows generativer Systeme wird hinter den Mauern der Unternehmen geh\u00fctet. Die Daten entstammen jedoch der Allgemeinheit1<\/sup>. Ist es in Ordnung, Bilder zu nehmen, die auf irgendeiner Plattform ver\u00f6ffentlicht wurden und sie ohne das Wissen oder die Zustimmung der Betroffenen zu verwenden? Was ist, wenn das Gesicht einer Person zum Beispiel f\u00fcr rassistische Propaganda verwendet wird8<\/sup>? Ist die einzige M\u00f6glichkeit, Gen-KI zu blockieren, die Privatisierung von Inhalten?<\/p>\n Neben \u00f6ffentlichen Daten k\u00f6nnen Language Models auch Inhalte hinter Bezahlschranken zug\u00e4nglich machen und f\u00fcr die Nutzer zusammenfassen. Es ist bekannt, dass Bildmodelle Bilder zusammensetzen, deren Teile eindeutig Wasserzeichen aufweisen. Es gibt auch das Problem der Creative-Commons-Lizenzen, bei denen ein Autor sein Werk der \u00d6ffentlichkeit zug\u00e4nglich macht, aber jedes Mal zitiert werden muss, wenn es verwendet wird, was die Modelle manchmal tun und manchmal nicht tun.<\/p>\n F\u00fcr Lehrkr\u00e4fte wirft dies moralische, ethische und rechtliche Fragen auf. Wenn sie von Modellen erstellte Inhalte \u00fcbernehmen, k\u00f6nnen sie diese dann nach Wunsch verwenden und ver\u00f6ffentlichen? Wer ist haftbar, wenn das Bild urheberrechtlich gesch\u00fctzt ist oder unter der Creative-Commons-Lizenz steht9<\/sup>? Woher soll der Nutzer \u00fcberhaupt wissen, dass er das Eigentum anderer Leute verwendet1<\/sup>? Leider gibt es keine klaren Leitlinien zu diesem Thema. Wir m\u00fcssen abwarten und vorsichtig vorgehen, bis eine Richtlinie vorliegt.<\/p>\n Langfristige Auswirkungen des Einsatzes von generativer KI im Bildungswesen: Bei allen M\u00f6glichkeiten, wie generative KI in der Bildung eingesetzt werden k\u00f6nnte, ist nicht klar, welche langfristigen Auswirkungen ein solcher Einsatz haben w\u00fcrde:<\/p>\n\n W\u00e4hrend es eine gute Idee ist, sich auf h\u00f6here F\u00e4higkeiten zu konzentrieren und die Routinearbeit der KI zu \u00fcberlassen, sind wiederholtes \u00dcben von grundlegenden einfachen F\u00e4higkeiten und die damit verbundene Ausdauer und sogar Frustration oft notwendig, um h\u00f6here F\u00e4higkeiten zu erwerben1,8<\/sup>. Dies ist auch notwendig, um die Abh\u00e4ngigkeit der Lernenden von der Technologie bei der Durchf\u00fchrung grundlegender Berechnungen zu verringern, denn dies untergr\u00e4bt die menschliche Handlungsf\u00e4higkeit<\/a> und au\u00dferdem ihr Vertrauen, sich der Welt alleine zu stellen.<\/p>\n Einige Gegenma\u00dfnahmen zur Vermeidung potenzieller langfristiger Sch\u00e4den k\u00f6nnten sein:<\/p>\n\n Es ist immer gut, sich vor der Tendenz zu h\u00fcten, Mensch und Maschine gleichzusetzen und der KI sogar eine \u00dcberlegenheit zuzugestehen. So wird zum Beispiel oft behauptet, dass Menschen nicht so viele Daten verarbeiten k\u00f6nnen wie eine KI. Ist das Verarbeiten von endlosen Mengen Daten-Gigabytes f\u00fcr den Menschen \u00fcberhaupt notwendig, wenn man unsere F\u00e4higkeiten zur Mustererkennung, Extrapolation und Kreativit\u00e4t ber\u00fccksichtigt? Wenn eine KI den Inhalt von 100 B\u00fcchern in einem Wimpernschlag analysieren kann, folgt daraus dann zwangsl\u00e4ufig, dass eine Sch\u00fclerin oder ein Sch\u00fcler keines dieser B\u00fccher genie\u00dfen oder davon profitieren kann? Ist das Schnellermachen einer Sache unbedingt immer gut und etwas, das wir \u00fcbernehmen wollen8<\/sup>?<\/p>\n Wir m\u00fcssen in Betracht ziehen, dass Kinder nicht f\u00fcr die Welt und die Technologien, die heute existieren, ausgebildet werden. Sie werden auf eine Welt vorbereitet, die erst in 10 bis 15 Jahren entstehen wird, oder es werden ihnen die F\u00e4higkeiten vermittelt, sich auf diese Welt vorzubereiten8<\/sup>. Die Art und Weise, wie ChatGPT innerhalb eines Jahres alles revolutioniert hat, spricht eher f\u00fcr eine Bildung \u00fcber ChatGPT hinaus als f\u00fcr eine Bildung f\u00fcr ChatGPT. Die Sch\u00fclerinnen und Sch\u00fcler m\u00fcssen in der Lage sein, selbstst\u00e4ndig zu denken, sich an Ver\u00e4nderungen anzupassen und an den neuen Herausforderungen des Lebens zu wachsen.<\/p>\n Das ultimative Ziel der Bildung kann nicht darin bestehen, effiziente Bediener intelligenter Maschinen oder Arbeitsameisen f\u00fcr das Flie\u00dfband zu produzieren, sondern darin, frei denkende, kreative, belastbare und B\u00fcrgerinnen und B\u00fcrger mit vollentfalteter Pers\u00f6nlichkeit auszubilden. Bevor man sich entscheidet, wie man eine Technologie zur Erreichung dieses Ziels am besten einsetzt, m\u00fcssen kritische Fragen er\u00f6rtert und die langfristigen Auswirkungen gepr\u00fcft werden. Dies, und das ist das Wichtigste von allem, was in diesem Text besprochen wird, kann nicht der KI \u00fcberlassen werden, ob sie nun generativ ist oder nicht<\/p>\n\n\n 1 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, Unesco, Paris, 2023.<\/p>\n 2 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n 3 <\/sup>Lewkowycz, A., Andreassen, A.,\u00a0 Dohan, D. et al, Solving Quantitative Reasoning Problems with Language Models<\/em>, Google Research, 2022.<\/p>\n 4 <\/sup>Cooper, G., Examining Science Education in ChatGPT: An Exploratory Study of Generative Artificial Intelligence,<\/em> Journal of Science Education and Technology, 32, 444\u2013452, 2023.<\/p>\n 5 <\/sup>Trust, T., Whalen, J., & Mouza, C., Editorial: ChatGPT: Challenges, opportunities, and implications for teacher education<\/a>,<\/em> Contemporary Issues in Technology and Teacher Education, 23(1), 2023.<\/p>\n 6 <\/sup>Bender, E.M., et al, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, <\/em>Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21). Association for Computing Machinery, New York, 610\u2013623, 2021.<\/p>\n 7 <\/sup>Chomsky, N., Roberts, I., Watumull, J., Noam Chomsky: The False Promise of ChatGPT, <\/em>The New York Times, 2023.<\/p>\n 8 <\/sup>Vartiainen, H., Tedre, M., Using artificial intelligence in craft education: crafting with text-to-image generative models<\/em>, Digital Creativity, 34:1, 1-21, 2023.<\/p>\n 9\u00a0<\/sup>Becker, B., et al, Programming Is Hard - Or at Least It Used to Be: Educational Opportunities and Challenges of AI Code Generation,<\/em> Proceedings of the 54th ACM Technical Symposium on Computer Science Education V. 1 (SIGCSE 2023), Association for Computing Machinery, New York, 500\u2013506, 2023.<\/p>\n 10 <\/sup>Enkelejda, K., et al, Chatgpt for Good? on Opportunities and Challenges of Large Language Models for Education<\/em>, EdArXiv, 2023.<\/p>","rendered":" Zu den besonderen Gefahren der generativen KI geh\u00f6ren:<\/p>\n Ungenauigkeiten und \u201eHalluzinationen\u201c: Generative Modelle sind ein wahres Wunder, wenn es darum geht, eine koh\u00e4rente, flie\u00dfende, menschen\u00e4hnliche Sprache zu erzeugen. Hinter all dieser Gewandheit verbergen sich faktische Fehler, eingeschr\u00e4nkte Wahrheiten, erfundene Referenzen und reine Fiktion, die als \u201eHalluzinationen” bezeichnet wird\u201c1,2<\/sup>. Am unteren Rand der ChatGPT-Schnittstelle, als Untermalung der Unterhaltung, steht der Hinweis, dass \u201eChatGPT m\u00f6glicherweise ungenaue Informationen \u00fcber Personen, Orte oder Fakten liefert”1<\/sup>. Die Genauigkeit von ChatGPT kann je nach Thema bei 60 % oder darunter liegen2,3<\/sup>.<\/p>\n Erschwerend kommt hinzu, dass ChatGPT dazu neigt, Tatsachen ohne Belege oder Einschr\u00e4nkungen zu pr\u00e4sentieren. Wenn man nach Referenzen fragt, kann sie Quellen herbeizaubern, die nicht existieren oder die nicht die Tatsache, wie sie im Text dargestellt wird, belegen4,2<\/sup>. Dennoch neigen viele Nutzer dazu, sie wie eine \u201eInternet-Suchmaschine, eine Bibliothek oder sogar Wikipedia”5<\/sup> zu benutzen. Wenn sie von einer Lehrkraft oder einem Lernenden genutzt wird, um Informationen zu erhalten, \u00fcber die sie keine Vorkenntnisse haben, laufen diese Gefahr, das Falsche zu lernen oder anderen falsches Wissen zu vermitteln1,5<\/sup>.<\/p>\n Der Erfolg der heutigen LLMs liegt in der schieren Anzahl der Parameter und der Menge der Trainingsdaten, die sie nutzen, um zu imitieren, wie W\u00f6rter in der menschlichen Kommunikation zusammengef\u00fcgt werden. Lehrende und Lernende sollten sich immer vor Augen halten, dass der Text, der durch konversationelle Modelle generiert wird, nicht beinhaltet, dass der Text von diesen Modellen verstanden wird oder sie gar eine Vorstellung von der Realit\u00e4t haben1<\/sup>. Sie k\u00f6nnen zwar die sprachliche Form mit mehr oder weniger gro\u00dfem Erfolg beeinflussen, aber sie haben keinen Zugang zu der Bedeutung, die dahinter steht6<\/sup>. \u201eMenschliches Denken basiert auf m\u00f6glichen Erkl\u00e4rungen und Fehlerkorrekturen, ein Prozess, der die M\u00f6glichkeiten, die rational in Betracht gezogen werden k\u00f6nnen, allm\u00e4hlich einschr\u00e4nkt… W\u00e4hrend Menschen nur auf Erkl\u00e4rungen, die wir rational akzeptieren k\u00f6nnen, beschr\u00e4nkt sind, k\u00f6nnen maschinelle Lernsysteme sowohl lernen, dass die Erde flach ist, als auch, dass die Erde rund ist.”7<\/sup><\/p>\n Verlagerung oder Versch\u00e4rfung von Macht und Kontrolle: Generative KI ist auf riesige Datenmengen, Rechenleistung und fortschrittliche Datenverarbeitungsmethoden angewiesen. Nur eine Handvoll von Unternehmen, L\u00e4ndern und Sprachen hat Zugang zu all diesen M\u00f6glichkeiten. Doch je mehr Menschen diese Technologien annehmen, desto mehr wird ein Gro\u00dfteil der Menschheit gezwungen, sich ihnen anzupassen, wodurch sie entfremdet wird und ihre Ausdruckskraft verliert1<\/sup>.<\/p>\n Die Sch\u00f6pfer behalten zwar die Macht, lagern aber die Verantwortung aus. So wurde beispielsweise die Aufgabe, den Output von ChatGPT zu s\u00e4ubern, kenianischen Mitarbeitern \u00fcbertragen, \u201edie gewaltt\u00e4tige und verst\u00f6rende Inhalte, wie sexuellen Missbrauch, Hassreden und Gewalt sichten mussten”4<\/sup>.<\/p>\n Verst\u00f6\u00dfe gegen das Urheberrecht und geistiges Eigentum: Ein Gro\u00dfteil des technologischen Know-hows generativer Systeme wird hinter den Mauern der Unternehmen geh\u00fctet. Die Daten entstammen jedoch der Allgemeinheit1<\/sup>. Ist es in Ordnung, Bilder zu nehmen, die auf irgendeiner Plattform ver\u00f6ffentlicht wurden und sie ohne das Wissen oder die Zustimmung der Betroffenen zu verwenden? Was ist, wenn das Gesicht einer Person zum Beispiel f\u00fcr rassistische Propaganda verwendet wird8<\/sup>? Ist die einzige M\u00f6glichkeit, Gen-KI zu blockieren, die Privatisierung von Inhalten?<\/p>\n Neben \u00f6ffentlichen Daten k\u00f6nnen Language Models auch Inhalte hinter Bezahlschranken zug\u00e4nglich machen und f\u00fcr die Nutzer zusammenfassen. Es ist bekannt, dass Bildmodelle Bilder zusammensetzen, deren Teile eindeutig Wasserzeichen aufweisen. Es gibt auch das Problem der Creative-Commons-Lizenzen, bei denen ein Autor sein Werk der \u00d6ffentlichkeit zug\u00e4nglich macht, aber jedes Mal zitiert werden muss, wenn es verwendet wird, was die Modelle manchmal tun und manchmal nicht tun.<\/p>\n F\u00fcr Lehrkr\u00e4fte wirft dies moralische, ethische und rechtliche Fragen auf. Wenn sie von Modellen erstellte Inhalte \u00fcbernehmen, k\u00f6nnen sie diese dann nach Wunsch verwenden und ver\u00f6ffentlichen? Wer ist haftbar, wenn das Bild urheberrechtlich gesch\u00fctzt ist oder unter der Creative-Commons-Lizenz steht9<\/sup>? Woher soll der Nutzer \u00fcberhaupt wissen, dass er das Eigentum anderer Leute verwendet1<\/sup>? Leider gibt es keine klaren Leitlinien zu diesem Thema. Wir m\u00fcssen abwarten und vorsichtig vorgehen, bis eine Richtlinie vorliegt.<\/p>\n Langfristige Auswirkungen des Einsatzes von generativer KI im Bildungswesen: Bei allen M\u00f6glichkeiten, wie generative KI in der Bildung eingesetzt werden k\u00f6nnte, ist nicht klar, welche langfristigen Auswirkungen ein solcher Einsatz haben w\u00fcrde:<\/p>\n W\u00e4hrend es eine gute Idee ist, sich auf h\u00f6here F\u00e4higkeiten zu konzentrieren und die Routinearbeit der KI zu \u00fcberlassen, sind wiederholtes \u00dcben von grundlegenden einfachen F\u00e4higkeiten und die damit verbundene Ausdauer und sogar Frustration oft notwendig, um h\u00f6here F\u00e4higkeiten zu erwerben1,8<\/sup>. Dies ist auch notwendig, um die Abh\u00e4ngigkeit der Lernenden von der Technologie bei der Durchf\u00fchrung grundlegender Berechnungen zu verringern, denn dies untergr\u00e4bt die menschliche Handlungsf\u00e4higkeit<\/a> und au\u00dferdem ihr Vertrauen, sich der Welt alleine zu stellen.<\/p>\n Einige Gegenma\u00dfnahmen zur Vermeidung potenzieller langfristiger Sch\u00e4den k\u00f6nnten sein:<\/p>\n Es ist immer gut, sich vor der Tendenz zu h\u00fcten, Mensch und Maschine gleichzusetzen und der KI sogar eine \u00dcberlegenheit zuzugestehen. So wird zum Beispiel oft behauptet, dass Menschen nicht so viele Daten verarbeiten k\u00f6nnen wie eine KI. Ist das Verarbeiten von endlosen Mengen Daten-Gigabytes f\u00fcr den Menschen \u00fcberhaupt notwendig, wenn man unsere F\u00e4higkeiten zur Mustererkennung, Extrapolation und Kreativit\u00e4t ber\u00fccksichtigt? Wenn eine KI den Inhalt von 100 B\u00fcchern in einem Wimpernschlag analysieren kann, folgt daraus dann zwangsl\u00e4ufig, dass eine Sch\u00fclerin oder ein Sch\u00fcler keines dieser B\u00fccher genie\u00dfen oder davon profitieren kann? Ist das Schnellermachen einer Sache unbedingt immer gut und etwas, das wir \u00fcbernehmen wollen8<\/sup>?<\/p>\n Wir m\u00fcssen in Betracht ziehen, dass Kinder nicht f\u00fcr die Welt und die Technologien, die heute existieren, ausgebildet werden. Sie werden auf eine Welt vorbereitet, die erst in 10 bis 15 Jahren entstehen wird, oder es werden ihnen die F\u00e4higkeiten vermittelt, sich auf diese Welt vorzubereiten8<\/sup>. Die Art und Weise, wie ChatGPT innerhalb eines Jahres alles revolutioniert hat, spricht eher f\u00fcr eine Bildung \u00fcber ChatGPT hinaus als f\u00fcr eine Bildung f\u00fcr ChatGPT. Die Sch\u00fclerinnen und Sch\u00fcler m\u00fcssen in der Lage sein, selbstst\u00e4ndig zu denken, sich an Ver\u00e4nderungen anzupassen und an den neuen Herausforderungen des Lebens zu wachsen.<\/p>\n Das ultimative Ziel der Bildung kann nicht darin bestehen, effiziente Bediener intelligenter Maschinen oder Arbeitsameisen f\u00fcr das Flie\u00dfband zu produzieren, sondern darin, frei denkende, kreative, belastbare und B\u00fcrgerinnen und B\u00fcrger mit vollentfalteter Pers\u00f6nlichkeit auszubilden. Bevor man sich entscheidet, wie man eine Technologie zur Erreichung dieses Ziels am besten einsetzt, m\u00fcssen kritische Fragen er\u00f6rtert und die langfristigen Auswirkungen gepr\u00fcft werden. Dies, und das ist das Wichtigste von allem, was in diesem Text besprochen wird, kann nicht der KI \u00fcberlassen werden, ob sie nun generativ ist oder nicht<\/p>\n 1 <\/sup>Holmes, W., Miao, F., Guidance for generative AI in education and research<\/em>, Unesco, Paris, 2023.<\/p>\n 2 <\/sup>Tlili, A., Shehata, B., Adarkwah, M.A. et al, What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education,<\/em> Smart Learning Environments, 10, 15 2023.<\/p>\n 3 <\/sup>Lewkowycz, A., Andreassen, A.,\u00a0 Dohan, D. et al, Solving Quantitative Reasoning Problems with Language Models<\/em>, Google Research, 2022.<\/p>\n\n \t
\n \t
\n\n
\n
\n