{"id":240,"date":"2023-11-30T17:01:43","date_gmt":"2023-11-30T17:01:43","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/chapter\/understanding-the-debates-about-the-possible-dangers-of-ai\/"},"modified":"2024-01-31T11:44:40","modified_gmt":"2024-01-31T11:44:40","slug":"understanding-the-debates-about-the-possible-dangers-of-ai","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/chapter\/understanding-the-debates-about-the-possible-dangers-of-ai\/","title":{"raw":"Die Diskussion \u00fcber die m\u00f6glichen Gefahren von KI verstehen","rendered":"Die Diskussion \u00fcber die m\u00f6glichen Gefahren von KI verstehen"},"content":{"raw":"

Im M\u00e4rz 20231<\/sup> und im Mai 20232<\/sup> wurden zwei Petitionen\/offene Briefe ver\u00f6ffentlicht, die in beiden F\u00e4llen von Hunderten renommierter Wissenschaftlerinnen und Wissenschaftler sowie KI-Spezialisten aus der Industrie unterzeichnet wurden und vor einigen der Gefahren von KI warnten. Was wollen wir dar\u00fcber wissen?<\/p>\n\n

Handelt es sich um eine interessante Frage f\u00fcr Lehrkr\u00e4fte?<\/h3>\n

Bei reiferen Sch\u00fclern wird sich die Frage nach den Risiken der KI f\u00fcr die Zivilisation stellen, und auch wenn keine Lehrkraft verpflichtet ist, auf alle Fragen eine eindeutige Antwort zu geben, ist es fair, die Grundz\u00fcge der Kontroverse zu verstehen.<\/p>\n\n

Sollte man als Lehrkraft nur \u00fcber die technischen Aspekte eines Themas sprechen und die menschlichen, wirtschaftlichen, philosophischen Fragen den Fachleuten \u00fcberlassen?<\/h3>\n

Dies ist eine interessante Frage, bei der die Meinungen auseinandergehen. Sollte ein Physiklehrer \u00fcber Hiroshima oder Tschernobyl Bescheid wissen? Sollte ein Gespr\u00e4ch \u00fcber diese Themen in der Klasse stattfinden? Oder sollte eine Lehrkraft im Falle von k\u00fcnstlicher Intelligenz nur in der Lage sein, eine Software sicher zu benutzen und ganz generell nur verstehen, wie sie funktioniert? Oder sollte sie auch in der Lage sein, die laufenden Diskussionen \u00fcber die Fragen zu verstehen, die sich f\u00fcr die Gesellschaft im Zusammenhang mit KI stellen?<\/p>\n

Die Unesco (und eine Reihe von Expertinnen und Experten) vertreten den Standpunkt, dass es bei der k\u00fcnstlichen Intelligenz nicht nur um Technologie geht und dass eine Lehrkraft ein Verst\u00e4ndnis f\u00fcr ethische Fragen haben sollte, was auch die Auswirkungen der KI auf die Gesellschaft, die Zivilisation oder die Menschheit umfasst.<\/p>\n\n

Handelt es sich um neue Fragen?<\/h3>\n

Einige der Fragen zu den Gefahren der KI werden schon seit l\u00e4ngerer Zeit gestellt. Die Frage, was passiert, wenn die k\u00fcnstliche Intelligenz der menschlichen Intelligenz \u201e\u00fcberlegen\" ist, wird schon seit langem diskutiert. Irving Good4<\/sup>, ein ehemaliger Kollege von Alan Turing, f\u00fchrte bereits 1965 den Begriff der technologischen Singularit\u00e4t<\/em> ein, um zu suggerieren, dass die KI, sobald sie intelligenter als der Mensch oder superintelligent sei, nicht mehr aufzuhalten sein w\u00fcrde. Good beriet anschlie\u00dfend Stanley Kubrick bei \u201e2001: Odyssey im Weltraum\", einem Film (nicht nur) \u00fcber eine KI, die aus dem Ruder l\u00e4uft.<\/p>\n\n

Die Positionen<\/h3>\n

Der Text des ersten Dokuments1<\/sup> warnte davor, dass KI Gutes und Schlechtes zugleich bewirken k\u00f6nne, dass die Auswirkungen auf die Gesellschaft und die Arbeitspl\u00e4tze betr\u00e4chtlich sein k\u00f6nnten, und brachte die Vorstellung ein, dass die KI nicht nur Menschen in beschwerlichen und unbeliebten Berufen ersetzen werde, sondern auch die Arbeitspl\u00e4tze betreffen werde, die sich die Menschen ausgesucht haben. Dar\u00fcber hinaus z\u00f6gen die Entwicklungen der KI gesellschaftliche Entwicklungen nach sich und die \u00fcblichen demokratischen Mechanismen des Wandels k\u00e4men nicht zum Tragen.<\/p>\n

Im zweiten Text2<\/sup> bestand das zus\u00e4tzliche Risiko darin, dass die KI aus dem Ruder laufen k\u00f6nnte (oder Varianten dieses Szenarios), was zum Ende der menschlichen Zivilisation f\u00fchren k\u00f6nnte.<\/p>\n

Aus dieser Diskussion ging eine dritte Position hervor3<\/sup>: dass die KI in der Tat Anlass zur Besorgnis g\u00e4be, aber nicht aus existenziellen Gr\u00fcnden, die die dringenderen Probleme \u00fcberdecken.<\/p>\n\n

Ist diese Diskussion abgeschlossen?<\/h3>\n

Nein, die Diskussion ist noch nicht vorbei. Einige Wissenschaftlerinnen und Wissenschaftler behaupten immer noch, dass es viele Risiken g\u00e4be, dass diese Technologien zu schnell wachsen w\u00fcrden und dass eine Regulierung erforderlich sei. Andere sind der Meinung, dass die KI derzeit im Wesentlichen nur Vorteile mit sich bringen w\u00fcrde und dass wir zwar vorsichtig sein sollten, aber nicht \u00e4ngstlich.<\/p>\n

Es ist schwer zu sagen, welche Meinung den Sieg davontr\u00e4gt, wer Recht oder Unrecht hat. In vielerlei Hinsicht erinnert die Diskussion an diejenigen, die nach 1945 in der Physik gef\u00fchrt wurde.<\/p>\n

Ein gemeinsamer Standpunkt ist die Forderung nach einer Regulierung, auch wenn es (noch) keine Definition von einer Regulierung gibt, mit der alle einverstanden sind.<\/p>\n\n

Kann es einen vern\u00fcnftigen Standpunkt geben?<\/h3>\n

Eigentlich sind beide Standpunkte sehr vern\u00fcnftig. Die aktuellen Fakten scheinen f\u00fcr die Enthusiasten zu sprechen (KI erm\u00f6glicht fantastische Fortschritte in der Medizin, der Landwirtschaft, der Klimaanalyse, den Sprachen und der Kommunikation), aber das Argument, dass wir als Menschen schon immer Antworten gefunden haben, hat auch ernste Grenzen.<\/p>\n\n

Wo kann ich mehr \u00fcber diese Diskussion herausfinden?<\/h3>\n

Aufgeschlossene Menschen (oder Lehrkr\u00e4fte) k\u00f6nnen auf zahlreiche Quellen zur\u00fcckgreifen. Blogs, zuverl\u00e4ssige Websites und Positionspapiere sowie Videos von f\u00fchrenden Wissenschaftlern (alle Wissenschaften: auch Historiker und Philosophen haben viel zu sagen).<\/p>\n\n\n

\n

1<\/sup> https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/<\/a><\/p>\n

2<\/sup> https:\/\/www.safe.ai\/statement-on-ai-risk#open-letter<\/a><\/p>\n

3<\/sup> https:\/\/theconversation.com\/lets-focus-on-ais-tangible-risks-rather-than-speculating-about-its-potential-to-pose-an-existential-threat-207842<\/a><\/p>\n

4<\/sup> https:\/\/www.historyofinformation.com\/detail.php?id=2142<\/a><\/p>\n

5<\/sup> https:\/\/en.wikipedia.org\/wiki\/I._J._Good<\/a><\/p>\n

<\/p>","rendered":"

Im M\u00e4rz 20231<\/sup> und im Mai 20232<\/sup> wurden zwei Petitionen\/offene Briefe ver\u00f6ffentlicht, die in beiden F\u00e4llen von Hunderten renommierter Wissenschaftlerinnen und Wissenschaftler sowie KI-Spezialisten aus der Industrie unterzeichnet wurden und vor einigen der Gefahren von KI warnten. Was wollen wir dar\u00fcber wissen?<\/p>\n

Handelt es sich um eine interessante Frage f\u00fcr Lehrkr\u00e4fte?<\/h3>\n

Bei reiferen Sch\u00fclern wird sich die Frage nach den Risiken der KI f\u00fcr die Zivilisation stellen, und auch wenn keine Lehrkraft verpflichtet ist, auf alle Fragen eine eindeutige Antwort zu geben, ist es fair, die Grundz\u00fcge der Kontroverse zu verstehen.<\/p>\n

Sollte man als Lehrkraft nur \u00fcber die technischen Aspekte eines Themas sprechen und die menschlichen, wirtschaftlichen, philosophischen Fragen den Fachleuten \u00fcberlassen?<\/h3>\n

Dies ist eine interessante Frage, bei der die Meinungen auseinandergehen. Sollte ein Physiklehrer \u00fcber Hiroshima oder Tschernobyl Bescheid wissen? Sollte ein Gespr\u00e4ch \u00fcber diese Themen in der Klasse stattfinden? Oder sollte eine Lehrkraft im Falle von k\u00fcnstlicher Intelligenz nur in der Lage sein, eine Software sicher zu benutzen und ganz generell nur verstehen, wie sie funktioniert? Oder sollte sie auch in der Lage sein, die laufenden Diskussionen \u00fcber die Fragen zu verstehen, die sich f\u00fcr die Gesellschaft im Zusammenhang mit KI stellen?<\/p>\n

Die Unesco (und eine Reihe von Expertinnen und Experten) vertreten den Standpunkt, dass es bei der k\u00fcnstlichen Intelligenz nicht nur um Technologie geht und dass eine Lehrkraft ein Verst\u00e4ndnis f\u00fcr ethische Fragen haben sollte, was auch die Auswirkungen der KI auf die Gesellschaft, die Zivilisation oder die Menschheit umfasst.<\/p>\n

Handelt es sich um neue Fragen?<\/h3>\n

Einige der Fragen zu den Gefahren der KI werden schon seit l\u00e4ngerer Zeit gestellt. Die Frage, was passiert, wenn die k\u00fcnstliche Intelligenz der menschlichen Intelligenz \u201e\u00fcberlegen” ist, wird schon seit langem diskutiert. Irving Good4<\/sup>, ein ehemaliger Kollege von Alan Turing, f\u00fchrte bereits 1965 den Begriff der technologischen Singularit\u00e4t<\/em> ein, um zu suggerieren, dass die KI, sobald sie intelligenter als der Mensch oder superintelligent sei, nicht mehr aufzuhalten sein w\u00fcrde. Good beriet anschlie\u00dfend Stanley Kubrick bei \u201e2001: Odyssey im Weltraum”, einem Film (nicht nur) \u00fcber eine KI, die aus dem Ruder l\u00e4uft.<\/p>\n

Die Positionen<\/h3>\n

Der Text des ersten Dokuments1<\/sup> warnte davor, dass KI Gutes und Schlechtes zugleich bewirken k\u00f6nne, dass die Auswirkungen auf die Gesellschaft und die Arbeitspl\u00e4tze betr\u00e4chtlich sein k\u00f6nnten, und brachte die Vorstellung ein, dass die KI nicht nur Menschen in beschwerlichen und unbeliebten Berufen ersetzen werde, sondern auch die Arbeitspl\u00e4tze betreffen werde, die sich die Menschen ausgesucht haben. Dar\u00fcber hinaus z\u00f6gen die Entwicklungen der KI gesellschaftliche Entwicklungen nach sich und die \u00fcblichen demokratischen Mechanismen des Wandels k\u00e4men nicht zum Tragen.<\/p>\n

Im zweiten Text2<\/sup> bestand das zus\u00e4tzliche Risiko darin, dass die KI aus dem Ruder laufen k\u00f6nnte (oder Varianten dieses Szenarios), was zum Ende der menschlichen Zivilisation f\u00fchren k\u00f6nnte.<\/p>\n

Aus dieser Diskussion ging eine dritte Position hervor3<\/sup>: dass die KI in der Tat Anlass zur Besorgnis g\u00e4be, aber nicht aus existenziellen Gr\u00fcnden, die die dringenderen Probleme \u00fcberdecken.<\/p>\n

Ist diese Diskussion abgeschlossen?<\/h3>\n

Nein, die Diskussion ist noch nicht vorbei. Einige Wissenschaftlerinnen und Wissenschaftler behaupten immer noch, dass es viele Risiken g\u00e4be, dass diese Technologien zu schnell wachsen w\u00fcrden und dass eine Regulierung erforderlich sei. Andere sind der Meinung, dass die KI derzeit im Wesentlichen nur Vorteile mit sich bringen w\u00fcrde und dass wir zwar vorsichtig sein sollten, aber nicht \u00e4ngstlich.<\/p>\n

Es ist schwer zu sagen, welche Meinung den Sieg davontr\u00e4gt, wer Recht oder Unrecht hat. In vielerlei Hinsicht erinnert die Diskussion an diejenigen, die nach 1945 in der Physik gef\u00fchrt wurde.<\/p>\n

Ein gemeinsamer Standpunkt ist die Forderung nach einer Regulierung, auch wenn es (noch) keine Definition von einer Regulierung gibt, mit der alle einverstanden sind.<\/p>\n

Kann es einen vern\u00fcnftigen Standpunkt geben?<\/h3>\n

Eigentlich sind beide Standpunkte sehr vern\u00fcnftig. Die aktuellen Fakten scheinen f\u00fcr die Enthusiasten zu sprechen (KI erm\u00f6glicht fantastische Fortschritte in der Medizin, der Landwirtschaft, der Klimaanalyse, den Sprachen und der Kommunikation), aber das Argument, dass wir als Menschen schon immer Antworten gefunden haben, hat auch ernste Grenzen.<\/p>\n

Wo kann ich mehr \u00fcber diese Diskussion herausfinden?<\/h3>\n

Aufgeschlossene Menschen (oder Lehrkr\u00e4fte) k\u00f6nnen auf zahlreiche Quellen zur\u00fcckgreifen. Blogs, zuverl\u00e4ssige Websites und Positionspapiere sowie Videos von f\u00fchrenden Wissenschaftlern (alle Wissenschaften: auch Historiker und Philosophen haben viel zu sagen).<\/p>\n

\n

1<\/sup> https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/<\/a><\/p>\n

2<\/sup> https:\/\/www.safe.ai\/statement-on-ai-risk#open-letter<\/a><\/p>\n

3<\/sup> https:\/\/theconversation.com\/lets-focus-on-ais-tangible-risks-rather-than-speculating-about-its-potential-to-pose-an-existential-threat-207842<\/a><\/p>\n

4<\/sup> https:\/\/www.historyofinformation.com\/detail.php?id=2142<\/a><\/p>\n

5<\/sup> https:\/\/en.wikipedia.org\/wiki\/I._J._Good<\/a><\/p>\n

\n","protected":false},"author":1,"menu_order":14,"template":"","meta":{"pb_show_title":"","pb_short_title":"","pb_subtitle":"","pb_authors":[],"pb_section_license":""},"chapter-type":[49],"contributor":[],"license":[],"part":205,"_links":{"self":[{"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/pressbooks\/v2\/chapters\/240"}],"collection":[{"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/pressbooks\/v2\/chapters"}],"about":[{"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/wp\/v2\/types\/chapter"}],"author":[{"embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/wp\/v2\/users\/1"}],"version-history":[{"count":1,"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/pressbooks\/v2\/chapters\/240\/revisions"}],"predecessor-version":[{"id":241,"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/pressbooks\/v2\/chapters\/240\/revisions\/241"}],"part":[{"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/pressbooks\/v2\/parts\/205"}],"metadata":[{"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/pressbooks\/v2\/chapters\/240\/metadata\/"}],"wp:attachment":[{"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/wp\/v2\/media?parent=240"}],"wp:term":[{"taxonomy":"chapter-type","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/pressbooks\/v2\/chapter-type?post=240"},{"taxonomy":"contributor","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/wp\/v2\/contributor?post=240"},{"taxonomy":"license","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/aifurlehrer\/wp-json\/wp\/v2\/license?post=240"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}