Was sollten Schüler, Eltern und Lehrer über KI wissen?
KI-Bildung wird den Menschen helfen, die Risiken, Grenzen und Chancen zu verstehen.
Befragter:
Interview von:
Bereits 2011 begann die ehemalige Richterin Kay Firth-Butterfield darüber nachzudenken, wie Menschen mit künstlicher Intelligenz (KI) leben und arbeiten könnten. Sie ist Senior Research Fellow an der University of Texas und forscht dort zu KI-Nutzung und -Governance. 2014 wurde sie als weltweit erste KI-Ethikbeauftragte (bei Lucid Holdings LLC) eingesetzt und gilt als führende Expertin für verantwortungsvolle KI. Über fünf Jahre lang leitete sie den Bereich KI und Maschinelles Lernen beim Weltwirtschaftsforum und war dort dafür verantwortlich, Staaten und Unternehmen zu einem verantwortungsvollen Umgang mit den neuen Technologien zu bewegen. Sie ist Mitglied eines Gremiums der US-Regierung und eines Beirats der UNESCO.
Heute ist sie Geschäftsführerin von Good Tech Advisory, einem Beratungsunternehmen, das mit Regierungsbehörden, gemeinnützigen Organisationen, Unternehmen und Hochschulen zusammenarbeitet, um den verantwortungsvollen und produktiven Einsatz von KI unter Einhaltung aller rechtlichen Bestimmungen zu fördern. Sie gilt seit Langem als eine der führenden Frauen im Bereich KI-Governance und wurde im Februar dieses Jahres mit dem TIME100 Impact Award ausgezeichnet.
Sie sprach mit BOLD über die Herausforderungen, denen sich Schulen und Universitäten, Schüler und Lehrer im Umgang mit dem Vormarsch der KI gegenübersehen.
Helena Pozniak: Ist der Einsatz von KI im Bildungsbereich unvermeidlich?
Kay Firth-Butterfield: Ja – wir können das jetzt nicht mehr ignorieren. Schüler werden es für ihre Hausaufgaben nutzen. Wir müssen uns mehr darauf konzentrieren, wie wir die Nutzung für sie sicher gestalten können, anstatt es zu verbieten. Generative KI macht Informationen im Internet zugänglicher. Je besser sie wird, desto mehr ist sie quasi das Gehirn neben uns. Aber es ist entscheidend, sie richtig einzusetzen – unsere Kinder müssen lernen, mit künstlicher Intelligenz zu arbeiten und zu leben. Die Verantwortung sollte beim Menschen liegen. Große Sprachmodelle weisen viele Verzerrungen auf. Es ist unerlässlich, dass alle Nutzer lernen, was die Maschine für uns leisten kann – und wo ihre Grenzen liegen.
HP: Welche Gefahren birgt KI für Kinder?
KFB: Eine meiner Sorgen ist, dass Kinder ihre Überzeugungen, Werte und Einstellungen bereits vor ihrem siebten Lebensjahr entwickeln. Deshalb müssen wir uns über Strategien für die frühen Lebensjahre besonders viele Gedanken machen.
Wir müssen die Auswirkungen von Lernspielzeug, das wir Kindern geben, unbedingt verstehen. Computer sind wohl besser als Menschen darin, Verhalten zu beeinflussen, anzustoßen und zu manipulieren. Wir müssen außerdem wissen, wo die Daten von Kindern gespeichert sind, ob Geräte gehackt werden können und ob Kinder identifiziert werden können.
„Aber es ist entscheidend, es richtig zu machen – unsere Kinder müssen so ausgebildet werden, dass sie mit künstlicher Intelligenz arbeiten und leben können.“
Die meisten KI-Spielzeuge für Kleinkinder – wie etwa „intelligente Puppen“ – werden in China hergestellt. Soll ein vernetztes Spielzeug mit Ihrem Kind „unterhalten“, muss es Daten aus den Interaktionen sammeln. Wo werden diese Informationen gespeichert und sind sie sicher? Wir wissen es nicht, daher bestehen erhebliche Bedenken hinsichtlich des Datenschutzes.
Wir müssen auch darüber sprechen, inwieweit wir bereit sind, Technologie die „Betreuung“ unserer Kinder zu überlassen. Was, wenn diese vernetzte Puppe zum besten Freund eines Kindes wird – und dann „stirbt“? Wie wird das Kind reagieren? Wird ein solcher „Tod“ für das Kind schwieriger sein als der Verlust eines Teddybären? Was, wenn der beste Freund eine Maschine ist? Bereitet die Interaktion mit diesen Maschinen auf die Zukunft vor? Wir wissen es noch nicht, aber wir testen dies an den Schwächsten unter uns: Kindern. Dies führt uns zurück zur Notwendigkeit einer umfassenden Aufklärung über KI, damit Eltern fundierte Entscheidungen über das Spielzeug und die Geräte treffen können, die ihre Kinder benutzen.
HP:Und wie sieht es mit älteren Kindern aus?
KFB: Künstliche Intelligenz muss auf allen Ebenen berücksichtigt werden. Wir bilden Kinder für die Zukunft und potenziell für mehrere Berufe aus. Sie müssen befähigt sein, die sich wandelnde Technologie optimal zu nutzen. Und wir müssen alle über KI aufklären, damit wir uns aktiv an der Debatte darüber beteiligen können, welche Zukunft wir unseren Kindern und Enkelkindern wünschen.
HP: Wir kennen uns bereits mit KI aus – warum brauchen wir also eine KI-Ausbildung?
KFB: Eines der größten Probleme ist, dass die Fähigkeiten der KI das Verständnis der meisten Menschen für KI übersteigen. Wenn sie im Bildungsbereich, in Krankenhäusern oder in unserem Wahlsystem eingesetzt wird, verstehen die Menschen nicht unbedingt, was vor sich geht. Es ist enorm wichtig, dass alle – insbesondere Lehrkräfte – dies verstehen. Lehrkräfte benötigen dringend Fortbildungen. Außerdem beobachten wir einen zunehmenden Misstrauen gegenüber KIBildung wird den Menschen helfen zu wissen, wovor sie sich hüten sollten und was sie gefahrlos verwenden können.
HP: Was sind die grundlegenden Bestandteile einer verantwortungsvollen KI-Politik in Schulen?
KFB: Eine der ersten Maßnahmen wäre, Kindern zu erklären, was die Interaktion mit einem generativen KI-Modell bedeutet. Schulen müssen sich auch fragen: Erweitert KI unser Wissen oder macht sie uns nur fauler? Wenn Kinder etwas über KI lernen sollen, müssen sie lernen, sie richtig anzuwenden.
Es macht Kindern Spaß, mit KI zu interagieren, aber was bedeutet das in Bezug auf Datenschutz und Daten, und wo und wie werden die Informationen gespeichert? Schüler müssen sich bewusst sein, dass einige dieser Tools gehackt werden können, und Schulen müssen Schutzmaßnahmen ergreifen, insbesondere zum Schutz von Daten und Privatsphäre.
Wir haben gesehen, wie sich das in der Unternehmenswelt negativ auswirken kann: Im April 2023 luden Samsung-Ingenieure in Südkorea sensiblen Code auf ChatGPT hoch, woraufhin das Unternehmen den Einsatz generativer KI auf seinen Geräten und in seinen internen Netzwerken verbot. Auch einige US-Banken haben deren Nutzung eingeschränkt. Jedes generative Modell, das mit Daten aus dem Internet trainiert wird, verwendet Daten, die ins Internet hochgeladen werden.
„Schüler müssen sich darüber im Klaren sein, dass einige dieser Tools gehackt werden können, und Schulen müssen Schutzmaßnahmen ergreifen, insbesondere in Bezug auf Daten und Datenschutz.“
Die Studierenden müssen sich darüber im Klaren sein, dass sie Fehlinformationen durch „Halluzinationen“ [wenn ein großes KI-Sprachmodell falsche Vorhersagen trifft] und „Kannibalismus“ [wenn eine KI aus KI-generierten Daten „lernt“, wodurch eine potenziell minderwertige Feedbackschleife entsteht] erhalten können.
Auch Eltern müssen verstehen, wie KI eingesetzt wird. Die endgültige Entscheidung über KI muss jedoch bei den Schulen liegen, nicht bei den Eltern, die keinen Einfluss auf die Inhalte nehmen dürfen. In den USA haben bereits einige Schulen bestimmte Bücher verboten, was die Lehrkräfte unter Druck setzt.
Schulen müssen sich auch darüber im Klaren sein, dass KI auch zu Mobbing missbraucht werden kann – beispielsweise durch die Erstellung pornografischer Deepfake-Bilder von Mitschülern mithilfe generativer KI. Die Überwachung solcher Fälle stellt eine zusätzliche Belastung für die Schulen dar.
HP: Und wie sieht die Zukunft aus? Sind Sie optimistisch?
KFB: Ich glaube an das Potenzial von KI zum Guten. Ich würde mich nicht dafür einsetzen, sie zu verbessern, wenn ich nicht davon überzeugt wäre, dass es sich lohnt. Ich bin sehr optimistisch, dass KI, wenn wir die richtigen Rahmenbedingungen schaffen und verstehen, dass sie kein Allheilmittel ist, das alles einfacher oder besser macht, ein enormes Potenzial birgt, Großartiges für die Menschheit zu bewirken. Dafür brauchen wir aber wirklich innovative Ansätze im Bildungsbereich von morgen.
HP: Welche Auswirkungen wird KI auf die Rolle der Lehrkräfte haben? Welche Unterstützung benötigen sie?
KFB: Lehrer benötigen dringend Hilfe, Unterstützung und Schulungen.
Studierende werden KI nutzen, wann immer es ihnen möglich ist, und ein Verbot ist nicht die Lösung. Wir haben darüber gesprochen. umgedrehte Klassenzimmer Jahrelang. Anstatt Inhalte zu vermitteln, können Lehrkräfte die Unterrichtszeit nutzen, um ihre Schüler herauszufordern und kritisches und analytisches Denken zu fördern. Wenn man nicht überprüft, was die Schüler in einem Aufsatz geschrieben haben, bei dem sie wahrscheinlich Hilfe von generativer KI erhalten haben, unterrichtet man sie nicht mehr.
HP: Könnte KI die Arbeitsbelastung der Lehrer verringern und sogar bei der Rekrutierungskrise helfen?
KFB: Eine meiner größten Hoffnungen ist, dass wir KI im Bildungsbereich richtig einsetzen können. Es gibt bereits KI-Tools zur Unterstützung der Bewertung, insbesondere in den Naturwissenschaften und der Mathematik, und ich könnte mir vorstellen, dass man generative KI auch für die Bewertung geisteswissenschaftlicher Arbeiten trainieren könnte, wobei anzumerken ist, dass das EU-KI-Gesetz Die Studie kommt zu dem Schluss, dass der Einsatz von KI zur Notenvergabe mit hohen Risiken verbunden ist. Ich hoffe jedoch, dass KI auch bei den administrativen Aufgaben, den lästigen Pflichten im Unterricht, helfen kann – wodurch mehr Zeit für die Interaktion mit den Schülern frei wird. Das ist beispielsweise in Großbritannien wichtig, aber von außerordentlicher Bedeutung, wenn KI auch den globalen Süden erreicht, wo Lehrkräfte oft Klassen mit bis zu 60 Kindern unterschiedlichen Alters und unterschiedlicher Fähigkeiten unterrichten.
Wir brauchen auch ein grundlegendes Umdenken darüber, wie und was Menschen lernen sollen. Kinder müssen lernen, Fakten kritisch zu hinterfragen und zu analysieren. Im Zeitalter von Deepfakes und Desinformation sollten wir den Unterricht nicht darauf reduzieren, Kindern nur das Auswendiglernen von Fakten beizubringen, sondern ihnen vielmehr Werkzeuge zum Hinterfragen an die Hand geben.
HP: Wo stehen Schulen und Universitäten Ihrer Meinung nach bei der Einführung von KI?
KFB: Die meisten Universitäten haben bereits eine KI-Richtlinie eingeführt. Studierende nutzen KI, und Professoren lernen, wie sie in einer Welt mit KI lehren können. Für Universitäten ist dies jedoch deutlich einfacher, da sie mehr akademische Freiheit als Schulen genießen. Je leistungsfähiger Maschinen werden, desto wichtiger wird das, was uns menschlich macht. Dies impliziert eine stärkere Fokussierung auf die Geisteswissenschaften (insbesondere für die Wissenschaftler, die die KI entwickeln).
„Je leistungsfähiger Maschinen werden, desto wichtiger wird das, was uns menschlich macht; das bedeutet, dass wir uns auf die Geisteswissenschaften konzentrieren müssen.“
HP: Machen wir zu viel Aufhebens darum?
KFB: Nein – ich denke, wir müssen jetzt handeln, denn wir stehen vor grundlegenden Entscheidungen: Ab welchem Alter erlauben wir unseren Kindern intelligentes Spielzeug? Welche Rolle spielt es in ihrer Sozialisierung? Wie werden KI und Mensch in Zukunft zusammenarbeiten? Ist das die Zukunft, die wir uns wünschen? Zu verstehen, was wir Menschen von KI erwarten, ist vielleicht wichtiger, als sich Sorgen darüber zu machen, dass KI überintelligent wird. Wir müssen darüber nachdenken, wie sehr KI unsere Zukunft prägen wird und wie viel Kontrolle wir über sie behalten. Bildung ist der Ausgangspunkt für diese Diskussion, aber wir müssen sie jetzt führen.
Befragter:
Interview von:
Fußnoten
Kay Firth-Butterfield Sie ist Geschäftsführerin von Good Tech Advisory, einem Beratungsunternehmen, das Regierungen, Wohltätigkeitsorganisationen, Unternehmen und Hochschulen bei der verantwortungsvollen und produktiven Nutzung von KI unter Einhaltung der gesetzlichen Bestimmungen unterstützt. Als anerkannte Expertin für KI-Governance wurde sie im Februar dieses Jahres mit dem TIME100 Impact Award ausgezeichnet.