Auseinandersetzung mit Künstlicher Intelligenz im Bildungssystem

Spätestens seit der Veröffentlichung der nutzer/innenfreundlichen Schnittstelle ChatGPT zum KI-Sprachmodell GPT3 am 30. November 2022 sind Potenziale und Gefahren von Künstlicher Intelligenz (KI), aber auch der Einfluss von KI auf unser Leben und vor allem die Bildung Gegenstand intensiver öffentlicher Diskussionen.

Dieser Text verfolgt folgende grundsätzliche Ziele:

• Sensibilisierung für die Thematik: Künstliche Intelligenz und insbesondere Algorithmen und Applikationen zu maschinellem Lernen sind bereits in zahlreichen alltäglichen Anwendungen angekommen. Niederschwellige Zugänge zu derartigen Werkzeugen ermöglichen es immer mehr Personen, diese zur Bearbeitung vielfältiger Aufgabenstellungen einzusetzen. Daher braucht es auch im Bildungsbereich eine Sensibilisierung, um einerseits als Lehrperson mögliche Einsatzszenarien zu berücksichtigen, aber auch darauf zu achten, ob und wie Lernende solche Werkzeuge nutzen. Überdies wird auch die Rolle der Lehrenden über die nächsten Jahrzehnte eine andere werden – und darauf ist ebenso zu achten wie auf die der Lernenden.
• Begleitung der öffentlichen Diskussion: Diese Website möchte der öffentlichen, mitunter medial geführten Diskussion Grundlageninformationen zur Funktionsweise von KI-basierten Systemen und vor allem mögliche Potenziale und Einsatzszenarien in der Bildung zur Seite stellen, um dabei zu helfen, Ängsten und Befürchtungen sachlich entgegenzutreten und didaktische Potenziale auszuschöpfen. Dabei sollen kritisches Hinterfragen ethischer und datenschutzrechtlicher Aspekte genauso berücksichtigt werden wie eine Bewusstseinsschaffung für Möglichkeiten zur Inklusion oder Förderung von Kreativität und Wissenserwerb mithilfe solcher Technologien.

Hinweis: Entwicklungen im Fluss

Aktuelle, breit diskutierte Entwicklungen im Bereich der Künstlichen Intelligenz, wie das Sprachmodell ChatGPT, sind nur Schritte in einer kontinuierlichen Entwicklung. Man könnte die Verbreitung derartiger Technologien mit der Erfindung des Buchdruckes oder der Schreibmaschine vergleichen. Auch diese haben unser Informationsverhalten jeweils revolutioniert. Wohin die Entwicklung geht und wo Grenzen sind, ist nicht immer leicht zu benennen. Daher sind auch aktuell verfügbare Handreichungen meist nur kurzfristig hilfreich. Das Bundesministerium für Bildung, Wissenschaft und Forschung bringt sich mit großer Aufmerksamkeit in die Diskussion ein und ist selbst bemüht, neueste Entwicklungen einzuordnen. Das BMBWF verfolgt laufende und proaktive Kommunikation mit Lehrenden, der Bildungsverwaltung, Wissenschafter/inne/n und anderen Personen des Bildungssystems.

Künstliche Intelligenz und das Bildungssystem

Als eines der vielversprechendsten Teilgebiete der Künstlichen Intelligenz wird heutzutage maschinelles Lernen mithilfe von künstlichen neuronalen Netzen angesehen. Deep Learning, eine Methode des maschinellen Lernens, nutzt tiefe neuronale Netze mit mehreren Ebenen und trainiert diese mit großen Datenvolumina. Die meisten aktuellen Forschungs- und Entwicklungsvorhaben im Bereich der KI drehen sich um Deep Learning.

Auch im Bildungssystem kann die Nutzung von allgemeinem Datenmaterial (wie Textkorpora) oder von Lerndaten („Learning Analytics“) im Rahmen von maschinellem Lernen vorrangig dazu beitragen, Lernen personalisierter und individualisierter zu gestalten. Gleichzeitig erfordert KI eine interdisziplinäre Auseinandersetzung mit den Erkenntnissen aus Pädagogik, Didaktik und Entwicklungspsychologie, um Lernprozesse weiterhin – analog und digital – im Sinne des Bildungsauftrags der Schule erfolgreich zu gestalten. 

Individualisierung von Lernprozessen

Durch maschinelles Lernen lassen sich etwa Lernangebote an den Lernstand von Schüler/innen anpassen.

• Schüler/innen könnten immer wieder neue interaktive Aufgabenstellungen auf Basis von Texten angeboten werden: ein wichtiger Beitrag zur Individualisierung von Lernprozessen, da auf individuelle Schwierigkeiten von Lernenden durch automatisiert erstellte Texte immer wieder aufs Neue eingegangen werden kann.
• Auch einfachere oder herausforderndere Versionen von Texten könnten zur Verfügung gestellt werden, um Schüler/innen auch im Sinne der Differenzierung individuell zu fördern oder zu fordern.
• Schülerinnen können sich für ihre Übungen auch individuelles Feedback geben lassen, etwa indem Texte umformuliert werden, um professioneller zu klingen oder Grammatik- und Rechtschreibfehler zu entfernen.
• Durch neue Formate und die dadurch freigewordenen Zeit- und Energieressourcen bei den Beteiligten lassen sich auch neue Beurteilungsformen und Kompetenzmessungen andenken, etwa das persönliche Gespräch oder die kritische Reflexion.
• Durch individualisierte KI-Prozesse rücken auch Fähigkeiten ins Zentrum, die in klassischen Bildungssettings häufig weniger zum Tragen kommen, etwa richtige oder fruchtbringende Fragen formulieren zu können oder Informationen interdisziplinär zu kontextualisieren.

Unterstützung von Lehrpersonen

• Lehrkräfte könnten sich automatisiert Ideensammlungen erstellen lassen, um sich einem Thema zu nähern oder es weiter einzugrenzen. Es ist sogar die KI-unterstützte Planung ganzer Unterrichtssequenzen denkbar, um die dadurch freigewordene Zeit zur Ausgestaltung innovativen Unterrichts zu nutzen.
• Lehrkräfte können bei der Erstellung von Varianten von Aufgabenstellungen, deren Umformulierung, Verallgemeinerung oder Präzisierung unterstützt werden.
• KI-Anwendungen erlauben zusätzlich zur Generierung von Texten die Erstellung von individualisierten Bildern oder Musik in vorgegebenem Stil, wodurch der Unterricht multimedial ergänzt und direkte Vergleiche desselben Themas gezogen werden können.
• Die Kommunikation mit dem Elternhaus und überhaupt interkulturelle Zusammenarbeit können etwa durch automatisiertes Zurverfügungstellen von Übersetzungen erleichtert werden.

Fort- und Weiterbildung für Lehrpersonen

Im Sinne der Professionalisierung ist es erforderlich, dass jede Lehrperson im Bereich Fachwissen, Fachdidaktik und Pädagogik ihren Wissensstand aktuell hält. Im Falle von KI kommt dieser Tatsache eine ganz besondere Bedeutung zu. Kurzfristig kann dieses Thema im Rahmen einer pädagogischen Konferenz behandelt werden, des Weiteren bieten sich auch SCHILFs zu diesem Thema an. Die Gesamtthematik ist nicht nur rein technisch zu sehen, sondern betrifft unser Verständnis von Wissen, Information und Bildungsprozessen im Allgemeinen. Deshalb ist unbedingt zu empfehlen, dass Informatiker/inn/en mit Geisteswissenschafter/inn/en zusammenarbeiten, um Fortbildungen zu gestalten. Das BMBWF ist bereits in enger Kooperation mit den Pädagogischen Hochschulen, um weitreichende Fort- und Weiterbildungsangebote abzustimmen und zu planen.

Vortäuschen von Leistungen mithilfe von KI?

Da ein KI-basiertes Sprachmodell wie ChatGPT automatisiert Texte verfassen kann, ist diese Software seit einigen Wochen Diskussionsthema. Von Lehrkräften hört man dabei die Sorge, dass Schüler/innen und Studierende nun häufiger ihre Hausübungen, Seminararbeiten, Portfolios oder Teile ihrer VWA, Abschluss- und Diplomarbeiten KI-basiert verfassen lassen würden.

Diese Befürchtungen seitens der Lehrkräfte sind grundsätzlich gerechtfertigt. Solche Sprachmodelle sollen ja letztlich menschliche Sprache und menschliche Kommunikationsmuster möglichst naturgetreu nachahmen, um etwa über Chats Kundenservice zu unterstützen oder andere alltägliche Kommunikationssituationen zu meistern. Da liegt es nahe, dass die Software auch in der Lage ist, Texte zu produzieren, die menschliche Schreibleistung täuschend echt nachahmen. Der Chatbot ist für alle Interessierten offen, deshalb verfolgt das BMBWF nicht den Ansatz, über Firewalls generell den Zugang zu verhindern, da es immer Wege geben wird, die Website zu erreichen (sei es von außerhalb der Schule oder über mobile Endgeräte). Jeder technologische Fortschritt stellt darüber hinaus auch immer eine Chance dar – das BMBWF verfolgt daher den Weg, wie auch in vielen anderen Bereichen/Themen, zu informieren und aufzuklären, und diese Technologie im Idealfall letztlich selbst zum Unterrichtsinhalt zu machen.

Was jedenfalls kategorisch unterbunden werden muss, sowohl in der Schule als auch in der Hochschule, ist, dass Lernende unter Nutzung der Software unredlich Leistungsnachweise erwerben (= schummeln, automatisiert erzeugte Arbeiten als eigene ausgeben). Problematische Verhaltensweisen wie Copy-and-paste oder das Begehen von Plagiaten unter unreflektierter Nutzung von Onlineressourcen wird durch KI-gestützte Sprachmodelle wie ChatGPT lediglich auf die Spitze getrieben.

Die LBVO gibt vor (siehe § 11 Abs. 4), dass vorgetäuschte Leistungen nicht zu beurteilen sind. Das Schulrecht differenziert nicht, aus welcher Ursache es zur Vortäuschung einer Leistung gekommen ist. Es ist daher irrelevant, ob dies durch Abschreiben von Mitschüler/innen, Copy-and-paste aus dem Internet oder im konkreten Fall durch Hinzunahme von KI-Anwendungen passiert ist – Rechtsfolge ist immer die gleiche. KI-Anwendungen machen es natürlich im Unterschied zu anderen Methoden für Lehrpersonen deutlich schwieriger, eine Vortäuschung aufzudecken.

Daher sollte offen thematisiert werden, dass es solche Bots gibt, um niemandem die Möglichkeit zu geben, anderen gegenüber einen Informationsvorteil zu haben und derartige Software dazu zu missbrauchen, unredlich Leistungsnachweise zu erwerben. Schüler/innen sollen wissen, dass die Schule und ihre Lehrer/innen über derartige Software Bescheid wissen und sich aktiv mit deren Nutzung auseinandersetzen; Lehrer/innen sollen einerseits wissen, wie die Software funktioniert und welche Möglichkeiten ihnen zur Verfügung stehen, die Software didaktisch sinnvoll und produktiv zu nutzen (didaktische Ideen), andererseits aber auch ausschließen können, dass Lernende damit unredlich Leistungsnachweise erwerben. Der Unterricht soll/muss demnach verstärkt darauf ausgerichtet werden, etwaige vorgetäuschte Leistungen zu erkennen oder zu verhindern.

• Lehrpersonen kennen den Schreibstil ihrer Schüler/innen: Kompetenzorientiertes Lernen (Verstehen, Vertiefen, eigenständiges Anwenden von Gelerntem, Diskussion, Reflexion, Beurteilung et cetera) muss gegenüber dem bloßen Nachahmen oder Wiedergeben von Informationen oder Handlungen in den Mittelpunkt gerückt werden
• Lehrpersonen kennen die fachliche Kompetenz ihrer Schüler/innen: die Leistungen abgegebener Hausübungen oder schriftlicher (Haus-)arbeiten (Portfolio und dergleichen) können durch eine kurze Wiederholung („Stundenwiederholung“) oder durch gezieltes Nachfragen überprüft werden
• Medienkompetenz, die Auseinandersetzung und ein kritischer Umgang mit Quellen, muss in allen Unterrichtsgegenständen thematisiert werden

Erste Ideen für Unterrichtsszenarien zur Reflexion von KI

Da Künstliche Intelligenz im Alltag immer breitere Verwendung findet (siehe auch Hintergründe), sollten Schüler/innen zuallererst dahin gehend sensibilisiert werden, wo in ihrem Leben sie mit Entscheidungen konfrontiert werden, die durch eine KI getroffen werden oder bei der eine KI unterstützt. Manche dieser Entscheidungen werden vielleicht verzerrt oder ungenau sein, aber auf das Leben der Schüler/innen keinen nachhaltigen Einfluss haben (etwa eine automatisiert zusammengestellte Playlist eines Musikdienstes). Anders sieht es bei Entscheidungen im Gesundheitsbereich oder im öffentlichen Leben aus, wenn damit bestimmte Berechtigungen verbunden sind oder dies finanzielle Auswirkungen hat.

KI-basierende Systeme vollbringen nicht aus sich heraus eine schöpferische, kreative Leistung, sondern kombinieren bereits ein oder mehrmals Publiziertes und textlich Vorhandenes, indem sie Versatzstücke aus der Datenbank immer wieder neu zusammensetzen. Es gibt Anwendungsfälle von Textproduktion, bei denen Menschen durch die Unterstützung einer Künstlichen Intelligenz entlastet werden können. Wo sind aber auch die Grenzen dieser Technologie zu ziehen, genauer gesagt bei welcher Art von Texten wäre es Schüler/innen gar nicht recht, wenn diese KI-unterstützt entstünden?

Eine große Schwäche eines textbasierten Systems wie ChatGPT ist, dass derzeit die Quellenlage der Ergebnisse nicht nachvollziehbar ist. Nutzer/innen vertrauen der Software, dass aufgrund der riesigen Textgrundlage die richtigen Schlüsse gezogen und passende Versatzstücke miteinander kombiniert wurden. Quellenangaben bleiben jedoch aus. Auch inhaltliche Fehler wurden schon vielfach von Expert/inn/en festgestellt. Erwähnenswert ist auch, dass der KI derzeit nur Informationen bis ins Jahr 2021 zur Verfügung gestellt wurden. Auch dies könnte mit Schüler/innen kritisch erörtert werden. Wie sehr würden Schüler/innen derart erlangte Informationen annehmen? In welchen Bereichen ist ein ohne Verständnis des Inhalts von einer Maschine erstellter Text problematisch? Würden sie auf derartige medizinische Diagnosen oder Ratschläge vertrauen, die sich auf sie selbst oder das Wohlergehen ihrer Familie auswirken? Kann experimentell überprüft werden, woher die Software zum Beispiel bei gezielter Frage nach einem bestimmten Sachtext ihre Informationen bezieht, indem Schüler/innen auf Grundlage eines automatisiert erstellten Textes versuchen, im Rahmen einer Internetrecherche mit seinen Quellen zu vergleichen und dabei Fehler nachzuweisen?

Die größte Herausforderung von maschinellem Lernen und Deep Learning sind Art und Umfang der zugrundeliegenden Datenbanken sowie der Algorithmus, der zur Entscheidungsfindung herangezogen wird. Dieser ist normalerweise für Nutzer/innen nicht nachvollziehbar, beziehungsweise entwickelt kontinuierliches maschinelles Lernen mitunter auch ein Eigenleben. Vor diesem Hintergrund ist schwer vorstellbar, dass Aufgabenstellungen, in denen es etwa um die Bewertung und Analyse historischer Vorgänge geht, automatisiert von einer KI erfüllt werden. Allerdings kann eine richtig gestellte Frage an die KI auch einen gut zusammengestellten Abriss von Ereignissen erzeugen, dem dann in weiterer Folge Analysen und Diskussionen im Unterricht folgen könnten.

Links

Not Another ChatGPT Love Song!? Warum der Chatbot nur ein Puzzleteil in der Diskussion ist - Magazin Plan BD (forumbd.de)