Auseinandersetzung mit Künstlicher Intelligenz im Bildungssystem
Spätestens seit der Veröffentlichung der nutzer/innenfreundlichen Schnittstelle ChatGPT zum KI-Sprachmodell GPT3 am 30. November 2022 sind Potenziale und Gefahren von Künstlicher Intelligenz (KI), aber auch der Einfluss von KI auf unser Leben und vor allem die Bildung Gegenstand intensiver öffentlicher Diskussionen.
Dieser Text verfolgt folgende grundsätzliche Ziele:
- Sensibilisierung für die Thematik: Künstliche Intelligenz und insbesondere Algorithmen und Applikationen zu maschinellem Lernen sind bereits in zahlreichen alltäglichen Anwendungen angekommen. Niederschwellige Zugänge zu derartigen Werkzeugen ermöglichen es immer mehr Personen, diese zur Bearbeitung vielfältiger Aufgabenstellungen einzusetzen. Daher braucht es auch im Bildungsbereich eine Sensibilisierung, um einerseits als Lehrperson mögliche Einsatzszenarien zu berücksichtigen, aber auch darauf zu achten, ob und wie Lernende solche Werkzeuge nutzen. Überdies wird auch die Rolle der Lehrenden über die nächsten Jahrzehnte eine andere werden – und darauf ist ebenso zu achten wie auf die der Lernenden.
- Begleitung der öffentlichen Diskussion: Diese Website möchte der öffentlichen, mitunter medial geführten Diskussion Grundlageninformationen zur Funktionsweise von KI-basierten Systemen und vor allem mögliche Potenziale und Einsatzszenarien in der Bildung zur Seite stellen, um dabei zu helfen, Ängsten und Befürchtungen sachlich entgegenzutreten und didaktische Potenziale auszuschöpfen. Dabei sollen kritisches Hinterfragen ethischer und datenschutzrechtlicher Aspekte genauso berücksichtigt werden wie eine Bewusstseinsschaffung für Möglichkeiten zur Inklusion oder Förderung von Kreativität und Wissenserwerb mithilfe solcher Technologien.
Hinweis: Entwicklungen im Fluss
Aktuelle, breit diskutierte Entwicklungen im Bereich der Künstlichen Intelligenz, wie das Sprachmodell ChatGPT, sind nur Schritte in einer kontinuierlichen Entwicklung. Man könnte die Verbreitung derartiger Technologien mit der Erfindung des Buchdruckes oder der Schreibmaschine vergleichen. Auch diese haben unser Informationsverhalten jeweils revolutioniert. Wohin die Entwicklung geht und wo Grenzen sind, ist nicht immer leicht zu benennen. Daher sind auch aktuell verfügbare Handreichungen meist nur kurzfristig hilfreich. Das Bundesministerium für Bildung, Wissenschaft und Forschung bringt sich mit großer Aufmerksamkeit in die Diskussion ein und ist selbst bemüht, neueste Entwicklungen einzuordnen. Das BMBWF verfolgt laufende und proaktive Kommunikation mit Lehrenden, der Bildungsverwaltung, Wissenschafter/inne/n und anderen Personen des Bildungssystems.
Um mit KI-Systemen verantwortlich umzugehen, ist es unabdingbar zu verstehen, wie maschinelles Lernen, neuronale Netze und Sprachmodelle funktionieren.
Es gibt zahlreiche Definitionen zur künstlichen Intelligenz, von technisch-informatischen bis zu soziologischen oder psychologischen. Ausgangsbasis dieses Textes soll eine anwendungsorientierte Definition dienen, die unter anderem vom Europäischen Parlament herangezogen wird:
Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren.
KI ermöglicht es technischen Systemen, ihre Umwelt wahrzunehmen, mit dem Wahrgenommenen umzugehen und Probleme zu lösen, um ein bestimmtes Ziel zu erreichen. Der Computer empfängt Daten (die bereits über eigene Sensoren, zum Beispiel eine Kamera, vorbereitet oder gesammelt wurden), verarbeitet sie und reagiert.
KI-Systeme sind in der Lage, ihr Handeln anzupassen, indem sie die Folgen früherer Aktionen analysieren und autonom arbeiten.
Was ist künstliche Intelligenz und wie wird sie genutzt? | Aktuelles | Europäisches Parlament (europa.eu) (23. Jänner 2023)
Seit der Mitte des 20. Jahrhunderts entwickelten sich zahlreiche Forschungszweige zur künstlichen Intelligenz, um das oben umrissene Ziel „menschliche Fähigkeiten … zu imitieren“ zu erreichen. Nicht alle Ansätze haben sich dabei als zielführend herausgestellt, sodass manche Entwicklungszugänge heute nur mehr kaum oder nicht mehr weiterverfolgt werden.
Maschinelles Lernen
Als eines der vielversprechendsten Teilgebiete der Künstlichen Intelligenz wird heutzutage maschinelles Lernen angesehen, welches von einfachen statistischen Modellen bis zu künstlichen neuronalen Netzen reicht. Dabei lernen Computersysteme durch von Menschen vorgegebene Strukturen unter Vorgabe der gewünschten Ergebnisse (supervised learning) oder selbstständig ohne a-priori definierte Zielsetzung (unsupervised learning) aus Daten und Erfahrungen und können so Aufgaben immer besser ausführen. Grundlage von maschinellem Lernen sind umfangreiche Datenbanken mit Ausgangsmaterialien wie Texten oder Bildern, anhand derer Algorithmen versuchen, Muster und Gesetzmäßigkeiten zu erkennen und anhand dieser Entscheidungen selbstständig treffen. Beim automatisierten Erzeugen von Texten oder Bildern spielt insbesondere die Wahrscheinlichkeitsrechnung eine Rolle: Wie wahrscheinlich ist, dass zum Beispiel auf Wort A typischerweise Wort B folgt? Das Deep Learning, eine Methode des maschinellen Lernens, nutzt tiefe neuronale Netze mit mehreren Ebenen und trainiert diese mit einem großen Datenvolumen. Die meisten aktuellen Forschungs- und Entwicklungsvorhaben drehen sich um Deep Learning.
Turing-Test
1950 schlug der britische Informatiker Alan Turing den Turing-Test vor, um die Fähigkeit einer Maschine zu überprüfen, einem Menschen überzeugend ähnlich zu sprechen oder zu handeln. Wie seine ursprüngliche englische Originalbezeichnung „Imitation Game“ trefflich beschreibt, lässt der Test einen Menschen in einem Gespräch gegen eine Maschine antreten. Kann die Maschine dem menschlichen Befragenden vortäuschen, dass sie ein Mensch sei, während der echte Mensch als Maschine eingestuft wird, dann hat sie den Test bestanden. Es ist derzeit Gegenstand von Diskussionen, ob die eingangs erwähnte KI-basierte Chatsoftware ChatGPT den Turing-Test bestanden hat. Der Turing-Test ist nur eine Sichtweise, das Verhalten einer KI auf die Probe zu stellen. Immerhin wird diese Frage bereits seit über siebzig Jahren diskutiert.
Maschinelles Lernen im Alltag
Neben textbasierten KI-Systemen wie ChatGPT sind Werkzeuge, die auf maschinellem Lernen oder Deep Learning beruhen, bereits vielfach im Alltag im Einsatz. Auf jedem Smartphone laufen dutzende auf KI basierende Programme, welche von der automatisierten Vervollständigung von Wörtern über die automatische Einstellung der Kamera bis zur Erkennung von Spracheingabe reichen. Es geht bei vielen weiteren KI-Systemen darum, Menschen beim Umgang mit großen Mengen an Daten und Informationen zu unterstützen, etwa bei der Vorbereitung von Gerichtsverhandlungen (automatisierte Zurverfügungstellung relevanter Unterlagen aus Vorprozessen), bei autonomem Fahren (automatisierte Interpretation von Kamerabildern und anderen Sensoren, um ein Fahrzeug zu steuern), oder zur Unterstützung medizinischer Diagnosen (automatische Auswertung von bildgebenden Verfahren wie Röntgenbildern). Schon jetzt verhelfen uns komplexe Datenanalysen in der Medizin zu schnelleren Ergebnissen, oder Optimierungsverfahren bei der Steuerung von Energieverbrauchern tragen zur Entlastung der Umwelt bei.
Der deutsche Zukunftsforscher Matthias Horx hat jüngst sechs Thesen zur künstlichen Intelligenz aufgestellt. Hinsichtlich des Potenzials Künstlicher Intelligenz wird Folgendes festgehalten:
Künstliche Intelligenz wird sich in vielen Bereichen durchsetzen, weil sie einen entscheidenden ökonomischen Faktor aufweist: Sie verbilligt Prognosen. Im Unterschied zur „Datenverarbeitung“ schaut KI in die Zukunft. KI kann die Bewegung eines Autos prognostizieren und seine Kollisionswahrscheinlichkeit reduzieren. KI kann Millionen von Bildern nach Krebsanzeichen durchsuchen. KI kann den Ausfall von Systemen und Maschinen voraussagen. KI kann zeigen, wie Kriege verlaufen und Verkehrs- und Warenströme sich unter bestimmten Bedingungen entwickeln.
Diese prognostische Kompetenz erleichtert die Entwicklung komplexer Systeme.
6 Thesen zur Künstlichen Intelligenz (zukunftsinstitut.de) (24. Jänner 2023)
Damit wird im Kern das Potenzial der auf maschinellem Lernen und Deep Learning basierenden Anwendungen umrissen. Effizientere komplexe Systeme können dazu beitragen, Ressourcen schonender zu nutzen, Treffsicherheit, etwa bei medizinischen Diagnosen, zu verbessern, oder Lernende in ihrem Lernprozess personalisierter und individualisierter zu begleiten. Außerdem kann KI dazu dienen, Zeitressourcen freizumachen, die ihrerseits einer sinnvollen Nutzung zugeführt werden können (etwa auch der Schonung der eigenen Psychohygiene).
Die verstärkte Nutzung von Künstlicher Intelligenz wirft aber auch Fragen der Haftung auf (Wer haftet für die Folgen von durch die KI getroffenen Entscheidungen?), Fragen der Entwicklung des Arbeitsmarktes (Welche neuen Beschäftigungsmöglichkeiten entstehen, wenn KI automatisierbare Routineaufgaben, auch geistig-schöpferische, übernimmt?), aber auch Sicherheitsbedenken. Zudem können sowohl Daten als auch Design einer KI-basierten Anwendung absichtlich oder unabsichtlich verzerrt werden. So könnten beispielsweise durch KI getroffene Entscheidungen bei Einstellungen oder Kreditvergaben bewusst oder unbewusst durch ethnische Zugehörigkeit, Geschlecht oder Alter beeinflusst werden, wenn bei deren Training auf solche ethischen und moralischen Aspekte keine Rücksicht genommen wird. Zudem sind Fragen des Copyrights ungeklärt, wenn die KI etwa Texte aus bereits vorhandenen Datenbanken generiert.
Künstliche Intelligenz und das Bildungssystem
Als eines der vielversprechendsten Teilgebiete der Künstlichen Intelligenz wird heutzutage maschinelles Lernen mithilfe von künstlichen neuronalen Netzen angesehen. Deep Learning, eine Methode des maschinellen Lernens, nutzt tiefe neuronale Netze mit mehreren Ebenen und trainiert diese mit großen Datenvolumina. Die meisten aktuellen Forschungs- und Entwicklungsvorhaben im Bereich der KI drehen sich um Deep Learning.
Auch im Bildungssystem kann die Nutzung von allgemeinem Datenmaterial (wie Textkorpora) oder von Lerndaten („Learning Analytics“) im Rahmen von maschinellem Lernen vorrangig dazu beitragen, Lernen personalisierter und individualisierter zu gestalten. Gleichzeitig erfordert KI eine interdisziplinäre Auseinandersetzung mit den Erkenntnissen aus Pädagogik, Didaktik und Entwicklungspsychologie, um Lernprozesse weiterhin – analog und digital – im Sinne des Bildungsauftrags der Schule erfolgreich zu gestalten.
Individualisierung von Lernprozessen
Durch maschinelles Lernen lassen sich etwa Lernangebote an den Lernstand von Schüler/innen anpassen.
- Schüler/innen könnten immer wieder neue interaktive Aufgabenstellungen auf Basis von Texten angeboten werden: ein wichtiger Beitrag zur Individualisierung von Lernprozessen, da auf individuelle Schwierigkeiten von Lernenden durch automatisiert erstellte Texte immer wieder aufs Neue eingegangen werden kann.
- Auch einfachere oder herausforderndere Versionen von Texten könnten zur Verfügung gestellt werden, um Schüler/innen auch im Sinne der Differenzierung individuell zu fördern oder zu fordern.
- Schülerinnen können sich für ihre Übungen auch individuelles Feedback geben lassen, etwa indem Texte umformuliert werden, um professioneller zu klingen oder Grammatik- und Rechtschreibfehler zu entfernen.
- Durch neue Formate und die dadurch freigewordenen Zeit- und Energieressourcen bei den Beteiligten lassen sich auch neue Beurteilungsformen und Kompetenzmessungen andenken, etwa das persönliche Gespräch oder die kritische Reflexion.
- Durch individualisierte KI-Prozesse rücken auch Fähigkeiten ins Zentrum, die in klassischen Bildungssettings häufig weniger zum Tragen kommen, etwa richtige oder fruchtbringende Fragen formulieren zu können oder Informationen interdisziplinär zu kontextualisieren.
Unterstützung von Lehrpersonen
- Lehrkräfte könnten sich automatisiert Ideensammlungen erstellen lassen, um sich einem Thema zu nähern oder es weiter einzugrenzen. Es ist sogar die KI-unterstützte Planung ganzer Unterrichtssequenzen denkbar, um die dadurch freigewordene Zeit zur Ausgestaltung innovativen Unterrichts zu nutzen.
- Lehrkräfte können bei der Erstellung von Varianten von Aufgabenstellungen, deren Umformulierung, Verallgemeinerung oder Präzisierung unterstützt werden.
- KI-Anwendungen erlauben zusätzlich zur Generierung von Texten die Erstellung von individualisierten Bildern oder Musik in vorgegebenem Stil, wodurch der Unterricht multimedial ergänzt und direkte Vergleiche desselben Themas gezogen werden können.
- Die Kommunikation mit dem Elternhaus und überhaupt interkulturelle Zusammenarbeit können etwa durch automatisiertes Zurverfügungstellen von Übersetzungen erleichtert werden.
Fort- und Weiterbildung für Lehrpersonen
Im Sinne der Professionalisierung ist es erforderlich, dass jede Lehrperson im Bereich Fachwissen, Fachdidaktik und Pädagogik ihren Wissensstand aktuell hält. Im Falle von KI kommt dieser Tatsache eine ganz besondere Bedeutung zu. Kurzfristig kann dieses Thema im Rahmen einer pädagogischen Konferenz behandelt werden, des Weiteren bieten sich auch SCHILFs zu diesem Thema an. Die Gesamtthematik ist nicht nur rein technisch zu sehen, sondern betrifft unser Verständnis von Wissen, Information und Bildungsprozessen im Allgemeinen. Deshalb ist unbedingt zu empfehlen, dass Informatiker/inn/en mit Geisteswissenschafter/inn/en zusammenarbeiten, um Fortbildungen zu gestalten. Das BMBWF ist bereits in enger Kooperation mit den Pädagogischen Hochschulen, um weitreichende Fort- und Weiterbildungsangebote abzustimmen und zu planen.
Vortäuschen von Leistungen mithilfe von KI?
Da ein KI-basiertes Sprachmodell wie ChatGPT automatisiert Texte verfassen kann, ist diese Software seit einigen Wochen Diskussionsthema. Von Lehrkräften hört man dabei die Sorge, dass Schüler/innen und Studierende nun häufiger ihre Hausübungen, Seminararbeiten, Portfolios oder Teile ihrer VWA, Abschluss- und Diplomarbeiten KI-basiert verfassen lassen würden.
Diese Befürchtungen seitens der Lehrkräfte sind grundsätzlich gerechtfertigt. Solche Sprachmodelle sollen ja letztlich menschliche Sprache und menschliche Kommunikationsmuster möglichst naturgetreu nachahmen, um etwa über Chats Kundenservice zu unterstützen oder andere alltägliche Kommunikationssituationen zu meistern. Da liegt es nahe, dass die Software auch in der Lage ist, Texte zu produzieren, die menschliche Schreibleistung täuschend echt nachahmen. Der Chatbot ist für alle Interessierten offen, deshalb verfolgt das BMBWF nicht den Ansatz, über Firewalls generell den Zugang zu verhindern, da es immer Wege geben wird, die Website zu erreichen (sei es von außerhalb der Schule oder über mobile Endgeräte). Jeder technologische Fortschritt stellt darüber hinaus auch immer eine Chance dar – das BMBWF verfolgt daher den Weg, wie auch in vielen anderen Bereichen/Themen, zu informieren und aufzuklären, und diese Technologie im Idealfall letztlich selbst zum Unterrichtsinhalt zu machen.
Was jedenfalls kategorisch unterbunden werden muss, sowohl in der Schule als auch in der Hochschule, ist, dass Lernende unter Nutzung der Software unredlich Leistungsnachweise erwerben (= schummeln, automatisiert erzeugte Arbeiten als eigene ausgeben). Problematische Verhaltensweisen wie Copy-and-paste oder das Begehen von Plagiaten unter unreflektierter Nutzung von Onlineressourcen wird durch KI-gestützte Sprachmodelle wie ChatGPT lediglich auf die Spitze getrieben.
Die LBVO gibt vor (siehe § 11 Abs. 4), dass vorgetäuschte Leistungen nicht zu beurteilen sind. Das Schulrecht differenziert nicht, aus welcher Ursache es zur Vortäuschung einer Leistung gekommen ist. Es ist daher irrelevant, ob dies durch Abschreiben von Mitschüler/innen, Copy-and-paste aus dem Internet oder im konkreten Fall durch Hinzunahme von KI-Anwendungen passiert ist – Rechtsfolge ist immer die gleiche. KI-Anwendungen machen es natürlich im Unterschied zu anderen Methoden für Lehrpersonen deutlich schwieriger, eine Vortäuschung aufzudecken.
Daher sollte offen thematisiert werden, dass es solche Bots gibt, um niemandem die Möglichkeit zu geben, anderen gegenüber einen Informationsvorteil zu haben und derartige Software dazu zu missbrauchen, unredlich Leistungsnachweise zu erwerben. Schüler/innen sollen wissen, dass die Schule und ihre Lehrer/innen über derartige Software Bescheid wissen und sich aktiv mit deren Nutzung auseinandersetzen; Lehrer/innen sollen einerseits wissen, wie die Software funktioniert und welche Möglichkeiten ihnen zur Verfügung stehen, die Software didaktisch sinnvoll und produktiv zu nutzen (didaktische Ideen), andererseits aber auch ausschließen können, dass Lernende damit unredlich Leistungsnachweise erwerben. Der Unterricht soll/muss demnach verstärkt darauf ausgerichtet werden, etwaige vorgetäuschte Leistungen zu erkennen oder zu verhindern.
- Lehrpersonen kennen den Schreibstil ihrer Schüler/innen: Kompetenzorientiertes Lernen (Verstehen, Vertiefen, eigenständiges Anwenden von Gelerntem, Diskussion, Reflexion, Beurteilung et cetera) muss gegenüber dem bloßen Nachahmen oder Wiedergeben von Informationen oder Handlungen in den Mittelpunkt gerückt werden
- Lehrpersonen kennen die fachliche Kompetenz ihrer Schüler/innen: die Leistungen abgegebener Hausübungen oder schriftlicher (Haus-)arbeiten (Portfolio und dergleichen) können durch eine kurze Wiederholung („Stundenwiederholung“) oder durch gezieltes Nachfragen überprüft werden
- Medienkompetenz, die Auseinandersetzung und ein kritischer Umgang mit Quellen, muss in allen Unterrichtsgegenständen thematisiert werden
Erste Ideen für Unterrichtsszenarien zur Reflexion von KI
Da Künstliche Intelligenz im Alltag immer breitere Verwendung findet (siehe auch Hintergründe), sollten Schüler/innen zuallererst dahin gehend sensibilisiert werden, wo in ihrem Leben sie mit Entscheidungen konfrontiert werden, die durch eine KI getroffen werden oder bei der eine KI unterstützt. Manche dieser Entscheidungen werden vielleicht verzerrt oder ungenau sein, aber auf das Leben der Schüler/innen keinen nachhaltigen Einfluss haben (etwa eine automatisiert zusammengestellte Playlist eines Musikdienstes). Anders sieht es bei Entscheidungen im Gesundheitsbereich oder im öffentlichen Leben aus, wenn damit bestimmte Berechtigungen verbunden sind oder dies finanzielle Auswirkungen hat.
KI-basierende Systeme vollbringen nicht aus sich heraus eine schöpferische, kreative Leistung, sondern kombinieren bereits ein oder mehrmals Publiziertes und textlich Vorhandenes, indem sie Versatzstücke aus der Datenbank immer wieder neu zusammensetzen. Es gibt Anwendungsfälle von Textproduktion, bei denen Menschen durch die Unterstützung einer Künstlichen Intelligenz entlastet werden können. Wo sind aber auch die Grenzen dieser Technologie zu ziehen, genauer gesagt bei welcher Art von Texten wäre es Schüler/innen gar nicht recht, wenn diese KI-unterstützt entstünden?
Eine große Schwäche eines textbasierten Systems wie ChatGPT ist, dass derzeit die Quellenlage der Ergebnisse nicht nachvollziehbar ist. Nutzer/innen vertrauen der Software, dass aufgrund der riesigen Textgrundlage die richtigen Schlüsse gezogen und passende Versatzstücke miteinander kombiniert wurden. Quellenangaben bleiben jedoch aus. Auch inhaltliche Fehler wurden schon vielfach von Expert/inn/en festgestellt. Erwähnenswert ist auch, dass der KI derzeit nur Informationen bis ins Jahr 2021 zur Verfügung gestellt wurden. Auch dies könnte mit Schüler/innen kritisch erörtert werden. Wie sehr würden Schüler/innen derart erlangte Informationen annehmen? In welchen Bereichen ist ein ohne Verständnis des Inhalts von einer Maschine erstellter Text problematisch? Würden sie auf derartige medizinische Diagnosen oder Ratschläge vertrauen, die sich auf sie selbst oder das Wohlergehen ihrer Familie auswirken? Kann experimentell überprüft werden, woher die Software zum Beispiel bei gezielter Frage nach einem bestimmten Sachtext ihre Informationen bezieht, indem Schüler/innen auf Grundlage eines automatisiert erstellten Textes versuchen, im Rahmen einer Internetrecherche mit seinen Quellen zu vergleichen und dabei Fehler nachzuweisen?
Die größte Herausforderung von maschinellem Lernen und Deep Learning sind Art und Umfang der zugrundeliegenden Datenbanken sowie der Algorithmus, der zur Entscheidungsfindung herangezogen wird. Dieser ist normalerweise für Nutzer/innen nicht nachvollziehbar, beziehungsweise entwickelt kontinuierliches maschinelles Lernen mitunter auch ein Eigenleben. Vor diesem Hintergrund ist schwer vorstellbar, dass Aufgabenstellungen, in denen es etwa um die Bewertung und Analyse historischer Vorgänge geht, automatisiert von einer KI erfüllt werden. Allerdings kann eine richtig gestellte Frage an die KI auch einen gut zusammengestellten Abriss von Ereignissen erzeugen, dem dann in weiterer Folge Analysen und Diskussionen im Unterricht folgen könnten.