ChatGPT im Unterricht: Herausforderungen, Grenzen und Risiken 🤖🧐

KI
Verfasst von Manuel Flick

Aktualisiert am 26.07.2023

Künstliche Intelligenz (KI) ist eine faszinierende Technologie mit enormem Potenzial im Schulkontext. Für den Unterricht ergeben sich hieraus zahlreiche Einsatzmöglichkeiten.

Bei dem Einsatz von ChatGPT im Schul- und Unterrichtskontext gibt es aber auch einige wichtige Dinge zu beachten. Daraus ergeben sich Herausforderungen, Grenzen und zum Teil Risiken beim Einsatz.

In diesem Artikel zeige ich euch, welche das sind und worauf es bei der Verwendung von KI-Tools im Unterricht zu achten gilt.

1. Einschränkungen durch den OpenAI-Datensatz 🌎📅

ChatGPT ist nicht direkt mit dem Internet verbunden und kann somit nicht aktuell arbeiten.

Stattdessen greift ChatGPT auf einen Datensatz zu, der Informationen bis September 2021 enthält. Dies führt zu Einschränkungen, wenn sich die Befehle auf aktuelle Themen und Ereignisse beziehen.

Wenn ihr ChatGPT also beispielsweise um eine Zusammenfassung zu einem aktuellen Buch oder Kinofilm bittet, erhaltet ihr keine passende Antwort.

ℹ️ Mittlerweile gibt es Plugins wie WebPilot oder LinkReader, die ChatGPT mit dem Internet verbinden. Auch nutzen zum Beispiel der Bing-Chat von Microsoft oder Apps wie Perplexity AI das Sprachmodell GPT4 und ermöglichen so im Prinzip einen Internetzugang für ChatGPT.

2. ChatGPT kann falsche Informationen liefern 🚫🫣

Statt keine Antwort zu liefern, erfindet ChatGPT mitunter Informationen, die falsch sind, aber äußerst plausibel klingen.

Der Fachbegriff hierfür ist halluzinieren. Man sagt, dass ChatGPT halluziniert.

Dies passiert vor allem bei komplexen Anfragen und bei Befehlen, die sich auf Spezialthemen beziehen. Aber auch bei Anfragen zu aktuellen Themen und Sachverhalten tritt dieses Phänomen auf.

Zudem kann es vorkommen, dass ChatGPT Quellenangaben erfindet. Es ist somit nicht nachvollziehbar oder überprüfbar, woher die KI ihre Daten bezieht.

ℹ️ Mittlerweile gibt es einige KI-Tools, die Ergebnisse mit entsprechenden Quellenangaben ausgeben können. Hierzu zählen auch der Bing-Chat von Microsoft und die App Perplexity AI.

3. ChatGPT ist kein Denk- oder Logiktool! 🚫🤔

ChatGPT greift nur auf bereits existierende Informationen aus Texten zu und kann weder neue Informationen generieren noch neue Erkenntnisse erlangen.

Die KI kann nicht logisch denken und versteht nicht immer die Intention hinter einer Frage oder einem Statement.

Schaut euch dazu dieses Beispiel an:

ℹ️ Wie Matthias in den Kommentaren angemerkt hat, wird diese Frage mittlerweile von ChatGPT richtig beantwortet. Dies zeigt, dass die KI dazulernt und sich ständig verbessert, wenngleich ähnliche Fehler natürlich weiter auftreten können.

4. ChatGPT fehlt menschliches Verständnis 🚫🙋‍♂️

ChatGPT ist in der Lage, menschliches Verhalten zu simulieren, bleibt jedoch natürlich eine Künstliche Intelligenz. Dies kann manchmal zu Komplikationen führen:

So werden emotionale Hinweise wie Sarkasmus, Ironie oder Humor nicht erkannt, da das KI-Tool nicht über emotionale Intelligenz verfügt.

Auch werden Slang, Redewendungen oder Regionalismen nicht erkannt, was dazu führen kann, dass Ausdrücke zu wörtlich genommen werden.

Außerdem neigen die Antworten von ChatGPT dazu, ein standardisiertes Muster zu folgen, was zu einem mechanischen Eindruck führen kann.

Fragen, die grundsätzlich mit “Ja” oder “Nein” beantwortet werden können, fallen zum Teil übermäßig lang aus. (Skribbr, 2023).

5. Datenschutz und die Nutzung von ChatGPT im Schulkontext* 🏫👥

Für die Anmeldung bei ChatGPT wird eine Mail-Adresse und eine Mobilfunknummer benötigt. Eine anonyme Nutzung ist somit nicht möglich. Die Server von OpenAI stehen außerdem in den USA. Hieraus ergeben sich Einschränkungen für den Unterrichtseinsatz aufgrund datenschutzrechtlicher Bestimmungen.

Auch die Datenschutzrichtlinie und die AGBs von OpenAI müssen bei der Nutzung beachtet werden, wodurch sich weitere Einschränkungen ergeben. Als Nutzer muss man demnach mindestens 18 Jahre alt sein, um ein Konto erstellen zu dürfen. OpenAI richtet sich mit seinem Dienst ausdrücklich nicht an Kinder unter dem Alter von 13 Jahren.

Was ist möglich?

  • Lehrkräfte können ChatGPT in eigener Verantwortung über ihren eigenen Account im Unterricht einsetzen und zum Beispiel Befehle der Schüler:innen eingeben. (Thiede, 2023).

  • Schüler:innen ab 18 Jahren können ChatGPT mit eigenen Konten im Unterricht nutzen, wenn die Nutzung optional ist und bei Nichtnutzung keine Nachteile oder negativen Konsequenzen entstehen (Thiede, 2023).

Mittlerweile gibt es zudem erste Angebote, bei denen zur Nutzung von ChatGPT keine Registrierung der Schüler:innen notwendig ist. Dazu zählen Angebote wie fobizz Klassenräume oder SchulKI. Es bleibt spannend, welche weiteren Angebote es zukünftig geben wird.

6. Gibt es Urheberrechte für KI-Inhalte?* 📜🤖

Nach deutschem Recht sind nur Werke geschützt, die von einem Menschen geschaffen wurden. Ein Text oder ein Bild, das von einer KI erstellt wurde, kann somit nicht geschützt sein, da keine menschliche Schöpfung vorliegt. Zum Teil wird aber auch angenommen, dass KI-Inhalte geschützt sein können, wenn ein menschlicher Einfluss deutlich erkennbar ist (Ulbricht, 2023).

Eine urheberrechtliche Einordnung von KI-erzeugten Inhalten gestaltet sich also wohl schwierig und kann zum jetzigen Zeitpunkt nicht abschließend geklärt werden.

7. Einschränkungen durch Filter von ChatGPT 🚫🔍

ChatGPT gibt keine Antworten auf Fragen zu persönlichen Informationen, wie z.B. Adressen, Telefonnummern, Namen von Personen oder ähnlichem.

ChatGPT filtert außerdem automatisch Wörter, die als anstößig, beleidigend, diskriminierend oder verletzend angesehen werden, genauso rassistische, sexistische oder gewaltverherrlichende Aussagen. ChatGPT gibt auch nicht in allen Fällen eine Antwort, wenn es um politisch sensible Themen, religiöse Themen, Glücksspiel oder Gewalt geht.

ChatGPT ist noch nicht in der Lage ist, alle möglichen Kontexte zu verstehen und filtert deshalb manchmal auch harmlose Anfragen. Genauso kann es passieren, dass der Filter mal nicht greift und eben doch Antworten zu den oben genannten Themen geliefert werden. Zum Teil reichen schon minimale Anpassungen bei den Befehlen oder mehrfache Eingabeversuche.

Der Einsatz von Inhaltsfiltern ist einerseits natürlich gut, andererseits können die Filter aber auch die Ergebnisse verzerren!

Wenn ChatGPT beispielsweise im Kontext von Unterrichtsthemen mit politischem oder gesellschaftlichem Bezug eingesetzt wird, muss dies bedacht werden.

8. Antworten mit Bias in ChatGPT 👨‍👩‍👧⛔️

Die Antworten, die von ChatGPT (und anderen Large Language Models) erzeugt werden, können einen Bias enthalten.

Das bedeutet, dass die Antworten von ChatGPT eine bestimmte Neigung oder Vorlieben beinhalten können. Dadurch können die Leser bewusst oder unbewusst in eine bestimmte Richtung gelenkt und beeinflusst werden.

Wie kann das passieren?

Die KI wird mit Texten aus dem Internet trainiert, denen Meinungen, Werte und Normen zugrunde liegen. Diese finden sich dann auch in den Ergebnissen wieder.

Zusätzlich wurde ChatGPT durch menschliches Feedback trainiert, was die Wahrscheinlichkeit, Antworten mit einem Bias zu erhalten, weiter erhöht.

Des Weiteren kann ChatGPT durch den Kontext von Nutzer:innen beeinflusst werden. Wenn die eingegeben Fragen oder der Kontext von Nutzer:innen bereits einen Bias enthält, kann dies ebenfalls zu einer Verzerrung der Antworten von ChatGPT führen (Skribbr, 2023).

Was sind die Folgen?

So können sich etwa gewisse politische oder gesellschaftliche Haltungen und Tendenzen in die Ergebnisse einschleichen.

Das können zum Beispiel klassische Familien- oder Rollenbilder sein, die sich in den Ergebnissen wiederfinden: Der Mann geht arbeiten, die Frau erzieht die Kinder.

Auch Vorurteile und Stereotype (beispielsweise hinsichtlich Alter, Herkunft und Geschlecht) können von der KI reproduziert werden.

ChatGPT assoziiert zum Beispiel Berufe, die einen höheren Bildungsabschluss voraussetzen, eher mit Männern als mit Frauen (Schumann, 2023).

Außerdem zu beachten: ChatGPT gendert in seinen Ergebnissen nicht durchgehend, weil das bei den meisten Texten im Internet (auf welche die KI zugreift) auch noch nicht der Fall ist.

In der Folge können dadurch diskriminierende Haltungen entstehen und sich gewisse Meinungen und Weltanschauungen festigen.

Weitere Beispiele:

ℹ️ ChatGPT gibt bei bestimmten Themen mittlerweile differenziertere Antworten und baut des Öfteren Disclaimer ein, um seine eigenen Aussagen zu entkräften. Dennoch sind Vorurteile und Stereotype weiter in den Ergebnissen erkennbar.

9. Vorsicht bei der Eingabe sensiblen Daten ⚠️👨‍💻 

ChatGPT lernt von unseren Eingaben und unserem Feedback. Wenn wir die KI also mit Inhalten und Texten befüttern, kann es sein, dass diese Informationen zur Optimierung des Datensatzes herangezogen werden oder Texteingaben sogar im Datensatz landen. Es ist daher besondere Vorsicht bei der Eingabe von persönlichen und sensiblen Daten gegeben.

ℹ️ Die Verwendung deiner Chats und Texteingaben für Trainingszwecke lässt sich mittlerweile aber auch in den Einstellungen deaktivieren. Mehr dazu erfährst du in meinem ChatGPT-Guide für Lehrkräfte im Abschnitt “Weitere Bedienung”. Dort findest du 10 komplette Unterrichtseinheiten zum Einsatz von ChatGPT im Unterricht.

Fazit 💡

ChatGPT ist eine faszinierende Technologie, die in vielen schulischen Situationen sehr hilfreich sein kann. Es ist jedoch wichtig zu berücksichtigen, dass es gerade beim Einsatz im Unterricht Herausforderungen, Grenzen und Risiken gibt, die man als Lehrkraft beachten muss.

Die Ergebnisse der KI sind alles andere als perfekt, können unvollständig, vorgefiltert oder zum Teil sogar frei erfunden sein. Deshalb bleibt es bei aller Faszination unerlässlich, die Ergebnisse immer zu prüfen und kritisch zu hinterfragen.

Hierzu ist wichtig zu verstehen, wie die KI grundsätzlich funktioniert, bei welchen Themen die KI filtert und dass aktuell noch ein eingeschränkter Datensatz vorliegt.

Als Lehrkraft sollte man sich vor dem Unterrichtseinsatz zudem mit den relevanten urheber- und datenschutzrechtlichen Aspekten auseinandersetzen.

Der Vorteile durch den Einsatz von ChatGPT überwiegen für mich weiterhin, sofern man einen guten Umgang mit der Technologie im Unterricht findet. 5 Strategien zum verantwortungsvollen Umgang mit ChatGPT stelle ich in meinem weiteren Blog-Artikel vor.

* Disclaimer:

Wenn ihr zu den Themen Urheberrecht und Datenschutz Fragen habt, wendet euch bitte an juristisches Fachpersonal. Dies ist keine Rechtsberatung oder ähnliches. Ich gebe lediglich meine Meinung wieder.

Manuel Flick
Zurück

ChatGPT als Lehrer nutzen: 5 Tipps für bessere Prompts ⌨️⭐️
Weiter

5 Strategien für ChatGPT im Unterricht 📈🧩