Tipps für eine rechtssichere und praktische Umsetzung von KI im Bildungswesen

Künstliche Intelligenz (KI) im Unterricht birgt sowohl Chancen als auch Risiken und ist vor allem für Schüler*innen aus dem Lernalltag kaum noch wegzudenken. Für Lehrkräfte und Eltern sind Chatbots dagegen eher potenzielle Datenschutzfallen. Wir klären darüber auf, wie KI rechtssicher im Unterricht eingesetzt werden kann, welche Risiken es gibt und wie sich mit KI-Tools das Lernen einfacher und individueller gestalten lässt.

• Das Wichtigste in Kürze
• Nutzen und Grenzen von KI im Unterricht
• Status Quo: KI im Bildungswesen
• KI-Assistenten und Modelle im Überblick
• Recht und Datenschutz
• Umgang mit KI in Schulen
• Praxisbeispiele für KI im Unterricht
• Medienkompetenz vermitteln
• Fazit
• Häufige Fragen

Nutzen und Grenzen von KI im Unterricht: Chancen, Risiken, Praxistipps

Der Einsatz von künstlicher Intelligenz in Form von Chatbots oder KI-Assistenten (genauer: Large Language Models, LLM) in Schulen und in Weiterbildungseinrichtungen bietet erhebliche Chancen – bringt aber auch rechtliche, ethische und didaktische Herausforderungen mit sich. Entscheidend ist, wofür KI eingesetzt wird und wie transparent Lehrkräfte und Schüler*innen damit umgehen.

Chancen durch KI

Richtig eingesetzt kann KI Lernprozesse deutlich unterstützen und Unterricht entlasten:

• Individuelle Aufgabenstellung, direktes Feedback & Hilfe zur Umsetzung:
  KI-Tools können Aufgaben in unterschiedlichen Schwierigkeitsstufen generieren, Lösungen kommentieren und Verbesserungsvorschläge machen. So erhalten Schüler*innen schneller Rückmeldung, während Lehrkräfte Zeit für vertiefende Gespräche gewinnen.
• Intensives Sprachtraining durch Prompting:
  Das Formulieren von Prompts schult Ausdrucksfähigkeit, Präzision und kritisches Denken. Vor allem im Fremdsprachen- und Deutschunterricht können Lernende Dialoge üben, Texte überarbeiten oder alternative Formulierungen testen.
• Fachübergreifende Kompetenzförderung (Sprache, Analyse, Quellenrecherche):
  KI kann komplexe Inhalte vereinfachen, Beispiele generieren oder alternative Erklärwege anbieten. Gleichzeitig bietet sie eine gute Basis, um Informationskompetenz, Quellenkritik, Argumentationsfähigkeit und digitale Souveränität aufzubauen.
• Entlastung bei Routinetätigkeiten:
  Lehrkräfte können mit KI Arbeitsblätter, Beispielaufgaben, Musterlösungen oder Erstentwürfe für Beurteilungen erstellen und diese dann fachlich prüfen und anpassen. Das schafft mehr Freiraum für Beziehungsarbeit und individuelle Förderung.

Risiken und Grenzen von KI im Unterricht

Die Risiken sind vor allem rechtlicher, ethischer und inhaltlicher Natur. Sie betreffen sowohl die Datenverarbeitung als auch die Qualität der Antworten:

• Datenspeicherung und -verarbeitung teils intransparent:
  Viele KI-Tools speichern Eingaben, nutzen sie weiter zum Training oder geben nur unklare Informationen zu Speicherort, -dauer und Löschroutinen. Das ist besonders kritisch, wenn Namen, Leistungen oder sensible Daten von Minderjährigen verarbeitet werden.
• Bias & Diskriminierung anhand der Trainingsdaten wahrscheinlich:
  KI-Systeme übernehmen Stereotype und Verzerrungen aus ihren Trainingsdaten. Das kann zu diskriminierenden oder einseitigen Ergebnissen führen – etwa bei historischen, politischen oder gesellschaftlichen Themen.
• Halluzinationen & Urheberrechtsverletzungen an der Tagesordnung:
  KI-Tools erfinden Quellen, Fakten oder Zitate und präsentieren sie sehr überzeugend. Außerdem ist häufig unklar, auf welchen urheberrechtlich geschützten Inhalten das Modell trainiert wurde und wie Materialien weiterverwendet werden dürfen.
• Didaktische Grenzen – kein Ersatz für Lernen und Beziehung:
  KI kann Lernprozesse unterstützen, aber nicht das eigene Verstehen, Üben und Reflektieren ersetzen. Wird sie primär für „fertige Lösungen“ genutzt, sinkt der Lernzuwachs – und Lehrkräfte haben es schwerer, echte Leistung zu beurteilen.

Praxistipps für einen verantwortungsvollen Einsatz von KI

Damit Chancen überwiegen, sollten Schulen und Lehrkräfte klare Leitplanken setzen:

• Didaktik vor Toolwahl:
  Zuerst Lernziel und Methode festlegen, dann prüfen, ob und wie KI sinnvoll unterstützen kann (z.B. als Ideenlieferant, Feedbackgeber, Übungsgenerator).
• Datensparsamkeit und sichere Tools:
  Möglichst schuleigene oder EU-gehostete Lösungen nutzen und keine Klarnamen, Noten oder sensible personenbezogene Daten eingeben. Wenn nötig, konsequent pseudonymisieren.
• Transparenz und Kennzeichnung:
  Im Unterricht offenlegen, wann KI genutzt wird. Von Schüler*innen verlangen, KI-Einsatz in Haus- und Projektarbeiten kenntlich zu machen (z.B. kurzer Hinweis oder Prompt-Protokoll).
• Halluzinationen und Bias bewusst thematisieren:
  KI-Antworten immer gemeinsam überprüfen: Schüler*innen sollen lernen, Aussagen zu hinterfragen, Quellen zu prüfen und Unstimmigkeiten zu erkennen.
• Klare Regeln im Klassen- und Schulrahmen:
  Schul- oder Fachkonferenz sollten vereinbaren, wofür KI eingesetzt werden darf (z.B. für Ideensammlung, sprachliche Überarbeitung) und wofür nicht (z.B. komplette Prüfungsleistungen, emotionale Bewertung).

Lehrkräfte und Schüler*innen müssen den Umgang mit künstlicher Intelligenz Schritt für Schritt erlernen. Erst auf dieser Grundlage kann KI verantwortungsvoll, rechtssicher und lernförderlich in den Unterricht integriert werden.

Chatbots und generative KI-Assistenten sind längst im Unterricht angekommen. Laut einer Studie der Vodafone-Stiftung aus dem Jahr 2024 setzen rund 75 Prozent der Jugendlichen KI-Tools ein. Die Zahl derjenigen, welche die Chatbots bewusst auch als Lernhilfe verwenden, lag 2024 bei knapp einem Drittel der befragten Schüler*innen. Inzwischen dürften sich die Nutzungszahlen noch deutlich erhöht haben.

KI für Schüler*innen – Lernen und KI

Schüler*innen verwenden KI-Tools für schulische Aspekte auf vielfältige Art und Weise:

• schnellere Recherche und Zusammenfassung komplexer Themen
• Erstellung von Übungsaufgaben & Proben
• Feedback in Form von Sprach-/Stilanalysen für diverse Aufgaben
• Erstellung kompletter Aufsätze oder Erörterungen, Referate

Schüler*innen sehen Chatbots als jederzeit ansprechbares Gegenüber an, mit dem sie Ideen austauschen, Rückfragen zu Aufgaben stellen oder sich Feedback zu gelösten Aufgaben einholen.

Aus pädagogischer Sicht weniger geeignet ist die komplette Erledigung von Aufgaben durch KI-Assistenten, die ausformulierte Textaufgaben liefern. Während Schüler*innen diese Option wählen, um Aufgaben schnell abzuhaken, sehen sich Lehrkräfte vor dem Problem, diese Arbeiten gerecht bewerten zu müssen.

KI für Lehrkräfte

Für Lehrkräfte können Chatbots und KI-Assistenten insbesondere die Unterrichtsvorbereitung erleichtern: 

• (mehrsprachige) Arbeitsblätter oder Textvarianten für Prüfungssituationen erstellen
• Audioaufnahmen in verschiedenen Sprachen generieren
• Lehrmaterialien zusammenfassen oder logisch in Unterrichtseinheiten aufteilen

Bei entsprechender Vorbereitung und bei Verwendung einer geeigneten KI-Plattform oder KI-Assistenz ist es auch möglich, Prüfungen von der KI einlesen und nach einem vorgefertigten Schlüssel korrigieren zu lassen.

ChatGPT kennt jede*r. Es ist aber längst nicht das einzige Tool, um Lernstoff zu strukturieren oder sich Unterstützung für die Übersetzung längerer Textpassagen zu holen.

In der folgenden Tabelle finden Sie eine kurze Übersicht über verschiedene KI-Assistenten, die in Schule und Weiterbildung hilfreich sein können.

Tool/System	Typischer Einsatzzweck im Unterricht	Nutzer*innen	Risikoklasse nach EU-AI-Act
ChatGPT (Enterprise/Schul-Edition)* *auch als Schnittstellenlösung	Formulierung von Texten, Nachschlagen von Fachwissen, Korrekturhilfe, Diskussionsvorbereitung	Schüler*innen, Lehrkräfte	begrenztes Risiko (Transparenz, kein automatisiertes Bewerten)​
DeepL Write / DeepL Translator	Übersetzungen, Sprachförderung, Texte prüfen	Schüler*innen, Lehrkräfte	minimales Risiko (Rechtschreib- und Übersetzungs-KI)​
Moodle KI-Plugins (z.B. für automatisiertes Feedback)	individualisiertes Feedback, Lernstandsanalyse, Begleitung bei Lernprozessen	Lehrkräfte, Schüler*innen	Hochrisiko (bei automatisierter Leistungsbewertung)​
Knowunity School Bot	KI-basierte Lernunterstützung, Zusammenfassungen, Selbsttests	Schüler*innen	begrenztes Risiko (Transparenz gegeben, keine Entscheidungen)​
Quizlet AI Assistant	Generierung von Übungsaufgaben und Lernkarten, automatische Korrekturvorschläge	Schüler*innen, Lehrkräfte	begrenztes Risiko (keine Bewertungen mit Abschluss-/ Versetzungsrelevanz)​
Edpuzzle (DSGVO-konform genutzt)	KI-gestützte Videoauswertung, personalisierte Übungsfragen in Videos	Schüler*innen, Lehrkräfte	begrenztes Risiko (wenn keine automatische Note vergeben wird)​
Microsoft Copilot (Education-Version, DSGVO-konform)	Texterstellung, Recherche, Unterrichtsvorbereitung, individuelle Hilfestellung	Lehrkräfte, Schüler*innen	begrenztes Risiko (Einsatz als Assistenz, nicht zur Bewertung)​
Antolin KI-Leseempfehlung	KI-basierte Buchtipps, Motivation für Leseförderung, altersgerechte Inhalte	Schüler*innen	minimales Risiko (nur Empfehlungen, keine Bewertungen)​
SchulKi	Lernplattform, KI-basierte Aufgabenstellung, Schüler*innenhilfe bei Texten, Bildanalyse, automatisiertes Feedback	Lehrkräfte, Schüler*innen	minimales Risiko (EU-Server, keine personenbezogenen Daten)
Fobizz KI-Tools	Unterrichtsvorbereitung, individuelle Aufgaben, schulinterne Schulungen	Lehrkräfte	minimales Risiko (keine Schüler*innendaten, strenge Transparenz, DSGVO-konform)
Brockhaus EdSnacks (Brockhaus Schulportal)	KI-generierte Lernimpulse, Quizze, Erklärungen	Lehrkräfte, Schüler*innen	minimales Risiko (EU-Server, Einsatz als Assistenz, keine Bewertung)

Recht und Datenschutz: EU-AI-Act und seine Auswirkungen auf den Einsatz von KI im Unterricht

Der EU-AI-Act ist die erste umfassende Gesetzgebung zur Regulierung von künstlicher Intelligenz auf europäischer Ebene. Für pädagogische Zwecke sind aus dem EU-AI-Act besonders folgende Punkte relevant: 

1. Die Nutzung von KI-Tools im schulischen Umfeld wird als „hohes Risiko“ eingestuft, da hier potenziell Daten von Minderjährigen verarbeitet werden.
2. Strikt verboten sind automatisierte Bewertungen ohne menschliche Supervision und Systeme, die die emotionalen Zustände der Schüler*innen auswerten.
3. Der Einsatz von KI-Tools an Schulen muss durch die Lehrkräfte transparent und nachvollziehbar gekennzeichnet werden.
4. Schulen und Weiterbildungsanbieter*innen sind verpflichtet, Lehrkräfte, Mitarbeitende und Schüler*innen zur sachgerechten Nutzung von KI zu qualifizieren.
5. KI-Tools dürfen nur DSGVO-konform eingesetzt werden. Sind personalisierte Systeme im Einsatz, müssen diese strenge Regeln zur Datenspeicherung sowie zu den Rechten Betroffener erfüllen, insbesondere der Schüler*innen.

Für Anwendungen mit einer Hochrisiko-Einstufung müssen ergänzend Risikoanalysen, Notfallpläne und Meldeverfahren implementiert werden. 

Eine Hochrisiko-Einstufung betrifft vor allem:

• Systeme zur automatisierten Leistungsbewertung (Notenvergabe, Zulassungsentscheidung)
• Systeme zur Überwachung von Prüfungen (Aufmerksamkeitstracking, automatisierte Identifikation von Betrugsversuchen)
• Analyse/Überwachung von Schüler*innenverhalten im (Online-)Unterricht (Engagement-Tracking, Gesichtserkennung zur Anwesenheitskontrolle)
• Systeme, die Vorhersagen zu Leistungen und Bildungswegen treffen oder Prognosen für Förderbedarf oder Jahresnoten entwickeln

Die gesamte Verwendung von KI an Schulen unterliegt der Dokumentations- und Evaluationspflicht.

Der AI-Act nimmt europäische Schulen und Weiterbildungsanbieter*innen in die Pflicht, KI als Chance zu begreifen und alle Beteiligten im verantwortungsvollen Einsatz weiterzubilden.

Die Kultusministerkonferenz (KMK) einigte sich 2024 auf eine länderübergreifende Empfehlung dazu, wie KI im Unterricht eingesetzt werden kann.
In dieser Empfehlung sind datenschutzrechtliche Grenzen, Risiken sowie Chancen der KI-Nutzung im Unterricht formuliert. Die Kultusministerkonferenz leitet daraus direkte Handlungsempfehlungen für die Unterrichtsgestaltung und für die fachliche Aus- und Weiterbildung von Lehrkräften ab.
Zusätzlich haben alle Bundesländer eigene Richtlinien veröffentlicht, die in den jeweiligen Schulgemeinden umzusetzen sind.
 

Übersicht der KI-Regelungen je Bundesland 

• Nordrhein-Westfalen: Bereits seit 2023 eigener Handlungsleitfaden zu textgenerierender KI; federführend in der Entwicklung der KMK-Empfehlung. Besondere Berücksichtigung von Chancen, Risiken und Professionalisierung der Lehrkräfte. Konkrete Umsetzung gemeinsam mit Schulgemeinden​.
• Bremen, Brandenburg, Hamburg, Hessen, Schleswig-Holstein, Thüringen: Einführung oder Freigabe generativer KI im Klassenzimmer, Systeme dürfen seit 2025 von Lehrkräften und Schüler*innen genutzt werden. Jeweilige Regeln orientieren sich an der KMK-Vorgabe, konkrete Ausgestaltung oft noch im Aufbau.
• Baden-Württemberg, Niedersachsen, Saarland: Bereitstellung von Infos zu Möglichkeiten und Grenzen von KI (z.B. ChatGPT), häufig über Fortbildungen und schulinterne Regelungen. Klare Handreichungen finden sich selten, Fokus auf Einzelfallentscheidung.
• Mecklenburg-Vorpommern: Bietet explizite KI-Plattform für Lehrkräfte, um KI im Unterricht auszuprobieren. Förderung von Kompetenzaufbau und Praxiserfahrung mit KI​.
• Bayern: Allgemeine Leitlinien zum „rechtssicheren Umgang“ mit KI, Orientierung an europäischem AI-Act und DSGVO. Pflicht zur Schulung von Lehrkräften in KI-Systemen bis Februar 2025​.

Checkliste für rechtliche Anforderungen an KI-Chatbots für den Unterricht

• rechtliche Regelungen an der Schule
• Mindestalter der Nutzer*innen
• personenbezogene Daten (Name, E-Mail-Adresse oder weiteres)
• Trennung von Trainings- und Nutzungsdaten ist möglich/kann vertraglich festgelegt werden (Grundsatz Datenminimierung Art. 5 DSGVO)
• Hosting und Datenverarbeitung in Europa
• Admin-Zugänge für detaillierte Konfiguration
• Transparenz über Speicherdauer, Löschroutinen und verwendete Trainingsdaten
• Admin-Zugänge für Sicherheitsstufen/Jugendschutz

Wie sieht die didaktische Arbeit mit Chatbots im Unterricht ganz konkret aus?

Szenario 1: Biologie-Unterricht

• Lehrkraft fordert Schüler*innen auf, mithilfe einer Bild-KI Pflanzen oder Tiere zur aktuellen Unterrichtseinheit zu visualisieren.
• Schüler*innen nutzen die KI, um erläuternde Bilder und Beschreibungen zu erstellen.
• Sie prüfen anhand von (Lehrbuch-)Quellen, wie akkurat die Abbildungen sind.
• Lehrer*innen moderieren eine Diskussion über die Grenzen der KI und die Bedeutung von kritischem Umgang mit angebotenen Quellen.

Szenario 2: Mathematik-Unterricht

• Lehrkraft generiert passgenaue KI-generierte Übungsaufgaben zu aktuellen Themen (z.B. Bruchrechnung) in unterschiedlichen Schwierigkeitsstufen.
• Schüler*innen lösen die Aufgaben digital und erhalten automatisches, mängelorientiertes Feedback.
• Lehrer*innen werten die Ergebnisse aus und planen bei Bedarf individuelle Fördermaßnahmen basierend auf den KI-gestützten Auswertungen.

Szenario 3: Deutsch-Unterricht

• Lehrkraft erstellt mit KI-Textgenerator eine Schreibaufgabe (z.B. einen Aufsatz zum Thema „Umweltschutz“).
• Schüler*innen formulieren eigene Texte im KI-Chat, der aktive Vorschläge zur Stilverbesserung und Struktur gibt.
• KI prüft Rechtschreibung und Grammatik und gibt individuelle Hinweise zurück.
• Lehrer*innen werten Beiträge mit automatisch generierten Zusammenfassungen und Feedback aus und besprechen sie anschließend im Unterricht.

Szenario 4: Englisch-Unterricht

• Lehrkraft nutzt die KI-Assistenz, um passende Vokabelübungen und kurze Texte für die Klasse zu generieren.
• Schüler*innen üben mit dem KI-gestützten Chatbot die Übersetzung und Sprechübungen, erhalten dazu sofortiges und individuelles Feedback.
• Lehrer*innen stellen ergänzende Aufgaben im Lernmanagementsystem bereit und überwachen die Lernfortschritte.

Szenario 5: Kunst-Unterricht

• Lehrkraft stellt einige KI-generierte Bilder einer bestimmten Epoche gemeinsam mit Originalbildern vor.
• Schüler*innen analysieren, welche Bilder Originale sind und welche von einer KI-generiert zu sein scheinen.
• Im Dialog erarbeiten Lehr*innen und Schüler*innen, wie sich KI-generierte Bilder erkennen lassen und was das Urheberrecht sowie die künstlerische Schöpfungshöhe bedeuten.

Einfluss von KI auf Unterricht

Die Kultusministerkonferenz empfiehlt Lehrkräften:

• Chatbots und KI-Assistenzen auf technischer Basis verstehen zu lernen
• Chancen und Risiken für den Einsatz im Unterricht abzuwägen

Das gilt natürlich sowohl für die Verwendung im Unterricht, um Arbeitsmaterialien zu individualisieren und interaktive Formate durch Audio- und Videosequenzen rechtlich sicher einsetzen zu können. Es gilt aber auch für den zeitsparenden Einsatz von KI-Chatbots, um beispielsweise Lernstandserhebungen zu formulieren und Schüler*innen individualisiertes Feedback zu gelösten Aufgaben zu geben. 

„Herausforderungen im Einsatz von KI-Anwendungen als Korrekturassistenz liegen u.a. in Datenschutz und Datensicherheit, fehlender Transparenz und Nachvollziehbarkeit der Entscheidungsfindung sowie der Gefahr von Diskriminierung durch Bias.“ (Empfehlung KMK 2024, S. 6)

KI-Schulportale und Anwendungen über MS Teams mit Schullizenzen lassen sich in der Regel datenschutzrechtlich vertretbar nutzen.

KI für Schüler*innen

KI kann die eigenverantwortliche Beschäftigung mit Lernfeldern nicht ersetzen. Sie kann aber viele Prozesse erleichtern, wenn sie verantwortungsvoll und bewusst eingesetzt wird.

Tipps für den Einsatz von KI für Schüler*innen:

1. möglichst schuleigene Tools nutzen (Datenschutz, Sicherheit)
2. Chatbots per Prompt zu konstruktiver Kritik auffordern & Feedbackschleifen einbauen
3. Ergebnisse nachprüfen (Quellenrecherche) und vertrauenswürdige Quellen per Prompt einbinden
4. Chatverläufe löschen/Speicherung unterbinden, um Halluzinationen und vorurteilsbehaftete Ergebnisse zu minimieren

Bewertung, Leistung und Fairness: Umgang mit Prüfungsleistungen

In der länderübergreifenden Empfehlung der Kultusministerkonferenz wird sich klar für einen konstruktiven Umgang mit Prüfungsleistungen ausgesprochen, die mit Hilfe von KI-Tools ganz oder teilweise erbracht werden. 

„Die Länder sind sich darin einig, dass ein allgemeines Verbot von KI zur Bearbeitung von in häuslicher Arbeit anzufertigenden Produkten – unter Berücksichtigung der Lebenswelt der Schülerinnen und Schüler – weder zielführend und wünschenswert, noch durchhaltbar ist.“ (Empfehlung KMK, 2024, S. 6)

Für Lehrkräfte bedeutet das bei der Bewertung:

1. Absprachen mit Schüler*innen treffen, wie der Einsatz von KI in häuslichen Arbeiten zu kennzeichnen ist
2. neue Leistungsbewertungsformate entwickeln, die das Wissen adäquat abfragen

Als Schüler*in stehen Sie dagegen vor der Herausforderung, den Lernprozess durch KI optimieren zu können, aber eben auch genau abwägen zu müssen, ob

• Chatbots die Aufgabe gleich komplett übernehmen, sodass der Lerneffekt beim Erstellen einer Präsentation, bei der Gedichtanalyse oder bei der Einordnung eines physikalischen Sachverhalts entfällt
• die Verfeinerung von Prompts tatsächlich Zeit spart, um Aufgaben zu bearbeiten

KI-Einsatz kennzeichnen

Für umfangreiche Arbeiten wie Hausarbeiten, Studienarbeiten oder auch Präsentationen wird in der Regel ein Quellenverzeichnis angelegt. In dieser Sektion können Sie auch die Prompt-Historie unterbringen, um den Einsatz von KI-Tools als unterstützendes Hilfsmittel zu kennzeichnen. 

Für studentische und wissenschaftliche Arbeiten enthält ein Prompt-Protokoll folgendes:

1. Name des Tools (Beispiel: ChatGPT)
2. Verwendungszweck (Beispiel: Gliederungserstellung)
3. betroffene Teile der Arbeit (Beispiel: Gliederung und Struktur)
4. Art der Verwendung (Beispiel: Prompt zur Gliederungserstellung des Themas)

Im eigentlichen Prompt-Protokoll werden alle Prompts samt Zeitstempel aufgelistet.

Für den schulischen Bereich genügt eine verkürzte Variante, in der kurz das Tool und der Verwendungszweck sowie die betroffenen Teile der Arbeit benannt werden.

Mit KI erstelltes Bildmaterial wird durch den Zusatz „KI-generiert“ markiert.

Medienkompetenz vermitteln: Deepfakes, Urheberrecht und Halluzinationen

Wenn die Nachrichten gefälscht sind: Deepfakes

Als Deepfakes werden täuschend echte Audio- und Videomanipulationen bezeichnet, die vollständig mit meist frei im Internet verfügbaren Deepfake-Generatoren erzeugt werden. Anhand von authentischem Ton- und/oder Bildmaterial erzeugt das Tool dann Daten, bei denen Mimik, Gestik, Tonfall und Wortwahl absolut echt wirken – obwohl alles daran per KI erzeugt wurde.

Beispiel: Der CEO eines Energieunternehmens in Großbritannien wurde per Telefon vom Mutterkonzern aus Deutschland angewiesen, eine sechsstellige Summe zu überweisen. Wie sich später herausstellte, war das Telefonat ein Deepfake, die Tonspur komplett künstlich erzeugt und Tonfall sowie Wording so überzeugend, dass der britische CEO das Telefonat für absolut echt hielt. 

Sie können Deepfakes insbesondere im Politik- und Gesellschaftsunterricht sowie in Ethik thematisieren. Wichtige Diskussionspunkte sind unter anderem: 

• Deepfakes existieren und können theoretisch jeden betreffen.
• Entsprechende Tools sind frei benutzbar und unterliegen keiner Altersbeschränkung.
• Deepfakes sind straf- und privatrechtlich verfolgbar.
• Die persönlichen Konsequenzen für Betroffene wiegen schwer, insbesondere bei sexualisierten Deepfakes.

Die Bundeszentrale für politische Bildung bietet zur strafrechtlichen Komponente einen umfassenden Leitfaden an, der insbesondere für Fächer wie politische Bildung sowie Ethik als Basis für die Unterrichtsgestaltung dienen kann.

Kunst, Kultur und die KI: Urheberrechte

Generative KI-Assistenten trainieren anhand von bereits existierenden Daten ihre Fähigkeit, Kunstwerke aller Art zu erschaffen. Unter Umständen werden dabei die Rechte der ursprünglichen Urheber*innen verletzt, weil sie zu Trainingszwecken und ohne passende Nutzungsrechte verwendet werden.

KI-genierte Bilder oder Lieder gelten grundsätzlich nicht als urheberrechtlich schützenswert. 

Für das schulische Umfeld bedeutet das:

1. KI-Assistenten, die urheberrechtlich geschützte Werke zu Trainingszwecken ohne Nutzungsrechte verwenden, sind grundsätzlich kritisch anzusehen.
2. Mithilfe von generativer KI erstellte Materialien sind nicht urheberrechtlich geschützt.

Im Rahmen des EU AI Acts müssen per generativer KI erstellte Werke ausdrücklich als KI-generiert gekennzeichnet werden.

Das Bundesministerium für Justiz hat eine informative Handreichung erstellt, die die gängigen rechtlichen Fragen zum Urheber*innenrecht im Zusammenhang mit generativer KI beantwortet.

Ursachen für Halluzinationen

1. Verzerrte oder mangelhafte Trainingsdaten: 
   Wird ein KI-Tool zum Erkennen von Hautkrebs lediglich an Fallakten und mit Bildmaterial von Mitteleuropäern mit geringer Melanin-Ausprägung trainiert, werden Fälle mit stärker pigmentierter Haut nicht oder nicht ausreichend zuverlässig erkannt. 
   Rassistische, ethische und rollentypische Auslassungen in der Trainingsphase des Modells verzerren die Datenbasis und beeinflussen, wie der KI-Assistent Antworten vorhersagt.
2. Überanpassung an Nischenthemen:
   Die Menge an Trainingsdaten in Spezial- und Nischenthemen ist begrenzt. Deshalb neigen KI-Assistenzen dazu, einmal erlernte Formulierungen bei Nischenthemen zu reproduzieren, selbst wenn diese im Kontext nicht passend sind. Eine geringe Datenbasis kann die Antwortgenauigkeit beeinträchtigen.

Beispiele für Halluzinationen

• Beleg von Aussagen durch Studien, die nicht existieren
• faktische Fehler bei komplexen Themen (Mathe, Physik)
• Nichtausführung von komplexen Prompts, sodass Teile der Bedingungen für die korrekte Beantwortung einer Frage nicht oder nicht vollständig beantwortet werden 

Übungen für die Praxis

A) Formuliere einen Prompt, bei dem eine aktuell in der Forschung unbestrittene These durch Studien belegt werden soll. Prüfe die von der KI benannten Quellen:

    a. Wird eine (veröffentlichte) Studie genannt oder handelt es sich um Zeitungs- oder Newsmeldungen?
    b. Ist die benannte Studie unter der URL oder unter dem Studiennamen über die Google Suche identifizierbar?

Beispiel-Prompt: Belege mir anhand von fünf wissenschaftlichen Studien, dass die Fotosynthese existiert.

B) Wähle willkürlich eine Zahl wie beispielsweise 34.657 und frage den KI-Assistenten, ob es sich um eine Primzahl handelt. Prüfe das Ergebnis selbst nach.

C) Gib einen komplexen Sachverhalt als Prompt aus und prüfe anhand weiterer Quellen, ob der Fragenkomplex korrekt bearbeitet wurde. 
Beispiel: Welche UN-Botschafterin hat einen Master in Rechtswissenschaften und wurde auf dem afrikanischen Kontinent geboren?

    a. Gibt das Ergebnis eine männliche oder eine weibliche Person aus?
    b. Hat die Personen den erforderlichen Abschluss (Master) im richtigen Studienfeld (Rechtswissenschaften)?
    c. Wurde die Person auf dem afrikanischen Kontinent geboren?
    d. Gibt es diese Person mit diesen drei Spezifikationen überhaupt? 

Fazit

KI-Tools sind für viele Menschen fester Bestandteil des Alltags. Im schulischen Kontext ist es deshalb wichtig, sich umfassend mit den Chancen und Risiken dieser Technologie auseinanderzusetzen, um Kinder und Jugendliche bestmöglich vorzubereiten.

• KI-Tools werden bereits von einem Großteil der Schüler*innen eingesetzt.
• Lehrkräfte können Chatbots verwenden, um individuelle Arbeitsmaterialien schneller zu erstellen, Aufgaben zu korrigieren oder Zusammenfassungen zu erhalten.
• KI-Tools müssen den hohen Standards des EU-AI-Acts genügen, um im schulischen Umfeld zum Einsatz zu kommen.
• Jeder Einsatz sollte genau abwägen, wie Datenverarbeitung und -speicherung erfolgen.
• Automatisierte Bewertungen sowie Tracking und Beurteilung des emotionalen Zustands von Schüler*innen sind strikt untersagt.

Eine optimale Lernumgebung orientiert sich immer an den Bedürfnissen der Lernenden. KI-Tools bieten die Chance, die Lernumgebung noch optimaler zu gestalten.