Die Integration von Künstlicher Intelligenz (KI) im Bildungswesen eröffnet viele Möglichkeiten, bringt jedoch auch erhebliche ethische Herausforderungen mit sich. In diesem Blogbeitrag möchte ich die wichtigsten ethischen Fragestellungen aus meiner Lehrerperspektive beleuchten. Vor welchen datenschutzrechtlichen und medienpädagogischen Herausforderungen stehen wir Lehrende? Ein Überblick.

Altersfreigabe: Wer darf KI-Tools nutzen?

Eine zentrale Frage beim Einsatz von KI-Tools in Schulen betrifft die Altersfreigabe. Viele dieser Anwendungen sind nicht für Kinder und Jugendliche gedacht. So richten sich ChatGPT und Microsoft CoPilot ausdrücklich nicht an Kinder unter 13 Jahren, und die Erstellung eines Kontos ist erst ab 18 Jahren möglich, es sei denn, eine Einwilligung der Erziehungsberechtigten liegt vor. Google Gemini hat ein Mindestalter von 18 Jahren für die Nutzung festgelegt.

Einige Plattformen bieten bessere Lösungen für den Schulalltag. Beispiele hierfür sind Fobizz und Schulki.de, die digitale Klassenräume bereitstellen, in denen Schülerinnen und Schüler DSGVO-konform mit KI-Tools arbeiten können, ohne dass eine Registrierung notwendig ist. Die Lehrperson vergibt über die Plattform individuelle Codes an die Schülerinnen und Schüler, die nach einer festgelegten Dauer automatisch gelöscht werden. So kann man einfach und datenschutzkonform mit Sprachmodellen, Bildgeneratoren etc. arbeiten.

Medienpädagogische Herausforderungen

Angesichts der rasanten technologischen Entwicklungen müssen wir uns fragen: Wie können wir sicherstellen, dass unsere Schülerinnen und Schüler nicht nur von den Vorteilen der KI profitieren, sondern auch die damit verbundenen Risiken verstehen? Medienpädagogische Herausforderungen im Zusammenhang mit KI erfordern eine umfassende Bewusstseinsschärfung, um die Komplexität dieser Technologien und ihre Auswirkungen auf das Leben der Jugendlichen zu vermitteln.

Grundlagenwissen: KI 101

Ein erster Schritt in der Medienpädagogik besteht darin, junge Erwachsene für das Thema KI zu sensibilisieren und ihnen zu zeigen, wo KI-Anwendungen in ihrem Alltag bereits eine Rolle spielen. Außerdem müssen sie ein grundlegendes technologisches Verständnis von KI entwickeln, einschließlich der Funktionsweise und der Fachtermini. Es muss zum Beispiel klargestellt werden, dass KI-Systeme auf Algorithmen und statistischen Modellen basieren und keine denkenden Maschinen sind.

Fairness und Inklusion

In weiterer Folge ist die Auseinandersetzung mit den Verzerrungen in KI-Systemen ein wichtiger Schritt zur Förderung einer fairen und inklusiven Technologieentwicklung. Large Language Models wie ChatGPT, Claude, Gemini und Co sind oft mit umfangreichen Datensätzen trainiert, die inhärente Bias enthalten. Diese Bias können dazu führen, dass gesellschaftliche Stereotype und Ungleichheiten reproduziert werden. Dieser Fakt an sich muss zu einer umfassenden gesellschaftlichen Diskussion führen, wie man dieser Beeinträchtigung der Objektivität im Output durch Trainingsdaten entgegenwirken kann. Ein Beispiel hierfür ist der Gender-Data-Gap, der häufig dazu führt, dass Frauen und nichtbinäre Personen in Daten und Algorithmen unterrepräsentiert oder verzerrt dargestellt werden: "Wenn man einer KI im Prompt sagt, dass sie ein Arzt ist, wird sie bessere Ergebnisse liefern, als wenn man ihr sagt, dass sie eine Ärztin ist."

Daher ist es nur logisch, dass die Schülerinnen und Schüler auch lernen, wie diese Bias entstehen und wie sie sich in KI-generierten Inhalten manifestieren können. Ein praktisches Unterrichtsbeispiel könnte die Gegenüberstellung von durch Künstliche Intelligenz erzeugten Bildern und realen Fotos sein, um Stereotype zu identifizieren und zu reflektieren.

Eine neue Dimension der Informationsverzerrung

Das Aufkommen von KI-generierten Nachrichten und Deepfakes hat die Verbreitung von Fake News beschleunigt. Es ist wichtig, dass Jugendliche lernen, die Authentizität von Inhalten zu überprüfen und kritisch zu hinterfragen. Die Analyse von Deepfakes, wie dem bekannten Satirevideo des Medienkünstlers Kurt Fleisch mit Armin Wolf und Herbert Kickl, kann hierbei helfen, ein Bewusstsein für die Risiken und die Notwendigkeit der Faktenüberprüfung zu schaffen. Im Video wird Kickls Körpergröße thematisiert, der Fake-Politiker bezeichnet den Fake-Moderator als "Hanswurst des Mainstreams", "Karikatur eines Journalisten" usw. Damit wird kritisches Denken zu einer der wesentlichen Kompetenzen, die junge Erwachsene im Zeitalter der KI erwerben müssen – neben der Wissenskompetenz: Wer ist Armin Wolf oder Herbert Kickl? Ist die ZiB 2 eine seriöse Nachrichtensendung? Wie realistisch ist es, dass die beiden Herren im Fernsehen in einer so derben Sprache miteinander diskutieren?

Selbstverstärkende Fehler in KI-Modellen

Ein – zugegebenermaßen provokant gewählter – Begriff, der in der Diskussion um KI-Entwicklungen zunehmend an Bedeutung gewinnt, ist "Habsburg AI". Dieses Phänomen beschreibt, wie Sprachmodelle, die auf den Ergebnissen anderer KI-Systeme trainiert werden, zu einem Teufelskreis von Verzerrungen und selbstverstärkenden Fehlern führen können. Der Begriff spielt auf den historischen Inzest der Habsburger-Dynastie an, bei der sich genetische Merkmale über Generationen hinweg verstärkten – oft mit unerwünschten Folgen. Ebenso können KI-Modelle, die auf den Outputs anderer KI-Modelle basieren, zunehmend fehlerhafte und groteske Ergebnisse produzieren. Es ist wichtig, die Schülerinnen und Schülern über diese Risiken aufzuklären, um ein Bewusstsein für die Qualität und Herkunft der Daten zu schaffen, die in der KI-Entwicklung verwendet werden.

Geistiges Eigentum und KI

Ein grundlegendes Verständnis des geistigen Eigentums ist für junge Menschen unerlässlich. Sie sollten wissen, dass KI-generierte Inhalte nicht urheberrechtlich geschützt sind, da das Urheberrecht menschliche Kreativität voraussetzt. Dies unterstreicht die Bedeutung der eigenen Kreativität und der akademischen Integrität bei der Nutzung von KI-Tools.

Cybermobbing 2.0

Das Thema Cybermobbing hat mit dem Aufkommen von KI-gestützten Technologien wie Deepnudes eine alarmierende neue Dimension erreicht und erfordert unsere uneingeschränkte Aufmerksamkeit als Pädagoginnen und Pädagogen. Deepnudes, die harmlose Fotos in Sekundenschnelle in kompromittierende Bilder verwandeln können, stellen eine erhebliche Gefahr für die psychische Gesundheit von Kindern und Jugendlichen dar. Es ist daher von zentraler Bedeutung, dass die potenziellen Gefahren und Auswirkungen solcher Technologien in den Vordergrund des Unterrichts gestellt werden.

Fazit

Die Integration von KI in den Schulalltag bringt vielfältige und komplexe ethische Herausforderungen mit sich. Als Lehrende müssen wir unsere Schülerinnen und Schüler nicht nur technologisch fit machen, sondern sie auch zu kritischen und verantwortungsbewussten Nutzerinnen und Nutzern erziehen. Nur durch selbstbewusste Emanzipation und ein tiefes Verständnis der Chancen und Risiken können sie in der digitalen Zukunft bestehen. (Bernhard Gmeiner, 23.5.2024)