Mit den steten Weiterentwicklungen im Bereich der Künstlichen Intelligenz und dem Auftreten von immer mehr KI-basierten Anwendungen auch für den schulischen Bereich treten in diesem Zusammenhang zunehmend Fragen hinsichtlich der ordnungsgemäßen Verwendung dieser Tools in der Schule auf.

KI-Anwendungen verarbeiten die Daten im Vergleich zu herkömmlichen digitalen Tools zum Teil auf neuartige Art und Weise. Aus diesem Grund müssen weitere Aspekte hinsichtlich des Einsatzes beachtet werden:

• Die für den Umgang mit Daten geltenden Vorschriften zum Datenschutz und auch aus der KI-Verordnung der EU müssen berücksichtigt werden. Diesbezüglich muss vor allem auf die Eingabe personenbezogener Daten vor allem beim sogenannten Prompting verzichtet werden. Schüler/innen müssen beim Arbeiten mit einem Chat-Bot zwingend darauf hingewiesen werden, keine sensiblen Aspekte, wie Name, Geburtsdatum, Wohnort, etc. dort einzugeben.
• Zudem sollte es vermieden werden, bei der Registrierung für KI-Tools personenbezogene Daten zu verwenden. Dies gelingt dann, wenn eine Registrierung nicht notwendig ist oder bei diesem Prozess keine personenbezogenen IP- bzw. Mailadressen erfasst werden. Funktionspostfachs-Mail-Adressen (info@...) sind hier zu bevorzugen.
• Schüler/innen und Lehrkräfte müssen die Funktionsweise der verwendeten künstlichen Intelligenz kennen und sind in diesem Kontext zu einer verantwortungsvollen Nutzung anzuhalten.
• Weiter sind die Nutzungsbedingungen für die herangezogene KI-Anwendung adressatengerecht zu formulieren. Vor allem bei jüngeren Schülern muss hier besondere Rücksicht genommen werden.

Für Dienststellen und Beschäftigte der öffentlichen Verwaltung gibt es bereits Leitfäden für den Einsatz von künstlicher Intelligenz vom Finanz- und Heimatministerium. Die vollständige Darstellung würde den Rahmen hier sprengen, Sie können die Vollversion auf der Webseite des BLLV Oberbayern abrufen.

Die drei wichtigsten Aspekte daraus sind ergänzend zu den oben vorgestellten Punkten im Folgenden dargestellt:

1. Für den Dienst also auch für die Unterrichtsvorbereitung und den Unterricht sind ausschließlich dienstlich bereitgestellte Anwendungen zu verwenden, auch wenn diese im Internet frei zugänglich wären. Diese Freigabe fällt den Schulleitungen zu und sollte in Zusammenarbeit mit dem Datenschutzbeauftragten und dem Berater digitale Bildung des Landkreises erfolgen. Über Bayern Cloud Schule findet man unter VIDIS bereits einige Angebote, diese sind auf bestimmte rechtliche und technische Aspekte hin geprüft, ersetzen den Vorort-Prüfprozess allerdings nicht.
2. Von KI-Tools generierte Inhalte müssen immer von dem dafür Verantwortlichen geprüft werden, da entsprechende Informationen frei erfunden oder falsch verknüpft sein können. Die Prüfung muss vor allem auf die Verletzung von Urheberrechten und Verstöße gegen datenschutzrechtliche Bestimmungen erfolgen.
3. Sollten versehentlich doch personenbezogene Daten über einen Prompt oder beim Hochladen einer Datei in eine bereitgestellte KI-Anwendung gelangt sein, ist umgehend der Datenschutzbeauftragte des Landkreises zur Beratung weiterer Schritte hinzuzuziehen.

KI-Anwendungen können positive Auswirkungen auf Bildungsprozesse mit sich bringen, sind allerdings v.a. hinsichtlich des Datenschutzes vorsichtig und sensibel einzusetzen. Um am Puls der Zeit zu bleiben und den Kindern und Jugendlichen an unseren Schulen den sinnvollen und richtigen Umgang mit diesen neuen digitalen Anwendungen beizubringen, dürfen wir es allerdings nicht versäumen diese Entwicklung von schulischer Seite zu begleiten. Bei Fragen stehen Ihnen auch die Experten des BLLV zur Seite.

Marion Ostermeier

Quellen:
Bayerische Staatsregierung der Finanzen und für Heimat (2024): Künstliche Intelligenz - Leitfaden für Beschäftigte

AK Bildung in der digitalen Welt – Allgemeinbildung in: mebis -Landesmedienzentrum Bayern (2023). KI/Künstliche Intelligenz ein Thema für die Schule. Verfügbar unter: https://mebis.bycs.de/beitrag/ki-thema-fuer-schule (zuletzt aufgerufen am 14.11.2024)