KI und Schule: Chancen, Herausforderungen und Verantwortung Teil 2/2

Im zweiten Teil des ersten Fortbildungskapitels hast du bereits gelernt, dass der AI-Act einige Systeme mit inakzeptablem Risiko verbietet. In diesem Teil wird das nun aufgegriffen und wir möchten uns mit weiteren Herausforderungen und dabei insbesondere mit verbotenen Praktiken im Schulkontext vertraut machen.

Vom AI Act verbotene Praktiken im Schulkontext

Darf KI Schülerleistungen bewerten? Diese Frage beschäftigt viele Lehrkräfte. Gemäß der KI-Verordnung können Bewertungssysteme als Hochrisiko-Anwendungen eingestuft werden. Das bedeutet: KI darf bei der Bewertung unterstützen, aber die finale Entscheidung über Noten und Beurteilungen muss immer bei der Lehrkraft bleiben. Schulen müssen gewährleisten, dass KI-unterstützte Entscheidungen fair, transparent und nachvollziehbar sind.

"Hochrisiko-KI" bezieht sich nicht auf eine bestimmte Bauweise oder Technologie, sondern auf den konkreten Verwendungszweck eines KI-Systems. Der Anhang III der KI-Verordnung definiert präzise, welche Anwendungen in diese Kategorie fallen. Wichtig zu wissen: Selbst wenn ein System zunächst als Hochrisiko eingestuft wird, kann diese Klassifizierung unter bestimmten Bedingungen angepasst werden. Gemäß Art. 6 Abs. 3 Unterabsatz 2 der KI-VO können angemessene Sicherheitsmaßnahmen – wie etwa die Implementierung von Transparenzmechanismen und die Sicherstellung menschlicher Letztentscheidung – dazu führen, dass die Risikoeinstufung herabgesetzt wird.

Somit gilt die Aufgabenvorkontrolle von schulKI nicht als Hochrisiko, da sie keine Noten gibt sondern nur Feedback erstellt. Wir betonen, dass die Entscheidung immer am Ende durch pädagogisches Personal zu überprüfen ist.

Aufgabenvorkontrolle bei schulKI mit automatisierter Bewertung für Feedback für Schüler:innen

Wie verändert der AI Act die Nutzung von KI im Bildungsbereich?

Der EU AI Act schafft einen klaren rechtlichen Rahmen für den Einsatz von KI in Schulen. Er definiert Verantwortlichkeiten und setzt Grenzen, die den Schutz von Grundrechten gewährleisten sollen. Für Lehrkräfte und Schulen bedeutet dies:

Risikobasierter Ansatz: KI-Anwendungen werden nach Risikostufen bewertet und reguliert
Transparenzpflichten: Chatbots und ähnliche Systeme müssen klar als KI erkennbar sein
Menschliche Aufsicht: Bei Hochrisiko-Anwendungen bleibt die letzte Entscheidung beim Menschen
Datenschutz: Besondere Vorsicht beim Umgang mit personenbezogenen Daten von Schüler:innen

Diese Regeln schaffen Klarheit und ermöglichen einen verantwortungsvollen Einsatz von KI im Bildungsbereich, der die Rechte aller Beteiligten schützt und gleichzeitig innovative Lehr- und Lernmethoden fördert.

Zwischenfazit 2/3

Den zweiten Teil der Fortbildung hast du jetzt auch erfolgreich absolviert. Dabei hast du

Gelernt, welche Chancen der Einsatz von KI in der Schule bringen kann,
Gelernt, wie KI die Rolle der Lehrkraft verändert und,
Den Einsatz von KI unter ethischen Blickpunkten analysiert.

Im letzten Abschnitt dieser Fortbildung, gehen wir intensiver auf die Anwendungsbereiche von schulKI ein. Hier hast du noch mehr Möglichkeiten, die verschiedenen Funktionen von schulKI auszuprobieren.