KI verstehen und bewerten: Grundlagen und Risiken im Schulalltag Teil 1/2

Grundlegende Funktionsweise von KI-Systemen

Was ist generative KI?

Generative KI-Systeme wie schulKI sind darauf spezialisiert, neue Inhalte zu erstellen, die den Daten ähneln, mit denen sie trainiert wurden. Im Gegensatz zu älteren KI-Systemen, die nur auf bestimmte Fragen antworten konnten, können moderne Large Language Models (LLMs) Texte verstehen und erzeugen, die menschenähnlich wirken.

zum Erklärvideo

Wie verarbeitet KI Eingaben?

KI funktioniert in mehreren Schritten:

  1. Eingabeverarbeitung: Wenn du eine Frage oder Aufgabe eingibt, zerlegt das System deinen Text in kleine Einheiten (Tokens).
  2. Musterverständnis: Das KI-Modell erkennt Muster in deiner Anfrage und verknüpft diese mit seinem umfangreichen Trainingswissen.
  3. Generierung: KI erzeugt daraufhin eine Antwort, indem es Wort für Wort den wahrscheinlichsten nächsten Textteil berechnet.
  4. Sicherheitsüberprüfung: Bevor die Antwort angezeigt wird, durchläuft sie Filter, die problematische oder ungeeignete Inhalte erkennen sollen.

Übung: Als erste kleine Übung sollst du selbst einmal mit dem hilfreichen Assistenten chatten. Vielleicht hast du schon eine Nachricht im Kopf die du gern analysiert haben möchtest. Ansonsten kannst du einfach die folgende Nachricht kopieren, um zu sehen, wie Nachrichten aufgeteilt werden: „Erkläre mir deine Arbeitsweise. Zeige dabei auf, wie du diese Beispielnachricht in Token unterteilst.“

Warum macht KI Fehler?

KI Systeme, wie schulKI ist, machen Fehler. Diese können aus mehreren Gründen gemacht werden:

  • Statistische Wahrscheinlichkeiten: KI trifft Vorhersagen auf Basis von Wahrscheinlichkeiten, nicht auf Basis von Verständnis oder logischem Denken.
  • Grenzen des Trainingswissens: KI kann nur Inhalte wiedergeben, die in ihren Trainingsdaten vorkamen.
  • Kein Faktenwissen: KI hat kein Verständnis von Wahrheit oder Fakten, sondern gibt häufige sprachliche Muster wieder.
  • "Halluzinationen": KI kann überzeugende, aber falsche Informationen generieren, wenn diese gleich (un)wahrscheinlich sind.
  • Kein echtes Weltverständnis: Die KI verfügt nicht über ein zusammenhängendes Modell der Welt, sondern gibt Inhalte wieder, die in ihren Trainingsdaten häufig auftraten. Diese statistische Herangehensweise führt zwangsläufig zu Ungenauigkeiten. Die KI kann letztlich nur Variationen von bereits bekannten Inhalten wiedergeben und keine tatsächlich neuen Fragen beantworten, da sie kein echtes Verständnis besitzt.

Es ist wichtig zu verstehen, dass bei dieser Art von KI-Systemen Fehler zwar minimiert werden, aber mathematische gesehen immer ein wichtiger Bestandteil bleiben. Würde man keine Fehler erlauben, könnte eine solche KI nichts neues erschaffen.

Baue einen möglichst hohen Turm aus einem Ei, Salatblatt, Leiter, Bowlingkugel, Stuhl und Tuch.

Um einen möglichst hohen Turm aus den genannten Gegenständen – Ei, Salatblatt, Leiter, Bowlingkugel, Stuhl und Tuch – zu bauen, sollte man die physikalischen Eigenschaften und das Gewicht der Materialien berücksichtigen. Hier ist ein Vorschlag, wie der Turm aufgebaut werden könnte:

  1. Leiter: Die Leiter bildet die Basis des Turms. Sie ist stabil und bietet Höhe.

  2. Stuhl: Den Stuhl könntest du auf die Leiter stellen. Achte darauf, dass der Stuhl stabil genug ist, um das Gewicht der Bowlingkugel und der anderen Gegenstände zu tragen.

  3. Bowlingkugel: Platziere die Bowlingkugel auf dem Stuhl. Sie wird zwar etwas Gewicht hinzufügen, kann jedoch aufgrund ihrer Form stabil auf dem Stuhl liegen.

  4. Tuch: Du könntest das Tuch verwenden, um das Ei darauf zu platzieren, um es zu sichern und zu verhindern, dass es rollt. Das Tuch kann auf die Bowlingkugel oder den Stuhl gelegt werden, je nachdem, wo es stabiler ist.

  5. Ei: Schließlich lege das Ei vorsichtig auf das Tuch. Hier ist besondere Vorsicht geboten, um zu verhindern, dass das Ei zerbricht.

  6. Salatblatt: Das Salatblatt kann als dekorative Spitze des Turms eingesetzt werden. Es könnte auch helfen, das Ei zu stabilisieren, indem du es leicht um das Ei wickelst.

Sicherheitsüberlegungen:

  • Achte darauf, dass der Turm stabil ist, sodass er nicht umkippt.
  • Teste die Stabilität jedes Elements, bevor du das nächste hinzufügst.
  • Dies ist eine theoretische Konstruktion. In der Praxis könnte es schwierig sein, all diese Gegenstände in der beschriebenen Weise zu stapeln.

Viel Spaß beim Bauen deines Turms!

https://5ki.eu/chats/86fd4aae-d6b0-44aa-a3bc-d14286f479c2

Da KI-Systeme Fehler machen können, kategorisiert der AI-Act KI Systeme in unterschiedliche Risikoklassen. Auf diese Kategorisierung gehen wir im nächsten Abschnitt ein. Bevor du aber weiterklickst, gehe doch die nachfolgende Übung durch und erkenne, welche möglichen Fehler KI machen kann. 

Üben

Ein paar Beispiel-Prompts, die die Fehler der KI verdeutlichen können:

  • möglichst hohen Turm aus verrückten aber ungefährlichen Gegenständen bauen lassen (z.B. Leiter, Stuhl, Salatblatt, Bowlingkugel, Ei)
  • Verdeutliche Parallelen zwischen Schiller und seinen Einfluss auf TikTok

Probiere diese Prompts bei dem hilfreichen Assistenten aus und beurteile die generierten Antworten.

Einleitung: Künstliche Intelligenz und der EU AI Act: Die wichtigsten Grundlagen
KI verstehen und bewerten: Grundlagen und Risiken im Schulalltag Teil 2/2