KI in der Ausbildung: Ein neuer rechtlicher Rahmen

Künstliche Intelligenz hält mit hohem Tempo Einzug in Betriebe, Pflegeschulen und Bildungszentren. Ob bei der Erstellung von Lernmaterialien, der individuellen Begleitung von Auszubildenden oder der Prüfungsvorbereitung: Digitale Assistenten bieten erhebliche Entlastung für Ausbilder und Lehrkräfte. Gleichzeitig entsteht durch neue europäische Vorgaben der Bedarf an Orientierung. Mit der Verordnung (EU) 2024/1689 hat die Europäische Union harmonisierte Vorschriften für künstliche Intelligenz beschlossen, die auch als AI Act bekannt sind^[1].

Der Bildungsbereich steht dabei besonders im Fokus des Gesetzgebers. Der europäische Rechtsrahmen stuft Lernumgebungen als sensibel ein, weil Entscheidungen über Bildungswege und Leistungsbeurteilungen die persönliche Entwicklung und den beruflichen Werdegang junger Menschen unmittelbar beeinflussen. Für Ausbildungsleiter, Personalleitungen und Träger beruflicher Bildung bedeutet dies jedoch nicht, dass moderne KI-Werkzeuge verbannt werden müssen. Entscheidend ist vielmehr das genaue Verständnis darüber, wie ein System eingesetzt wird.

Hinweis zur Einordnung: Dieser Beitrag bietet eine sachliche Orientierung für die Praxis und stellt keine Rechtsberatung dar. Da die rechtliche Bewertung von der konkreten technischen Ausgestaltung und dem Verwendungszweck abhängt, ist die Einstufung eines Systems stets Gegenstand einer individuellen Einzelfallprüfung.

• Rechtliche Grundlage: Verordnung (EU) 2024/1689 (KI-Verordnung / AI Act)
• Regulierungsansatz: Risikobasierte Einstufung nach konkretem Einsatzzweck
• Fokusbereich: Besondere Sorgfaltspflichten bei bildungsrelevanten Entscheidungen

Die zentrale Unterscheidung: Lernen vs. Bewerten

Im Zentrum der KI-Verordnung Bildung steht ein risikobasierter Ansatz. Nicht jede Software, die Algorithmen oder generative Sprachmodelle nutzt, fällt automatisch unter strenge Auflagen. Für die betriebliche Praxis existiert eine klare Trennlinie: KI, die Lernende beim Verstehen, Wiederholen und Üben unterstützt, unterliegt völlig anderen Maßstäben als Systeme, die Leistungen bewerten oder Zugänge steuern.

Einstufung nach Anhang III Nummer 3 der KI-Verordnung

In Anhang III Nummer 3 stuft der AI Act Ausbildung bestimmte Anwendungsfälle im Bereich der allgemeinen und beruflichen Bildung als Hochrisiko ein^[2]. Als Hochrisiko-KI gelten Systeme, die für folgende Zwecke bestimmt sind:

• Bestimmung des Zugangs, der Zulassung oder der Zuweisung von Personen zu Einrichtungen der allgemeinen und beruflichen Bildung
• Bewertung von Lernergebnissen von Personen in Bildungs- und Ausbildungseinrichtungen, einschließlich Systemen zur Steuerung des Lernprozesses
• Bewertung des angemessenen Bildungsniveaus, das eine Person erhält oder zu dem sie Zugang erhalten sollte
• Überwachung und Erkennung von unzulässigem Verhalten von Lernenden während Prüfungen

Reine Lernassistenten fallen nicht unter diese Hochrisiko-Kategorien. Ein KI-Tool, das Auszubildenden komplexe Fachthemen in einfacher Sprache erklärt, zusätzliche Übungsaufgaben generiert oder Karteikarten erstellt, trifft weder verbindliche Notenentscheidungen noch überwacht es die Prüflinge. Die Einstufung als Hochrisiko KI Berufsbildung greift erst dann, wenn das System verbindliche Bewertungen vornimmt, Selektionsentscheidungen trifft oder Prüfungsaufsichten automatisiert durchführt.

Beispiele aus der Praxis: Wo das Risiko steigt

Um die regulatorischen Vorgaben im Ausbildungsalltag greifbar zu machen, hilft ein Blick auf konkrete Nutzungsszenarien. Der Unterschied zwischen unbedenklicher Lernunterstützung und regulierter Prüfungsbewertung lässt sich anhand typischer betrieblicher Situationen verdeutlichen.

Vorbereitung vs. Reale Prüfungssituation

Wenn Auszubildende eine Prüfungssimulation nutzen, um ihren Wissensstand eigenständig zu überprüfen und Wissenslücken aufzudecken, dient dies der Prüfungsvorbereitung. Eine solche Feedback-Schleife hilft beim Lernen und greift nicht in die Rechtsstellung der Lernenden ein. Wenn Betriebe digitale Prüfungsfragen erstellen, um den Wissenstransfer zu fördern, bleibt dies ein didaktisches Instrument.

Völlig anders verhält es sich, wenn dieselbe Technologie in einer echten Zwischen- oder Abschlussprüfung eingesetzt wird, um Freitextantworten ohne menschliche Nachprüfung mit Noten zu versehen, oder wenn Proctoring-Software Blickbewegungen und Tastaturanschläge überwacht, um Täuschungsversuche festzustellen. In diesem Moment greift Anhang III Nummer 3, da die Software eine Kontroll- und Bewertungsfunktion übernimmt.

Hochrisiko-KI: Welche Pflichten auf Betreiber zukommen

Erfüllt ein System die Kriterien einer Hochrisiko-Kategorie nach Anhang III und greift keine Ausnahmeregelung nach Artikel 6 Absatz 3^[3], greifen die umfassenden Anforderungen der Artikel 8 bis 15 der Verordnung (EU) 2024/1689^[4].

Die Kernanforderungen der Artikel 8 bis 15

Für Hochrisiko-Systeme definiert der Gesetzgeber strenge Schutzmechanismen, die vor der Inbetriebnahme nachgewiesen werden müssen:

• Risikomanagementsystem (Art. 9): Kontinuierliche Identifikation, Analyse und Minderung von Risiken über den gesamten Lebenszyklus.
• Daten-Governance (Art. 10): Verwendung von Trainings- und Testdatensätzen mit hoher Datenqualität zur Vermeidung von Verzerrungen und Diskriminierung.
• Technische Dokumentation (Art. 11): Lückenloser Nachweis der Funktionsweise und Konformität für Aufsichtsbehörden.
• Menschliche Aufsicht (Art. 14): Technische Vorkehrungen, die es natürlichen Personen ermöglichen, das System wirksam zu überwachen und Entscheidungen zu korrigieren.
• Genauigkeit, Robustheit und Cybersicherheit (Art. 15): Schutz gegen Manipulationen, Systemausfälle und fehlerhafte Ausgaben.

Diese Qualitäts- und Nachweispflichten verdeutlichen, dass Hochrisiko-Systeme einer systematischen Konformitätsbewertung unterliegen, bevor sie in der Praxis eingesetzt werden dürfen.

Rollenverteilung: Anbieter vs. Betreiber

Für Ausbildungsbetriebe, Pflegeschulen und Bildungsträger ist die Unterscheidung zwischen Anbietern (Providern) und Betreibern (Deployern) zentral. In den allermeisten Fällen entwickeln Betriebe ihre Software nicht selbst, sondern lizenzieren bestehende Lösungen am Markt. Sie agieren damit rechtlich als Betreiber. Während die primäre Pflicht zur technischen Dokumentation und Konformitätsbewertung beim Softwarehersteller liegt, müssen Betreiber sicherstellen, dass die KI gemäß der Betriebsanleitung genutzt, qualifiziert beaufsichtigt und bei Auffälligkeiten stillgelegt wird.

Der Digital Omnibus: Was der Aufschub praktisch bedeutet

Der europäische Gesetzgeber hat den engen Zeitplan für die Umsetzung der Hochrisiko-Vorgaben nachjustiert. Mit der Verordnung (EU) 2026/1744 (Digital Omnibus), die am 24. Juli 2026 im Amtsblatt veröffentlicht wurde und am 27. Juli 2026 in Kraft trat, wurden wesentliche Fristen für Hochrisiko-Systeme verschoben[5].

Die neuen Fristen im Überblick

Die Geltung der Hochrisiko-Pflichten für eigenständige KI-Systeme nach Anhang III wurde vom ursprünglichen Datum (2. August 2026) auf den 2. Dezember 2027 verschoben. Für KI-Systeme, die als Sicherheitsbauteile in regulierte Produkte nach Anhang I eingebettet sind, wurde die Frist bis zum 2. August 2028 verlängert.

• 2. Dezember 2027: Neue Frist für eigenständige Hochrisiko-KI-Systeme nach Anhang III (darunter Systeme in der Bildung)
• 2. August 2028: Frist für eingebettete KI-Systeme nach Anhang I
• Verordnung (EU) 2026/1744: Rechtsgrundlage der Fristanpassungen

Für Betriebe und Bildungsträger bedeutet dieser Aufschub willkommene zeitliche Entlastung, aber keinen Grund zur Untätigkeit. Die Verschiebung gibt Softwareherstellern die notwendige Zeit, Konformitätsbewertungsverfahren sorgfältig zu durchlaufen, und ermöglicht es Betreibern, ihre interne IT- und Ausbildungsorganisation strukturiert auf die kommenden Standards vorzubereiten.

Was nicht verschoben wurde: Fortbestehende Pflichten

Trotz der Fristverlängerung für Hochrisiko-Anwendungen durch den Digital Omnibus dürfen Betriebe nicht übersehen, dass andere fundamentale Teile des AI Act bereits in Kraft sind oder planmäßig wirksam werden.

Verbotene Praktiken und Basisanforderungen

Bestimmte Bestimmungen der KI-Verordnung gelten uneingeschränkt fort und müssen bereits heute im betrieblichen Alltag beachtet werden:

• Verbotene KI-Praktiken (Art. 5): Seit Februar 2025 sind bestimmte KI-Anwendungen verboten, darunter Systeme zur Verhaltensmanipulation oder zur unzulässigen biometrischen Kategorisierung.
• Pflichten für GPAI-Modelle: Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (General Purpose AI) greifen die regulatorischen Anforderungen planmäßig seit August 2025.
• Transparenzpflichten (Art. 50): Nutzer müssen klar darüber informiert werden, wenn sie mit einem KI-System interagieren oder wenn Inhalte künstlich erzeugt wurden.

Insbesondere die Transparenzvorgaben nach Artikel 50 spielen eine wichtige Rolle. Wenn Ausbildungsbetriebe beispielsweise automatisierte Chat-Assistenten für Lernende bereitstellen, muss für die Auszubildenden transparent erkennbar sein, dass sie mit einer KI und nicht mit einem menschlichen Betreuer kommunizieren.

Bestandsaufnahme: Die 4-Punkte-Checkliste für Betriebe

Um bei der Einführung digitaler Werkzeuge rechtssicher aufgestellt zu sein, empfiehlt sich ein strukturierter Prüfprozess. Wenn Betriebe ihre Ausbildung digitalisieren, sollten sie den Einsatz von KI-Funktionen von Beginn an transparent erfassen.

1. Inventarisierung der Werkzeuge: Erfassen Sie alle im Unternehmen eingesetzten Tools, die von Ausbildern, Lehrkräften oder Auszubildenden genutzt werden, einschließlich generativer Textassistenten.
2. Funktionsanalyse (Lernen vs. Bewerten): Prüfen Sie, ob die Software ausschließlich zur Wissensvermittlung und Übung dient oder ob automatisiert Lernergebnisse bewertet, Prüfungen überwacht oder Zulassungen gesteuert werden.
3. Herstellererklärung einholen: Fordern Sie vom Softwareanbieter eine klare Dokumentation zur regulatorischen Einordnung und zur Einhaltung geltender Datenschutz- und KI-Standards an.
4. Transparenz und Kennzeichnung prüfen: Stellen Sie sicher, dass Auszubildende und Mitarbeiter transparent darüber informiert sind, an welchen Stellen KI-Systeme im Lernkontext assistieren.

Plattformen wie Absolveo unterstützen Ausbildungsbetriebe und Bildungseinrichtungen mit spezialisierten Modulen: Der Prüfungstrainer ermöglicht Auszubildenden interaktives Lernen und gezielte Vorbereitung auf Prüfungen, während der Ausbildungsmanager die organisatorische Planung und Dokumentation der Ausbildung übernimmt. Da diese Werkzeuge auf die didaktische Wissensvermittlung und Lernbegleitung ausgerichtet sind, bleibt der Ausbildungsbetrieb in seiner Rolle als begleitender Förderer klar abgegrenzt von hochriskanten Überwachungsszenarien.