KI-Kompetenz wird Pflicht

Für Hochschulen, die zunehmend auf KI-Technologien in Forschung, Lehre und Verwaltung setzen, bringt dies besondere Herausforderungen mit sich. Diese umfassen die Bewertung des Risikopotenzials eingesetzter KI-Systeme und die Etablierung zielgerichteter Schulungsmaßnahmen für Mitarbeitende. Dieser Beitrag erläutert zentrale Aspekte der KI-VO und bietet praktische Handlungsempfehlungen, um die neuen Anforderungen rechtssicher und effizient umzusetzen.

Wenn an KI-Modellen oder -Systemen geforscht wird und sie zusätzlich nicht produktiv genutzt werden, sind diese vom Anwendungsbereich der KI-VO ausgenommen. Dieses Forschungsprivileg gilt nicht für KI-Modelle und -Systeme, die in der Forschung als Tool eingesetzt werden, wie zum Beispiel Software zur Transkription von Interviews, die nicht eigens und für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen worden sind.

Sechs Monate nach Inkrafttreten der KI-VO sind KI-Systeme mit inakzeptablem Risiko verboten, weil sie besonders tief in die Grundrechte eingreifen und potenziell erheblichen Schaden verursachen können. In der KI-VO werden vier Risikostufen für KI-Systeme definiert (siehe Originalpublikation (https://www.zki.de/) Anbieter und Betreiber von KI-Systemen müssen sicherstellen, Betreiber von KI-Systemen müssen sicherstellen, dass ihre Mitarbeitenden und wahrscheinlich einzelfallabhängig auch Studierende, die KI-Systeme der Hochschule nutzen sollen, sowie alle weiteren in den Betrieb oder die Nutzung eingebundenen Personen über ein ausreichendes Maß an KI-Kompetenz verfügen - als Kombination von Fähigkeiten, Kenntnissen und Verständnis, um KI-Systeme sachkundig zu nutzen, einschließlich des Bewusstseins für Chancen, Risiken und mögliche Schäden.

Ziel ist es, die Risiken im Umgang mit Künstlicher Intelligenz zu minimieren. Auf dieser Grundlage gilt es zu prüfen, ob eine der Anwendungen in die Beschreibung eines der Absätze von Artikel 5 der KI-VO fällt. Solche Systeme mussten bis spätestens zum 2. Februar 2025 außer Betrieb genommen werden. Zum anderen kann auf Grundlage einer KI-Inventur auch der Schulungsbedarf analysiert werden, um mögliche niederschwellige, auch kostenlose oder kostengünstige Möglichkeiten auszuloten, um Mitarbeitenden allgemeine Grundlagen von KI zu vermitteln. Diese Vorgehensskizze lehnt sich an die Empfehlungen von "KI-Campus" an.

Torsten Prill, Vorstand

Zentren für Kommunikation und Informationsverarbeitung in Lehre und Forschung e. V.