Sind Hochschulen Betreiberinnen oder Anbieterinnen von KI-Systemen? Welche Verpflichtungen haben Hochschulen gegenüber ihren Mitgliedern in Sachen Schulung von KI-Kompetenz? Wann wird aus einem KI-Modell eigentlich ein KI-System? Und was gilt bei Hochrisiko-KI oder Open Source-KI? Diesen und vielen weiteren Fragen geht das neue Rechtsgutachten von KI:edu.nrw nach.
Zentral ist aber zunächst die Frage danach, ob die KI-VO im Sinne des Wissenschaftsprivilegs für Wissenschaftseinrichtungen überhaupt gilt. Und die Antwort darauf ist klar: zumeist ja. Hochschulen müssen die KI-VO zwar nicht beachten, wenn sie ein KI-System nur zu Forschungszwecken entwickeln und in Betrieb nehmen. Dies ist jedoch eng auszulegen. Denn: falls ein späterer Praxiseinsatz in Betracht kommt, greift die KI-VO spätestens ab der Inbetriebnahme eines KI-Systems – auch wenn der Betrieb zunächst für Forschungszwecke erfolgt.
Entsprechend hat die KI-VO Auswirkungen auf Hochschulen. Sie müssen Maßnahmen für die Vermittlung von KI-Kompetenz ergreifen, haben als Anbieterinnen oder Betreiberinnen aus der KI-VO resultierende Verpflichtungen und müssen Vorgaben beachten, wenn ein KI-System als Hochrisiko-KI einzuordnen ist. Letzteres ist beispielsweise der Fall, wenn KI-Tools zur Bewertung von Lernergebnissen oder bei der Steuerung von Lernprozessen eingesetzt werden.
Heute erschien mein neues Gutachten zum AI Act und Hochschulen, erstellt über das Projekt KI:edu.nrw im Auftrag des Landes NRW.
Parallel hat das Land NRW die Kommunikation zur Veröffentlichung vorberei tet und es ist soeben eine Newsmeldung dazu auf ihrer Website erschienen.
Das Gutachten im Volltext finden Sie unter
