Abschnitt 4 KI-RdErl. - Grundprinzipien für den Einsatz von KI-Systemen

4.1 Die nachfolgenden Grundprinzipien bieten einen einheitlichen Rahmen, nach dem KI-Systeme eingesetzt, entwickelt und genutzt werden. Die Ressorts können, sofern es durch besondere Anwendungsbereiche angezeigt ist, im Einzelfall für ihre Bereiche ergänzende Regelungen erlassen. Diese Grundprinzipien sind als Leitplanken zu verstehen, innerhalb derer KI-Systeme entwickelt und genutzt werden können. 4.1.1 Rechtmäßigkeit Bei der Konzeption, Einführung und Anwendung von KI-Modellen, KI-Systemen und deren Anwendungen sind die KI-VO, die Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom

1. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-Grundverordnung) (ABl. L 119 vom 4.5.2016, S. 1; L 314 vom 22.11.2016, S. 72; L 127 vom 23.5.2018, S. 2; L 74 vom 4.3.2021, S. 35) - im Folgenden: DSGVO -, das NDSG , § 1 Abs. 1 NVwVfG i. V. m. dem VwVfG (z. B. Regelungen zum vollständig automatisierten Erlass von Verwaltungsakten gemäß § 1 Abs. 1 NVwVfG i. V. m. § 35a VwVfG ), das NDIG und sonstige relevante Vorschriften zu beachten. 4.1.2 Technische Robustheit und Sicherheit KI-Systeme müssen sicher und belastbar sein, um Risiken, wie Sicherheitslücken, Cyberangriffe oder Systemausfälle zu minimieren. KI-Systeme müssen daher die bereits geltenden Anforderungen erfüllen, wie sie bereits durch den Bezugserlass zu b an andere Hard- und Software gestellt werden, die in der Landesverwaltung eingesetzt wird. Sowohl die verarbeiteten als auch die erzeugten Informationen müssen die Einhaltung der Schutzziele Vertraulichkeit, Verfügbarkeit und Integrität im Rahmen des notwendigen Schutzbedarfs gewährleisten. 4.1.3 Datenschutz und Privatsphäre Der Schutz von personenbezogenen Daten und die Wahrung der Privatsphäre sind sicherzustellen. Dabei ist insbesondere die Wahrung datenschutzrechtlicher Grundsätze nach Artikel 5 DSGVO (Rechtmäßigkeit, Verarbeitung nach Treu und Glauben, Transparenz, Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung, Integrität und Vertraulichkeit) zu gewährleisten. 4.1.4 Nachvollziehbarkeit Die Ausgabeergebnisse von KI-Systemen müssen nachvollziehbar und erklärbar sein, soweit dies, nach Nutzung aller technischen Mittel, umsetzbar ist. Insbesondere für einen Einsatz zur Entscheidungsunterstützung muss die Datenbasis, nach der das KI-System zu einem Vorschlag kommt, erkennbar und nachvollziehbar sein. Dies ist durch den Einsatz von KI-Systemen, die entsprechende Verweise auf Quellen für die generierte Antwort geben können, umsetzbar. 4.1.5 Vielfalt, Nichtdiskriminierung und Fairness Beim Einsatz von KI-Systemen müssen alle Menschen gleichbehandelt und Diskriminierung vermieden werden. Insbesondere beim Training eines eigenen KI-Modells muss daher auf eine ausgewogene und möglichst unverzerrte Trainingsdatenbasis zurückgegriffen werden. Bei der Nutzung bereits trainierter KI-Modelle soll, wenn technisch möglich, geprüft werden, ob diese den Anforderungen an Vielfalt, Nichtdiskriminierung und Fairness genügen. Ist dies nicht der Fall oder eine Prüfung technisch nicht möglich, muss ein anderes KI-Modell zum Einsatz kommen oder auf den Einsatz des entsprechenden KI-Modells verzichtet werden. Für den Fall, dass die Prüfung technisch nicht möglich ist und ein Einsatz des KI-Modells erforderlich ist, ist das entsprechende KI-System so zu gestalten, dass dieses Grundprinzip erfüllt werden kann. 4.1.6 Gesellschaftliches und ökologisches Wohlergehen KI-Systeme sollen zum gesellschaftlichen Mehrwert beitragen und negative Auswirkungen auf die Umwelt möglichst minimieren. Dies beinhaltet auch genau abzuwägen, ob ein KI-System eingesetzt werden muss oder ggf. eine andere Lösung (beispielsweise Automatisierungsmethoden) einsetzbar ist. Soweit möglich sollte die Einführung von KI-Systemen den Green-IT-Ansätzen des Landes (vgl. Nummer 7.10 der Strategie "Digitale Verwaltung 2030" des Landes Niedersachsen, Link: https://www.mi.niedersachsen.de/download/200570/Digitalisierungsstrategie_2030.pdf ) folgen. 4.1.7 Interoperabilität und Standardisierung Wenn KI-Systeme bei der Entwicklung in bestehende IT-Infrastrukturen integriert werden sollen, dann muss die Interoperabilität und Einhaltung von Standards sichergestellt werden. Dabei ist insbesondere auf die Einhaltung der Vorgaben des IT-Architekturrahmenkonzepts sowie der IT-Architekturfestlegungen des Niedersächsischen IT-Architekturmanagements (landesinterner Link: https://intra.cio.niedersachsen.de/live/index.php?intranet_id=511425&_psmand=170 ) zu achten. 4.1.8 Transparente Kommunikation mit der Öffentlichkeit Wenn KI-Systeme in der Verwaltung mit Außenwirkung eingesetzt werden, dann muss eine proaktive und transparente Kommunikation mit der Öffentlichkeit erfolgen, um Vertrauen und Akzeptanz zu schaffen und Missverständnisse zu vermeiden. Dies beinhaltet vor allem die Information, dass für entsprechende Aufgaben KI-Systeme zum Einsatz kommen. Dabei ist darauf zu achten, dass nur die Informationen über KI-Systeme mit der Öffentlichkeit geteilt werden, die kein Risiko für die Ausführung öffentlicher Aufgaben verursachen können. 4.1.9 Vorrang menschlichen Handelns und menschlicher Aufsicht Beim Einsatz von KI-Systemen wird der Vorrang menschlichen Handelns und menschlicher Aufsicht beachtet. KI-Systeme sind als Unterstützungswerkzeuge zu verstehen und unterstehen angemessener menschlicher Aufsicht. Je höher das Risiko ist, das mit dem Einsatz von KI verbunden ist, desto mehr rücken menschliche Aufsicht und Kontrolle in den Vordergrund. Des Weiteren muss das Ziel von erklärbaren und damit vertrauenswürdigen KI-Systemen durch den Einsatz entsprechender Anwendungen und Systeme gefördert werden. 4.2 Die Grundprinzipien unter Nummer 4.1 sind auch bei der Nutzung von KI-Systemen, die nicht bei einem Landes-IT-Dienstleister beauftragt wurden, zu beachten. 4.3 Die eingesetzten KI-Systeme dienen den Mitarbeitenden der unmittelbaren Landesverwaltung als Unterstützung und Entlastung. Die KI-Systeme werden nicht zur Leistungs- und Verhaltenskontrolle eingesetzt. Red. Hinweis zur Geltungsdauer Außer Kraft am
2. Januar 2030 durch Nummer 9 des RdErl. vom
3. Mai 2026 (Nds. MBl. 2026 Nr. 256)