Abschnitt 5 KI-RdErl. - Allgemeine Handlungsanweisungen für KI-einführende Stellen

5.1 KI-Systeme können von der zuständigen Stelle für die Verarbeitung von personenbezogenen Daten und/oder Verschlusssachen freigegeben werden. Die Entscheidung darüber, welche personenbezogenen Daten mit Hilfe von KI-Systemen verarbeitet werden dürfen, sollte sich am Schutzstufenkonzept des LfD (Link: https://www.lfd.niedersachsen.de/startseite/themen/technik_und_organisation/schutzstufen/schutzstufen-56140.html ) orientieren. Dabei bedarf es bei einer beabsichtigten Verarbeitung von entsprechend hoch eingestuften Daten (z. B. besondere Kategorien personenbezogener Daten gemäß Artikel 9 Abs. 1 DSGVO oder gemäß Bezugserlass zu c als Verschlusssachen gekennzeichnete Informationen) zusätzlicher Sicherheitskonzepte (beispielsweise ein abgeschotteter Betrieb im eigenen Rechenzentrum), auch unter Beachtung der Vorgaben des Bezugserlasses zu c. Die Vorgaben der KI-VO bezüglich Hochrisiko-KI-Anwendungen sind zu beachten. 5.2 KI-Systeme, die eingeführt, bereitgestellt oder entwickelt werden, müssen technisch robust und sicher sein. Dabei sollen die Vorgaben der Informationssicherheit, insbesondere die des Bezugserlasses zu b und des BSI-Grundschutzkompendiums (Link: https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Standards-und-Zertifizierung/IT-Grundschutz/IT-Grundschutz-Kompendium/it-grundschutz-kompendium_node.html . ), beachtet werden. Bei zentral bereitgestellten KI-Systemen trägt der IT-Dienstleister die Verantwortung für einen entsprechend sicheren Betrieb. 5.3 KI-Systeme, die eingeführt, bereitgestellt oder entwickelt werden, haben den Vorrang menschlichen Handels und eine menschliche Aufsicht zu ermöglichen. Die tatsächliche menschliche Aufsicht findet immer dort statt, wo das KI-System fachlich genutzt wird. Einem KI-System kann im Einzelfall unter dem Vorbehalt weiterer rechtlicher Vorgaben, wie z. B. Artikel 22 DSGVO , die Entscheidungshoheit gewährt werden. Dabei ist jedoch eine menschliche Aufsicht zu ermöglichen. 5.4 Vor dem Einsatz neuer KI-Systeme sind in der jeweiligen Behörde die Datenschutz- und Informationssicherheitsbeauftragten durch die zuständige Stelle zu beteiligen und der jeweilige Einsatzzweck darzustellen. Darüber hinaus ist eine Beteiligung der Personalvertretung gemäß den §§ 65 bis 67 NPersVG erforderlich. 5.5 Für die Nutzung von Trainingsdaten gilt, dass insbesondere die Qualität, Quantität und Vielfalt der Trainingsdaten die Genauigkeit des KI-Modells beeinflussen. Je mehr qualitativ hochwertige Daten vorliegen und je vielfältiger diese sind, um reale Bedingungen abzubilden, desto genauer ist die voraussichtliche Leistung des KI-Modells. Wenn KI-Modelle selbst trainiert werden, ist auf eine entsprechende Datenqualität zu achten, damit Verzerrungen und fehlerhafte Ausgaben vermieden werden. Dazu sollte ein Datenqualitätsmanagement durch die jeweilige Stelle, die das KI-Modell trainiert, eingesetzt werden. Es sollte jedoch beachtet werden, dass Probleme der Datenqualität nur eine mögliche Dimension bei der Gestaltung der Algorithmen darstellen. 5.6 Die Verwendung von Dateneingaben zu Trainingszwecken in KI-Systemen, die sich nicht im Eigenbetrieb befinden, ist, sofern technisch möglich, zu verhindern. Dies kann insbesondere durch die Verwendung "eingefrorener" KI-Modelle erreicht werden. Diese stellen einen Kenntnisstand bis zu einem Stichtag dar und werden darüber hinaus nicht weiter trainiert. Befindet sich ein KI-System im Eigenbetrieb in einer gesicherten Infrastruktur können Dateneingaben zur Verbesserung der Anwendung oder zu Trainingszwecken des KI-Modells verwendet werden. 5.7 Bei der Pilotierung von KI-Systemen, der Durchführung von Machbarkeitsstudien und Erstellung von ersten Softwareprodukten oder Teilen von Softwareprodukten (sogenannten MVP, "minimal viable Products") sollen die Nummern 5.1 bis 5.6 beachtet werden. Im Rahmen einer Pilotierung kann begründet und durch die zuständige Stelle dokumentiert ein geringeres Sicherheitsniveau oder ein Einsatz unter Ausschluss der Verarbeitung personenbezogener Daten erfolgen. Vor Produktivsetzung muss jedoch sichergestellt werden, dass die Nummern 5.1 bis 5.6 erfüllt werden. 5.8 Die Dienststellen sind verpflichtet, ihren Mitarbeitenden gemäß Artikel 4 KI-VO den KI-Kompetenzaufbau zu ermöglichen. Dazu werden zentral Schulungen durch das Studieninstitut Niedersachsen angeboten. Die Dienststellen können bei Bedarf auch in eigener Verantwortung Schulungen für ihre Mitarbeitenden anbieten. Bei der Einführung fachspezifischer KI-Systeme sorgt die jeweils zuständige Stelle für eine entsprechende produktbezogene Schulung gemäß Artikel 4 KI-VO. Der Nachweis über die Teilnahme entsprechender Schulungsmaßnahmen ist zur Personalakte des jeweiligen Mitarbeitenden zu nehmen. Red. Hinweis zur Geltungsdauer Außer Kraft am 1. Januar 2030 durch Nummer 9 des RdErl. vom 7. Mai 2026 (Nds. MBl. 2026 Nr. 256)