Abschnitt 6 KI-RdErl. - Allgemeine KI-Handlungsanweisungen für Mitarbeitende

6.1 KI-Systeme können ungenaue, falsche oder erfundene Informationen erzeugen (sog. Halluzinationen). Darüber hinaus besteht die Gefahr von Verzerrungen und nicht korrekten Antworten. Mitarbeitende müssen daher sicherstellen, dass die von KI-Systemen erzeugten Ausgaben überprüft, ggf. korrigiert und angepasst werden, bevor sie weiterverarbeitet werden. Mitarbeitende, die KI-Systeme für dienstliche Zwecke nutzen, kommen mit dieser Überprüfung ihrer dienstlichen Sorgfaltspflicht bei der Verwendung von Ausgabeergebnissen von KI-Systemen nach. Die Verantwortung der Mitarbeitenden bezieht sich auf eine angemessene Plausibilitätskontrolle im Rahmen der übertragenen Aufgaben. Für systembedingte Fehlfunktionen oder nicht erkennbare Verzerrungen haftet die Dienststelle. Die Verantwortung der Mitarbeitenden endet dort, wo die Funktionsweise des Systems für sie nicht nachvollziehbar ist. 6.2 Ein KI-Vorfall ist nach Bekanntwerden unverzüglich auf dem nach Nummer 8.3 für die Behörde eingerichteten Meldeweg zu melden. Die im Bezugserlass zu a genannten Beispiele für Informationssicherheitsvorfälle können als Anhaltspunkte für entsprechende KI-Vorfälle herangezogen werden. Die datenschutzrechtlichen Melde- und Benachrichtigungspflichten gemäß Artikel 33 und 34 DSGVO bleiben davon unberührt. 6.3 Die Eingabe von personenbezogenen Daten ist verboten, es sei denn, es liegt ein Erlaubnistatbestand nach Artikel 6 DSGVO vor und das KI-System ist von der zuständigen Stelle für die Verarbeitung von personenbezogenen Daten freigegeben worden. Die Freigabe kann in Form einer entsprechenden Handlungsanweisung oder Dienstanweisung für das jeweilige KI-System erfolgen. Die zuständige Stelle legt fest, bis zu welcher Schutzstufe entsprechende personenbezogene Daten in dem jeweiligen KI-System verarbeitet werden dürfen. 6.4 Mitarbeitende sind im Rahmen der ihnen übertragenen Aufgaben für die rechtskonforme Nutzung des KI-Systems verantwortlich. Sie können davon ausgehen, dass das jeweilige KI-System für den jeweiligen Einsatzzweck rechtskonform nutzbar ist. Die Nutzung erfordert einen eigenverantwortlichen Umgang, beispielsweise auch den sorgsamen Umgang mit personenbezogenen Daten bei einer vorliegenden Freigabe zur Eingabe von personenbezogenen Daten in KI-Systemen (auch in Bezug auf Datensparsamkeit) sowie die sorgsame Verwendung von personenbezogenen Ausgabedaten. 6.5 Die Eingabe von Dienst- und Amtsgeheimnissen (Verschlusssachen) ist grundsätzlich verboten, es sei denn, das KI-System ist von der zuständigen Stelle für die Verarbeitung von entsprechenden Verschlusssachen (vgl. § 7 des Bezugserlasses zu c) freigegeben worden. 6.6 Mitarbeitende sind verpflichtet, an Schulungsmaßnahmen teilzunehmen, wenn sie KI-Systeme nutzen. Dies betrifft sowohl Schulungen zu allgemeinen KI-Kompetenzen gemäß Artikel 4 KI-VO als auch produktspezifische Schulungen zu einzelnen Fachprogrammen. 6.7 Kein Mensch darf gemäß Artikel 22 Abs. 1 DSGVO einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen werden, die ihm gegenüber rechtliche Wirkung entfaltet oder ihn in ähnlicher Weise erheblich beeinträchtigt. Eine Ausnahme ist nur unter den engen Voraussetzungen nach Artikel 22 Abs. 2 DSGVO zulässig (beispielsweise in § 35a VwVfG , § 155 Abs. 4 AO oder § 31a SGB X ). Red. Hinweis zur Geltungsdauer Außer Kraft am 1. Januar 2030 durch Nummer 9 des RdErl. vom 7. Mai 2026 (Nds. MBl. 2026 Nr. 256)