Abschnitt 3 KI-RdErl. - Begriffsbestimmungen

Im Sinne dieses RdErl. ist 3.1 KI-System ein Softwareprogramm, das auf Prinzipien des maschinellen Lernens beruht, insbesondere ein maschinengestütztes System, das für unterschiedliche Grade autonomen Betriebs ausgelegt ist und das nach Betriebsaufnahme anpassungsfähig sein kann und aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können (vgl. Artikel 3 Nr. 1 der Verordnung [EU] 2024/1689 des Europäischen Parlaments und des Rates vom

1. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen [EG] Nr. 300/2008, [EU] Nr. 167/2013, [EU] Nr. 168/2013, [EU] 2018/858, [EU] 2018/1139 und [EU] 2019/2144 sowie der Richtlinien 2014/90/EU, [EU] 2016/797 und [EU] 2020/1828 [Verordnung über künstliche Intelligenz] [ABl. L, 2024/1689, 12.7.2024; 2024/90802, 9.10.2025] - im Folgenden: KI-VO -); 3.2 KI-Modell ein spezifisches Softwareprogramm, das auf Basis von Trainingsdaten Muster erkennt und Vorhersagen oder Entscheidungen treffen kann; es grenzt sich vom KI-System ab, welches ein umfassenderes Konzept ist, das ein oder mehrere KI-Modelle sowie die notwendige Infrastruktur und Software beinhaltet, um diese Modelle in einer konkreten Anwendung nutzbar zu machen; 3.3 Großes Sprachmodell/Large Language Model (LLM) ein KI-Modell, das auf die Generierung von Texten spezialisiert ist; Grundlage dieses Systems ist ein statistisches Sprachmodell, welches im Rahmen eines umfangreichen Trainingsprozesses anhand großer Mengen von Textdaten typische Wort- und Satzfolgebeziehungen erlernt hat; eine Weiterentwicklung dieser Technologie ist ein sogenanntes multimodales großes Sprachmodell (KI-Modell), das verschiedene Formen von Inhalten verstehen und generieren kann, darunter Text, Bilder, Videos, Audio und mehr; 3.4 Technische Robustheit die Fehlertoleranz eines Systems und dessen Fähigkeit, auf äußere Störungen und unerwartete Eingaben so zu reagieren, dass die Funktionalität nicht wesentlich beeinträchtigt wird; dieses Qualitätsmerkmal sorgt dafür, dass das System auch unter schwierigen Bedingungen stabil bleibt und korrekte Ergebnisse liefert, ohne auszufallen oder sich unerwünscht zu verhalten; 3.5 KI-Vorfall ein Ereignis, Umstand oder eine Reihe von Ereignissen, bei denen die Entwicklung, Nutzung oder Fehlfunktion eines oder mehrerer KI-Systeme zu mindestens einem Schaden führt; darüber hinaus ist unerwünschtes oder unvorhergesehenes Verhalten von KI-Anwendungen auch als KI-Vorfall zu betrachten; Beispiele für entsprechendes unerwünschtes oder unvorhergesehenes Verhalten können sein: rassistische, deutlich erkennbare inhaltlich falsche Aussagen oder deutlich von der erwartbaren Antwort abweichende Antworten; ein KI-Vorfall kann auch einen Informationssicherheitsvorfall nach Bezugserlass zu a darstellen, so dass auf die spezifischen Vorgaben zur Gewährleistung der Informationssicherheit verwiesen wird; 3.6 KI-Training das Training von KI-Modellen; es beschreibt Verfahren maschinellen Lernens, die genutzt werden, um entsprechende Anwendungen grundsätzlich auf einen Anwendungsfall zu trainieren; eine besondere Form ist die Anpassung bereits trainierter Systeme (sogenanntes Finetuning); 3.7 Datenqualität die Genauigkeit, Vollständigkeit, Konsistenz, Aktualität, Repräsentativität und Relevanz der jeweiligen zum KI-Training verwendeten Daten; das bedeutet, dass Daten korrekt und fehlerfrei, innerhalb des Datensatzes und über verschiedene Quellen hinweg einheitlich, auf dem neusten Stand und für den beabsichtigen Zweck geeignet sein müssen; 3.8 Verzerrung eine Ausgabe des KI-Systems, die bestimmten verzerrten Mustern unterliegt; je nach Art und Umfang der genutzten Trainingsdaten sind KI-Systeme (und insbesondere Große Sprachmodelle/LLMs) anfällig für solche Ausgaben; dabei können unterbewusste Stereotypen und Vorurteile befördert werden (beispielsweise sind bei KI-generierten Bildern von "Vorstandssitzungen" nur männliche Teilnehmende zu sehen); 3.9 Pilotierung die Erprobung eines KI-Systems, die zeitlich und im Umfang befristet ist; Ziel der Pilotierung können die Einführung und der Erfahrungsgewinn mit einem KI-System sein; 3.10 zuständige Stelle die unter Nummer 8.1 genannte Stelle innerhalb der einzelnen Behörden; darüber hinaus sind ggf. die in Nummer 8.3 genannten übergeordnete Meldestellen hinzuziehen (beispielsweise im Falle eines Informationssicherheitsvorfalls oder eines Datenschutzvorfalls); 3.11 Anbieter eine juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich (vgl. Artikel 3 Nr. 3 KI-VO); 3.12 Betreiber eine juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet (vgl. Artikel 3 Nr. 4 KI-VO). Red. Hinweis zur Geltungsdauer Außer Kraft am
2. Januar 2030 durch Nummer 9 des RdErl. vom
3. Mai 2026 (Nds. MBl. 2026 Nr. 256)