Ki Einsatz Verwaltungsverfahren Pruefung

---
name: ki-einsatz-verwaltungsverfahren-pruefung
description: "Pruefung der Anforderungen an den Einsatz eines KI-Systems in einem Verwaltungsverfahren. Methodik Risikoeinstufung nach der EU-KI-Verordnung Pruefung von Transparenz- Dokumentations- und Aufsichtspflichten. Output ausformulierte Einordnung mit Risikoklasse und offenen Pflichten."
---

> Dieser Skill ersetzt keine rechtliche, datenschutzrechtliche oder
> IT-sicherheitsrechtliche Einzelfallpruefung durch die zustaendige
> Fachstelle (z. B. Rechtsamt/Justiziariat, Datenschutzbeauftragte,
> IT-Sicherheitsbeauftragte) und keine verbindliche Entscheidung der
> zustaendigen Behoerde. Die Ausgabe ist eine Arbeitshilfe ohne Gewaehr. Im
> Einzelfall ist die zustaendige Fachaufsicht, die bzw. der
> Datenschutzbeauftragte oder die Rechtsabteilung zu konsultieren.

# Pruefung des KI-Einsatzes in einem Verwaltungsverfahren

## Zweck / Anwendungsfall

Pruefung, welche Anforderungen nach der EU-Verordnung ueber Kuenstliche
Intelligenz (KI-Verordnung, AI Act) an den Einsatz eines konkreten
KI-Systems in einem Verwaltungsverfahren gestellt werden. Der Skill wird
genutzt, wenn eine Behoerde ein KI-gestuetztes System (z. B. zur
Antragsvorpruefung, Texterkennung, automatisierten Entscheidungsunterstuetzung)
einfuehren oder einen laufenden Einsatz pruefen moechte.

## Eingaben

- Beschreibung des KI-Systems und seines Einsatzzwecks im
  Verwaltungsverfahren (z. B. Vorpruefung, Klassifizierung, Texterstellung,
  Entscheidungsunterstuetzung).
- Angabe, ob das System eine eigenstaendige Entscheidung trifft oder
  ausschliesslich eine menschliche Entscheidung vorbereitet.
- Angabe, ob besonders schutzbeduerftige Betroffene oder Grundrechte
  beruehrt sind (z. B. Sozialleistungen, Strafverfolgung, Migration,
  Bildung).
- Informationen zum Einsatzkontext (oeffentliche Stelle, Verwendung als
  Hochrisiko-Anwendung im Sinne der KI-Verordnung moeglich).
- Vorhandene Dokumentation des Anbieters (technische Dokumentation,
  Konformitaetserklaerung, falls vorhanden).

## Ablauf / Checkliste

1. Sachverhalt aufbereiten: KI-System, Einsatzzweck und Rolle der Behoerde
   (Anbieter, Betreiber/Nutzer) erfassen.
2. Risikoeinstufung nach der KI-Verordnung pruefen: verbotene Praktik,
   Hochrisiko-System, System mit Transparenzpflichten, oder
   minimal-risikobehaftetes System.
3. Bei Einstufung als Hochrisiko-System pruefen, welche Pflichten fuer
   Betreiber oeffentlicher Stellen einschlaegig sind (u. a. Registrierung,
   Grundrechte-Folgenabschaetzung, menschliche Aufsicht).
4. Transparenzpflichten pruefen (Informationspflicht gegenueber
   Betroffenen, Kennzeichnung von KI-generierten Inhalten, soweit
   einschlaegig).
5. Dokumentations- und Protokollierungspflichten pruefen (Nachvollziehbarkeit
   der Entscheidungsfindung, Aufbewahrung von Protokollen).
6. Aufsichts- und Kontrollmechanismen pruefen (Zustaendigkeit der
   Marktueberwachungsbehoerde, interne Kontrollprozesse, Beschwerdewege fuer
   Betroffene).
7. Schnittstelle zu Datenschutzanforderungen benennen (Verhaeltnis zur
   datenschutzrechtlichen Pruefung, ggf. zusaetzliche
   Datenschutz-Folgenabschaetzung).
8. Ergebnis mit Risikoklasse und offenen Pflichten ausformulieren.

## Quellenpflicht

Verbindlich: `../../../references/zitierweise-verwaltung.md`. Keine
Blindzitate zu Beschlussnummern, Versionsstaenden oder Paragrafen — diese
sind vom Nutzer zu verifizieren oder als pruefungsbeduerftig zu
kennzeichnen.

## Ausgabeformat

- Vollstaendig ausformulierte Pruefung im Pruefberichtsstil, kein reines
  Stichpunkt-Endergebnis.
- Stand-Datum angeben.
- Klar abgegrenztes Ergebnis am Ende ("Ergebnis: ...").
- Hinweis auf verbleibende Unsicherheiten.

## Beispiele

Beispiel (FIKTIV): Eine fiktive Behoerde plant den Einsatz eines
KI-Systems zur automatisierten Vorpruefung von Antraegen auf eine
Sozialleistung, dessen Ergebnis als alleinige Entscheidungsgrundlage ohne
weitere menschliche Pruefung dienen soll. Die Pruefung ergibt eine
voraussichtliche Einordnung als Hochrisiko-System im Sinne der
KI-Verordnung wegen der Betroffenheit von Sozialleistungsanspruechen.
Empfohlen werden eine Grundrechte-Folgenabschaetzung, die Einrichtung einer
wirksamen menschlichen Aufsicht vor der Bescheiderteilung und eine
gesonderte datenschutzrechtliche Pruefung.

## Normen und Standards

- Verordnung (EU) 2024/1689 (KI-Verordnung/AI Act), Versionsstand und
  Anwendbarkeitsdatum der jeweiligen Vorschrift vor Verwendung verifizieren.
- Allgemeine Datenschutz-Grundverordnung (DSGVO), insbesondere Vorschriften
  zur automatisierten Entscheidungsfindung.
- Nationales Durchfuehrungs-/Aufsichtsgesetz zur KI-Verordnung, soweit
  vorhanden (Fundstelle vor Verwendung verifizieren).
- Verwaltungsverfahrensgesetz (VwVfG) hinsichtlich Begruendungspflichten
  bei automatisiert unterstuetzten Entscheidungen.