#3 Wissenssnack: KI in der Verwaltung – Leitlinien im Überblick

Künstliche Intelligenz (KI) entwickelt sich rasant, und regelmäßig hören wir von neuen Entwicklungssprüngen. Im Januar 2025 sorgte beispielsweise das chinesische KI-Start-Up Deepseek für Aufsehen, als es mit einem leistungsstarken KI-Modell (R1) auf den Markt kam, das im Vergleich zur Konkurrenz mit deutlich weniger Daten auskommt. Doch nicht erst seit Deepseek ist klar, dass die KI-Entwicklung zu den wichtigsten Wettbewerben des 21. Jahrhunderts gehört.

Die Entwicklung schreitet rasant voran und KI-Modelle erhalten zunehmend Einzug in Alltag, Beruf und Verwaltungshandeln. Die Einsatzmöglichkeiten sind vielfältig, gleichzeitig wirft die Verfügbarkeit von KI auch viele Fragen auf. Eine Voraussetzung für den gewinnbringenden und sicheren Einsatz von KI im Verwaltungskontext ist das Wissen der Nutzerinnen und Nutzer über die richtige Handhabung der Technologie sowie klare Leitlinien zur Entscheidungsfindung – wann und unter welchen Bedingungen darf auf KI zurückgegriffen werden? Bei welchen Verwaltungsaufgaben ist KI ein sinnvolles und unter welchen Umständen ein bedenkliches Instrument?

In den vergangenen Monaten haben viele Kommunen und Behörden Papiere veröffentlicht, die die Mitarbeitenden bei der Nutzung von KI unterstützen sollen. Im Folgenden werfen wir unter anderem einen Blick in die Leitlinien aus der Stadt Wien und Essen sowie des Bundesministerium für Digitales und Verkehr (BMDV). Diese können helfen, den Weg zu passenden Orientierungshilfen für die eigene Kommune zu finden.

Zuallererst wird die Verantwortung der Anwenderinnen und Anwender betont: Der Mensch trägt stets die Verantwortung für die weiterverwendeten KI-Inhalte und muss diese auf Richtigkeit überprüfen. Inhalte, die mit Hilfe von KI erstellt wurden, müssen als solche transparent gekennzeichnet werden. Dies dient der Nachvollziehbarkeit von Entscheidungsfindungen und der Validität von Ergebnissen. Der Kompass betont außerdem, dass der allgemeine Nutzen von KI im dienstlichen Umgang vor allem dem Ziel der Wirtschaftlichkeit und Sparsamkeit dienen soll. Die Anwendung von KI dient also der Effizienzsteigerung und Optimierung der Arbeitsprozesse. Zuletzt, aber nicht weniger wichtig, ist die Konformität mit den geltenden Datenschutzrichtlinien. Insbesondere bei der Anwendung von KI ist es wichtig, rechtskonform mit personenbezogenen Daten und dem Amtsgeheimnis umzugehen.

Eigenverantwortung, die bewusste Beachtung (datenschutz-)rechtlicher Rahmenbedingungen sowie Transparenz beim Einsatz von KI können auch für deutsche Kommunen zentrale Eckpfeiler für einen zielgerichteten Umgang mit Künstlicher Intelligenz sein.

In Österreich hat zudem die Stadt Linz bereits im August 2023 erste Leitlinien für KI im Arbeitsalltag aufgestellt und dabei als fünf zentrale Prinzipien definiert, den Datenschutz und das Amtsgeheimnis zu wahren, Urheberrecht und geistiges Eigentum zu respektieren, die menschliche Kontrolle sicherzustellen, Fairness und Nichtdiskriminierung zu gewährleisten sowie Best Practice Beispiele zu dokumentieren.

Mit dem zentralen Ziel der Gemeinwohlorientierung hat auch die Freie und Hansestadt Hamburg 2024 zehn Leitlinien zu KI und Daten aufgestellt. Die Stadt Ulm hat ihre Leitlinie für den KI-Einsatz im Dezember 2024 beschlossen und verschneidet diese mit dem kommunalen Datenethikkonzept.

Auch auf der Ebene des Bundes bereiten sich Ministerien darauf vor, KI stärker in Arbeitsprozesse zu integrieren. Beispielhaft dafür steht das im Juni 2024 vorgestellte Papier des BMDV mit Fokus auf „Innovation, Vertrauen, Technologie, Nachhaltigkeit“. Es verfolgt das Ziel, die Mitarbeitenden zu entlasten und die Verwaltung moderner und effizienter zu gestalten. Es geht zum Beispiel darum, Prüf- und Genehmigungsprozesse zu beschleunigen, Verkehrsplanung zu verbessern und Verwaltungsaufgaben zu automatisieren.

Einige der insgesamt acht darin enthaltenen Leitprinzipien gleichen den oben bereits beschriebenen Grundsätzen anderer KI-Leitfäden auf kommunaler Ebene wie etwa die Gemeinwohlorientierung und Transparenz des KI-Einsatzes. In dem Papier wird zudem die Gründung eines ressortweiten KI-Netzwerks angekündigt: In diesem sollen Erfahrungen und Best-Practice-Beispiele geteilt sowie Hürden für den KI-Einsatz identifiziert und beseitigt werden.

Bemerkenswert ist das in den Leitlinien des BMDV verankerte Prinzip, Freiräume zur Entwicklung und Nutzung von KI schaffen zu wollen. Kalkulierte Risiken sollen demnach eingegangen und regulatorische Freiräume genutzt werden, um Innovationen voranzutreiben. Risiko- und Fehlertoleranz sind somit Aspekte, die in kommunalen Leitlinien bisher kaum eine Rolle spielen, die an vielen Stellen aber helfen können, neue Anwendungsfelder zu erschließen und Verwaltungshandeln weiterzuentwickeln.

Kernziel der meisten KI-Leitlinien für das Verwaltungshandeln ist es, Grundsätze für eine sichere und vertrauenswürdige KI in umsetzbare Strategien zu überführen. Dabei muss KI zum einen sicher im Umgang mit Menschen und der Umwelt sein, das heißt, sie darf keine Schäden verursachen und zum anderen muss sie von Bedrohungen wie Cyberangriffen oder Datenverlust geschützt sein. Es geht beispielsweise darum, dass der Mensch im Mittelpunkt steht und KI-Instrumente ihm lediglich die Arbeit erleichtern sollen oder darum, dass die Nutzung von KI bei Verwaltungsentscheidungen kenntlich gemacht wird. Auch ethische Überlegungen werden in Regulierungen verstärkt berücksichtigt.

Regulationsrahmen und Handlungsempfehlungen werden mittlerweile auf allen Ebenen diskutiert und zunehmend implementiert – hier hat insbesondere der EU-AI-Act die Bewusstseinsbildung im verantwortlichen Umgang mit KI maßgeblich vorangetrieben.

Neben den hier vorgestellten Beispielen aus der kommunalen und bundesbehördlichen Praxis wurden auch auf europäischer und globaler Ebene jüngst Leitlinien für den Einsatz von KI im öffentlichen Sektor veröffentlicht. Erwähnenswert sind hier der von der Europäischen Kommission herausgegebene „Verhaltenskodex für KI für allgemeine Zwecke“ (der derzeit noch als Entwurf vorliegt) sowie das von der OECD und UNESCO gemeinsam veröffentlichte „G7 Toolkit for Artificial Intelligence in the Public Sector“. Solche übergeordneten Rahmenwerke werden Städten und anderen öffentlichen Institutionen zukünftig helfen, ihren Umgang mit KI zukunftsorientiert zu gestalten – unter Berücksichtigung wichtiger ethischer Werte und hoher Sicherheitsstandards.

Dem Einsatz von KI in der eigenen Kommunalverwaltung einen Rahmen zu geben, kann nicht nur den Mitarbeitenden Sicherheit im Umgang mit diesen neuen Tools geben, sondern auch wichtige ethische Prinzipien sichern helfen.

Auf dem Weg zu eigenen Leitlinien können sich kommunal Verantwortliche an den dargestellten Leitlinien orientieren. Die Charta Digitale Ethik der Stadt Essen wurde sogar explizit unter einer Creative-Commons-Lienz zur Nachnutzung veröffentlicht. Darüber hinaus haben VITAKO und KGSt den übergreifenden Praxisleitfaden „Generative KI in Kommunalverwaltungen” veröffentlicht. Er zeigt auf, wie Kommunalverwaltungen Generative KI (mit Schwerpunkt auf Large Language Models) erfolgreich in ihr Verwaltungshandeln integrieren können und welche Rahmensetzungen und Leitlinien dabei helfen. Gerade die Gegenüberstellung der hier vorgestellten Leitlinienpapiere kann helfen, die für den Diskussionsstand und die Arbeitsphilosophie der eigenen Kommunalverwaltung passende Tiefe und Konkretisierung zu definieren, die einen einheitlichen Umgang mit KI im Verwaltungshandeln ermöglicht.

Die Tatsache, dass es inzwischen einige Vorlagen und Hilfestellungen für kommunale KI-Leitlinien gibt, darf jedoch nicht darüber hinwegtäuschen, dass Leitlinien mehr sind als das Papier, das später ihren Namen trägt. Nicht eines der hier aufgeführten Produkte ist das, um was es geht, sondern die breit getragene Verständigung über die Möglichkeiten, Grenzen und Gefahren von KI im Rahmen des Verwaltungshandelns. Es geht um einen Verständigungs- und Sensibilisierungsprozess der Kommunalverwaltung für den bewussten Einsatz eines neuen Instruments, dessen Nutzung vielerorts nicht sinnvoll durch Verbote geregelt werden kann.

Namentlich gekennzeichnete Beiträge geben die Meinung der Autorin oder des Autors wieder. 

Stadt Wien - KI-Kompass für Bedienstete der Stadt Wien: https://digitales.wien.gv.at/ki-kompass-fuer-bedienstete-der-stadt-wien/

Stadt Linz - KI-Strategie der Stadt Linz: https://www.linz.at/medienservice/2024/202403_124886.php

Stadt Essen - Charta Digitale Ethik der Stadt Essen - Werte und Ziele für die Nutzung künstlicher Intelligenz: https://www.essen.de/essenaktuell/charta_digitale_ethik_2.de.html

Freie und Hansestadt Hamburg - Zehn Hamburger Leitlinien zu Künstlicher Intelligenz (KI) und Daten: https://digital.hamburg.de/digitale-stadt/ki-leitlinien-989546

Stadt Ulm - Leitlinie für den Einsatz Künstlicher Intelligenz bei der Stadt Ulm: https://digitalakademie-bw.de/wp-content/uploads/2025/01/22.-Digi-Lunch_2.-KI-Leitlinien-Beschlussfassung.pdf

BMDV - Neue Richtlinien für mehr KI in der Verwaltung: https://bmdv.bund.de/SharedDocs/DE/Pressemitteilungen/2024/047-wissing-ki-richtlinie.html?nn=13326

Europäische Kommission - General Purpose AI Code of Practice: https://digital-strategy.ec.europa.eu/en/policies/ai-code-practice

OECD und UNESCO - G7 Toolkit for Artificial Intelligence in the Public Sector: https://www.oecd.org/en/publications/g7-toolkit-for-artificial-intelligence-in-the-public-sector_421c1244-en.html

KGSt/Vitako ­- Generative KI in Kommunalverwaltungen: https://www.kgst.de/generative-ki-in-kommunalverwaltungen

Forschungspublikation: Künstliche Intelligenz in der Smart City: Innovative KI-Anwendungen für die Stadtentwicklung: https://www.bbsr.bund.de/BBSR/DE/forschung/programme/smart-cities/projekte/2024/kuenstliche-intelligenz/01-start.html