Grüße vom Chatbot: So setzt die Stadt Detmold KI ein - und welche Gefahren es gibt

Detmold. &bdquo;Hallo! Ich bin der Chatbot der Stadt Detmold und befinde mich aktuell noch in der Lernphase und entwickele mich weiter. Bitte beachten Sie, dass die Antworten automatisch generiert werden und in seltenen Fällen nicht ganz korrekt oder vollständig sind. Übrigens: Ich kann über 95 Sprachen sprechen!“ So werden Nutzer auf der städtischen Internetseite begrüßt, wenn sie unten rechts auf die Sprechblase klicken. Dahinter steckt Künstliche Intelligenz (KI), die auch in der Verwaltung bereits an einigen Stellen zum Einsatz kommt. An welchen hat sie auf Nachfrage der FDP-Fraktion im Stadtrat einmal erklärt.

An welchen Stellen werden KI-Anwendungen genutzt?

&bdquo;Die Stadtverwaltung verfolgt einen umsichtigen und gezielten Ansatz bei der Einführung neuer Technologien. Aktuell wird Künstliche Intelligenz in einem eng begrenzten und klar definierten Rahmen eingesetzt“, erklärt Dennis Schäffer, der als &bdquo;Chief Digital Officer“ für Digitalisierung zuständig ist. Dazu gehöre der Chatbot &bdquo;ChaDT“, ein digitaler Assistent auf der städtischen Internetseite, der Bürgern einen schnellen und direkten Zugang zu öffentlich verfügbaren Informationen über die Dienstleistungen der Stadt ermöglichen soll. Außerdem erprobe die Verwaltung im Rahmen eines Pilotprojekts die Software &bdquo;GovRadar“, um Vergabeprozesse zu beschleunigen, und nutze ein KI-gestütztes Schutzsystem, um Cyberangriffe in Echtzeit zu verhindern, zu erkennen, zu analysieren und zu beheben. Dieses werde durch das Rechenzentrum OWL-IT für den kommunalen Verbund zur Verfügung gestellt.

Nach welchen Kriterien erfolgt der Einsatz?

&bdquo;Der Einsatz von KI und anderen digitalen Technologien erfolgt nicht nach dem Prinzip des technisch Machbaren, sondern folgt einer klaren strategischen Leitlinie: Die Technologie folgt dem Prozess. Das primäre Ziel ist die fortlaufende nachhaltige Optimierung im Sinne der Bürger“, berichtet Dennis Schäffer. Deshalb werde zunächst einmal geprüft, ob eine Aufgabe durch digitale Mittel verbessert werden kann und ob entweder ein klassischer Algorithmus oder die KI besser dafür geeignet wären.

Während &bdquo;einfachere“ Dinge wie die Eingangsprüfung von Anträgen anhand von Pflichtfeldern und Plausibilitäten oder auch die Terminvergabe mit festen Prioritätsregeln durch einen Algorithmus zu lösen seien, könne Künstliche Intelligenz bei komplexeren Aufgaben wie der Freitextklassifikation von Bürgeranliegen und deren Weiterleitung oder auch Prognosen zu Energie-/Wasserverbrauch, Verkehrslast oder Schülerzahlen weiterhelfen. Um nur einige Beispiele zu nennen.

Bei jeder Anwendung werde geprüft, ob sie geltendem Recht folgt, insbesondere der Datenschutz-Grundverordnung (DSGVO) und den Vorgaben des EU AI Act. &bdquo;Der Einsatz muss einen klaren Mehrwert für die Bürger und/oder die Verwaltungsorganisation schaffen, sei es durch Effizienzsteigerung, Serviceverbesserung oder die Entlastung von Mitarbeitenden“, so der Verwaltungsmitarbeiter weiter.

Hat die Stadt eine einheitliche Strategie beim Umgang mit KI?

Im Moment nicht. Die Stadt will nicht nur auf KI setzen, zumal auf diesem Gebiet noch viel in Bewegung ist. Der Einsatz von Künstlicher Intelligenz ist aber Teil der digitalen Gesamtstrategie, die derzeit fortgeschrieben wird. &bdquo;Ziel der Verwaltung ist es, eine souveräne und geschützte, idealerweise im eigenen Haus betriebene Daten-Plattform zu etablieren. Diese soll es ermöglichen, KI-Anwendungen kostengünstig, sicher und im Einklang mit unseren Werten als Werkzeug der digitalen Transformation zu nutzen“, erklärt Dennis Schäffer.

Welche Chancen und Risiken sieht die Stadt?

Bei den Chancen nennt die Verwaltung: Mitarbeiter würden von Routinetätigkeiten entlastet und hätten mehr Ressourcen für komplexe Beratungs- und Gestaltungsaufgaben; bessere Erreichbarkeit der Verwaltung und Antwort auf Standardanfragen durch Chatbots; Analyse großer Datenmengen könne helfen, kommunale Planungsprozesse zu verbessern.

Risiken wie Manipulation und Intransparenz begegnet die Stadt nach Aussage ihres &bdquo;Chief Digital Officers“ durch die Einhaltung des EU AI Act, der solche Praktiken verbiete oder unter hohe Auflagen stelle. Transparenz und dieWahrung der Bürgerrechte seien dabei handlungsleitend. Da die Künstliche Intelligenz nicht immer richtig liegt, setzt die Verwaltung auf menschliche Aufsicht, klare Verantwortlichkeiten und eine kritische Prüfung der Ergebnisse. Um eine Abhängigkeit von einzelnen großen Anbietern zu vermeiden, favorisiert sie Open-Source-Lösungen und den Aufbau eigener Kompetenzen und Infrastrukturen wie der Datenplattform.

Welche Zusatzqualifikationen muss das Personal erwerben?

Dazu gehört laut der Stadt ein Grundverständnis über die Funktionsweise. Die Mitarbeiter müssten durch gezielte Schulungen lernen, wie Werkzeuge angewendet werden können und wie man effektive Anfragen an KI-Systeme formuliert. Gleichzeitig müssten sie die Grenzen kennen und wissen, dass die Ergebnisse kritisch bewertet werden müssen.

Grüße vom Chatbot: So setzt die Stadt Detmold KI ein - und welche Gefahren es gibt

KI-Gipfel: Milliardeninvestitionen und Ringen um Regulierung

Wissing: KI aus Deutschland nicht chancenlos

Umfrage: Abhängigkeit von ausländischen KI-Anbietern zu hoch

Europäische Konzerne schlagen Alarm bei KI-Gesetz

Bundesnetzagentur bietet KI-Beratungsservice für Firmen

Meta bringt KI-Funktionen doch in die EU

Lippische Landes-Zeitung: Nachrichten aus Lippe, OWL und der Welt

LZplus Herbst-Deal

1 € pro Woche

Weiterlesen mit LZplus