Erforschung von KI-Anwendungen in der Stadtverwaltung: Das Versprechen und die Risiken

Geschrieben in Zusammenarbeit mit Kate Stoll und Danielle Grey-Stewart vom AAAS Center for Scientific Evidence in Public Issues.

Künstliche Intelligenz (KI) verändert die Arbeitslandschaft und Kommunalverwaltungen sind davon keineswegs ausgenommen. Städte, Gemeinden und Dörfer können die Leistungsfähigkeit der KI nutzen, um Resolutionen auszuarbeiten, Social-Media-Inhalte zu erstellen, Informationen für Wähler zusammenzufassen, datengesteuerte Entscheidungen zu verbessern und vieles mehr. Allerdings sind nicht alle kommunalen Anwendungen für KI geeignet und nicht alle KI-Technologien sind für den staatlichen Einsatz geeignet.

Um die Chancen und Risiken von KI für lokale Führungskräfte zu diskutieren, veranstalteten die National League of Cities und das American Association for the Advancement of Science Center for Scientific Evidence in Public Issues am 10. August gemeinsam eine virtuelle Veranstaltung: „Einführung in KI in der Kommunalverwaltung.“ .“

Obwohl das Gespräch nur die Spitze des Eisbergs war, wenn es um KI-Anwendungen und -Richtlinien von Kommunalverwaltungen geht, lassen sich aus der Veranstaltung mehrere wichtige Erkenntnisse ziehen:

Künstliche Intelligenz ist keine magische Lösung . Wir haben von Professor Hoda Heidari, Co-Leiterin der Responsible AI Initiative an der Carnegie Mellon University, darüber gehört, wie KI statistische Prozesse nutzt, um Muster in Daten zu finden. Dies kann ein wertvolles Instrument für lokale Führungskräfte sein. Allerdings bergen KI-Systeme, wie von Menschen getroffene Entscheidungen, das Potenzial für Voreingenommenheit und Diskriminierung, abhängig von ihrer Ausbildung, den von ihnen verwendeten Daten und ihrer letztendlichen Anwendung. Besondere Vorsicht ist geboten, wenn KI eingesetzt wird, um Folgeentscheidungen zu treffen oder Risikobewertungen bereitzustellen, die sich auf das Leben von Menschen auswirken.

Da sind vieleArten von KI . Generative KI wie ChatGPT oder Google Bard ist nur eine Art von Technologie. Generative KI für Text funktioniert, indem sie das nächste Wort in einem Satz, den nächsten Satz in einem Absatz usw. vorhersagt, basierend auf dem, was laut Text aus vielen Quellen, einschließlich dem Internet, am wahrscheinlichsten folgt. Generative KI prüft im Allgemeinen nicht auf Genauigkeit – Menschen sollten ihre Ergebnisse tatsächlich überprüfen.

Experimentieren Sie, aber überprüfen Sie! Die vorläufigen Richtlinien der Stadt Boston, MA für den Einsatz generativer KI verdeutlichen, dass KI-Tools ein erhebliches Potenzial haben, die Arbeit der städtischen Mitarbeiter zu verbessern. Dieses Potenzial entbindet die Mitarbeiter jedoch nicht von der Verantwortung für ihre Ergebnisse, weshalb Überprüfung und Rechenschaftspflicht unerlässlich sind. Der Chief Information Officer von Boston, Santiago Garces, betonte drei Leitprinzipien:

1) Faktencheck und Überprüfung aller generativen KI-Ergebnisse: Letztendlich sind Menschen für alle Produkte oder Ergebnisse verantwortlich, die sie veröffentlichen, unabhängig davon, ob KI verwendet wird.

2) Offenlegen, wann generative KI eingesetzt wurde: Die Wähler erwarten von ihrer Kommunalverwaltung Transparenz.

3) Geben Sie keine sensiblen oder privaten Informationen weiter: Die in generative KI-Eingabeaufforderungen eingegebenen Informationen sind nicht grundsätzlich privat und könnten daher anfällig für Sicherheitsbedrohungen sein oder von dem Unternehmen, das das Modell bereitstellt, zur Weiterentwicklung seiner Technologie genutzt werden.

KI ist nicht nur etwas für Großstädte. Während andere neue Technologien häufig erhebliche technische Schulungen und Personalressourcen erfordern, ermöglichen generative KI-Tools, die auf Eingaben in natürlicher Sprache basieren, Städten jeder Größe, von ihrem Wert zu profitieren. Die Stadt Wentzville, MO, testet generative KI-Tools, um bestimmte Aspekte der Stadtkommunikation zu automatisieren, wodurch mehr Zeit und Raum für kreatives und strategisches Denken des Stadtpersonals entsteht. Wentzville bietet Präsenzschulungen an und verlangt eine virtuelle Schulung der Mitarbeiter zum Einsatz generativer KI.

Die Veranstaltung im August kratzte lediglich an der Oberfläche der vielen Fragen, die hinsichtlich der Aussichten und Gefahren von KI-Anwendungen in der Kommunalverwaltung aufgeworfen wurden. Welche Fragen haben Sie zum Einsatz von KI in Ihrer Stadt oder Gemeinde? Welche kreativen KI-Anwendungen können Ihre Stadt in die digitale Zukunft führen? Welche Leitplanken sollten eingerichtet werden, um den sicheren Einsatz von KI in Ihrer Stadt oder Gemeinde zu gewährleisten?

Seien Sie gespannt auf weitere Programme zum Thema KI in der Kommunalverwaltung in diesem Herbst. Und nehmen Sie an unseren KI- und neuen Technologie-fokussierten Sitzungen beim NLC City Summit in Atlanta im November teil!

Den Link zur Webinar-Aufzeichnung (verfügbar für NLC-Mitglieder) finden Sie unter „Aus der Veranstaltung: Einführung in die Kommunalverwaltung“.

Um mehr über KI zu erfahren, besuchen Sie die Ressourcen des AAAS EPI Center.

Joshua Pine ist Programmmanager für Stadtinnovation bei der National League of Cities.

Lena Geraghty ist Direktorin für städtische Innovation und Nachhaltigkeit im Center for Municipal Practice der National League of Cities.