In ihrer Anfrage nannte die Fraktion Die Grünen-Rosa Liste konkrete Beispiele für Diskriminierung durch Künstliche Intelligenz wie:
- Eine Fotografin wurde in einer Suchmaschine gegenüber einem gleichnamigen Fotografen benachteiligt.
- Ein Programm für die Zuteilung von Fördermaßnahmen stufte Ältere, gesundheitlich Beeinträchtigte und Mütter schlechter ein.
Könnte es solche Fälle auch in der Münchner Stadtverwaltung oder den städtischen Eigenbetrieben geben?
Künstliche Intelligenz beim Recruiting?
Die Auskunft des Personal- und Organisationsreferats zu Stellenbesetzungen in der Münchner Stadtverwaltung lässt zu diesem Thema an Klarheit nichts zu wünschen übrig:
Jede Bewerbung wird persönlich von der zuständigen Mitarbeiterin oder dem Mitarbeiter geprüft. Künstliche Intelligenz kommt nicht zum Einsatz.
Eine stichprobenbasierte Nachfrage durch das Büro des IT-Referenten ergab, dass die städtischen Tochterunternehmen ebenfalls auf (Vor-)Auswahl durch Künstliche Intelligenz verzichten. Vergleichbares gilt für das IT-Referat selbst. Thomas Bönig plädierte generell für ein dahingehend verantwortungsbewusstes Handeln:
Die genannten Beispiele machen deutlich, welche potentiellen Risiken in KI-Techniken bei einer ungeeigneten Anwendung stecken und wie wichtig eine politische Auseinandersetzung mit solchen Verfahren ist. Dennoch darf eine solche Diskussion nicht dazu führen, dass man die Potentiale von KI-Systemen nicht mehr nutzen kann.
Künstliche Intelligenz für besseren Service
Grundsätzlich lehnt die Stadt Künstliche Intelligenz also keineswegs ab. Das wäre auch ziemlich unsinnig, denn schließlich steckt bereits in einfachen Anwendungen wie Spracherkennungs- oder Übersetzungssystemen eine gewisse Systemintelligenz. Der verstärkte Einsatz von Künstlicher Intelligenz zum Nutzen der Bürgerinnen und Bürgern ist ausdrücklich vorgesehen. So arbeitet das IT-Referat aktuell an einem Chatbot, der bestehende Serviceangebote wie die einheitliche Behördennummer 115, das Online-Service-Portal und mobile Apps ergänzen soll.
Auch die Stadtwerke und die MVG wollen Machine Learning und Datenanalysen einsetzen, zum Beispiel für
- Optimierung von Betrieb und Wartung technischer Anlagen
- Verbesserung des Kundenservice und der Produkte
- Entwicklung von proaktiven Service-Vorschlägen im direkten Kundenkontakt
Dabei gilt auch für die Künstliche Intelligenz: Personenbezogene Daten werden ausschließlich gemäß den gesetzlichen Vorgaben der Datenschutzgrundverordnung genutzt.
Bald verbindliche Rahmenbedingungen
Wie Künstliche Intelligenz in Staat und Verwaltung eingesetzt werden darf und soll, ist in Deutschland derzeit nur unzureichend geregelt. Es ist aber bald mit mehr Verbindlichkeit zu rechnen. Denn der Deutsche Bundestag hat 2018 eine Enquete-Kommission Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche Potentiale eingesetzt. Bis Sommer 2020 soll der Abschlussbericht mit Handlungsempfehlungen vorliegen. Zudem startet das deutsche “KI-Observatorium”, angesiedelt im Arbeitsministerium, um Chancen und Risiken der Künstlichen Intelligenz zu bewerten und Gestaltungsvorschläge machen.
Die Ergebnisse dieser Gremien wird die Stadt bei der Fortschreibung der Digitalisierungsstrategie berücksichtigen. Dabei steht laut Thomas Bönig bereits heute fest:
Es ist unser breites Verständnis über die gesamte Landeshauptstadt München hinweg, solche Systeme insbesondere in der öffentlichen Verwaltung stets verantwortungsbewusst und gemäß den demokratischen Grundwerten anzuwenden.
Die komplette Antwort von CDO Thomas Bönig finden Sie hier (PDF).
1 Kommentar
Kommentar absenden
Weitere Beiträge
Einladung: Gemeinsam die Digitalisierung gestalten – Diskussion zur Gründung eines Digitalrats
Einblick in die Digitalisierung der Stadt München: Vierter Digitalisierungsbericht veröffentlicht
Schnell und absolut verlässlich: Neuentwickeltes Münchner Adress- und Eigentumsregister
Ein Jahr neues Arbeiten im Multispace – was haben wir gelernt?
Dritte Fortschreibung der Digitalisierungsstrategie: Viele Impulse aus der Stadtgesellschaft aufgegriffen
Papierlose Verwaltungsarbeit: Inputmanagement für medienbruchfreie Prozesse
Zufriedenheitsbefragung der städtischen IT-Nutzenden: Effiziente Auswertung von Freitext mit Hilfe von KI
Das Thema KI birgt sehr große Potentiale im Bereich der internen Verwaltungsprozesse aber auch im Aussenbereich, also dem Kontakt zu den Bürgern. Es ist ein sehr gutes Zeichen, dass sich München frühzeitig mit diesem spannenden Thema auseinandersetzt. Denn im ersten Schritt muss KI verstanden werden, bevor über eine mögliche Umsetzung nachgedacht werden kann. Ein chat bot zum Beispiel KANN eine KI sein – MUSS es aber nicht. Wenn dieser chat bot “nur” vorgegebene Antworten auf hinterlegte Fragen liefert, handelt es sich um einfachste Mustererkennung, welche völlig frei von KI ist.
Erst mit diesem Unterscheidungsverständnis können ethische und gesetztliche Rahmenbedingungen richtig zugeordnet und eingehalten werden.
PS: Die Eröffnungsfeier des KI-Observatoriums findet (schon) am 03. März 2020 in Berlin statt. Ein positives und dynamisches Zeichen, dass das Thema bundesweit vorangetrieben wird.