17. Februar 2020

Künstliche Intelligenz bei der Stadt München


Kategorie: Digital

Ein Beitrag von:

Dr. Stefan Döring
Dr. Stefan Döring

Co-Autoren­schaft:
Elisabeth Wagner - Elisabeth Wagner
In den letzten Jahre gab es immer mal wieder Berichte darüber, wie der Einsatz Künstlicher Intelligenz (KI) diskriminiert. Waren in der Vergangenheit – beispielsweise aufgrund damaliger Rollenbilder – in bestimmten Positionen vor allem Männer erfolgreich, wertet der Algorithmus Frauen heute im Bewerbungsverfahren tendenziell ab. Beim „Anlernen“ der Intelligenz, wurde dieses Muster mitgegeben. In einer Antwort auf eine Stadtratsanfrage äußerte sich IT-Referent Thomas Bönig dazu, wie die Stadt München solche Themen handhabt.

In ihrer Anfrage nannte die Fraktion Die Grünen-Rosa Liste konkrete Beispiele für Diskriminierung durch Künstliche Intelligenz wie:

  • Eine Fotografin wurde in einer Suchmaschine gegenüber einem gleichnamigen Fotografen benachteiligt.
  • Ein Programm für die Zuteilung von Fördermaßnahmen stufte Ältere, gesundheitlich Beeinträchtigte und Mütter schlechter ein.

Könnte es solche Fälle auch in der Münchner Stadtverwaltung oder den städtischen Eigenbetrieben geben?

Künstliche Intelligenz beim Recruiting?

Die Auskunft des Personal- und Organisationsreferats zu Stellenbesetzungen in der Münchner Stadtverwaltung lässt zu diesem Thema an Klarheit nichts zu wünschen übrig:

Jede Bewerbung wird persönlich von der zuständigen Mitarbeiterin oder dem Mitarbeiter geprüft. Künstliche Intelligenz kommt nicht zum Einsatz.

Eine stichprobenbasierte Nachfrage durch das Büro des IT-Referenten ergab, dass die städtischen Tochterunternehmen ebenfalls auf (Vor-)Auswahl durch Künstliche Intelligenz verzichten. Vergleichbares gilt für das IT-Referat selbst. Thomas Bönig plädierte generell für ein dahingehend verantwortungsbewusstes Handeln:

Die genannten Beispiele machen deutlich, welche potentiellen Risiken in KI-Techniken bei einer ungeeigneten Anwendung stecken und wie wichtig eine politische Auseinandersetzung mit solchen Verfahren ist. Dennoch darf eine solche Diskussion nicht dazu führen, dass man die Potentiale von KI-Systemen nicht mehr nutzen kann.

Künstliche Intelligenz für besseren Service

Grundsätzlich lehnt die Stadt Künstliche Intelligenz also keineswegs ab. Das wäre auch ziemlich unsinnig, denn schließlich steckt bereits in einfachen Anwendungen wie Spracherkennungs- oder Übersetzungssystemen eine gewisse Systemintelligenz. Der verstärkte Einsatz von Künstlicher Intelligenz zum Nutzen der Bürgerinnen und Bürgern ist ausdrücklich vorgesehen. So arbeitet das IT-Referat aktuell an einem Chatbot, der bestehende Serviceangebote wie die einheitliche Behördennummer 115, das Online-Service-Portal und mobile Apps ergänzen soll.

Auch die Stadtwerke und die MVG wollen Machine Learning und Datenanalysen einsetzen, zum Beispiel für

  • Optimierung von Betrieb und Wartung technischer Anlagen
  • Verbesserung des Kundenservice und der Produkte
  • Entwicklung von proaktiven Service-Vorschlägen im direkten Kundenkontakt

Dabei gilt auch für die Künstliche Intelligenz: Personenbezogene Daten werden ausschließlich gemäß den gesetzlichen Vorgaben der Datenschutzgrundverordnung genutzt.

Bald verbindliche Rahmenbedingungen

Wie Künstliche Intelligenz in Staat und Verwaltung eingesetzt werden darf und soll, ist in Deutschland derzeit nur unzureichend geregelt. Es ist aber bald mit mehr Verbindlichkeit zu rechnen. Denn der Deutsche Bundestag hat 2018 eine Enquete-Kommission Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche Potentiale eingesetzt. Bis Sommer 2020 soll der Abschlussbericht mit Handlungsempfehlungen vorliegen. Zudem startet das deutsche „KI-Observatorium“, angesiedelt im Arbeitsministerium, um Chancen und Risiken der Künstlichen Intelligenz zu bewerten und Gestaltungsvorschläge machen.

Die Ergebnisse dieser Gremien wird die Stadt bei der Fortschreibung der Digitalisierungsstrategie berücksichtigen. Dabei steht laut Thomas Bönig bereits heute fest:

Es ist unser breites Verständnis über die gesamte Landeshauptstadt München hinweg, solche Systeme insbesondere in der öffentlichen Verwaltung stets verantwortungsbewusst und gemäß den demokratischen Grundwerten anzuwenden.

Die komplette Antwort von CDO Thomas Bönig finden Sie hier (PDF).

1 Kommentar
  1. Das Thema KI birgt sehr große Potentiale im Bereich der internen Verwaltungsprozesse aber auch im Aussenbereich, also dem Kontakt zu den Bürgern. Es ist ein sehr gutes Zeichen, dass sich München frühzeitig mit diesem spannenden Thema auseinandersetzt. Denn im ersten Schritt muss KI verstanden werden, bevor über eine mögliche Umsetzung nachgedacht werden kann. Ein chat bot zum Beispiel KANN eine KI sein – MUSS es aber nicht. Wenn dieser chat bot „nur“ vorgegebene Antworten auf hinterlegte Fragen liefert, handelt es sich um einfachste Mustererkennung, welche völlig frei von KI ist.
    Erst mit diesem Unterscheidungsverständnis können ethische und gesetztliche Rahmenbedingungen richtig zugeordnet und eingehalten werden.
    PS: Die Eröffnungsfeier des KI-Observatoriums findet (schon) am 03. März 2020 in Berlin statt. Ein positives und dynamisches Zeichen, dass das Thema bundesweit vorangetrieben wird.

    Antworten

Kommentar absenden

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Weitere Beiträge

Wie hat Ihnen dieser Beitrag gefallen?
Ihre Bewertung wurde gespeichert.[Gesamt: 0 Durchschnitt: 0]
Teilen
Wie hat Ihnen dieser Beitrag gefallen?
Ihre Bewertung wurde gespeichert.[Gesamt: 0 Durchschnitt: 0]