Behörden erhoffen sich mehrere Vorteile vom Einsatz von KI, wie der Kanton Zürich in einer Medienmitteilung schreibt. So könnte KI helfen, Prozesse zu automatisieren, die Effizienz zu steigern und die Qualität von Dienstleistungen zu verbessern. Bereits heute setzen mehrere Kantone Chatbots ein, um die Anfragen von Kundinnen und Kunden zu beantworten.
Allerdings gibt es bei der Implementierung von KI auch Herausforderungen. Der Kanton Zürich hat eine Studie in Auftrag gegeben, welche Chancen und Risiken der neuen Technologie aufzeigt und konkrete Massnahmen empfiehlt. In der Studie werden insbesondere die rechtlichen Herausforderungen hervorgehoben, die es beim Einsatz von KI zu berücksichtigen gilt. Wichtige Aspekte seien hier etwa die Sicherstellung von rechtsstaatlichen Verfahrensgarantien, die Verhinderung von Diskriminierung und die Gewährleistung von Transparenz. Ausserdem seien auch ethische Implikationen zu beachten.
„Daten können fehlerhaft oder unvollständig sein und so alte Diskriminierungsmuster reproduzieren oder gar neue etablieren“, wird Nadja Braun Binder, Professorin für Öffentliches Recht an der Universität Basel, in der Mitteilung zitiert. Kontrollen durch Verwaltungsmitarbeitende, Drittorganisationen oder Kontrollalgorithmen seien daher von grosser Bedeutung. Braun Binder war gemeinsam mit ihrem Team sowie der gemeinnützigen Organisation AlgorithmWatch für die Durchführung der Studie zuständig. ssp
