Wer KI einsetzt, trägt Verantwortung – vor allem für Diskriminierungsfreiheit

^{SPÖ-Frauensprecherin Heitz}

Künstliche Intelligenz hält auch in der oberösterreichischen Landesverwaltung zunehmend Einzug. Doch ihr Einsatz birgt erhebliche Risiken für Geschlechtergerechtigkeit. KI-Systeme, die auf Basis historischer Daten trainiert werden, können bestehende gesellschaftliche Ungleichheiten nicht nur reproduzieren, sondern sogar verstärken. Bereits bekannte Fälle wie der AMS-Chatbot „Berufsinformant“ zeigen das. SPÖ-Frauensprecherin Renate Heitz warnt: „Wenn wir nicht gezielt gegensteuern, zementieren wir Diskriminierung digital fest. Algorithmen kennen kein Gewissen – deshalb brauchen sie Kontrolle.“ Die SPÖ bringt daher am Donnerstag im Oö. Landtag einen Initiativantrag ein und fordert die Landesregierung auf, einen Bericht zur ethischen Konformität beim KI-Einsatz in der gesamten Landesverwaltung vorzulegen und gegebenenfalls mit konkreten Maßnahmen für Geschlechtergerechtigkeit nachzuschärfen.

Risikos dürfen nicht unterschätzt werden!

Laut Forschungsergebnissen basieren viele medizinische Datensätze auf männlichen Symptomen – mit der Folge, dass KI-Diagnosesysteme Krankheiten bei Frauen häufiger fehldiagnostizieren. Ein prominentes Beispiel lieferte Amazon: Ein KI-gestütztes Recruiting-Tool musste eingestellt werden, weil es systematisch Frauen benachteiligte. Die KI hatte gelernt, männliche Kandidaten zu bevorzugen, weil die zugrundeliegenden Daten die männlich dominierte Tech-Branche widerspiegelten.

Der AMS-Chatbot „Berufsinformant“ empfahl Frauen und Männern mit gleicher Ausbildung unterschiedliche Berufe. Frauen wurden vorrangig Gesundheitsberufe vorgeschlagen, Männern hingegen z.B. der Beruf des Software-Entwicklers. „Das ist kein technisches Versehen! Das ist strukturelle Diskriminierung durch Algorithmen. Wir dürfen nicht zulassen, dass so etwas in der Oö. Landesverwaltung passiert“, so Heitz.

Das Land Oberösterreich trägt gemäß Artikel 9 des Landesverfassungsgesetzes eine besondere Verantwortung, denn hiermit bekennt es sich zur Gleichbehandlung und Gleichstellung aller Menschen. Die SPÖ fordert daher konkrete Maßnahmen: die Beiziehung zertifizierter Expert:innen bereits in der Entwicklungsphase von KI-Anwendungen, regelmäßige unabhängige Überprüfungen eingesetzter Systeme, regelmäßige Berichte über Hochrisiko-KI gemäß EU AI Act an den Landtag sowie die Sensibilisierung der Mitarbeiter:innen. „Mittelfristig müssen diese Standards für alle KI-Initiativen im Einflussbereich des Landes gelten und beim Diskriminierungsschutz Maßstäbe setzen“, so Heitz abschließend.