Der Deutsche Frauenrat fordert die Bundesregierung, die Länder und die Kommunen auf, den Einsatz und die Beschaffung von KI-Systemen im öffentlichen Sektor an verbindliche gleichstellungs- und diskriminierungssensible Standards zu binden.

1. Geschlechter- und diskriminierungssensible Folgenabschätzungen vor Einführung und bei wesentlichen Änderungen von KI-Systemen im Öffentlichen Sektor. Diese Folgenabschätzungen müssen die Auswirkungen auf Frauen und Mädchen sowie intersektionale Diskriminierungsrisiken systematisch erfassen.
2. Gleichstellungsorientierte Vergabe- und Beschaffungskriterien für KI-Systeme. Öffentliche Stellen dürfen nur KI-Systeme beschaffen, einsetzen oder weiterverwenden, deren Anbieter nachvollziehbar darlegen, auf welcher Datenbasis die Systeme entwickelt und getestet, wie Risiken geschlechtsbezogener und intersektionaler Diskriminierung geprüft wurden, welche Maßnahmen zur Vermeidung von Bias und Fehlentscheidungen vorgesehen sind und wie menschliche Aufsicht, Korrektur und Beschwerde sichergestellt werden.
3. Schutzstandards für sensible Einsatzfelder, insbesondere in Bildung und Weiterbildung, Beschäftigung, Personalauswahl und -steuerung, Gesundheitsversorgung, Sozialverwaltung und dem Zugang zu öffentlichen Leistungen.
4. Transparenzpflichten zum Einsatz von KI-Systemen, über deren Zweck, Einsatzbereich, Risiken, Schutzmaßnahmen und dafür zuständige Stellen.
5. Beteiligung von Gleichstellungsakteur*innen bei Einführung, Bewertung und Kontrolle von KI-Systemen im öffentlichen Bereich, insbesondere von Gleichstellungsbeauftragten, Personalvertretungen und zivilgesellschaftlichen Frauenorganisationen.
6. Wirksame Beschwerde-, Prüf- und Korrekturmechanismen für Betroffene. Werden diskriminierende Wirkungen festgestellt und nicht wirksam behoben, dürfen KI-Systeme nicht eingesetzt oder müssen außer Betrieb genommen werden.
7. Bundeseinheitliche Leitlinien für eine geschlechtergerechte, intersektionale und grundrechtskonforme Beschaffung und Nutzung von KI durch öffentliche Stellen.