Der Deutsche Frauenrat fordert die Bundesregierung auf, algorithmische Entscheidungssysteme diskriminierungssensibel und geschlechtergerecht zu regulieren und den Schutz vor Diskriminierung zu priorisieren.

Dazu gehören insbesondere:

• eine Reform des Allgemeinen Gleichbehandlungsgesetzes (AGG), die algorithmische Diskriminierung explizit mit einbezieht, die Rechte von Betroffenen stärkt und Beweislastregelungen anpasst:
  • Beim Einsatz algorithmischer Systeme soll eine Beweislastumkehr zugunsten der Betroffenen gelten: Anwender*innen müssen nachweisen, dass keine Diskriminierung vorliegt. Dies kann durch die Einhaltung anerkannter Standards, etwa durch unabhängige Zertifizierung, erleichtert werden.
  • Betroffene müssen darüber informiert werden, wenn Entscheidungen unter Einsatz algorithmischer Systeme getroffen wurden.
• die Sicherstellung von Gleichstellungskompetenz in der Bundesnetzagentur, die Einbeziehung der geschlechtsspezifischen Perspektive bei Innovationsförderung, Wissensaufbau und -austausch zu künstlicher Intelligenz und die Schaffung eines unabhängigen nationalen KI-Beirat bei der Bundesnetzagentur zur Beteiligung der Zivilgesellschaft bei der KI-Aufsicht;
• die Schaffung von ausreichend finanzierten Unterstützungs- und Informationsangeboten zu Diskriminierung durch algorithmische Systeme;
• Durchführung von diskriminierungssensiblen Folgenabschätzungen vor dem Einsatz algorithmischer Entscheidungssysteme und die Einrichtung eines nationales KI-Transparenzregisters;
• die Beteiligung von Frauenverbänden an der Fortschreibung der nationalen KI-Strategie und die dauerhafte Förderung feministischer Digitalforschung;

den Einsatz der Bundesregierung auf EU-Ebene, Schutzstandards nicht unter dem Deckmantel des Bürokratieabbaus abzusenken und auf eine konsequente Regulierung unter expliziter Einbeziehung der Geschlechterperspektive hinzuwirken.