Künstliche Intelligenz (KI) ist längst Teil unseres alltäglichen Lebens: Sie hilft uns beim Navigieren, bei medizinischen Diagnosen oder bei der Stellensuche. Doch KI wirkt nicht neutral. Sie kann Chancen eröffnen – aber auch Ungleichheiten verstärken. Die neueste Ausgabe des vom Ministerium für Soziales, Gesundheit und Integration Baden-Württemberg herausgegebenen GesellschaftsReports BW (PDF) zeigt eindrücklich, wie stark KI selbst subtile Geschlechterstereotype reproduzieren kann – und welche KI-Tools bereits zur Gleichstellung der Geschlechter beitragen.
„KI ist ein Werkzeug, das unser Zusammenleben prägt. Damit sie niemanden benachteiligt, müssen wir sie sozialverantwortlich gestalten“, sagte Staatssekretärin Dr. Ute Leidig. „Wir wollen, dass KI allen Menschen in Baden-Württemberg zugutekommt.“
KI verstärkt oft unbewusst soziale Stereotype
Der neue GesellschaftsReport BW 2-2025: Zwischen Fortschritt und Vorurteil: Wie Künstliche Intelligenz Gleichstellung in Baden-Württemberg prägt, zeigt anhand von zwei Forschungsexperimenten: Auch moderne KI-Systeme wie ChatGPT reproduzieren Stereotype – teilweise sehr subtil.
- Berufliche Erfolgsgeschichten für Männer werden deutlich häufiger mit Technologie, Innovation oder Führung verbunden.
- Für Frauen werden dagegen Nachhaltigkeit, soziales Engagement und Teamarbeit betont.
- In Empfehlungsschreiben für IT-Berufe werden Männer häufiger für verantwortungsvolle Positionen vorgeschlagen; Frauen eher als „wertvolle Mitarbeitende“.
- Selbst bei gleichen fachlichen Fähigkeiten unterscheiden sich Ton, Gewichtung und implizite Zuschreibungen.
„Dass Diskriminierung nicht immer laut und offensichtlich ist, sondern gerade im Kleinen passiert, macht sie so gefährlich“, so Dr. Leidig. „Subtile Verzerrungen können Karrieren beeinflussen. Wir müssen genau hinsehen.“
Gleichzeitig bietet KI enorme Chancen – insbesondere für Frauen
Der Report zeigt jedoch ebenso, wie KI gezielt Gleichstellung fördern kann:
- Medizin: KI erkennt geschlechtsspezifische Risiken früher – zum Beispiel bei Brustkrebs oder Herzinfarkten.
- Sicherheit im Netz: Apps wie PENEMUE erkennen Hatespeech und schützen insbesondere Frauen in der Öffentlichkeit.
- Gründerinnenförderung: Die App KITE II stärkt Frauen im Gründungsprozess und erkennt diskriminierende Muster.
- Unternehmen: Tools wie FAIR_solution identifizieren Gender Gaps bei Gehalt, Karriere oder Weiterbildung.
- Bildung: Durch KI entstehen neue Rollen und Kompetenzen – zum Beispiel in Ethik, Sprache, Sozialwissenschaft – Bereiche mit hohen Frauenanteilen.
„KI kann Gleichstellung nach vorne bringen – wenn wir sie bewusst einsetzen. Das unterstützen wir in Baden-Württemberg“, so Staatssekretärin Dr. Leidig.
AI Act der EU: starke Basis für vertrauenswürdige KI
2024 hat die EU mit dem AI Act weltweit erstmals rechtsverbindliche Regeln geschaffen:
- Transparenzpflichten für KI-gestützte Dienste wie Chatbots
- strenge Anforderungen bei Hochrisiko-KI (zum Beispiel Kreditwürdigkeitsprüfung)
- Verbot manipulativer oder überwachender KI-Systeme
- Inkrafttreten: 2026
Baden-Württemberg bereitet sich frühzeitig auf eine faire, sichere KI-Umsetzung vor und entwickelt eigene Projekte, um Diskriminierung durch KI zu erkennen und zu verhindern.
Landesregierung geht voran – mit klaren Maßnahmen
Der GesellschaftsReport BW zeigt, wie wichtig Bildung, Sensibilisierung und sozialverantwortliche Technologie sind. Baden-Württemberg setzt deshalb unter anderem auf:
- Analyse von KI-bedingter Diskriminierung beim Personalrecruiting
- Strategien gegen digitale Gewalt und strukturelle Diskriminierung
- Entwicklung eines KI-gestützten Chatbots für Fachkräfte des Hilfesystems
- Förderung von Frauen im MINT- und KI-Bereich
- Unterstützung für gemeinwohlorientierte KI-Projekte
- Qualifizierungsprogramme für Unternehmen
„Wir wollen eine digitale Zukunft, die allen Bürgerinnen und Bürgern nützt“, erklärt Dr. Leidig. „KI soll unsere Demokratie stärken – nicht schwächen.“
