Forschung bei CHEMISTREE

KIDD – KI & Diversität (2020 – 2024)

Das Projekt KIDD (Künstliche Intelligenz & Diversität), gefördert vom Bundesministerium für Arbeit & Soziales, untersucht, wie KI-Systeme diskriminierungsfrei und diversitätsfördernd eingesetzt werden können. Es verbindet wissenschaftliche Analysen mit konkreten Anwendungsfällen aus der Praxis und entwickelt Instrumente zur Kontrolle und Optimierung von KI-basierten Entscheidungsprozessen.

Kernziele des CHEMISTREE Experimentierraums

• Entwicklung von Methoden zur Identikation und Korrektur von Bias in KI-Systemen
• Förderung von Diversität durch faire Matching-Prozesse
• Schaffung eines Frameworks für diskriminierungsfreie KIgestützte
  Personalentscheidungen
• Integration von Kontrollmechanismen, die sicherstellen, dass KI-Systeme die gesellschaftlichen Werte von Gleichberechtigung und Chancengleichheit respektieren

Publikationen

KIDD-Handbuch

KI-Cockpit (2023 – 2025)

Das Forschungsprojekt KI-Cockpit (KI-C), gefördert vom Bundesministerium für Arbeit und Soziales, befasst sich mit
der Transparenz und Steuerung von KI-Entscheidungen. Ziel ist es, ein nutzerfreundliches Interface zu entwickeln, das es Unternehmen und HR-Expert*innen ermöglicht, algorithmische Prozesse nachzuvollziehen und gezielt zu steuern. So wird sichergestellt, dass KI-gestützte Entscheidungen nachvollziehbar und vertrauenswürdig
bleiben.

Kernziele des CHEMISTREE Fieldlabs

• Entwicklung einer intuitiven Benutzeroberfläche für die
  Steuerung von KI-gestützten Prozessen
• Bereitstellung von Echtzeit-Transparenz über die Entscheidungsfindung der KI
• Implementierung von Kontrollmechanismen zur Anpassung und Korrektur von KI-Entscheidungen
• Förderung eines interaktiven Feedback-Systems, das Nutzer*innen ermöglicht, Einfluss auf die Algorithmen zu nehmen und deren Entwicklung mitzugestalten

KI & People Management Konferenz (2024)

Die KI & People Management Konferenz wurde von der Max-Planck-Gesellschaft und dem Münchner Kreis in Zusammenarbeit mit CHEMISTREE im Februar 2024 in Berlin veranstaltet und hat sich der Aufgabe gewidmet, eine Schnittstelle zwischen Künstlicher Intelligenz und Personalmanagement herzustellen. CHEMISTREE brachte hier seine Expertise ein, um zukunftsweisende Ansätze für den verantwortungsvollen Einsatz von KI in HR-Prozessen zu diskutieren. Themen wie Transparenz, Fairness und regulatorische Rahmenbedingungen stehen dabei im Mittelpunkt. Hier wurden Erkenntnisse aus Forschung und Praxis geteilt und gemeinsam Lösungen für die Herausforderungen der digitalen Transformation im HR-Bereich zu entwickeln.