Wie schafft man es, bei der Entwicklung von Software, von Algorithmen, von KI alle ethischen Fallstricke zu sehen und die richtigen Entscheidungen zu treffen? Aus der Erfahrung in KIDD geht das so:

Man braucht einen konkreten Anwendungsfall – den Kontext – anhand dessen diskutiert wird.

Und man braucht eine Gruppe von Menschen, die aus ganz unterschiedlichen Perspektiven auf die Anwendung schaut – und das Mandat dafür hat, über Fairness im Kontext zu entscheiden. Wir nennen es in KIDD das Panel der Vielfalt.

Wann ist eine Recruiting-Software fair? Wenn sie genauso viele Frauen wie Männer in den Shortlists vorschlägt? Oder genauso viele Frauen wie es dem Anteil der Frauen in der Gruppe der Bewerber*innen entspricht? Oder wenn das Geschlecht überhaupt nicht betrachtet wird? Welche anderen Dimensionen außer dem Geschlecht sollten angeschaut werden? Solche Entscheidungen den Entwickler*innen zu überlassen ist eine Überforderung und vor allem gefährlich.

Wir bei Chemistree empfehlen unseren Kunden, bei der Maßschneiderei unserer Lösungen vielfältige Perspektiven im Betrieb einzubinden. Und wir freuen uns immer, in enger Abstimmung mit Anwender*innen, Betriebsrät*innen oder anderen Stakeholdern zu definieren, was im Kontext #guteKI ist.