Können Laien einschätzen, was aus ethischer Sicht die wirklich relevanten Punkte einer Software sind?

Ja! Wer könnte das besser? Die Entwickler*innen? Nein, die wissen, wie es technisch geht, aber ihre Aufgabe ist es nicht, ethische Entscheidungen zu treffen.

Bei KIDD haben wir festgestellt: Bereits nach einer einstündigen Vorstellung der geplanten Software stellen Laien ca. 80% der relevanten Fragen, z.B. bei einer Recruiting-Software, die “erfolgreiche Mitarbeiter*innen” auswählen soll. “Wie wird Erfolg definiert?” “Welche Merkmale werden erhoben und mit Erfolg in Beziehung gesetzt?” “Könnte es sein, dass dann bevorzugt Männer eingestellt werden, weil heute im Unternehmen die Mehrheit der Führungskräfte männlich ist?”

Für die restlichen 20% muss man tiefer in die Systeme schauen (können). Dafür schlagen wir in KIDD vor, sich vom Transparenzkatalog inspirieren zu lassen und sich bei Bedarf externen Sachverstand zu holen. 

Wir bei CHEMISTREE geben unseren Kunden 100% Transparenz und erklären genau, was wir machen. Wir stellen von uns aus die ethische relevanten Fragen. Damit wir sicher sein können, dass das, was wir machen, #guteKI ist.