DSGVO-konformer Prozess
Wir erheben, speichern und verarbeiten Teilnehmerdaten gemäß den Vorgaben der DSGVO. Unser externer Datenschutzbeauftragter ist Sparringspartner und wachsame Instanz für alle Datenschutz-Aspekte.
ISO-zertifiziertes Hosting
Die Speicherung der Daten und den Betrieb des Rechenzentrums übernimmt ein nach ISO-27001 zertifiziertes deutsches Unternehmen. Das garantiert höchste technisch-organisatorische Maßnahmen zum Schutz der Teilnehmerdaten.
Verarbeitung in Ihrem Auftrag
IHNEN gehören sämtliche Daten – WIR unterliegen als Ihr Auftragsverarbeiter klaren Verantwortlichkeiten, die ein entsprechender Vertrag zur Auftragsverarbeitung (AVV) regelt.
Differenzierte Sichtbarkeit
Längst nicht alles, was von Teilnehmer*innen abgefragt wird, ist für andere Augen bestimmt. Abhängig von ihrer Kritikalität sind Daten sichtbar für bestimmte Rollen… oder auch nicht. Den Teilnehmenden wird eine eventuelle Sichtbarkeit ihrer Angaben immer transparent gemacht.
Verschlüsselte Übertragung, pseudonymisierte Speicherung
Die von Teilnehmer*innen in Online-Fragebögen gemachten Angaben werden per SSL-Verschlüsselung übertragen und pseudonymisiert in der Datenbank gespeichert. Eine unmittelbare Zuordnung zu einem/einer einzelnen Teilnehmer*in ist dadurch unmöglich.
Fortwährend auf dem Prüfstand
Um vor Konzern-Prüfungsausschüssen für Datenschutz und IT-Sicherheit zu bestehen, konfrontieren wir uns regelmäßig intensiv mit den Gegebenheiten – bis hin zu Pen-Tests. Von verschiedenen DAX-Unternehmen sind wir erfolgreich geprüft und zugelassen.
Vertrauen vorprogrammiert
TRANSPARENT
Unser Matching-Algorithmus ist keine ‘black box’: Die zugrunde gelegten Kritieren und Regeln legen wir gemeinsam mit unseren Auftraggeber*innen wohlüberlegt fest. Teilnehmenden machen wir transparent, welche Daten wofür abgefragt werden und worauf ermittelte Matches beruhen.
VERZERRUNGSsensibel
Unser Matching-Algorithmus wahrt Neutralität: Beim gemeinsamen Erarbeiten des Fragebogens denken wir die Perspektiven aller Beteiligten, um Verzerrungen zu erkennen und zu vermeiden. Teilnehmende also frei von Vorfestlegungen und subjektiven Annahmen zu matchen.
SELBSTBESTIMMT
Teilnehmende legen die bevorzugten Eigenschaften ihres Gegenübers selbst fest, statt pauschal nach dem Prinzip ‘Gleiches mit Gleichem’ gematcht zu werden. Nur diese bewusst gemachten Angaben werden für das Matching genutzt, keinerlei andere Daten.
Algorithmen & KI
With great power comes great responsibility (sagt Spiderman)
Wir glauben, gerade bei Superkräften ist moralische Verantwortung besonders gefragt. Je stärker algorithmenbasierte Software in unser Leben eingreift, umso unverzichtbarer ist es, sie genauso nach ethischen wie nach technischen Maßstäben zu beurteilen. Das gelingt nur, wenn sie schon bei ihrer Entwicklung transparent gemacht und aus verschiedenen Perspektiven gedacht wird. Solange sie eine von Entwicklungsabteilungen gehütete “black box” ist und nach Entscheidungsmustern weniger Beteiligter funktioniert, werden ihr die gleichen Fehler und Schwächen anhaften, wie den zugrunde liegenden menschlichen Entscheidungen. Die Frage ist deshalb nicht (mehr), OB es algorithmenbasierte Anwendungen braucht – es geht darum, WELCHE ethischen Maßstäbe bei der Entwicklung von Algorithmen bis hin zu selbstlernender KI anzusetzen sind, damit diese im Interesse ALLER Menschen funktionieren.
Mit CHEMISTREE hat Rosmarie Steininger ihren eigenen Weg hin zu verantwortungsvoller, menschenzentrierter KI definiert. Jenseits der eigenen Unternehmenspraxis und Branchenkreise die öffentliche Meinungsbildung voranzutreiben und buchstäblich Aufklärungsarbeit zu leisten, das ist ihre Mission. Denn: Es braucht den offenen, kritischen und vor allem allgemeinverständlichen (!) Austausch über die Funktionsweise und Nebenwirkungen algorithmengesteuerter Software – statt medialer Panikmache und unternehmerischer Geheimnistuerei. Rosmarie Steininger bringt sich mit diesem Ansinnen inzwischen vielfältig gesellschaftspolitisch ein:
KI Experimentierraum
Unter dem Paradigma menschenzentrierter KI fördert das Bundesministerium für Arbeit und Soziales im Rahmen seiner Initiative Neue Qualität der Arbeit elf sogenannte Lern- & Experimentierräume KI. CHEMISTREE ist Initiator und Konsortialpartner eines davon: KIDD – KI im Dienste der Diversität will die Entwicklung algorithmenbasierter Software nach neuen Regeln denken und ausprobieren. Um Verzerrungen und Diskriminierungen systematisch vorzubeugen, sollen schon in der Entwicklungsphase vielfältige Perspektiven berücksichtigt werden – lang bevor ein “fertiges” digitales System im Unternehmen eingeführt und angewandt wird. Beteiligt sind deshalb nicht nur klassische IT-Entwicklungsabteilungen, sondern von Beginn an auch eine heterogene Gruppe von Mitarbeiter*innen, Betriebs-/Personalräten und Expert*innen.
Welche Folgen und Herausforderungen damit verbunden sind, inwieweit sich ein solches Vorgehen standardisieren lässt – das erproben die KIDD Konsortialpartner während drei Jahren an verschiedenen Praxisprojekten. Das Ziel: Ein modellhafter Prozess zur Einführung diskriminierungsfreier KI und daraus abgeleitete Kriterien, die gleichermaßen in anderen Unternehmen und für andere Fragestellungen zu digitalen Systemen anwendbar sind.
Zum Hintergrund
KI wird als Schlüsseltechnologie die zukünftige Arbeitswelt maßgeblich beeinflussen. Den Menschen dabei in den Mittelpunkt zu stellen, die Entwicklungen und den Einsatz von KI transparent zu machen – daran arbeitet das Bundesministerium für Arbeit und Soziales (BMAS) auf vielen Ebenen. Mit der Initiative Neue Qualität der Arbeit (INQA) unterstützt und fördert es Unternehmen und Beschäftigte, die digitale Transformation der Arbeitswelt proaktiv anzugehen und mitzugestalten.
Ein Bestandteil der Initiative sind die INQA Lern- & Experimentierräume. Finanziell durch das BMAS gefördert, öffnen sie den Projekt-abhängig kooperierenden Unternehmen geschützte Räume, um neue Arbeitsmodelle iterativ zu entwickeln und erproben. Beschäftigte und Interessensgruppen beziehen sie über den gesamten Prozess intensiv mit ein. Die eigenen Erfahrungen und Lernergebnisse werden mit einer breiten Öffentlichkeit geteilt.
© INQA.de
Die Beteiligten
Das Konsortium vereint 8 Unternehmen und Partnerorganisationen unterschiedlicher Größe und Branchen. Die Koordination liegt beim nexus Institut für Kooperationsmanagement und Interdisziplinäre Forschung. Die TU Berlin verantwortet die wissenschaftliche Evaluation des Forschungsprojektes.
CHEMISTREE hat mit dem Arbeitspaket ‘Algorithmen und KI’ die Aufgabe, Transparenz und Basiswissen herzustellen. Gleichzeitig setzen wir innerhalb des Experimentierraums Buddy-Matching das Onboarding neuer Mitarbeiter*innen bei Q_PERIOR um. Und entwickeln daraus sukzessive wiederverwendbare Standards für ethische Digitalisierung.
Der Status
Mit dem”Q_Buddy” Matching haben Q_Perior und CHEMISTREE ihr erstes gemeinsames Praxisprojekt realisiert. Was die digitale Matchingplattform von der Vielzahl anderer im Unternehmen eingesetzter Softwarelösungen gravierend unterscheidet: Die Argumente und Perspektiven von Mitarbeiter*innen, Anspruchsgruppen und Expert*innen wurden bei der Konzeption gleichrangig mit einbezogen. Die jetzt im Einsatz befindliche Plattform ist Ergebnis eines partizipativen Entwicklungsprozesses – realisiert wurde, was den Konsens aller Beteiligter fand.
Auf dem Weg zu einem idealtypischen KIDD-Prozess ist mit dem Buddy-Matching das erste Modellprojekt gelungen. Ansporn für uns, mit den bisherigen Erfahrungen den nächsten gemeinsamen Anwendungsfall anzugehen: Mit Hilfe von KI das Potenzial von Mitarbeiter*innen für spezifische Projekte/Aufgaben zielgenau zu erkennen.
Die 1. KIDD Fachkonferenz im Mai 2022 brachte Vertreter*innen aus Gesellschaft und Politik mit KIDD Projektbeteiligten auf öffentlicher Bühne zusammen. Diskutiert wurde die Arbeit und die bisherigen Ergebnisse von KIDD im regulatorischen und im unternehmerischen Kontext.
Weitere Projektpartner willkommen!
Unternehmen mit eigenen IT-Projekten in der Entwicklungsphase bietet der KIDD Experimentierraum die Chance zum Selbstversuch: Die bisherigen Erfahrungen und der sich formende KIDD Prozess sollen letztlich universell von Nutzen sein – je zahlreicher und verschiedenartiger die Praxisprojekte/Experimentierräume, umso besser gelingt uns dies.
Kommen Sie mit eigenen Vorhaben und Ideen jederzeit gerne mit uns in’s Gespräch: Am direktesten per E-Mail an CHEMISTREE Geschäftsführerin Rosmarie Steininger.
KI Normungsroadmap
2020 veröffentlichten die Bundesregierung zusammen mit DIN und DKE die Normungsroadmap KI. Ausgearbeitet zusammen mit 300 Expert*innen aus Wirtschaft, Wissenschaft, öffentlicher Hand und Zivilgesellschaft, beschreibt die Roadmap sieben Schwerpunktthemen künstlicher Intelligenz mit deren jeweiligem Status Quo, den Anforderungen und Herausforderungen sowie dem daraus abgeleitetem Normungs- und Standardisierungsbedarf. Der Anspruch: Einen Handlungsrahmen für die KI-Normung und -Standardisierung zu formulieren, so dass nationale Wertmaßstäbe auf europäische und internationale Ebene erhoben werden und zu Vertrauenswürdigkeit und Sicherheit von KI beigetragen wird. Deutschen Anbietern versprechen die empfohlenen Maßnahmen Orientierung, transparenten/fairen Wettbewerb und technische Souveränität – im Interesse einer weltweit wettbewerbsfähigen ‘KI made in Germany’.
Schwerpunktthema Ethische KI
Eine ‘verantwortungsvolle’ KI stellt gemäß Normungsroadmap KI den Menschen in den Mittelpunkt bei Entwicklung und Anwendung. Sie misst sich ebenso an wertorientierten Maßstäben und wird nicht allein in ihren technischen Komponenten betrachtet. Dazu müssen sich nicht-technische Akteure und ‘interessierte Kreise’ im Prozess wiederfinden. Je komplexer und kritischer die KI-Anwendung, desto frühzeitiger – bereits in der Design- und Entwicklungsphase von Systemen. Normung soll dazu beitragen, den Entwicklungsprozess zu begleiten und ethische Risiken in der Anwendung zu minimieren.
Mit der Kritikalitätsmatrix macht die Normungsroadmap einen konzeptionellen Vorschlag, wie Transparenzpflichten in Abhängigkeit von der Risikoeinstufung einer Anwendung bestimmt werden können. Etliche noch offene Normungsbedarfe – etwa die Frage nach der Operationalisierung ethischer Werte – werden benannt.
Die Beteiligten
Der Status
Die Ergebnisse der Roadmap werden inzwischen in konkreten Projekten zur Erarbeitung von Normen und Standards umgesetzt. Angestoßen werden sollen Leuchtturmprojekte sowie eine Umsetzungsinitiative zur Prüfung und Zertifizierung von KI-Systemen. Seit diesem Jahr wird auch die KI-Normungsroadmap an sich weiterentwickelt. Besonders die sich parallel vollziehende EU-Gesetzgebung in Form des Artificial Intelligence Act wird künftig den ordnungspolitischen Rahmen für Entwicklung und Einsatz sicherer, vertrauenswürdiger KI-Anwendungen in Europa maßgeblich definieren. In die inhaltliche Debatte und gesetzgebende Verfahren auf EU-Ebene fließen wiederum Empfehlungen der deutschen KI-Koordinierungsgruppe mit ein.
