Erleben Sie unser Matching live

Schlüpfen Sie in die Teilnehmendenrolle und lassen Sie sich mit einem spannenden Kontakt aus unserem CHEMISTREE Team matchen

Forschungsprojekt KI-Cockpit gestartet!

Das Projektteam: Neues Forschungsprojekt „KI-Cockpit“ arbeitet an der Kontrollierbarkeit von Künstlicher Intelligenz

Neues Forschungsprojekt „KI-Cockpit“ arbeitet an der Kontrollierbarkeit von Künstlicher Intelligenz 

  • Das Forschungsprojekt “KI-Cockpit” soll die menschliche Letztentscheidung bei Risikoanwendungen von KI gewährleisten. 
  • Das Projekt folgt den Vorgaben der EU-Verordnung für Künstliche Intelligenz und zielt auf eine sichere und ethisch vertretbare Nutzung von KI. 
  • Prototypen des “KI-Cockpits” sind bereits in verschiedenen Anwendungsfeldern in Arbeit. 

Das vom Bundesministerium für Arbeit und Soziales (BMAS) im Rahmen des KI-Observatoriums der Abteilung Denkfabrik Digitale Arbeitsgesellschaft geförderte Projekt „KI-Cockpit“ stellt eine wegweisende Initiative zur Entwicklung von KI-Steuerung und KI-Optimierung dar. Das Konsortium aus Forschungseinrichtungen und Industrie- und Praxispartnern will gemeinsam benutzerfreundliche und intuitive Software-Oberflächen entwickeln, mit denen Anwender*innen KI-Systeme überwachen, steuern und anpassen können. 

Der Mensch steht im Mittelpunkt der Forschung. Die Kontrolle der autonomen Prozesse soll über die Einstellung sogenannter Autonomiestufen erfolgen, die – ähnlich wie in einem Flugzeugcockpit – den Grad der manuellen bzw. automatischen Entscheidungsfindung festlegen. Zusätzlich werden kognitive Prozesse des Menschen während der Zusammenarbeit mit dem KI-Cockpit untersucht, um so die Interaktion in relevanten Entscheidungsfindungsphasen noch menschzentrierter zu gestalten. Auf diese Weise soll ein allgemeingültiges Cockpit-Modell entstehen, das auf den Entwurf anderer KI-Systeme übertragbar ist und als Open-Source-Anwendung der Öffentlichkeit zur Verfügung gestellt wird. 

Das Vorhaben ist streng an den Vorgaben des EU-AI Acts und dessen Weiterentwicklung ausgerichtet. “Unser Ansatz ‚Human in Command‘ stellt sicher, dass die menschliche Letztentscheidung bei Risiko-Anwendungen von Künstlicher Intelligenz realisiert werden kann”, erklärt Prof. Dr. Doris Aschenbrenner, die das Projekt an der Hochschule Aalen zusammen mit Prof. Dr. Regina Kempen leitet. Diese fügt hinzu: „Es ist ein Schritt in Richtung einer sichereren und ethisch vertretbaren Nutzung Künstlicher Intelligenz.“ In den kommenden Jahren werden die Forscher*innen und Entwickler*innen des Projekts intensiv daran arbeiten, das “KI-Cockpit” zu konfigurieren und zu verfeinern.  

Derzeit sind verschiedene Prototypen in unterschiedlichen Anwendungsfeldern in Arbeit, darunter der Pflegebereich und die Nutzung Künstlicher Intelligenz beim Job-Matching. Rosmarie Steininger, CEO der Chemistree GmbH, betont: „Als Softwareunternehmen sehen wir Regulierung nicht als Hindernis, sondern als Katalysator für Innovation. Unsere Philosophie besteht darin, zu handeln und zu experimentieren, anstatt uns über regulatorische Hürden zu beklagen. In unserem Anwendungsfeld zielen wir darauf ab, unsere Job-Matching-Lösungen bereits heute auf die Anforderungen von morgen auszurichten.“ 

Das Projekt ist im Juli 2023 gestartet und wird bis Ende 2024 mit 3,5 Mio. Euro gefördert. Die ersten Ergebnisse werden in den nächsten sechs Monaten veröffentlicht. 

Erfahren Sie mehr über unsere Learnings aus dem Projekt unter ki-und-arbeit.chemistree.de

KI-Cockpit Forschungsprojekt - Das sind die Partner

Weiter zu:

CDR – mehr als ein Buzzword für CHEMISTREE

Corporate Digital Responsibility - sie ist bei CHEMISTREE weit mehr als ein Schlagwort. Digitalethische Verantwortung durchzieht unser gesamtes Unternehmen und ist die Basis für unser Geschäftsmodell - seit der Gründung 2017. Selbstverständlich für Anbieter von...

Besseres Onboarding dank Buddy Matching

Neue Mitarbeitende schneller und besser in Unternehmen zu integrieren - das soll mit Onboarding-Programmen gelingen. Neben allen inhaltlichen und strukturellen Faktoren entscheidend: Es muss "menscheln"! Viele Onboarding-Programme stiften deshalb gezielt Begegnung und...

Kommunales Matchingportal mit vielen Pluspunkten

Die Gemeinde Ismaning, im Norden des Landkreises München gelegen, ist attraktiver Wohn- und Wirtschaftsstandort mit einer vielfältigen Branchenstruktur und einem umfangreichen Bildungsangebot. Fehlende Nachwuchskräfte sind besonders für kleine Firmen und...

Einladung zur KIDD Abschlusskonferenz

Knapp drei Jahre intensiver Arbeit sind im KI-Experimentierraum KIDD - KI im Dienste der Diversität vergangen. Jetzt werden die Ergebnisse des vom Bundesministerium für Arbeit und Soziales geförderten Forschungsprojekts vorgestellt: Auf der KIDD Abschlusskonferenz am...

Grund zu feiern: 6 Jahre CHEMISTREE!

Am 21. Februar feiern wir 6 Jahre CHEMISTREE! Weil es im letzten Jahr viel positives Echo gab, wird auch dieses Mal gematcht:Erleben Sie ein Matching 'live' und lassen sich mit einem spannenden Kontakt aus unserer Community verknüpfen!Dazu bis zum 20. Februar auf...