Neues Forschungsprojekt „KI-Cockpit“ arbeitet an der Kontrollierbarkeit von Künstlicher Intelligenz

• Das Forschungsprojekt “KI-Cockpit” soll die menschliche Letztentscheidung bei Risikoanwendungen von KI gewährleisten.
• Das Projekt folgt den Vorgaben der EU-Verordnung für Künstliche Intelligenz und zielt auf eine sichere und ethisch vertretbare Nutzung von KI.
• Prototypen des “KI-Cockpits” sind bereits in verschiedenen Anwendungsfeldern in Arbeit.

Das vom Bundesministerium für Arbeit und Soziales (BMAS) im Rahmen des KI-Observatoriums der Abteilung Denkfabrik Digitale Arbeitsgesellschaft geförderte Projekt „KI-Cockpit“ stellt eine wegweisende Initiative zur Entwicklung von KI-Steuerung und KI-Optimierung dar. Das Konsortium aus Forschungseinrichtungen und Industrie- und Praxispartnern will gemeinsam benutzerfreundliche und intuitive Software-Oberflächen entwickeln, mit denen Anwender*innen KI-Systeme überwachen, steuern und anpassen können.

Der Mensch steht im Mittelpunkt der Forschung. Die Kontrolle der autonomen Prozesse soll über die Einstellung sogenannter Autonomiestufen erfolgen, die – ähnlich wie in einem Flugzeugcockpit – den Grad der manuellen bzw. automatischen Entscheidungsfindung festlegen. Zusätzlich werden kognitive Prozesse des Menschen während der Zusammenarbeit mit dem KI-Cockpit untersucht, um so die Interaktion in relevanten Entscheidungsfindungsphasen noch menschzentrierter zu gestalten. Auf diese Weise soll ein allgemeingültiges Cockpit-Modell entstehen, das auf den Entwurf anderer KI-Systeme übertragbar ist und als Open-Source-Anwendung der Öffentlichkeit zur Verfügung gestellt wird.

Das Vorhaben ist streng an den Vorgaben des EU-AI Acts und dessen Weiterentwicklung ausgerichtet. “Unser Ansatz ‚Human in Command‘ stellt sicher, dass die menschliche Letztentscheidung bei Risiko-Anwendungen von Künstlicher Intelligenz realisiert werden kann”, erklärt Prof. Dr. Doris Aschenbrenner, die das Projekt an der Hochschule Aalen zusammen mit Prof. Dr. Regina Kempen leitet. Diese fügt hinzu: „Es ist ein Schritt in Richtung einer sichereren und ethisch vertretbaren Nutzung Künstlicher Intelligenz.“ In den kommenden Jahren werden die Forscher*innen und Entwickler*innen des Projekts intensiv daran arbeiten, das “KI-Cockpit” zu konfigurieren und zu verfeinern.

Derzeit sind verschiedene Prototypen in unterschiedlichen Anwendungsfeldern in Arbeit, darunter der Pflegebereich und die Nutzung Künstlicher Intelligenz beim Job-Matching. Rosmarie Steininger, CEO der Chemistree GmbH, betont: „Als Softwareunternehmen sehen wir Regulierung nicht als Hindernis, sondern als Katalysator für Innovation. Unsere Philosophie besteht darin, zu handeln und zu experimentieren, anstatt uns über regulatorische Hürden zu beklagen. In unserem Anwendungsfeld zielen wir darauf ab, unsere Job-Matching-Lösungen bereits heute auf die Anforderungen von morgen auszurichten.“

Das Projekt ist im Juli 2023 gestartet und wird bis Ende 2024 mit 3,5 Mio. Euro gefördert. Die ersten Ergebnisse werden in den nächsten sechs Monaten veröffentlicht.

Erfahren Sie mehr über unsere Learnings aus dem Projekt unter ki-und-arbeit.chemistree.de

Bei Rückfragen wenden Sie sich bitte an: info@chemistree.de