21. Mai 2024 von Rosmarie Steininger

Was Unternehmen jetzt über den AI Act wissen müssen.

Wer ist betroffen und wie kann er praktisch umgesetzt werden?

Es gibt viele Fragen, die der europäische AI Act für Unternehmen aufwirft: Was genau verändert dieser AI Act für Sie? Was bedeutet er für Unternehmen und vor allem für die Menschen, die darin arbeiten? Was können und was müssen Unternehmen heute tun, um dafür gerüstet zu sein?

Die EU-Strategie zu Künstlicher Intelligenz

Die allgemeine EU-Strategie in Bezug auf Künstliche Intelligenz besteht aus drei Teilen: dem Data Act, dem Data Governance Act und dem AI Act. Der Data Act beschäftigt sich mit Daten und der Datenverarbeitung, während der Data Governance Act sich auf Anforderungen an Datenaustausch bezieht. Der AI Act beschreibt Anforderungen an Systeme Künstlicher Intelligenz.

Der risikobasierte Ansatz im AI Act

Der AI Act folgt einem risikobasierten Ansatz. Das bedeutet, dass ein KI-System einem oder mehreren von vier Risikobereichen zugeordnet wird: Unakzeptabel hohes Risiko, hohes, mittleres und geringes Risiko.

Anwendungen mit einem unakzeptabel hohen Risiko bewerten beispielsweise gezielt soziales Verhalten: Sie können dadurch Menschen beeinflussen, was zu einer Benachteiligung der Beteiligten führen kann. Solche KI-Systeme sind verboten (mit Ausnahmen zu Strafverfolgungszwecken).

Systeme mit einem hohen Risiko – hier geht es z.B. um einen Einfluss auf die Sicherheit und Gesundheit von Nutzenden, aber auch um Lebenschancen und Beurteilungen – sind durch umfangreiche Anforderungen reglementiert.

Bei KI-Systemen mit einem mittleren Risiko gelten Transparenz- und Informationspflichten gegenüber den Nutzenden.

Die geringsten Verpflichtungen sind mit KI-Systemen mit geringem Risiko verbunden: Hier werden lediglich freiwillige Verhaltenskodizes zur Künstlichen Intelligenz empfohlen, sowie eine Schulung der Mitarbeitenden.

Transparenz und Steuerbarkeit als Kern-Anforderungen

Was sich quer durch alle Risikostufen zieht, ist die Relevanz der Transparenz: Sie bildet einen der wichtigsten Bestandteile Künstlicher Intelligenz und der Umgangsweise damit. Hier geht es beispielsweise darum, anhand welcher Inhalte eine Künstliche Intelligenz trainiert wurde. So sind die Entscheidungen Künstlicher Intelligenz transparenter und besser nachzuvollziehen.

Für Systeme im Hochrisiko-Bereich ist zudem eine Steuerung durch eine „Menschliche Aufsicht“ gefordert. Menschen, die diese Rolle für ein KI-System ausfüllen sollen, brauchen dafür Basisinformationen über die KI und ihr Verhalten im Betrieb, sowie die Kompetenz, das Verhalten im Betrieb einschätzen zu können und bei Bedarf einzugreifen.

Die ersten praktischen Schritte in Unternehmen

Zunächst müssen sich Unternehmen über ihre Rolle klar werden, die sie in Bezug auf die bei ihnen eingesetzten KI-Systeme haben: Sie könnten z.B. Anbieter oder Betreiber oder eine Mischung aus beidem sein – zwei Rollen, die sich in den Pflichten stark unterscheiden.

Als zweites müssen die Systeme, die im Einsatz sind, eingeordnet werden: Welche davon sind gemäß AI Act „KI“ – und seien es auch nur einzelne Bestandteile des Systems? Und in welche Risikobereiche fallen diese Systeme mit KI-Anteilen?

Bei Systemen mit inakzeptabel hohem Risiko müssen Rückbau-Varianten erwogen werden. Systeme im Hochrisikobereich müssen transparent und durch eine menschliche Aufsicht steuerbar gemacht werden. Je nach Ausgestaltung des KI-Systems bedeutet das eine große Änderung und möglicherweise sogar den Ersatz durch ein anderes System.

Die internen Richtlinien und Prozesse müssen in den meisten Fällen angepasst werden – und vor allem ist ein Kompetenzaufbau bei den handelnden Personen im Unternehmen erforderlich.

Die Balance aus Regulierung und Innovation

Bei all den Kategorisierungen, Regeln und ähnlichen Auflagen ist es gleichzeitig wichtig, Innovation und Fortschritt im Blick zu behalten und zu fördern. Genau hier stellt sich natürlich die Frage, inwiefern Innovation und Regulierung miteinander einhergehen. An dieser Stelle wird den Unternehmen mit dem AI Act ein gewisser Gestaltungsspielraum gewährt: Die genaue operative und technische Umsetzung der diversen Richtlinien bleibt Angelegenheit des Unternehmens. Das Unternehmen hat innerhalb der Übergangsfristen die Möglichkeit, sich zielgerecht mit den diversen Aspekten auseinanderzusetzen und diese in das alltägliche Arbeitsleben und seine Aktionen zu integrieren.

Für manche Unternehmen werden auch Testlabore oder Forschungsprojekte in Frage kommen, in denen freier agiert werden kann. Ziel ist dabei, zukunftsweisende Forschung durchführen zu können, Wissen aufzubauen und idealerweise mittels Open Access zu teilen.

Die Verbraucherseite

Ein Ziel des AI Acts ist es, die Verbraucherseite zu stärken: Durch die Möglichkeit der Beschwerde und der Option, Erklärungen einzufordern, werden AI-Prozesse zukünftig transparenter.

Ab wann gilt der AI Act?

Der AI Act wurde im April 2021 durch die Kommission vorgelegt und im Trilog zwischen Kommission, Rat und Parlament verhandelt. Die seit April 2024 vorliegende abgestimmte Fassung wurde am 21. Mai von den zuständigen Minister*innen der Mitgliedsstaaten auf den Weg gebracht und wird nun im Amtsblatt der EU veröffentlich werden und 20 Tage später in Kraft treten. Für die verschiedenen Bestimmungen des AI Acts gelten dann Übergangsfristen zwischen 6 und 36 Monaten, bis sie uneingeschränkt angewendet werden.

In den nächsten Monaten werden die nationalen und internationalen Normungsorganisationen erarbeiten, wie der AI Act in der betrieblichen Praxis umgesetzt werden kann.

Da die erforderlichen Änderungen aber tief in die Prozesse des Unternehmens eingreifen, sollten Unternehmen bereits jetzt mit den Vorbereitungen beginnen.

Der AI Act als Game Changer für HR-Software

Anwendungen mit KI-Bausteinen im Personalauswahlbereich fallen in den Hochrisikobereich gemäß AI Act. Sie müssen voraussichtlich Ende 2026 allen Vorgaben des AI Acts entsprechen, sonst werden sehr hohe Strafzahlungen fällig. Da in vielen Systemen umfangreiche Anpassungen notwendig werden, ist es wichtig, sich bereits jetzt damit auseinanderzusetzen.

Wir bei CHEMISTREE unterstützen dabei auf zwei Arten:

• Zum einen können Sie heute schon sicher sein, dass unsere Matching-Lösungen für Recruiting und die weitere Employee Journey (Onboarding, Mentoring, Learning, Transformation) auch nach Inkrafttreten vertrauenswürdig und konform sind. Gegenüber dem AI-Act, dem Betriebsrat, Fachabteilung und Geschäftsführung. Daran arbeiten wir unter anderem im Forschungsprojekt KI-Cockpit, gefördert durch das Bundesministerium für Arbeit und Soziales.
• Zum zweiten stellen wir unsere Erfahrungen in der Arbeit mit dem AI Act anderen Unternehmen und Organisationen zur Verfügung: Als Learnings, die wir breit kommunizieren und zudem als Schritt-für-Schritt-Unterstützung für Praktiker*innen in unserem neuen „AI Act Navigator“.

Denn gemeinsam geht das Lernen leichter! Sprechen Sie uns gerne an, wenn Sie mit uns lernen möchten.

Erfahren Sie mehr über die # gute KI von CHEMISTREE