Leitfaden zur KI-Verordnung Worauf produzierende KMU achten sollten

Anbieter zum Thema

IPH Institut für integrierte Produktion Hannover gGmbH

CADFEM Germany GmbH

SolidCAM GmbH

Bohnhardt Cad-Consulting

Unternehmen sollen Künstliche Intelligenz (KI) verantwortungsvoll nutzen – das ist das Ziel der KI-Verordnung (KI-VO, auf Englisch: AI Act). Mit diesem Gesetz hat die Europäische Union (EU) einheitliche Regeln für KI festgelegt; bei Verstößen drohen Strafen. Für viele Firmen sind die Vorschriften momentan noch undurchsichtig, insbesondere für kleine und mittlere Unternehmen (KMU) ohne eigene Rechtsabteilung.

Um den kleinen und mittelgroßen Unternehmen den Weg durch das Paragrafen-Dickicht zu zeigen und einen rechtssicheren Umgang mit KI zu ermöglichen, arbeiten Juristinnen und KI-Expert aus Hannover eng zusammen. Im Forschungsprojekt „AI Act-Ready“ entwickeln das IPH – Institut für Integrierte Produktion Hannover gGmbH und das IRI – Institut für Rechtsinformatik der Leibniz Universität Hannover gemeinsam einen Leitfaden, der die KI-Verordnung und die damit verbundenen Pflichten verständlich und praxisnah erklärt. Derzeit suchen die Forschenden nach produzierenden Unternehmen, die KI nutzen und zum Projekt beitragen wollen.

Von der Fertigung über die Qualitätskontrolle bis zum Vertrieb – in vielen Unternehmensbereichen lassen sich Aufgaben mittels künstlicher Intelligenz schneller erledigen. Unternehmen können KI beispielsweise nutzen, um Angebote zu schreiben, um die Stromkosten zu reduzieren oder die Produktqualität zu verbessern. Auch in der Ausbildung kann KI zum Einsatz kommen – etwa um Berufsanfängern individuelles Feedback zu ihrer Arbeit zu geben. All das sind aktuelle Anwendungsfälle aus Unternehmen in Niedersachsen [1].

Doch bei allen Vorteilen bringt KI auch Risiken mit sich. Um diese Risiken zu minimieren und sicherzustellen, dass Unternehmen verantwortungsvoll mit der Technik umgehen, hat die Europäische Union (EU) die KI-Verordnung erlassen – das erste Gesetz, das einheitliche Regeln für die KI-Nutzung festlegt.

KI-Verordnung: Je höher das Risiko, desto strenger sind die Vorschriften

Die KI-Verordnung der EU teilt KI in vier verschiedene Risikoklassen ein:

• KI-Systeme mit unannehmbarem Risiko hat die EU komplett verboten. Dazu gehört etwa das Social Scoring, mit dem Behörden oder Unternehmen menschliches Verhalten bewerten können – etwa, indem sie den öffentlichen Raum überwachen und mithilfe von KI versuchen, Straftaten vorherzusagen und Menschen präventiv festzunehmen. Weil derartige KI-Systeme in die Grundrechte von Menschen eingreifen, dürfen sie in der EU nicht zum Einsatz kommen.
• Für KI-Systeme mit hohem Risiko gelten besonders strenge Anforderungen. Als hochriskant gilt jegliche KI, die Einfluss auf Menschen hat. Das ist beispielsweise der Fall, wenn Personalabteilungen KI nutzen, um Bewerbungen auszusortieren, oder wenn ein Hersteller von medizinischen Geräten KI nutzt, um Produktionsfehler zu erkennen. Die KI-Verordnung verpflichtet Unternehmen unter anderem, solche Systeme unter menschliche Aufsicht zu stellen und nur hochwertige Datensätze zu verwenden, um die KI zu trainieren.
• Für KI-Systeme mit mittlerem Risiko gelten besondere Transparenzverpflichtungen. Nutzende müssen deutlich darauf hingewiesen werden, dass sie es beispielsweise in der Kundenberatung mit einem Chatbot statt mit einem Menschen zu tun haben. Texte oder Bilder, die mithilfe von KI erzeugt wurden, müssen entsprechend gekennzeichnet werden – egal, ob es sich um einen Social-Media-Beitrag oder um eine mit KI geschriebene Bedienungsanleitung handelt.
• Zu KI-Systemen mit minimalem Risiko zählen beispielsweise Spamfilter. Hier müssen Unternehmen keine speziellen Pflichten erfüllen – sie dürfen aber freiwillig zusätzliche Verhaltensregeln für die Nutzung aufstellen.

Sinnvolles Risiko-Management oder Hindernis für Innovation?

„Ein verantwortungsvoller Umgang mit KI ist wichtig, die Regeln der EU sind also durchaus sinnvoll“ sagt Denise Wullfen, Wissenschaftliche Mitarbeiterin und KI-Expertin am IPH – Institut für Integrierte Produktion Hannover gGmbH. „Aber für Unternehmen ist das Regelwerk momentan noch schwer zu durchschauen.“

Die Hürde, KI zu nutzen, werde aus Angst vor Strafen noch höher – schließlich müssen Unternehmen, die gegen die KI-Verordnung verstoßen, bis zu 20 Millionen Euro Strafe zahlen. Vor allem kleine und mittlere Unternehmen (KMU) ohne eigene Rechtsabteilung hätten es momentan schwer, herauszufinden, was sie beim Einsatz von KI konkret beachten müssen, so Wullfen.

Auf die Nutzung von KI zu verzichten, um Strafen zu vermeiden, ist allerdings keine Lösung. Damit hätten Unternehmen einen großen Wettbewerbsnachteil gegenüber der Konkurrenz, die KI nutzt. Zudem müssen Unternehmen ihren Mitarbeitenden klare Vorgaben machen, sonst entsteht sogenannte Schatten-KI. „Tools wie Chat-GPT gehören für viele Menschen schon so sehr zum Alltag, dass die Versuchung groß ist, sie auch im Beruf zu nutzen“, sagt Wullfen. Unternehmen können das Thema nicht ignorieren, sondern müssen die KI-Nutzung entweder klar verbieten oder aber regulieren. Für beides brauchen Unternehmen eine KI-Richtlinie.

Juristinnen und KI-Experten starten gemeinsames Forschungsprojekt

Um KMU die rechtssichere Nutzung von KI zu ermöglichen, hat das IPH gemeinsam mit dem Lehrstuhl für Bürgerliches Recht und IT-Recht am IRI – Institut für Rechtsinformatik der Leibniz Universität Hannover das interdisziplinäre Forschungsprojekt „AI Act-Ready“ gestartet.

Gemeinsam erarbeiten die KI-Expertinnen und Juristen zwei Hilfestellungen speziell für produzierende KMU. Zum einen schreiben die Forschenden einen Leitfaden, der Unternehmen verständlich und praxisnah den Weg durch die neuen KI-Vorschriften weisen soll. Zum anderen entwickeln sie einen Software-Demonstrator: Dieser soll Unternehmen helfen, herauszufinden, zu welcher Risikoklasse eine KI-Anwendung gehört, unter welchen Bedingungen sie genutzt werden darf und ob sich der Einsatz trotz aller Vorgaben und Risiken für das Unternehmen lohnt.

Zudem können KMU den Software-Demonstrator nutzen, um eigenständig einen Entwurf für eine unternehmensindividuelle KI-Richtlinie zu erstellen. Mit diesen Hilfestellungen wollen die Forschenden produzierenden KMU die Angst vor der KI-Verordnung nehmen – damit das Gesetz nicht zum Hindernis für Innovationen wird, sondern einen verlässlichen Rahmen bietet, um KI rechtssicher zu nutzen und wettbewerbsfähig zu bleiben.

Gesucht: Produzierende Unternehmen, die sich am Forschungsprojekt beteiligen wollen

Für das Forschungsprojekt suchen das IPH und das IRI noch produzierende KMU, die bereits KI nutzen oder den Einsatz von KI in naher Zukunft planen. Im Projektbegleitenden Ausschuss (PA) des Forschungsprojekts erhalten sie die Gelegenheit, sich mit den KI-Experten und Juristinnen über ihre konkreten Anwendungsfälle auszutauschen und herauszufinden, was sie konkret tun müssen, um die KI-Verordnung einzuhalten.

Unternehmen, die daran Interesse haben, melden sich bis zum 30. September 2025 bei Denise Wullfen unter der Telefonnummer +49 511 27976 442 oder per E-Mail an wullfen@iph-hannover.de.

Weitere Informationen zum Forschungsprojekt gibt es unter https://aiactready.iph-hannover.de.

[1] Als Partner des Mittelstand-Digital Zentrums Hannover unterstützt das IPH niedersächsische Unternehmen bei der Umsetzung von KI-Projekten. Die genannten Beispiele stammen aus solchen Projekten.

EMO 2025

Qualitätssicherung über Teile, Prozesse und Branchen hinweg