KI-Kompetenz in Unternehmen: Updates von der EU-Kommission

Die EU-Kommission hat präzisiert, was die KI-Verordnung unter KI-Kompetenz versteht und welche Pflichten die Betreiber von KI-Systemen hierbei treffen. Der Artikel klärt die wichtigsten Updates und zeigt auf, welche Fragen weiterhin offenbleiben.

KI-Kompetenz: Unternehmen als Betreiber von KI-Systemen

Wenn Unternehmen KI-Systeme einsetzen, dann muss ihr Personal KI-Kompetenz haben. Das folgt aus Art. 4 der KI-Verordnung. Dieser Artikel richtet sich an die Anbieter und Betreiber von KI-Systemen. Letzteres sind Unternehmen regelmäßig, wenn sie KI-Systeme einsetzen. Denn die KI-Verordnung versteht nach Art. 3 Nr. 4 jeden als Betreiber, der ein KI-System im Rahmen einer beruflichen Tätigkeit in eigener Verantwortung verwendet.

Bisherige Maßnahmen für KI-Kompetenz

Unternehmen, die KI-Systeme einsetzen, haben damit schon seit dem 2. Februar 2025 die Pflicht, Maßnahmen zur Sicherstellung von KI-Kompetenz bei ihrem Personal zu ergreifen. Was aber genau KI-Kompetenz eigentlich ist und was die Betreiber von KI-Systemen konkret tun müssen, lässt die KI-Verordnung in weiten Teilen offen. Unternehmen mussten sich bis dato vorwiegend mit der Begriffsdefinition in Art. 3 Nr. 56 KI-Verordnung begnügen, die KI-Kompetenz bezeichnet als:

„(…) die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“

Trotz dieser sehr weiten Formulierung mussten (und konnten) Unternehmen auch in den letzten Monaten schon konkrete, sinnvolle Maßnahmen ergreifen – sei es durch die Entwicklung von Schulungskonzepten oder das Aufsetzen einer Richtlinie für die unternehmensinterne Nutzung von KI.

Die EU-Kommission hat Anforderungen präzisiert

Im Mai hat die EU-Kommission nun mit einem FAQ-Katalog zur KI-Kompetenz aufgewartet. Dieses präzisiert die Anforderungen für die Umsetzung von Art. 4 KI-VO. Die folgenden Punkte resultieren unter anderem daraus:

• Eine Liste mit Mindestinhalten für den Erwerb von KI-Kompetenz: Hierzu gehören Fragen zur grundsätzlichen Funktionsweise von KI, ihrem Einsatz in der jeweiligen Organisation und deren Rolle (Anbieter oder Betreiber). Die Betreffenden sollten außerdem relevante Risiken verstehen und Kenntnisse ausbildungs- und kontextbezogen vermittelt bekommen.
• Die Kommission empfiehlt, spezielle Schulungen („AI training“) durchzuführen. Verpflichtend ist das aber nicht.
• Branchenspezifische Vorgaben exitstieren nicht. Das passt zu der allgemeinen Vorgabe, dass KI-Kompetenz kontextspezifisch erworben werden muss.
• Auch für den Einsatz von ChatGPT zum Erstellen von Texten braucht es KI-Kompetenz. Hier verweist die Kommission darauf, dass über spezielle Risiken, wie z. B. Halluzinationen, informiert werden sollte.

Sanktionsmöglichkeiten der Mitgliedsstaaten

Das scharfe Schwert der KI-Verordnung ist, dass bei Verstößen (wie auch bei der DSGVO) empfindliche Geldbußen folgen können. In bestimmten Fällen (z. B. bei Verstoß gegen die nach Art. 5 KI-VO verbotenen Praktiken) drohen Geldbußen von bis zu 7 % des gesamten, weltweiten Jahresumsatzes eines Unternehmens. Das ist geregelt in Art. 99 KI-VO. Was bei Verstößen gegen die Normen passiert, die nicht in diesem Artikel aufgeführt sind, geht aus der KI-Verordnung nicht unmittelbar hervor. Das betrifft auch Art. 4 KI-VO, denn er taucht in dem Bußgeldkatalog nicht auf. In Art. 99 Abs. 1 KI-VO ist geregelt, dass die Mitgliedsstaaten Vorschriften für Sanktionen und Durchsetzungsmaßnahmen bei Verstößen gegen die Verordnung treffen können. Ein deutsches Gesetz, das Konsequenzen für Verstöße gegen Art. 4 KI-VO festlegt, fehlt aber bis dato.

Ab wann drohen Konsequenzen?

Die Kommission weist darauf hin, dass die zuständigen Marktüberwachungsbehörden erst ab dem 2. August 2026 mit der Überwachung und Durchsetzung von Art. 4 KI-VO beginnen werden. Auf die Frage, ob Sanktionen für fehlende Compliance seit dem 2. Februar 2025 („starting from 2 February 2025“) verhängt werden können, ist die Antwort:

„The prohibitions apply since 2 February 2025. With the AI Board and cooperation between all relevant authorities, a coherent application of the rules will be ensured.“

Zu Deutsch:

„Die Verbote gelten seit dem 2. Februar 2025. Mit dem KI-Gremium und Kooperation zwischen allen zuständigen Behörden wird eine einheitliche Anwendung der Regeln sichergestellt.“

Das ist in zweierlei Hinsicht bemerkenswert: Erstens verhängt Art. 4 KI-VO kein direktes Verbot, sondern statuiert Pflichten zum Ergreifen bestimmter Maßnahmen. Zweitens gilt sowohl im deutschen als auch im Europäischen Recht das Rückwirkungsverbot. Wenn es zum Zeitpunkt des Gesetzesverstoßes keine Sanktionsnorm gab, dann kann der Verstoß nicht rückwirkend sanktioniert werden. Relevant kann diese Aussage daher nur für Mitgliedsstaaten sein, die bereits Vorschriften erlassen haben, um Verstöße wegen fehlender KI-Kompetenz zu ahnden. Deutschland gehört nicht dazu.

Fazit: Es bleiben weiterhin Unklarheiten

Insbesondere die Frage, welche Konsequenzen ein Verstoß gegen Art. 4 KI-VO hat, ist vom deutschen Gesetzgeber noch zu klären. Des Weiteren hat die Kommission mit ihren FAQs zwar einige, wichtige Fragen beantwortet. Unklarheiten bleiben aber. Helfen werden auch Best Practices. Hier hat der KI-Pakt der EU bereits Früchte getragen: Mehrere Unternehmen (hierunter z. B. IBM) haben auf über 70 Seiten ihre Ansätze zur Umsetzung von Art. 4 KI-VO zusammengetragen. Die Liste soll stetig erweitert werden. Fest steht: Das Thema „KI-Kompetenz“ ist dynamisch. Es lohnt sich hier besonders, die aktuellen Entwicklungen genau zu verfolgen.

Webinar zum Thema „DSGVO und Künstliche Intelligenz“

Wenn Sie Ihr Fachwissen für den Unternehmensalltag weiter vertiefen möchten, besuchen Sie doch unser Webinar „DSGVO und Künstliche Intelligenz – Datenschutzkonformer Umgang mit KI-Systemen“. Dort wird Ihnen gezeigt, welche wesentlichen Punkte beachtet werden müssen.

Mittwoch, den 10.09.2025
von 09:30 bis 12:00 Uhr

Mittwoch, den 17.12.2025
von 09:30 bis 12:00 Uhr

Hier können Sie sich anmelden

Das Kleingruppenformat ist sehr praxisbezogen gestaltet und bietet anhand eines fiktiven Szenarios viele Best-Practice-Beispiele für die Umsetzung in Ihrem Unternehmen.