EP_028 EU AI Act und KI-Regulierung 38 min

Artikel 4 des AI Acts erklärt: Was die Kompetenzpflicht für dich bedeutet

Erschienen 01. Oktober 2025 · mit Tobias Weigand

// Hören auf YouTube ↗ Spotify ↗ Apple ↗

// TeilenX LinkedIn WhatsApp Telegram E-Mail

// Lieber nur Audio? Bei Spotify hören

// KI-Zusammenfassung

Artikel 4 des EU AI Acts führt eine Kompetenzpflicht für alle Unternehmen ein, die KI nutzen, und ist seit Februar 2025 gültig. Die Folge erklärt, was diese KI-Kompetenz umfasst, welche rechtlichen Implikationen und potenziellen Strafen bei Nichteinhaltung drohen und warum Unternehmen proaktiv handeln sollten, um sich am Markt zu differenzieren.

Kapitel

01
0:00
Intro: Worum geht es heute?
02
0:24
Artikel 4: Die Kompetenzpflicht ("KI-Führerschein") wird vorgestellt
03
2:00
Wen betrifft die Kompetenzpflicht?
04
4:37
Was bedeutet "Kompetenz" im Sinne des Gesetzes konkret?
05
10:25
Die Konsequenzen: Wer haftet für die Fehler einer KI?
06
11:42
Praxisbeispiel: Der KFZ-Mechatroniker und die KI-Diagnose
07
17:54
Wie können Unternehmen die Kompetenz ihrer Mitarbeiter sicherstellen?
08
24:58
Fazit und Ausblick auf das nächste Thema: Urheberrecht sicherstellen?
09
25:28
Fazit und Ausblick auf das nächste Thema: Urheberrecht

Shownotes

In dieser Folge von eure KI Podcast ist Heininger in Abwesenheit von Benjamin Wüstenhagen erneut mit einem besonderen Gast im Studio. Dies ist der zweite Teil unserer dreiteiligen Rechtsserie mit Rechtsanwalt Tobias Weigand.

Im Mittelpunkt steht diesmal Artikel 4 der EU-KI-Verordnung: die sogenannte "Kompetenzpflicht". Gemeinsam klären sie, was diese neue Pflicht für jeden von uns bedeutet. Haftest du persönlich, wenn eine von dir genutzte KI einen kostspieligen Fehler verursacht? Tobias erklärt die rechtlichen Fallstricke und gibt praktische Tipps, wie Unternehmen und Privatpersonen ihre "KI-Kompetenz" nachweisen können, um rechtlich auf der sicheren Seite zu sein.

**Gast:** * Tobias Weigand, Rechtsanwalt und Fachanwalt für gewerblichen Rechtsschutz https://www.weigandlegal.de/

**Timestamps:** 00:00 - Intro: Worum geht es heute? 00:24 - Artikel 4: Die Kompetenzpflicht ("KI-Führerschein") wird vorgestellt 02:00 - Wen betrifft die Kompetenzpflicht? 04:37 - Was bedeutet "Kompetenz" im Sinne des Gesetzes konkret? 10:25 - Die Konsequenzen: Wer haftet für die Fehler einer KI? 11:42 - Praxisbeispiel: Der KFZ-Mechatroniker und die KI-Diagnose 17:54 - Wie können Unternehmen die Kompetenz ihrer Mitarbeiter sicherstellen? 24:58 - Fazit und Ausblick auf das nächste Thema: Urheberrecht sicherstellen? 25:28 - Fazit und Ausblick auf das nächste Thema: Urheberrecht

**Links & Erwähnungen:** * EU AI Act (KI-Verordnung): https://artificialintelligenceact.eu/

Erkenntnisse

0:03
Die Kompetenzpflicht für den Einsatz von KI gilt für alle Unternehmen in Europa seit Februar 2025.
0:07
Unternehmen sind bereits heute für KI-Fehler haftbar, auch wenn die Aufsichtsbehörden noch nicht vollständig etabliert sind.
6:18
Artikel 4 des EU AI Acts etabliert eine „Kompetenzpflicht“, nicht eine „Schulungs-“ oder „Zertifikatspflicht“, um Innovation zu fördern und Europa wettbewerbsfähig zu halten.
18:43
Verstöße gegen die Kompetenzpflicht können zu hohen Bußgeldern von bis zu 35 Millionen Euro oder 7% des globalen Umsatzes sowie persönlicher Haftung für Geschäftsführer führen.

Zitate

„Seit Februar 2025 habt ihr eine Kompetenzpflicht, auch wenn es die Aussichtsbehörden noch nicht gibt, seid ihr heute schon haftbar, wenn Fehler gemacht werden."

0:03
„Fakt ist ja, es gibt keine Schulungspflicht. Es gibt nicht mal eine Zertifikatspflicht, sondern es gibt eine Kompetenzpflicht."

6:18
„Jeder, der irgendwas mit KI zu tun hat, der soll kompetent sein, dass da kein Schm läuft."

8:08
„Du im Zweifel als Geschäftsführer dafür sogar persönlich"

22:34
„Eine Kompetenz, die ich mir jetzt zum jetzigen Zeitpunkt aufbaue, ist vielleicht in sechs Monaten gar nichts mehr wert."

35:24

Zahlen

Februar 2025

Die Kompetenzpflicht für KI gilt seit diesem Datum.

0:03
35 Millionen Euro

Die Maximalstrafe für schwerwiegende Verstöße im AI Act kann diesen Betrag erreichen.

16:38
7%

Bei verbotener KI kann das Bußgeld bis zu diesem Prozentsatz des Gruppenjahresumsatzes betragen.

18:52
zwei Stunden

Eine Grundlagenschulung zur KI-Kompetenz dauert oft diese Zeitspanne.

26:11
alle 6 Monate

Richtlinien und KI-Kompetenz sollten mindestens in diesem Intervall überprüft und aktualisiert werden.

35:11

Häufige Fragen

Was ist die KI-Kompetenzpflicht gemäß Artikel 4 des EU AI Acts? ▾

Die KI-Kompetenzpflicht nach Artikel 4 des EU AI Acts verlangt von Unternehmen, dass ihr Personal in der Lage ist, KI vernünftig, effizient und risikolos einzusetzen. Sie zielt darauf ab, Innovation in Europa zu fördern und die Wettbewerbsfähigkeit zu sichern, indem sie eine grundlegende Befähigung im Umgang mit KI sicherstellt.

Für welche Unternehmen und Mitarbeitenden gilt die KI-Kompetenzpflicht? ▾

Die Kompetenzpflicht betrifft sämtliche Unternehmen, die mit KI arbeiten, unabhängig von ihrer Größe oder Branche – vom Einzelunternehmer bis zum Großkonzern. Sie gilt für jeden Mitarbeitenden, der in irgendeiner Form mit KI-Systemen hantiert, sei es als Anwender oder Entwickler.

Welche Strafen drohen bei Nichteinhaltung der KI-Kompetenzpflicht? ▾

Obwohl die genauen Strafen in nationalen Gesetzen festgelegt werden, können Verstöße gegen die Kompetenzpflicht zu hohen Bußgeldern führen, die bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes betragen können. Zudem besteht die Gefahr der persönlichen Haftung für Geschäftsführer.

Gibt es eine Schulungs- oder Zertifikatspflicht für KI-Kompetenz? ▾

Nein, der EU AI Act sieht explizit keine Schulungs- oder Zertifikatspflicht vor, sondern eine Kompetenzpflicht. Unternehmen können selbst entscheiden, wie sie diese Kompetenz sicherstellen. Eine Dokumentation der Maßnahmen ist jedoch ratsam, um im Schadensfall einen Nachweis erbringen zu können.

Warum ist die Kompetenzpflicht wichtig, auch wenn Aufsichtsbehörden noch nicht aktiv sind? ▾

Die Kompetenzpflicht gilt bereits seit Februar 2025. Unternehmen sind schon heute haftbar für Fehler im KI-Einsatz, auch ohne aktive Aufsichtsbehörden. Im zivilrechtlichen Bereich können bei Schäden persönliche Haftungsansprüche gegen Geschäftsführer entstehen, und Verstöße verjähren nicht.

Anleitungen

Schütze dich vor Haftung bei KI-Einsatz

Erfahre, wie du als Führungskraft persönliche Haftungsrisiken minimierst und dich vor Konsequenzen bei Fehlern im KI-Einsatz schützt.

01

Verstehe persönliche Haftung

Sei dir bewusst, dass du als Geschäftsführer oder Geschäftsführerin persönlich für Schäden haftbar gemacht werden kannst, die durch mangelnde KI-Kompetenz entstehen.

23:47
02

Sichere dich durch Nachweise ab

Dokumentiere alle Maßnahmen zur KI-Kompetenzentwicklung und Einhaltung von Richtlinien, um im Ernstfall einen Nachweis zu haben.

23:47
03

Implementiere Standards und Richtlinien

Erstelle klare Vorgaben für den KI-Einsatz im Unternehmen, um Mitarbeitenden einen sicheren Rahmen zu bieten und Risiken zu minimieren.

23:59

Weitere Fragen

Ab wann gilt die neue KI-Kompetenzpflicht für Unternehmen? ▾

Die Pflicht gilt bereits seit Februar 2025 für alle Unternehmen, unabhängig von ihrer Größe. Auch wenn die Aufsichtsbehörden noch nicht vollständig etabliert sind, bist du heute schon haftbar, wenn Fehler passieren.

„Seit Februar 2025 habt ihr eine Kompetenzpflicht, auch wenn es die Aussichtsbehörden noch nicht gibt, seid ihr heute schon haftbar, wenn Fehler gemacht werden." · 0:03

Muss ich offizielle Zertifikate oder Schulungen für mein Team nachweisen? ▾

Nein, der AI Act schreibt weder eine konkrete Schulungspflicht noch eine Zertifikatspflicht vor. Es geht rein um die Kompetenzpflicht, und jedes Unternehmen kann selbst entscheiden, wie es diese Vorgabe erfüllt.

„Fakt ist ja, es gibt keine Schulungspflicht. Es gibt nicht mal eine Zertifikatspflicht, sondern es gibt eine Kompetenzpflicht." · 6:05

Für welche Mitarbeitenden gilt die Kompetenzpflicht genau? ▾

Sie gilt für jeden Mitarbeitenden, der in irgendeiner Form mit KI arbeitet. Dabei ist es völlig egal, ob jemand eigene KI-Modelle trainiert oder einfach nur als Anwender Tools wie ChatGPT oder DeepL nutzt.

„Es ist egal, ob ich einfach nur Anwender bin von Chat GPT oder ob ich eine KI trainiere" · 7:49

Welche Strafen drohen, wenn wir die Kompetenzpflicht ignorieren? ▾

Bei Verstößen drohen hohe Bußgelder, die als Ordnungswidrigkeit geahndet werden und im Extremfall bis zu 35 Millionen Euro betragen können. Zudem haftest du als Geschäftsführer im Schadensfall zivilrechtlich unter Umständen sogar persönlich.

„Dann haftest du im Zweifel als Geschäftsführer dafür sogar persönlich für diesen Schaden." · 22:24

Was genau umfasst die geforderte KI-Kompetenz inhaltlich? ▾

Die Kompetenz besteht aus einem grundlegenden technischen Verständnis, rechtlichem und ethischem Bewusstsein sowie dem Wissen um wirtschaftliche Risiken. Am wichtigsten ist jedoch das Verständnis für konkrete Use Cases im eigenen Berufsalltag, um KI überhaupt produktiv nutzen zu können.

„Man braucht auch Use Cases, weil dieses ganze theoretische Wissen bringt mir einfach gar nichts, wenn ich gar nicht weiß, wie ich das im täglich in der täglichen Arbeit einwende" · 11:46

Wie verhindere ich, dass Mitarbeitende unkontrolliert Schatten-KI nutzen? ▾

Du musst klare Standards und Richtlinien im Unternehmen etablieren. Ohne solche Vorgaben laden Mitarbeitende oft unbedarft Geschäftsgeheimnisse in externe Tools hoch, was massive Datenschutzrisiken birgt.

„Ob irgendwelche Geschäftsgeheimnisse einfach bei ChatGPT hochgeladen werden von PDFDumenten, das machen die Leute einfach, wenn es keine Regeln gibt." · 29:04

Diese Folge wird zitiert in

In anderen Folgen erwähnt

// Vollständiges Transkript

Komplettes Transkript dieser Folge öffnen →