#28: Artikel 4 des AI Acts erklärt: Was die Kompetenzpflicht für dich bedeutet

0:00 Noch mal für alle Unternehmen, Unternehmer, Unternehmerinnen da draußen. Seit Februar 2025 habt ihr eine Kompetenzpflicht, auch wenn es die Aussichtsbehörden noch nicht gibt, seid

0:10 ihr heute schon haftbar, wenn Fehler gemacht werden. Und das Thema Haftung, Fehler, was kann denn eigentlich passieren? Was können mich denn dafür strafen eigentlich treffen?

0:26 Hallo und herzlich willkommen zur Folge 28 von Cor Intelligence Podcast mit euren Hosts Tobias Weigerand und Moritz Heilinger. Der Tobias war letzte Woche schon bei uns, absoluter ja ist

0:42 Rechtsanwalt und Experte für alle rechtlichen Themen rund um das Thema KI. Und letzte Woche hatten wir eine sehr ausführliche Episode zum Thema, was ist eigentlich dieser EU AI Act bzw. die KI

0:55 Verordnung und sind da ziemlich tief eingestiegen. Eine Sache, die wir bisschen ausgeklammert haben, ist ein sehr wichtiger Artikel dieses EUI Acts und es nennt sich oder dieser Artikel

1:08 ist Artikel 4 und da geht es um eine Kompetenzpflicht. Was hat's denn auf sich mit diesem ja mit diesem Artikel? Ja, äh schön, dass ich auch in der zweiten Folge erstmal da sein darf. Mit

1:24 dem KI mit der KI Kompetenz versucht die EU so ein bisschen den Innovationsansatz ähm in Europa zu fördern. Das heißt, wir die hat einen Artikel geschaffen, den Unternehmen berücksichtigen sollen,

1:38 damit das Personal in der Lage ist, vernünftig, effizient und risiko los ähm KI einzusetzen im Alltag. Damit ist man hoffentlich irgendwann in der Lage äh flächendeckend in Europa KI

1:54 einzusetzen unter den Unternehmen und man verspricht sich davon, dass wir das einfach schneller und vielleicht effektiver können als das andere Kontinente tun. Das heißt, der Ansatz

2:06 ist hier, wir geben euch eine Pflicht, damit ihr was tut, weil wir euch nicht vertrauen, dass ihr sonst das selbständig machen würden. Mhm. Das heiß die Wirtschaft ob ob ihr

2:18 dann wirtschaftlich erfolgreich seid, was ja eigentlich die Motivation sein sollte, das klammern wir mal aus, sondern wir geben euch einfach so die gesetzliche Pflicht, was zu tun.

2:27 Interessant. Das heißt, die EU sagt: "Liebe Unternehmen und Unternehmer und Unternehmerinnen in Europa, KI ist wichtig, transformativ und ihr müsst das verstehen. Also kümmert euch

2:38 bitte darum und nicht nur bitte, sondern hier ist eure Pflicht, weil wenn ihr es nicht macht, bekommt ihr Ärger. ganz interessant, denn eigentlich würde mal davon ausgehen, dass so ein Unternehmen

2:50 sich Gedanken macht über die eigene Zukunft und die Wörwsfähigkeit und so mit halbwegs offenen Augen durch die Welt geht, selbst verstehen würde, dass es sehr viel Sinn ergibt, dass das

3:01 eigene Unternehmen die Mitarbeitenden eine gewisse KI Kompetenz haben. Aber da prcht die EU vor und sagt so, hier ist das Gesetz und hier ist die Pflicht und ihr müsst das jetzt tun. Ja, ich glaube,

3:13 die Angst besteht vor der Globalisierung, ne? Weil wenn in Europa das Ganze verschlafen wird, dann kommen einfach Unternehmen aus dem Ausland Mhm. die vielleicht dann KI kompetent

3:24 sind und übernehmen das Ganze. Das heißt, die tatsächlich lokale Wirtschaft wird dann einfach geschluckt. Das heißt, weil man dieses Risiko nicht eingehen will, dass die

3:35 anderen Unternehmen oder die andere Wirtschaft der anderen Länder ähm Europa übernimmt sozusagen, wird jetzt erstmal mit einer Pflichthm sichergestellt, dass das funktioniert.

3:46 Und ich meine, wir freuen uns natürlich irgendwo über so eine Gesetzgebung, weil es glaube ich vielleicht noch mal dem einen oder anderen ja Unternehmen die Augen öffnet. Ich glaube, die Hörer und

3:57 Hörerin vom Cointelligence Podcast, die haben selbst verstanden, äh, dass KI einen transformativen Einfluss auf sie persönlich, aber auch das Unternehmen, die Gesellschaften, die Wirtschaft haben

4:07 wird. Den müsste man wahrscheinlich gar nicht unbedingt sagen, ähm dass es diese Kompetenzpflicht gibt, aber ähm es gibt anscheinend noch einige und von daher lass uns mal vielleicht ein bisschen

4:17 tiefer hier einsteigen, was ähm für wen betrifft, also für wen ist es überhaupt und äh sind da so bisschen die Rahmenbedingungen auch vielleicht äh die ja die Zeiträume bis wann ich da

4:29 irgendwas machen muss. Was ja heißt es denn eigentlich genau kompetenzpflicht? Ja, auch da möchte die EU möglichst flächendeckend äh abdecken sozusagen. Das bedeutet, sämtliche Unternehmen, die

4:41 mit KI arbeiten müssen, diese Kompetenzpflicht einhalten. Das ist ganz egal, ob ich Einzelunternehmer bin oder ein riesiger Konzern. Ist es egal, ob ich ähm ein Dachdeckerbetrieb bin, der

4:53 vielleicht Schichtpläne mit der KI wirft oder ob ich Reheinmetall bin, die weiß nicht, Lenkraketen damit baut, ne? Mhm. Also ist im Prinzip die ganze Bandbreite ähm muss diese KI äh Kompetenzpflicht

5:07 erfüllen. Ähm wie genau diese Kompetenzpflicht erfüllt wird, das sagt die EU nicht, sondern die EU sagt ausdrücklich, dass das jedes Unternehmen selber entscheiden kann, wie sie die Kompetenzpflicht

5:21 erfüllt. Ähm, damit möchte die EU möglichst viel Flexibilität geben, weil ich ja gerade gesagt habe, ne, wenn sie jetzt eine Vorgabe machen würde, ihr müsst das und das einhalten, dann würde

5:33 das für Rheinmetall vielleicht zu wenig sein und für den Dachdecker zu viel. Und weil man da nicht jeden Case irgendwie abdecken konnte, hat man halt gesagt, ich wir geben euch an die Hand, was so

5:44 vielleicht der Inhalt sein soll, was ihr was man kennen muss, aber wie ihr das umsetzt, ist eigentlich eure Entscheidung. Und es gibt auch eine und das ist so bisschen

5:53 die Verwirrung. Es gibt auch ganz viele, meiner Meinung nach ein bisschen fragwürdige Anbieter am Markt, die Werbung für ihre Kompetenzkurse machen, indem sie sagen, es gibt eine Schulungspflicht

6:05 und dann Bilder ähm für zeigen, wo Leute irgendwie im Gefängnis sitzen und da irgendwie ein bisschen Angst machen wollen. Fakt ist ja, es gibt keine Schulungspflicht. Es gibt nicht mal eine

6:18 Zertifikatspflicht, sondern es gibt eine Kompetenzpflicht. Das heißt, die Leute und natürlich müss man irgendwie praktisch überlegen, was ist der Unterschied schweren Schulung

6:28 und der Kompetenzpflicht, weil wie soll ich irgendwie als Arbeitennehmer eine Kompetenz aufbauen, wenn ich nicht irgendeine Art und Weise der Schulung genieße, egal ob ich mir das jetzt

6:38 irgendwie selbst beibringe oder Arbeitgeber was gestellt wird. Aber es gibt es glaube ich noch mal wichtig mitzunehmen, es gibt nicht Schulungspflicht. sondern eine Kompetenzpflicht.

6:49 Ja, wenn ich ein wenn ich ein Startup bin, was irgendwas programmiert im KI Bereich und ich demsprechend auch nur Programmierer im KI Bereich eingestellt habe, dann sind die wahrscheinlich auch

6:59 schon so kompetent, dann muss ich die nicht noch extra schulen, dann kann ich wahrscheinlich zeigen, ey, die haben Informatik studiert und arbeiten da dran und so. dann wird das

7:09 wahrscheinlich irgendwie schon ausreichend, ohne dass ich eine spezifische Pflicht ähm habe ein Zertifikat vorzuweisen. Du hast gesagt, es äh trifft alle Unternehmen, egal ob klein oder groß,

7:21 die irgendwie KI verwenden, heißt es dann, dass es jeden einzelnen Mitarbeitenden in dem Unternehmen trifft, der eine gewisse Kompetenz haben muss. Sind es nur die Personen, die mit

7:34 irgendwelchen KI Systemen hantieren oder nur die Personen, die die KI Systeme entwickeln und ähm was zählt eigentlich als KI System und was eigentlich nicht? M ja, es geht es geht bei den Maßnahmen

7:49 darum, um Leute zu äh also die Kompetenzpflicht für Leute zu schaffen, die mit KI arbeiten. Mhm. Ähm, das heißt, es ist egal, ob ich einfach nur Anwender bin von Chat GPT

8:00 oder ob ich ähm eine KI trainiere, weil mein Unternehmen eine KI vertreibt oder ähnliches. Also jeder, der irgendwas mit KI zu tun hat, der soll kompetent sein,

8:10 dass da kein Schm läuft. Was KI ist, das hatten wir auch letzte Folge schon besprochen. Das ist im AI Act definiert. Das ist relativ schwammig und sehr breit. Mhm.

8:23 Leider muss man davon ausgehen, dass irgendwie extrem viel unter die KI fällt. Man kann jetzt nicht sagen, ähm ja, bestimmte Software fällt nicht runter. Also im schlimmsten Fall muss

8:33 man davon ausgehen, dass auch viel Software, was eigentlich keine KI in unserem Verständnis sein würde, da drunter fällt, einfach nur, weil die EU sicherstellen wollte, dass keine KI drunter fällt,

8:47 also darunter fällt. So. Und also jetzt Beispiel, wenn ich ein, ich kann ein Übersetzer nehmen, ich kann einfach ein Wörterbuch nehmen und das auch digital haben, da ist dann relativ

8:57 wenig KI drin. Ich kann aber auch jetzt ein Tool nutzen, wie beispielsweise Deep L aus Köln, ähm was halt eben ja KI basiert ist sozusagen. Zählt es dann auch schon darunter? Muss ich auch eine

9:08 Kompetenz haben, wenn ich einfach ein Übersetzungstool nutze? Ähm, also wenn du ein Dolmatcher anrufst, dann brauchst du keine QI Kompetenz. Wenn du Deep L benutzt, würde ich schon sagen, brauchst

9:17 du eine Kompetenz. Ähm, man kann sich natürlich fragen, wie viel Schaden eigentlich entstehen kann. Mhm. Wenn ich ja so niedrig schwellige Übersetzungs KI verwende. Mhm.

9:30 Ähm, aber das ist wieder das gleiche Thema. Da konnte die EU nicht hingehen und dann differenzieren. Möglicherweise passiert da nichts Schlimmes, dann brauchst du das nicht, sondern Mhm.

9:40 ähm es geht ja auch nicht nur darum, die Sicherheit zu schaffen, sondern auch, dass das effizient und vernünftig verwendet wird. Mhm. Wenn du Cointelligence hörst, weißt

9:50 du, KI verändert alles. Aber was bedeutet das für dich, für deine Skills, für deinen Job? Genau da kommt der Key Academy ins Spiel. Unsere Online Leergänge helfen dir Zukunftssysthemen

10:00 wie KI, digitale Zusammenarbeit oder Leadership wirklich zu verstehen. Praxisnah, online und mit IKZertifikat. The Key.academy. Für alle die mitdenken und mitgestalten wollen.

10:12 Und was heißt denn eigentlich Kompetenz? Ist das irgendwie definiert? Kann ich das interpretieren, wie ich möchte? Ähm was wie kann ich das verstehen? Ja, es gibt bei der KI Kompetenz gibt's

10:26 relativ trennscharfe Begriffe, die reingeschrieben wurden. Ähm das ist aber trotzdem immer noch Interpretation, die man da ähm ja, die man da vorgeben kann. Es stellt sich dann auch bei den

10:40 Begriffen die Frage, wo eigentlich der Fokus liegen muss und so weiter und so fort. Wir wissen aber, dass wir auf jeden Fall technischen Background kennen müssen. Das heißt, jemand, der mit der

10:50 KI arbeitet, muss grob verstehen, was bedeutet das eigentlich? Wie arbeitet die KI, wie kommt sie zu diesem Output? Natürlich, wenn ich Lenkraketen für äh für Waffensysteme baue, dann muss ich

11:03 das genauer wissen, als wenn ich nur ein Text generieren lasse, den ich bei LinkedIn poste. So, man muss auch ein grobes rechtliches Verständnis haben. Also im Prinzip das,

11:13 was wir hier in dem Podcast schon besprochen haben. Was bedeutet das? Was ist rechtlich erlaubt? Was ist rechtlich nicht erlaubt? Was soll das Ganze eigentlich so in die Richtung gehend?

11:22 Was sind die Risiken? Ähm, dann geht's auch um ethisches Bewusstsein. Also, gibt es Bier? Wie funktioniert das mit den Bassen? Worauf muss ich eigentlich beim Output

11:33 aufpassen, dass ich nicht irgendwelche Beis übernehme und so weiter und so fort. Ähm, genau. Und natürlich muss man aber auch wirtschaftliche Risiken und Chancen kennen, also wissen, wann ist es

11:46 eigentlich sinnvoll KI einzusetzen und wann nicht. Und das leitet schon in den letzten Punkt, den für mich einen der wichtigsten Punkte ist, nämlich man braucht auch Use Cases, weil dieses

11:57 ganze theoretische Wissen bringt mir einfach gar nichts, wenn ich gar nicht weiß, wie ich das im täglich in der täglichen Arbeit einwende bzw. effizient einsätze, wenn ich jetzt einfach nur

12:08 Text generiere mit Chat GPT, dann bleibt das ja hinter den Möglichkeiten, die KI mehr bietet, komplett zurück und das bringt dann auch der EU kein Wettbewerbswettbewerbsvorteil

12:19 gegenüber den Amerika, China, wie auch immer. Das heißt, da die EU mal wirklich nachgedacht und hat gesagt, okay, wir machen jetzt hier nicht nur äh irgendwie rechtliche gestrickte Vorgaben, was

12:29 irgendwie das technische die Grundlagen angeht, sondern gesagt, okay, wir wollen, dass die Leute verstehen, welche relevanten Anwendungsfälle eben in dem eigenen Umfeld vielleicht Beruf

12:42 irgendwie relevant sind und da sind quasi wirklich so die äh ja, die die Augen zu öffnen sozusagen, dass die Leute wirklich in die Nutzung von KI auch kommen. und eben richtiges

12:52 verstehen. Also einmal gesagt das technische Verständnis, da musst du wahrscheinlich verstehen, okay, was ist eigentlich generative KI und vielleicht wie funktioniert denn das mit, dass es

13:02 mit Wahrscheinlichkeiten funktioniert, dass das nächste Wort sozusagen vorher gesagt wird. Du musst jetzt aber wahrscheinlich nicht genau erklären können, wie so ein Transformermodell

13:09 funktioniert. Ähm, aber halt auch verstehen können, ähm, dass halt aufgrund dieser Funktionsweise, dann sind wir beim nächsten Thema, so biasen ähm ja oder bias oder Halluzination entstehen können.

13:24 eine KI mir quasi was ausgibt, was sich sehr sinnvoll anhört, aber halt komplett ausgedacht ist und faktisch falsch ist, dass ich quasi dafür eine gewisse äh ja Awareness habe, dass ich die Daten und

13:36 Fakten prüfen muss, auch das ganze Thema bei ist ähm so bisschen unter Ethik, glaube ich, eben gerade gesagt, dass z.B. Wenn ich der KI sage: "Hey, erstell mir mal ein Bild von dem, also englisch

13:48 of Doctor", weil er da kein Geschlecht mitgegeben wird, dass die KI im Zweifel aufgrund der Trainingsdaten halt mir vier weiße Männer zeigt ähm und dass es ein Problem ist und ich eben quasi

13:59 bewusst sein muss, dann klar das ganze rechtliche, also was wir glaube ich letzte Woche in der Folge schon besprochen haben, dass man das irgendwie mal bisschen Highlevel

14:07 versteht, aber insbesondere auch Artikel 4 KI Verordnung, ja, sollte ich irgendwie verstehen, um was es da geht und warum warum ich diese Kompetenz brauche und dann halt am eben am Ende

14:17 diese diese Anwendungsfähle. Genau. Okay. Spannend. Das haben wir gelernt. Es gibt also das den EUI gibt es es gibt diesen Artikel 4KI Verordnung. Wir wissen es für jedes Unternehmen, egal

14:30 Größe des Unternehmens relevant ist. Wir wissen, dass es jeden Mitarbeitenden betrifft, der in irgendeiner Art und Weise mit KI hantiert, umhängig davon, ob ich selbst KI Systeme entwickel oder

14:43 einfach nur nutze. Und selbst wenn ich einfach nur Texte übersetze mit dem Tool wie ChatGPT oder eben auch mit DPEL aus Köln. Ähm, ab wann ist es eigentlich relevant für mich?

14:56 Das gilt schon seit Februar diesen Jahres. Okay, seit Februar 2025 gibt es die Kompetenzpflicht. Genau, genau. Seitdem gibt's die Kompetenzpflicht. Es gibt allerdings

15:05 noch keine Aufsichtsbehörde, die das Ganze kontrolliert. Da kommen wir später vielleicht auch noch kurz zu. Ja, aber die wird jetzt auch demnächst geben, also spätesten nächstes Jahr.

15:14 Okay, das heißt noch mal für alle Unternehmen, Unternehmer, Unternehmerin da draußen, seit Februar 2025 habt ihr eine Kompetenzpflicht, auch wenn es die Aufsichtsbehörden noch nicht gibt, seid

15:25 ihr heute schon haftbar, wenn Fehler gemacht werden. Und das Thema Haftung, Fehler, was kann dann eigentlich passieren? Was können mich denn da für Strafen eigentlich treffen und für für

15:41 vielleicht auch für für welche Cases können mich vielleicht welche Strafen treffen? Ist es überhaupt schon definiert? Ja, das ist das gleiche Thema wie mit den Aufsichtsbehörden. Also in dem EUAI

15:53 Act stehen keine Strafen dafür drin, wenn ich die Kompetenzpflicht nicht einhalte, sondern es steht drin, die einzelnen Mitgliedstaaten sollen in ihren eigenen Gesetzen schreiben, was passiert,

16:04 wenn ich die Kompetenzpflicht nicht einhalte. Da haben wir jetzt ein League zu einem Gesetz ähm wo Deutschland wahrscheinlich äh demnächst den Weg gehen wird, dass das Ganze über das

16:16 Ordnungswidrigkeitengesetz gelöst wird. Also das ist das gleiche wie wenn ich zu schnell fahre und deswegen hört sich erstmal nicht so schlimm an. Genau. Ähm da können dann natürlich

16:25 irgendwelche hohen Bußgelder entstehen. Möglicherweise ähm die über die gewisse Höhe wird man dann sehen, wie viel das sein wird. Das wird auf jeden Fall nicht wenig sein. Die

16:38 Höhen im AI Act, also die gehen bis zu 35 Millionen. Das heiß, die EU sagt Maximalstrafe, wenn man richtig Mistbaut, was auch immer richtig Mistbauen dann bedeutet, sind 35 Millionen Euro.

16:51 Genau. Das bezieht sich dann auf z.B. verbotene KI Systeme. Mhm. Wenn man das aber als Benchmark nimmt sozusagen, dann ähm kann es natürlich durchaus sein, dass du für die

17:03 für ein Verstoß der Kompetenzpflicht auch ein Boostgeld bis zu Millionenhöhe zahlen musst. Natürlich ist das dann bei den Behörden immer Abwägung Abwägungs ähm Sache. Ein großer Konzern wird

17:15 natürlich wesentlich mehr zahlen müssen als jetzt ein ein kleines mittelständisches Unternehmen, so ne. Und dann geht's natürlich auch darum, wie schlimm ist der Verstoß. Also, wenn

17:24 ich z.B. Hochrisiko KI einsetze, dann ist der Verstoß, weil meine ähm Mitarbeitenden nicht wissen, wie ich die einsetze. Ist natürlich schlimmer, als wenn ich nur Chat GPT einsetze. Das

17:35 heißt, da wird's auch variieren. Mhm. So, das ist allerdings noch Zukunftsmusik, weil wir noch nicht so genau wissen, wie das Gesetz später aussehen wird. Was wir aber das heißt das heißt mein

17:46 Verständnis ist im Zweifel ist die Strafe eine Ordnungswidrigkeit die 35 Millionen Euro kosten kann. Das ist das eine teureord Ordnungswidrigkeit das ist nicht klar aber könnte durchaus

17:58 so in die Richtung gehen. Ja. Okay. Okay. Verstanden. Und klar es hat was mit der Größe zu tun. Heißt es kann ich mich quasi also setz mich jetzt mal in ein sehr großes

18:09 Unternehmen, ne? Du hast drei Metall gesagt für diesen 35 Millionen irgendwie Peanuts kann ich dann als großes Unternehmerf sagen die 35 Millionen zahlen wir machen

18:19 einfach weiter. Oder es ist dann so, dass die EU dass ich quasi einmal die Strafe zahle, aber auch quasi dann nicht weitermachen kann, sondern es irgendwie überprüft wird und dann bei weiterführen

18:31 dieses ja und dieses dieses Prozesses oder was auch immer ich eben tue, bekomme ich immer wieder diese Strafe oder wie kann ich das sehen oder verstehen? Äh ja, das ist etwas komplizierter.

18:42 Wichtig zu wissen ist vor allem diese 35 Millionen habe ich nur plakativ genannt. Ja, es gibt auch noch eine Vorschrift, die sagt, ich glaube, es sind 7% ähm bei

18:52 verbotener KI des Gruppenjahresumsatzes. Das kann natürlich wesentlich höher sein als 35 Millionen, ne? Ähm und das dass das wirklich eingehalten wird, selbst wenn es immer gezahlt wird. Mhm.

19:06 Also du wenn du hingehst, das Ordnungswidrigkeit begehst, Geld zahlst, wieder machst und so weiter und so fort, dann ähm wirst du wahrscheinlich irgendwann ins Gefängnis gehen müssen

19:17 und also bzw. der Geschäftsführer und dann wird das Ganze erzwungen erzwingungshaft. Das heißt, es ist äh ich sag mal wieder in Autoenken, wenn ich mein Auto im Halteverbot stehen

19:27 habe. Und es ist nicht so, dass dann einmal das Knöchchen dran kommt und dafür darf ich jetzt drei Monate quasi kostenlos parken. Das kommt quasi immer wieder ein Knöllchen dran und irgendwann

19:36 bekomme ich richtig Probleme. Genau. Okay. Aber die meisten Hörer und Hörerin sind ja keine nicht die die die Konzernen ähm Konzerne würde ich sagen, sondern kleine mittelständische

19:47 Unternehmen. Ähm, das heißt aber trotzdem für mich, es gibt diese Pflicht schon seit Februar 2025, wenn meine Mitarbeitenden oder ich selbst Mistbaue, kann es auch jetzt schon potenzielle

20:02 Strafen geben. Es gibt aber noch nicht die Überwachungsbehörden. [Musik] Was heißt es denn praktisch? Also jetzt angenommen, ich nutze hochico KI und habe irgendein System,

20:14 um meine Mitarbeitenden zu überwachen und zu gucken, ob die irgendwie zu viel Kaffee trinken, Kaffepausen machen und was auch immer, was glaube ich unter Hochrisiko oder verbotener KI fallen

20:25 würde. Ähm jetzt gibt's ja keine Aufsichtsbehörde. Kann ich es dann einfach trotzdem machen oder kriege ich dann erst ein Problem, wenn es die Aufsichtsbehörde gibt oder kann ich so

20:33 lange machen, bis es die Aufsichtsbehörde gibt? Wie ist das denn? Mhm. Also wahrscheinlich wird man erstmal Probleme erst dann Probleme bekommen mit der Aufsichtsbehörde, wenn

20:43 sie scharf geschaltet ist sozusagen. In dem Bereich sind natürlich auch noch andere Aufsichtsbehörden ähm am Start, z.B. Datenschutzrechtliche Aufschichtsbehörden, die ja jetzt schon

20:53 dann einschalten könnten. Ähm genau. Aber das verjährt ja nicht. Das heißt, wenn im nächsten Jahr die Bundesnetzagentur z.B. als Aufsichtsbehörde dann anfängt zu

21:03 arbeiten und kriegt dann 50 Beschwerden hier seit einem Jahr setzt er die und die KI ein, dann werden die dem auch nachgehen, ne? Mhm. Okay. Und dann ist, wenn du es länger

21:12 eingesetzt hast, ist natürlich dann die Strafe wahrscheinlich auch höher, als wenn du es nur ganz kurz eingesetzt hast. Also ganz wichtig für mich als deutsches Unternehmen und das gleiche gilt in

21:24 Österreich, weil wir auch Hörer und Hörerin in Österreich haben. Ich muss mich heute an das Gesetz halten. Ich bin heute als Geschäfts Geschäftsin verantwortlich, dass alle meine

21:33 Mitarbeitenden, die KI verwenden, auch dieige Kompetenz besitzen. Das Kompetenz ist haben wir definiert. Sonst kann ich wirkliche Probleme bekommen. sollte das

21:43 also heute schon sehr ernst nehmen, auch wenn es diese Aufsichtsbehörden in dem Sinn noch nicht gibt oder nicht definiert sind. Genau. Und es gibt noch einen zweiten

21:50 Bereich, in dem es wichtig ist, ist nämlich der zivilrechtliche Bereich. Also, wenn jetzt irgendein Schaden entsteht, weil also plakatives Beispiel, ich habe ein selbstfahrendes Auto rausgebracht und

22:03 das dies selbstfahrende Auto, da funktioniert die KI nicht, weil die falsch trainiert wurde oder ähnliches, dann hafte ich natürlich dafür schon zivilrechtlich, ne? Derjenige, der

22:11 Schaden dann hat, also der gegen den das Auto gefahren ist oder ähnliches, der kann dann natürlich gegen das Unternehmen vorgehen und sagen: "Du Geschäftsführer, du hast ja gar nicht dafür

22:24 Sorge getragen oder sichergestellt, dass die Mitarbeitenden überhaupt wussten, wie sie das vernünftig einsetzen sollten oder trainieren sollten. Ähm, dann haftest du im Zweifel als

22:34 Geschäftsführer dafür sogar persönlich für diesen Schaden." Unsicher wegen der neuen EU KI Verordnung? Die Kompetenzpflicht für den beruflichen Einsatz von KI Tools ist da.

22:43 Snipkey bietet die Lösung. Unsere spezielle Schulung zu Artikel 4 konzipiert mit Rechtsanwälten, macht dich und dein Team fit. Verstehe die rechtlichen Grundlagen und nutze KI

22:54 Potentiale ohne Risiko. Investiere in Rechtssicherheit und Kompetenz. Informiere dich jetzt über die Schulung auf snipkey.de. Wie wird es sein mit der Kontrolle?

23:05 Also, wir haben gesagt, es gibt keine in dem Sinn Schulungspflicht, äh es gibt auch keine Zertifikatspflicht. Auf der anderen Seite als Arbeitgeber muss ich ja irgendwie

23:16 auch im Zweifel, wenn was schief geht, nachweisen können, dass ich was getan habe. Es wird jetzt aber im Zweifel keiner kommen, der ins Unternehmen proaktiv reinkommt und sagt, zeigt mir

23:28 mal die ganzen Schulungen der Mitarbeitenden und die ganzen Zertifikate. Das wird's wahrscheinlich nicht geben, sondern es ist eher, ich sag mal, cover your ass. Ich mache es

23:39 lieber und habe einen Nachweis, dass ich es gemacht habe, denn für den Fall, dass was passiert, weil als Geschäftsführer, Geschäftsführerin bin ich ja wahrscheinlich trotzdem auch irgendwie

23:47 persönlich haftbar für das ganze Thema. Ähm ergibt es trotzdem Sinn, da gewisse Nachweise zu haben, ähm um auf der sicheren Seite zu sein. Genau. Also äh eine Dokumentation in dem

23:59 Bereich ist, würde ich sagen, absolut Standard in vielen größeren Unternehmen schon. Das heißt, äh, dass man zum einen auch, wenn man Standards und Richtlinien hat, was man so an KI benutzt, was

24:12 benutzt werden dafür, welche Cases und so weiter und so fort, dass man das dokumentiert, dann können sich die Mitarbeitenden daran auch halten und dann natürlich auch aufzuschreiben, der

24:21 und der Mitarbeiter hat die und die Schulung gemacht, der und der brauchte vielleicht keine, weil er ist Entwickler und weiß das so. Ähm ja, da hat man im Prinzip eine schöne Mappe, die just in

24:32 case im Regal steht, die man dann vorzeigen kann, falls mal irgendwann etwas passiert. Mhm. Und ähm du hatest die verschiedenen Bereiche, also wenn man so eine Schulung

24:42 quasi sich so Schulung informiert, ähm gibt's auch verschiedene Anbieter am Markt, die Elemente, die dann irgendwie drin sein müssen, wenn ich dann auch äh quasi diese Kompetenz äh interpretiere,

24:54 so wie du es genannt hast, zum einnehmen, die ganzen Grundlagen. Ich brauche die ähm die die ganze Ethikbereich, dass ich die quasi Probleme auch verstehen kann. Ich

25:04 brauche den rechtlichen Teil und ich brauche irgendwie diesen anwendungsbezogenen Teil, ähm den ich irgendwie meinem Mitarbeiten beibringen muss. Mhm. Verstanden? ähm gibt da viele

25:17 Schulungen. Ich glaub, das Wichtige ist, dass also unserer Meinung nach auch wenn wir so eine Schulung im Angebot haben, die übrigens hier von Tobi mitkonzipiert wurden, ähm

25:30 man sollte, glaube ich, als Unternehmen die Motivation haben, seinen Kollegen und Kolleginnen es unabhängig von so einer Kompetenzlicht beizubringen, weil es einfach meine Verantwortung fürs

25:38 Unternehmen ist. Ja, und ähm wir sehen das auch, wenn wir mit Unternehmen sprechen, dass es je nachdem mit wem man spricht im Unternehmen es unterschiedliche Motivation gibt, ne?

25:50 Wenn man jetzt mit einem Geschäftsführung spricht, irgendwie Sea Level oder äh Head of Marketings, ja, die haben immer oder fast immer ganz klar das Verständnis, wir müssen unseren

26:00 Leuten was beibringen und das geht viel eigentlich darüber hinaus, viel mehr als man in so einer Kompetenzschulung Noten beibringen muss, weil jetzt sind wir mal ehrlich, unsere Kompetenzchulung geht

26:11 zwei Stunden lang, was relativ lange ist. Manche gehen sogar eine Stunde, die am Markt sind, bin ich selbst nach so einer zwe Stunden Schulung, wie wir sie anbieten, irgendwie soweit, dass ich

26:20 wirklich KI sinnvoll anwende und äh KI first denke und wirklich ein Impact mit KI auf mein Unternehmen haben werde, wahrscheinlich nicht, ne? Aus dem Grund sind oft die Ansprechpartner für diese

26:32 Artikel 4 KI Verordnungsschulung, die Compliance Abteilung, ja, die Head of ITS und so weiter, die halt wirklich sagen, okay, ähm wir wollen es den Leuten einmal die Grundlagen beibringen

26:41 und wir wollen halt irgendwie eine Nachweisen Dokumentation, dass wir es gemacht haben, auf der sicheren Seite zu sein. Aber ich glaube, diese Artikel 4 KI Verordnung kann nicht alles sein. Und

26:51 das Wichtige ist, glaube ich, dass die Unternehmen nicht denken, so, jetzt habe ich es irgendwie getan, jetzt habe ich meine Pflicht erfüllt und damit höre ich auf,

26:59 weil damit bin ich immer noch nicht weit genug gesprungen, weil alle anderen meine mein Webwerb springt im Zweifel zwei oder dreimal so weit, indem man er halt wirklich ja fokussiert darauf ist,

27:10 wie ich ein KI First Mindset in der Company hinbekommen muss. Aber klar, es gibt diese diese Kompetenzschulung, es gibt die KI Verordnung, die gibt mir als Unternehmer was in die Hand. Aber ich

27:21 habe die wichtigen Messages, es ist nicht genug nur das zu tun. Genau. Und die Frage, ob allein so eine Kompetenzpflicht rechtlich schon genug ist oder nicht, ist ja auch total

27:32 schwammig, ne? Weil wir keine wirklich Vorgabe haben. Flich, jeder Mitarbeiter muss zwei Stunden Schulung oder so ähm bekommen. Das gibt's ja nicht. Das heißt, da kann man auch diskutieren, ist

27:43 das jetzt genug oder nicht? Ähm, in der Regel ist so eine Grundlagenschulung ähm ein gutes Tool, um ein gewisses Level zu schaffen und dann muss jedes Unternehmen noch mal für sich und

27:55 wahrscheinlich auch für jeden Bereich im Unternehmen schauen. Macht's trotzdem Sinn, dass die noch weitere Schulungen darüber hinausbekommen oder sich irgendwie anders fortbilden,

28:04 weil wie gesagt, ähm ein eine Marketingabteilung ist wahrscheinlich was ganz anderes als irgendwelche IT-Anwender. ähm das einheitlich irgendwie hinzubekommen ist schwierig und deswegen

28:17 muss man den Bedarf vielleicht auch gegebenenfalls im Unternehmen anpassen, je nachdem was der Mitarbeitende gerade macht. Mhm. Was müssen wir noch alles wissen zum Artikel 4 K Verordnung?

28:27 M ja, also wir haben ja viel darüber gesprochen, was KI Kompetenz eigentlich ist. Mhm. Vielleicht können wir ganz kurz noch sagen, was aus unserer Sicht oder aus meiner Sicht so die Best Practices

28:42 sind, damit ich sinnvoll KI im Unternehmen implementieren kann. Mhm. Das ist zum einen, das habe ich eben schon angesprochen, Standards und Richtlinien, denn wir wissen aus vielen

28:54 Studien sehr genau, dass wenn es keine Standards und Richtlinien gibt, die Mitarbeitenden hingehen und einfach irgendeine KI irgendwie verwenden. Mhm. Das heißt, ob das jetzt

29:04 Datenschutzkonform ist, ob irgendwelche Geschäftsgeheimnisse einfach bei ChatGPT hochgeladen werden von PDFDumenten, das machen die Leute einfach, wenn es keine Regeln gibt.

29:13 Das ist total spannender Punkt. Und wie wird denn dann das Gesetz interpretiert? Wenn ich z.B. gibt hoffentlich nicht so viele Unternehmen, aber es gibt ein paar, die

29:21 sagen: "Nein, bei uns gibt's keine KI. So, ihr dürft keine KI verwenden." Jetzt sieht die Realität, wie du sagst, anders aus. Es gibt ein ganz großes Thema ist

29:30 Schatten KI. Das heißt, jeder ganz viele Leute nutzen einfach KI, da nutzen den privaten Chat GPT Account, da ist im Zweifel nicht ausgestellt, dass nicht auf den Daten gelernt werden kann und so

29:41 weiter und so fort. Das heißt, was übrigens ein Thema ist, warum oft bei Studien rauskommt, dass Unternehmen keinen positiven ROI haben als Gesamtunternehmen, weil halt der

29:52 positive ROI bei den Kollegen und Kolleginnen ist, die es halt privat nutzen und jetzt halt irgendwie im Homeoffice 3 Stunden früher Feierabend machen, ne? Dann wird's auch eben auf

30:01 Gesamtunternehmensene nicht gemessen. Aus dem Grund brauche es diese Guidelines und Richtlinien Schulung, damit ich auch als Unternehmen wirklich davon profitiere. Aber angenommen, also

30:12 der der Edgecase Fall, ich sag als Unternehmens gibt bei uns keine KI, keiner darf es nutzen. Jetzt machen es die Mitarbeitenden aber trotzdem und bauen Mist. kann ich dann als Geschäftsführung

30:23 sagen, ich habe es ja gesagt, das darf man nicht und damit bin ich jetzt fein raus oder bekomme ich dann trotzdem Probleme, weil die Leute es gemacht haben? Ja, die Frage ist, ob du deine

30:32 Kompetenz, also die die Pflicht, dass deine Mitarbeitenden KI kompetent sind, dann eingehalten hast. Wahrscheinlich schon, weil es ja niemanden gibt, der KI offiziell benutzt, ne? Das heißt, wenn

30:44 du gesagt hast, ich benutze keiner KI, deswegen muss ich auch niemand schulen, okay, dann kannst du dich möglicherweise exulpieren. Ähm, ob das dann irgendwie arbeitsrechtlich noch mal andere

30:54 Thematiken tangiert, dass es überhaupt keinen Sinn ergibt, ist glaube ich auch klar. Äh, weil im Endeffekt so viele wird's am Markt nicht mehr geben, die genau. Aber es heißt umgedreht, wenn ich

31:07 quasi KI erlaube, was ich hoffentlich tue als Unternehmen, muss ich die Leute befegen dazu. Sollte dann aber auch gewisse Vorgaben haben für das Unternehmen, was eben geht und nicht

31:20 geht. Dann habe ich nämlich einmal meine meine Kompetenzpflicht erfüllt, indem die Leute ich den Leuten beigebracht habe, ähm ja, wie das alles funktioniert und was sie achten müssen. Auf der

31:29 anderen Seite habe ich klare Vorgaben gemacht und wenn die Leute dann gegen meine Vorgaben noch verstoßen, dann habe ich erstmal als Geschäftsführung wahrscheinlich alles

31:37 getan, was ich tun kann und bin dann wahrscheinlich auch raus. Genau, das würde ich so unterschreiben, wobei für mich gar nicht so sehr der Schutz im Vordergrund steht, sondern tatsächlich

31:49 auch die Wirksamkeit der KI. Wenn ich mir, wenn ich einen Mitarbeitenden habe, der sich dezidiert anschaut, für den und den Case macht das und das Tool am meisten Sinn, weil es am effizientesten

32:02 ist oder am günstigsten oder was auch immer, dann sollen die Leute auch das benutzen und nicht was anderes, ne? So kannst du natürlich dann auch viel mehr steuern.

32:10 Mm. Ähm ja, wie Ressourcen sparend dein Unternehmen agiert und wie effizient und gut letztlich, ne? Man kann sie auch beliebig spitz oder breit fassen diese diese Vorgaben, ne?

32:22 Also, ich glaube, was ganz wichtig ist, ist ä das ganze Thema Datenschutz, ja, dass ich halt in irgendwie Systeme, die irgendwelchen selbst Chat GPT, ja, dass es dort

32:33 ausgestellt ist, auf Daten gelernt wird, dass es das ganz wichtig ist. ähm oder ich halt irgendwelche Enterprise Accounts habe, wo das ohnehin nicht so ist, aber vor allem welche

32:42 Unternehmensdaten reingegeben werden können allgemein, ne, unabhängig vom Tool und welche nicht. Ähm, das ist glaube ich sehr wichtig. Also, also wir sehen, dass die Unternehmen eigentlich

32:51 am erfolgreichsten sind, die ganz klar von oben definieren, wir wollen KI. KI ist absolut wichtig. Wir wollen irgendwie KI first Mindset haben und wir haben eine KI Strategie. Wir haben

33:02 Guidelines für die Mitarbeitenden, dass die Mitarbeitenden noch einen Rahmen haben, den sie sicher fühlen, weil viele haben ja auch irgendwie dann das Problem, ja, darf ich irgendwie zeigen,

33:12 dass ich hier KI genutzt habe? Ja, werde ich dann irgendwie äh das irgendwie negativ gesehen von meinem Chef oder meiner Chefin, aber auch diese Freiheit zu lassen und das eben im Rahmen dieser

33:22 dieser ähm dieser Vorgaben die besten Tools auszuprobieren, ne? Solange ich halt, ne, ich finde neues Tool und das soll ich ausprobieren dürfen, aber ich muss halt wissen, was da rein darf und

33:32 was nicht rein darf und dieser Topdown und gleichzeitiger Bottom Ab Ansatz ist eigentlich, was wir äh sehen bei Unternehmen, was eigentlich am erfolgreichsten ist, was ja auch so ein

33:43 bisschen hier die Idee ist, ähm wie man es am besten irgendwie implementiert und umsetzt, ne? Ja, genau. Also, ich bin auch großer Freund davon, dass man Richtlinien setzt, aber dann

33:52 möglicherweise auch denjenigen, die mit der KI arbeitet, die Möglichkeit gibt, verschiedene KI Tools zu testen, damit sie dann nachher sagen, welches KI Tool eigentlich in die Richtlinie geschrieben

34:01 werden soll, weil sie ja letztlich damit arbeiten müssen. Es macht ja keinen Sinn, wenn das C Level vorgibt, ihr müsst damit arbeiten und die Mitarbeitenden finden das Tool dann aber doof.

34:11 Mhm. Also es muss auch so ein bisschen, ich sag mal, ein lebendes Dokument sein. Es ist jetzt nicht so und das macht auch so bisschen fairerweise auch ein bisschen schwer für viele IT Abteilung

34:20 oder auch Compliance Abteilung, weil vorher hast du halt gesagt, okay, wir nutzen jetzt irgendwie dieses Tool für die nächsten 5 Jahre und das sind die Regeln und fertig und dann schauen wir 5

34:28 Jahren mal wieder rein, was es Neues am Markt gibt. Eigentlich ist es ein lebendes Dokument, was ich kontinuierlich weiterentwickeln muss. wahrscheinlich maximal alle 6 Monate

34:40 noch mal wirklich kritisch überprüft werden muss. Praktisch wahrscheinlich sogar alle drei Monate. Klar kann ich nicht als IT unternehmensweit alle drei Monate neue Tools einführen, aber eben

34:49 potenziell in verschiedenen Abteilungen für verschiedene Aufgabenbereiche, verschiedene Leute ähm da zumindest die Flexibilität da sein muss, dass es eben ja möglich ist. Ja,

34:59 und das das ein guter Punkt. ähm so wie so ein Standard oder Richtlinien lebendes Dokument ist, was immer wieder irgendwie aktualisiert werden muss. So wissen wir bei der KI Kompetenzpflicht

35:11 natürlich auch, dass so Schulungen beispielsweise oder sich selber was beibringen, dass das kontinuierlich oder wenigstens alle 6 Monate oder so stattfinden soll, weil eine Kompetenz,

35:24 die ich mir jetzt zum jetzigen Zeitpunkt aufbaue, ist vielleicht in sechs Monaten gar nichts mehr wert. Ja, das heißt ähm der auch so interpretiere ich, dass der EU Gesetzgeber sieht, dass

35:35 das entweder ein kontinuierliches Lernen sein muss oder wenigstens ein halbjähriges quartalsmäßiges jähriges wie auch immer, aber man muss am Ball bleiben. Mhm. Okay. Haben wir sonst noch was

35:49 vergessen? Ah, wir können in viele Details noch weiter reingehen. Mir macht das großen Spaß darüber zu sprechen, aber ich vermute äh für so ein groben Überblick ist das jetzt schon mal ganz

36:01 gut gewesen. Also ich habe die Message ist jeder Unternehmer, Unternehmerin, Geschäftsführer, Geschäftsführerin, egal welcher Größe des Unternehmens ist, hat eine Kompetenzpflicht für die alle

36:16 Mitarbeitenden mit die mit KI hantieren und das ganze schon seit Februar 2025 mit potenziell hohen Strafen. Aber unserer Meinung nach sollte die Motivation KI ins Unternehmen zu zu treiben, eine

36:30 Kompetenz bei den Mitarbeitenden herzustellen, nicht dieser EUI Act sein, sondern einfach mein unternehmerisches Verständnis darüber, dass ich mich am Markt differenzieren muss und dafür eben

36:44 KI nutzen kann und zwar einmal für ja effizientere Erledigung von Aufgaben, aber vor allem auch und das ist wichtig und das versuchen wir immer zu propagieren, zu verstehen, was sich

36:54 durch KI für Superpers bekomme und jetzt heute damit alles machen kann, was ich vorher vielleicht nicht machen konnte. Ähm, aber es gibt auch eben diesen diese KI Verordnung und an die muss ich mich

37:04 halten und auch für die, die es vielleicht noch nicht verstanden haben, hoffentlich durch den EU Push ähm ja, findet ein kleiner Mindset Change statt. Damit sind wir am Ende dieser Episode,

37:20 die zweite von drei ja Episoden zu rechtlichen Themen. In der nächsten Episode erwartet euch dann das ganze Thema Urheberrecht, was auch super spannend ist. Also auch ganz wichtig,

37:33 dass ihr da wieder einschaltet. Wenn euch der Podcast gefallen hat heute mit Tobi und mir. Liked, kommentiert, abonniert den Podcast. Ganz wichtig, dass ihr die nächste Folge auch nicht

37:42 verpasst. Und bis dahin viele liebe Grüße und wir sehen uns nächste Woche. Ciao. Cointelligence ist eine Produktion von The Key Academy in Zusammenarbeit mit Snipkey. Produziert bei Studio Co in

37:56 Berlin. Produktion und Regie. Christina Manuele, Fuat Sebadli und Elias Frobel. Creative Director Lukas Schelter. Redaktion und Moderation Benjamin Wüstenhagen und Moritz Heininger.

38:10 Abonniere uns auf Spotify, Apple Podcasts oder YouTube. Danke fürs Zuhören.