Was Marketingteams zum EU AI Act wissen müssen

Inhaltsverzeichnis

Seit August 2024 gilt der EU AI Act. Es ist das erste Gesetz, das künstliche Intelligenz umfassend reguliert. Die Verordnung legt fest, welche Anwendungen erlaubt sind, welche Nachweise gefordert werden und welche Strafen drohen können. Wir beantworten alle wichtigen Fragen und zeigen, was Marketingteams jetzt tun müssen.

💡 In diesem Beitrag geht es um den EU AI Act. Du brauchst Hilfe beim Aufbau von KI Kompetenzen in deinem Team? Schau dir hier unser passendes KI-Workshop-Format an.

schedule Lesezeit ca. 5 min

Was ist der EU AI Act?

Der EU AI Act soll Sicherheit und Grundrechte schützen und gleichzeitig Vertrauen in KI schaffen. Das Gesetz gilt für alle KI-Systeme, deren Ergebnisse in der EU genutzt werden – unabhängig davon, wo das Unternehmen sitzt. Somit müssen sich auch Anbieter außerhalb der EU an die Verordnung halten. Jeder, der in irgendeiner Form KI im Unternehmen einsetzt, muss sich mit dem EU AI Act beschäftigen.

Was ist das zentrale Element des EU AI Acts?

Das wichtigste Element der KI-Verordnung ist die Einteilung von Use Cases nach Risiko:

Inakzeptables Risiko (verboten): Hierunter fallen Anwendungen, die Grundrechte verletzen oder Menschen massiv beeinflussen können, etwa Social Scoring durch staatliche Stellen, Systeme zur verdeckten Verhaltenslenkung oder biometrische Massenüberwachung im öffentlichen Raum. Für das Marketing spielen diese Fälle keine Rolle, wichtig ist aber das Bewusstsein: Manche KI-Praktiken sind grundsätzlich ausgeschlossen und damit rechtlich nicht nutzbar.
Hohes Risiko (strenge Vorgaben): In diese Kategorie gehören Systeme mit direktem Einfluss auf Sicherheit oder Rechte, zum Beispiel biometrische Identifizierung, Bewerberauswahl, KI im Personalmanagement und Anwendungen in Bildung, Justiz oder kritischer Infrastruktur. Für Marketingteams wird es relevant, wenn KI-gestützte Prozesse etwa bei der Einstellung von Mitarbeitenden oder bei Profilanalysen eingesetzt werden, die direkte Auswirkungen auf Vertrags- oder Karriereentscheidungen haben.
Begrenztes Risiko (Transparenzpflichten): Die meisten Marketing-Anwendungen fallen hier hinein. Beispiele sind KI-Chatbots, automatisch erstellte Texte, Bilder oder Videos sowie Empfehlungssysteme für Produkte und Inhalte. Für diese Kategorie gilt vor allem: Nutzer müssen klar erkennen können, dass KI im Einsatz ist. Für Marketingteams heißt das, Chatbots als solche kenntlich zu machen und auch KI-generierte Inhalte zu kennzeichnen.
Minimales Risiko (keine Vorgaben): Diese Kategorie umfasst Systeme ohne relevanten Einfluss auf Rechte oder Sicherheit, etwa Spamfilter, KI in Spielen oder einfache Analysefunktionen ohne Personenbezug. Für das Marketing sind solche Tools oft im Hintergrund aktiv und brauchen keine zusätzlichen Nachweise oder Dokumentation.

Inwiefern ist der EU AI Act für das Marketing relevant?

Viele Marketingmaßnahmen basieren bereits auf KI, etwa bei automatisierten Texten, der Ausspielung von Anzeigen oder Prognosen für Kampagnen. Bisher fehlte eine rechtliche Grundlage.

Mit dem AI Act gilt:

Inhalte müssen erkennbar als KI-generiert markiert werden.
Chatbots dürfen nicht den Eindruck erwecken, ein Mensch zu sein.
Systeme, die Zielgruppen analysieren oder bewerten, müssen fair und nachvollziehbar arbeiten.

Damit wird Transparenz zur Pflicht. Marketingteams sollten ihre Prozesse klar dokumentieren und regelmäßig prüfen.

Workshop: KI im Online-Marketing

Unser Workshop für den Kompetenzaufbau in deinem Marketingteam. Wir zeigen dir, was es bei der Nutzung von KI zu beachten gilt – verständlich, praxisnah und motivierend. Inkl. KI-Kompetenzzertifikat nach Artikel 4 des EU AI Acts.

Jetzt informieren

Was bedeutet die KI-Kennzeichnungspflicht?

Der EU AI Act verpflichtet Anbieter, Nutzer zu informieren, wenn sie mit einem KI-System interagieren. Das bedeutet: Wenn KI „synthetische Inhalte“ erzeugt (Texte, Bilder, Videos, Audio), müssen diese als KI-generiert oder manipuliert gekennzeichnet werden.

Die Kennzeichnung muss sichtbar platziert (z.B. „erstellt mit KI“, „mit KI generiert“) und idealerweise schon bei Veröffentlichung eingebaut sein. Es gibt Ausnahmen, z.B. bei künstlerischen, satirischen oder fiktionalen Inhalten oder wenn deutlich ist, dass eine KI verwendet wird, und niemand dadurch getäuscht wird.

Was muss ich dokumentieren?

Neben der Kennzeichnungspflicht nach außen gibt es auch eine Pflicht zur internen Dokumentation, sobald KI zum Einsatz kommt. Die Dokumentationspflicht verlangt, dass Unternehmen den Einsatz von KI nachvollziehbar festhalten.

Für Marketingteams heißt das konkret:

Eingesetzte Systeme – welche KI-Tools oder Plattformen werden genutzt?
Zweck und Einsatzbereich – wofür wird die KI verwendet (z.B. Texterstellung, Segmentierung, Chatbots)?
Datenbasis – auf welchen Daten beruhen die Ergebnisse?
Risikobewertung – welche möglichen Auswirkungen gibt es, und wie wurde das Risiko eingeordnet?
Kontrollmechanismen – wie werden Ergebnisse überprüft, bevor sie veröffentlicht werden?
Schulungsnachweise – welche Mitarbeitenden wurden im Umgang mit KI geschult (Artikel 4)?
Änderungen und Updates – wie wird dokumentiert, wenn sich ein Tool verändert oder neue Funktionen hinzukommen?

Was bedeutet die Schulungspflicht des EU AI Acts?

Artikel 4 führt darüber hinaus eine Kompetenzpflicht ein. Unternehmen müssen seit Februar 2025 sicherstellen, dass Beschäftigte, die mit KI arbeiten, über das nötige Wissen verfügen. Es geht nicht um Technik im Detail, sondern um Grundverständnis von KI. Mitarbeitende sollen zum Beispiel wissen:

wie das KI-System funktioniert,
welche Grenzen es hat,
welche Risiken bestehen (z.B. Verzerrungen in Daten),
wie Ergebnisse überprüft werden können.

Es gibt zwar keine staatliche Zertifizierung, aber Unternehmen müssen die Schulung dokumentieren. Das bedeutet, dass Nachweise über Weiterbildungen erforderlich sind. Hier reicht zum Beispiel eine Teilnahmezertifikat.

Was droht bei Verstößen?

Verstöße gegen den EU AI Act können teuer und rufschädigend sein. Neben hohen Bußgeldern drohen rechtliche Einschränkungen und auch Vertrauensverlust bei Kunden und Partnerunternehmen. Besonders kritisch ist, dass Verstöße ähnlich wie bei der DSGVO schnell öffentlich werden können. Das sind die potenziellen Strafen im EU AI Act:

Nutzung verbotener KI-Systeme: Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.
Verstöße gegen andere Verpflichtungen (z.B. Nachweispflichten): Bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.
Falsche Angaben gegenüber Behörden: Bis zu 7,5 Millionen Euro oder 1,5 Prozent des weltweiten Jahresumsatzes.

Was sollten Marketingteams jetzt tun?

Der EU AI Act hat für Marketingteams direkte Auswirkungen. Sie müssen den Überblick über alle eingesetzten Tools behalten, deren Risiken richtig einordnen und vor allem Mitarbeitende schulen. Eine saubere Dokumentation sorgt für Nachvollziehbarkeit nach innen, Kennzeichnung schafft Transparenz nach außen.

Wer diese Pflichten frühzeitig umsetzt, schützt sich nicht nur vor unnötigen Strafen und Reputationsschäden, sondern gewinnt auch Sicherheit im täglichen Umgang mit KI.