Artikel 50 der KI-Verordnung und KI über Ihrem ERP

Die Transparenzpflichten aus Artikel 50 der KI-Verordnung der EU gelten ab dem 2. August 2026. Sie sind nicht auf Hochrisiko-KI-Systeme beschränkt. Ein Unternehmen ohne jede Hochrisiko-KI kann nach diesem Artikel dennoch Pflichten haben.

Wenn Sie einen KI-Assistenten über ERP-Daten betreiben, erklärt diese Seite, welche Pflichten Sie treffen, welche Ihren Anbieter treffen und was sich an den Fristen geändert hat.

Diese Seite ist Information, keine Rechtsberatung. Treffen Sie die Entscheidungen mit Ihrer eigenen Beratung.

Was verlangt Artikel 50?

Artikel 50 deckt vier Situationen ab:

1. Unmittelbare Interaktion mit Menschen. Chatbots, virtuelle Assistenten und andere automatisierte Systeme, mit denen eine Person spricht.
2. Synthetische Inhalte. Text, Bilder, Audio oder Video, von KI erzeugt.
3. Emotionserkennung und biometrische Kategorisierung. Systeme, die Stress, Stimmung oder demografische Kategorien einschätzen.
4. Deepfakes und KI-erzeugter Text zu Angelegenheiten von öffentlichem Interesse.

Die Pflichten teilen sich zwischen dem Anbieter eines Systems und seinem Betreiber.

Die Information muss die Person spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung erreichen. Sie muss klar und eindeutig sein, und sie muss die Barrierefreiheitsanforderungen erfüllen.

Gilt Artikel 50 für einen ERP-Assistenten?

Situation 1 gilt für fast jeden ERP-Assistenten, denn eine Person tippt eine Frage und erhält eine Antwort von einem KI-System.

Die Pflicht, die daraus folgt, ist maßvoll. Die Person muss wissen, dass die Antwort von einem KI-System kam. Eine klare Kennzeichnung in der Oberfläche genügt dafür. Das ist in der Regel die Pflicht des Anbieters, und es ist es wert, zu bestätigen, dass das Produkt sie erfüllt, statt es anzunehmen.

Situation 2 gilt, sobald der Assistent Inhalte erzeugt, die das Haus verlassen: eine entworfene E-Mail, ein erzeugtes Dokument, ein Berichtstext. Die Pflicht zur maschinenlesbaren Markierung liegt beim Anbieter des generativen Systems.

Die Situationen 3 und 4 treffen auf ERP-Arbeit üblicherweise nicht zu.

Ist ein ERP-Assistent ein Hochrisiko-KI-System?

Meist nicht, und die Antwort hängt davon ab, wofür Sie ihn nutzen, nicht davon, was er ist.

Die Hochrisikokategorien betreffen Verwendungen wie Entscheidungen über Beschäftigung, die Bewertung der Kreditwürdigkeit natürlicher Personen, den Zugang zu grundlegenden Diensten und Sicherheitsbauteile regulierter Produkte. Ein Assistent, der Fragen zu Buchhaltungsposten beantwortet, fällt nicht in diese Kategorien.

Derselbe Assistent kann in eine hineinwandern. Wenn Sie ihn nutzen, um Bewerber zu bewerten, Beschäftigte zu sortieren oder zu entscheiden, ob eine natürliche Person Kredit erhält, sehen Sie sich die Hochrisikoregeln mit Ihrer Beratung an. Der Anwendungsfall entscheidet, und der Anwendungsfall kann sich ändern, ohne dass jemand ein Ticket anlegt.

Was hat sich an den Fristen geändert?

Das Digital-Omnibus-Paket hat den Zeitplan für die Hochrisikopflichten geändert. So beschreiben es die Kanzleien, die das verfolgen:

Zwei Punkte zur Vorsicht. Der Anwendungsbereich von Artikel 50 hat sich nicht geändert, nur die Markierungsfrist für Systeme, die schon auf dem Markt sind. Und die Omnibus-Änderungen brauchten die formelle Annahme durch Parlament und Rat, die der Hinweis von Latham & Watkins für Juli 2026 erwartet. Bestätigen Sie den aktuellen Stand, bevor Sie sich auf die späteren Daten verlassen.

Was sollte ein Unternehmen jetzt tun?

Eine kurze Liste, in der Reihenfolge, in der wir es tun würden.

1. Schreiben Sie jedes KI-System auf, das Sie nutzen. Auch die Assistenten in Produkten, die Sie gekauft haben. Das ist der Schritt, den die meisten Unternehmen nicht getan haben, und jeder späte Schritt braucht ihn.
2. Prüfen Sie die Offenlegung. Öffnen Sie jeden Assistenten und bestätigen Sie, dass eine Person erkennen kann, dass sie mit einem KI-System spricht.
3. Entscheiden Sie über erzeugte Inhalte, die das Unternehmen verlassen. E-Mails, Briefe und Berichte, die mit KI entworfen wurden, sind der praktische Fall.
4. Stellen Sie jedem Anbieter zwei Fragen. Sind Sie der Anbieter dieses Systems im Sinne der KI-Verordnung, und wie erfüllen Sie Artikel 50? Ein Anbieter, der das im September 2026 nicht beantworten kann, ist im Rückstand.
5. Prüfen Sie Ihre Anwendungsfälle gegen die Hochrisikoliste, und prüfen Sie erneut, wenn jemand eine neue Verwendung vorschlägt.
6. Bewahren Sie die Aufzeichnung. Die Pflicht, die Sie nachweisen können, ist mehr wert als die Pflicht, die Sie erfüllt haben.

Der dänische Zusammenhang

Dänische Unternehmen treffen diese Regel neben einer zweiten Änderung. Seit dem 1. Januar 2026 gilt die Pflicht zur digitalen Buchführung auch für Einzelunternehmen und Vereine mit einem Nettoumsatz über 300.000 kr. in zwei aufeinanderfolgenden Jahren, die ein bei der dänischen Wirtschaftsbehörde registriertes Buchhaltungssystem nutzen müssen.

Die beiden Regeln zeigen in dieselbe Richtung. Das Buchhaltungssystem ist die Aufzeichnung. Der KI-Assistent liest diese Aufzeichnung und hilft einem Menschen, darauf hin zu handeln. Die Grenze zwischen beiden klar zu halten macht es leichter, beide Regeln zu erfüllen.

Was Artikel 50 nicht verlangt

Er verlangt nicht, dass Sie aufhören, KI auf Finanzdaten anzuwenden. Er verlangt keine Risikobewertung für einen gewöhnlichen ERP-Assistenten. Er macht Ihren Anbieter nicht für Ihre Verwendung der Ausgaben verantwortlich.

Er verlangt, dass Menschen wissen, wann sie mit einer Maschine sprechen, und dass maschinell erzeugte Inhalte als solche erkennbar sind. Das sind vernünftige Anforderungen, und ein gut gebautes Produkt erfüllt sie ohne Projekt.