Artikel 50 im Klartext
Hinter der Nummer steckt ein einfacher Gedanke: Menschen sollen erkennen können, wann sie es mit einer Maschine zu tun haben oder wann ein Inhalt maschinell erzeugt wurde. Daraus folgen im Wesentlichen drei Pflichten.
Erstens: Gespräche kennzeichnen
Wer mit einem KI-System spricht oder schreibt, muss das erfahren, sofern es nicht ohnehin offensichtlich ist. Betroffen sind Chatbots auf der Website, Sprachassistenten am Telefon, KI-Agenten und Avatare. In der Praxis genügt ein deutlicher Hinweis beim Einstieg in das Gespräch oder eine dauerhafte Kennzeichnung im Fenster.
Zweitens: Erzeugte Inhalte erkennbar machen
Bild-, Ton- und Videoinhalte, die künstlich erzeugt oder verändert wurden und echt wirken könnten, müssen als solche gekennzeichnet werden. Gemeint sind vor allem täuschend echte Darstellungen realer Personen, Orte oder Ereignisse, nicht jedes mit KI aufgehellte Foto.
Drittens: Auch Betreiber sind in der Pflicht
Das ist der Punkt, der am häufigsten übersehen wird. Die Pflichten treffen nicht nur den, der ein System entwickelt, sondern auch den, der es im eigenen Namen einsetzt. Wer einen zugekauften Chatbot unter eigenem Namen auf die Website stellt, ist dafür verantwortlich, dass die Kennzeichnung stimmt.
Was das für eine normale Firmenwebsite bedeutet
Die meisten mittelständischen Unternehmen betreiben kein Hochrisiko-System. Sie haben eine Website, vielleicht einen Chatbot, nutzen KI für Texte und Bilder und arbeiten intern mit einem Sprachmodell. Für diesen Normalfall ist die Liste überschaubar.
- Chatbot auf der Website erkennbar als KI kennzeichnen
- Sprachassistenten am Telefon zu Gesprächsbeginn ansagen
- Täuschend echte KI-Bilder und -Videos als solche ausweisen
- Mitarbeitende schulen, die mit KI-Werkzeugen arbeiten
- Festhalten, welche Werkzeuge im Einsatz sind und wofür
Das ist überwiegend Handwerk, kein Projekt. Der Aufwand liegt eher im Aufschreiben als im Umbauen. Anders sieht es aus, wenn KI in Personalauswahl, Kreditvergabe, Bildung oder kritischer Infrastruktur mitentscheidet: Dort lohnt sich die Vorbereitung auf die Hochrisiko-Anforderungen jetzt, auch wenn die Fristen später greifen.
Was bei Verstößen droht
Seit August ist die Verordnung nicht nur gültig, sondern auch durchsetzbar. Für Verstöße gegen die Transparenzpflichten sieht sie Bußgelder bis 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Bei verbotenen Praktiken liegt der Rahmen noch deutlich darüber.
Für ein mittelständisches Unternehmen ist die realistische Gefahr weniger das Höchstmaß als die Abmahnung durch einen Wettbewerber oder die Beschwerde eines Kunden. Ein fehlender Hinweis am Chatbot ist von außen sichtbar und in zehn Minuten behoben. Genau deshalb sollte man ihn nicht liegen lassen.
