Etwa seit 2022 ist generative künstliche Intelligenz (KI) für die Allgemeinheit nutzbar geworden. Bisher gab es eine große rechtliche Grauzone, nur wenige Gesetze und sehr wenige Urteile mit Bezug zur Nutzung künstlicher Intelligenz. Dies hat sich jedoch in der EU durch die EU-KI-Verordnung bereits geändert. Einige Regularien werden bald wirksam und müssen beachtet und befolgt werden. Die Verordnung wird in mehreren, zeitlich versetzten Stufen wirksam.

Da technische Redaktionen eher zu den Anwendern von KI-Modellen zählen, werden in diesem Blog-Beitrag nur Aspekte behandelt, die für Nutzer von KI-Systemen relevant sind. Themen, die ausschließlich die Hersteller von KI betreffen, bleiben außen vor.

Der Fokus liegt auf der Praxis im Redaktionsalltag.

Zielsetzung der EU

Als Teil ihrer digitalen Strategie will die EU künstliche Intelligenz regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. KI kann viele Vorteile mit sich bringen, zum Beispiel eine bessere Gesundheitsfürsorge, einen sichereren und saubereren Verkehr, eine effizientere Fertigung sowie eine billigere und nachhaltigere Energieversorgung.

Das Europäische Parlament verfolgt insbesondere das Ziel, sicherzustellen, dass die in der EU eingesetzten KI-Systeme sicher, transparent, nachvollziehbar, nicht-diskriminierend und umweltfreundlich sind. KI-Systeme sollen von Menschen und nicht durch eine Automatisierung überwacht werden, um schädliche Ergebnisse zu verhindern.

Bürger haben ein Beschwerderecht über den Einsatz von KI-Systemen bei den zuständigen nationalen Behörden.

Das Risiko ist entscheidend

Die meisten KI-Systeme beinhalten nur ein geringes Risiko, aber trotzdem müssen sie nun hinsichtlich des Risikos bewertet werden. Anhand des ermittelten Riskos ergeben sich dann Verpflichtungen auch für Nutzer einer KI.

Es gibt drei Risiko-Stufen:

Unannehmbares Risiko – Diese Systeme sind verboten (EU-KI-Verordnung Kapitel II).
Hohes Risiko – Diese Systeme werden überwacht und bewertet (EU-KI-Verordnung Kapitel III).
Geringes Risiko – Diese Systeme müssen transparent sein.

Geringes Risiko / Transparenzanforderung

Die Nutzung von KI im redaktionellen Alltag liegt meistens in der Risiko-Stufe „Geringes Risko“. KI-Systeme, die als nicht-risikoreich eingestuft werden, müssen Transparenzanforderungen erfüllen. In diesen Bereich fällt zum Beispiel eine KI wie ChatGPT.

Die EU unterscheidet hier zwischen:

  • Einfacheren Generativen Foundation-Modellen wie ChatGPT (vermutlich ist die Version GPT-3 gemeint) und
  • KI-Systemen mit allgemeinem Verwendungszweck und beträchtlichen Auswirkungen, die ein Systemrisiko darstellen könnten, wie das fortgeschrittene KI-Modell GPT-4.

Anwender können mit KI-Systemen dieser Risiko-Stufe Bilder, Videos, Audiodateien und Texte erstellen.

Kennzeichnungspflicht

Um den Transparenzanforderungen zu genügen, müssen mit KI erzeugte Inhalte unter bestimmten Bedingungen eindeutig als „KI-generiert“ gekennzeichnet werden. Nutzer sollen erkennen können, dass Inhalte, zum Beispiel Bilder, Audio- oder Videodateien, mit Hilfe von KI erzeugt oder bearbeitet wurden.

Dies betrifft in besonderem Maße „Deep Fakes“. Deep Fakes müssen deutlich gekennzeichnet werden. „Die betreffenden technischen Lösungen müssen wirksam, interoperabel, belastbar und zuverlässig sein und die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten, die Umsetzungskosten und den allgemein anerkannten Stand der Technik, wie er in den einschlägigen technischen Normen zum Ausdruck kommen kann, berücksichtigen. (Zitat EU-Kommission)“

Texte, die mit einer KI erstellt oder bearbeitet wurden, müssen dann gekennzeichnet werden, wenn sie dazu dienen, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Allgemein gilt, dass Texte nicht gekennzeichnet werden müssen, wenn

  • die Texte durch ein Verfahren menschlicher Überprüfung (z. B. beim Profiling durch KI im Bereich polizeilicher Ermittlungen) oder durch eine redaktionelle Kontrolle überprüft wurden oder
  • eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.

Urheberrecht und Verwertungsrecht

In diesem Kontext muss zwischen der Eingabe und der Ausgabe einer KI unterschieden werden.

Ausgabe einer KI

KI-generierte Texte und Bilder unterliegen keinem urheberrechtlichen Schutz, da es sich nicht um geistige Schöpfungen handelt, die Personen zugeordnet werden können. Ein von einem Menschen erstellter Prompt gibt ein Ziel vor, aber die KI erledigt das Schöpferische.

KI-generierte Ausgaben können frei verwendet werden, wenn im Inhalt an sich keine Rechtsverletzung vorliegt. Jeder darf KI-generierte Inhalte kopieren und verwenden, zum Beispiel für die eigene Web-Seite oder für das Unternehmen.

Eine KI-generierte Ausgabe kann Rechte verletzen, zum Beispiel:

  • Wenn aus Zufall unveränderte Trainingsdaten ausgegeben wurden.
  • Wenn geschützte Inhalte ausgegeben werden, zum Beispiel Logos, Markenzeichen oder Charaktere aus Filmen oder Comics.
  • Wenn Persönlichkeitsrechte verletzt werden.
  • Wenn ein Stil, zum Beispiel Schreibstil oder Malstil, imitiert werden soll und dabei etwas Originalähnliches entsteht.

Dass eine KI zufällig unveränderte Trainingsdaten ausgibt, ist selten, aber möglich. Die Trainingsdaten sind in die mathematische Struktur des neuronalen Netzes eingeflossen, wurden aber nicht in ihrer Originalform gespeichert. Es ist Herstellern erlaubt, zum Training von KIs öffentlich zugängliche Texte zu verwenden, wenn die Texte nicht dauerhaft gespeichert werden.

Eingabe in eine KI

Die Eingabe in eine KI erfolgt durch den Anwender über sogenannte Prompt. Ein Prompt ist eine Arbeitsanweisung an eine KI.

Ein Prompt kann urheberrechtlich geschützt sein, wenn der Prompt eine „notwendige Schöpfungshöhe“ erreicht. Das kann zum Beispiel eine originelle Geschichte sein, die Grundlage für die Erstellung eines Bildes sein soll. Der Prompt ist dann urheberrechtlich geschützt. Das KI-generierte Bild bleibt ungeschützt und kann frei verwendet werden.

Zum Beispiel:

Urheberrecht Die Idee zum nachfolgenden Bild mit einem witzig gemeinten Wortspiel ist eine Idee des Autors dieses Textes. Das Urheberrecht für die Idee liegt beim Autor.
Verwertungsrecht Das von der KI verwendete Bild ist aber nicht geschützt und kann frei verwendet werden.
Richtlilie KI generated

Datenschutz und personenbezogene Daten

Eine öffentlich zugängliche KI ist sicherheitshalber immer als Blackbox zu sehen, die alle eingegebenen Daten speichert. Auch wenn die KI selbst nichts speichert, weiß man nicht, was der KI-Anbieter speichert. Was mit den Daten passiert, können die Anwender der KI nicht kontrollieren.

Es gilt die Datenschutz-Grundverordnung (DSGVO). Ohne ausdrückliche Zustimmung dürfen keine personenbezogenen Daten, zum Beispiel von Kunden, Partnern oder Kollegen, in eine KI eingegeben werden.

Persönlichkeitsrechte / Recht am eigenen Bild

Daten mit Bezug zu Personen oder mit anderen geschützten Inhalten dürfen nicht ohne ausdrückliche Zustimmung hochgeladen werden, zum Beispiel Bilder von Personen, Audiodaten mit Stimmen.

Fazit – Was Technische Redaktionen beachten müssen

Grundsätzlich sollten KI-generierte Texte und Bilder vor Verwendung immer inhaltlich geprüft werden und nicht ohne Prüfung an Dritte weitergeben werden. Von einer ungeprüften Veröffentlichung kann man aktuell nur abraten.

Ein Haftungssituation kann entstehen, wenn die obigen Regeln nicht beachtet werden. Ein Schaden kann entstehen, wenn eine KI-Ausgabe unkontrolliert weitergeben wird.

Bevor personenbezogene Daten oder andere sensible oder geschützte Daten in einem Prompt verwendet werden dürfen, müssen die betroffenen Personen oder juristische Personen zustimmen.

KI-generierte Texte und Bilder unterliegen keinem urheberrechtlichen Schutz und können frei verwendet werden, solange sie keine Rechte und Gesetze verletzen.

In einer Redaktion kann eine KI als „normales“ Arbeitsmittel betrachtet werden, wenn die Ausgaben der KI in einem Verfahren menschlicher Überprüfung oder durch eine redaktionelle Kontrolle überprüft werden. Die erstellten Texte müssen dann nicht gekennzeichnet werden.

Die EU-KI-Verordnung wird in mehreren Stufen wirksam

Das Gesetz „Verordnung (EU) 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz“ wurde im Mai 2024 vom Rat angenommen.

Ab November 2024
Die EU-KI-Verordnung tritt in Kraft.

Ab Februar 2025
KI-Systeme, die unannehmbare Risiken darstellen, sind verboten. Verbote, Begriffsbestimmungen und Vorschriften im Zusammenhang mit den KI-Kompetenzen gelten.

Ab August 2025
Die Transparenzanforderung bei der Verwendung von KI gilt.
Die Vorschriften über die Governance (Regeln für nationale Gesetzgeber) und die Verpflichtungen in Bezug auf KI mit allgemeinem Verwendungszweck gelten.

Ab Februar 2026
Die Kommission stellt nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz Leitlinien zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereit.

Ab August 2026

Das Gesetz wird in vollem Umfang wirksam.
Für Hersteller von KI-Systemen mit hohem Risiko gelten noch andere Fristen.

Wichtige Quellen:

Europäische Kommission: „Künstliche Intelligenz – Fragen und Antworten“ – Stand vom 01.08.2024
https://ec.europa.eu/commission/presscorner/detail/de/qanda_21_1683

Europäisches Parlament: „KI-Verordnung: erste Regulierung der künstlichen Intelligenz“ – Stand vom 19.06.2024
https://www.europarl.europa.eu/topics/de/article/20230601STO93804/KI-Verordnung-erste-regulierung-der-kunstlichen-intelligenz

VERORDNUNG (EU) 2024 / DES EUROPÄISCHEN PARLAMENTS UND DES RATES zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz
https://data.consilium.europa.eu/doc/document/PE-24-2024-INIT/de/pdf