Suche

Deshalb ist es kein Zufall, dass Künstler:innen gerade zu einer Abwehrtechnik greifen, die klingt wie aus einem Cyberpunk-Roman: Data Poisoning, das Vergiften der eigenen digitalen Kunst.

Was sind Glaze und Nightshade?

Die Tools Glaze und Nightshade kommen aus einem Forschungskontext (University of Chicago) und adressieren dasselbe Problem: KI-Modelle werden auf Bildern trainiert, die massenhaft aus dem Web gescraped, heißt vollautomatisch heruntergeladen, werden. Ohne jegliche Zustimmung.

Glaze ist defensiv. Es verändert Pixel so, dass ein Modell den Stil einer Person schlechter „lernen“ kann. Die Arbeit bleibt für Menschen sichtbar, aber für KI wird die Zuordnung zur typischen Handschrift unzuverlässiger.

Nightshade geht einen Schritt weiter. Es zielt nicht nur auf Stil, sondern auf Bedeutung: Die Bilder werden so minimal verändert, dass ein Modell beim Training falsche Zusammenhänge lernt. Der Klassiker aus den Berichten (s. Bild): Aus „Hund“ wird „Katze“, aus „Auto“ wird „Kuh“. Nicht als Gag, sondern als Kostenfaktor für die Datendiebe.

MIT Technology Review beschreibt Nightshade als Werkzeug, das Trainingsdaten so manipuliert, dass spätere Modell-Versionen „kaputtgehen“ können oder zumindest unbrauchbare Outputs liefern und dass die vergifteten Samples schwer zu entfernen sind, weil man sie alle einzeln finden müsste.

Ist das mehr als technische Spielerei?

Die Debatte wird oft moralisch geführt: „KI ist Diebstahl“ vs. „KI ist Innovation“.

Nightshade dreht das in eine andere Sprache: Sicherheit und Angriffsflächen.

Wenn ein Modell nur funktioniert, weil es fremde Arbeit ungefragt in sich hineinzieht, dann ist das nicht nur ein Rechts- oder Kulturproblem. Es ist auch ein System, das verwundbar wird, sobald die Künstler:innen in der „Lieferkette“ nicht mehr mitspielen.

In der späteren MIT-Technology-Review-Reportage über das „AI lab waging a guerrilla war“ wird genau diese Logik stärker verdeutlicht: Glaze und Nightshade wirken als „Guerilla“-Werkzeuge gegen ausbeuterische Trainingspraktiken und gleichzeitig als Warnung, dass auch diese Schutzschilde nicht undurchdringlich sind und angegriffen werden .

250.000 Downloads in fünf Tagen

Das Online Magazin VentureBeat berichtet, Nightshade sei in den ersten fünf Tagen 250.000-mal heruntergeladen worden. Projektleiter Ben Zhao wird mit der Einschätzung zitiert, die Resonanz sei „Jenseits all dessen, was wir uns vorgestellt hatten“.

Diese Zahl sei weniger ein „Hype“ als ein Indikator für den politischen Zustand:

• Viele Kreative fühlen sich schutzlos.
• Opt-out-Formulare, die erklären, dass Werke, Produkte und Erzeugnisse nicht an KI weitergegeben werden sollen, wirken wie ein schlechter Witz: Häufig landet entsprechendes Material dennoch an anderer Stelle in KI.
• Und „bitte respektiert meine Rechte“ ist in einem Scraping-Markt kein Mechanismus.

Nightshade ist so erfolgreich, weil es die Machtfrage verschiebt: Wer sammelt, trägt das Risiko.

Aber ist das nicht Sabotage?

Natürlich! Und genau deshalb ist es interessant.

Nightshade soll nicht „die Kunstwelt retten“. Es ist ein Mittel, das ein asymmetrisches System etwas symmetrischer macht: Wenn Firmen mit fremden Bildern Milliardenprodukte bauen ohne zu fragen, dann gibt es bisher kaum Konsequenzen. Nightshade versucht, diese technisch zu erzwingen.

VentureBeat zitiert das Team mit einer klaren Zielbeschreibung: nicht „Modelle zerstören“, sondern die Kosten des Trainings auf unlizenzierter Kunst so zu erhöhen, dass Lizenzierung wieder attraktiv wird.

Das ist der Punkt, an dem „Abwehr“ politisch wird.

Was wäre eine faire Lösung?

Nightshade ist eine Notwehr-Technologie. Sie ist ein Symptom.

Eine fairere KI bräuchte mindestens:

• Zustimmung statt stillschweigendem Scraping
• Vergütung statt „Exposure“, also die vage Hoffnung als Künstler:in sichtbarer zu werden.
• Transparenz über Datensätze und Trainingspraktiken
• Kennzeichnungspflichten für synthetische Medien dort, wo sie täuschen können

Und ja: Künstler:innen sollten das Recht haben, „Nein“ zu sagen!

Frage an euch: Können wir darauf bauen, dass Instrumente wie Nightshade und Glaze dafür sorgen, dass Rechte von Künstler*innen gewahrt bleiben? Oder brauchen wir dringend andere Hebel, bevor Abwehrtechnik zur neuen Normalität wird?

Marian Gogolka

Zurück zum Blog

Zurück zur Projektseite

Gefördert von: