24.01.2024
Aus einer Katze wird ein Hund, aus einer Kuh eine Handtasche – das sind die Ergebnisse, wenn man Bild-KIs manipuliert. Chicagoer Forscher haben mit dem Tool Nightshade eine Software entwickelt, die Bilder so „vergiften“ kann, dass sie als Lernmaterial für Bild-KIs wertlos werden. Das soll vor allem Künstler schützen, die gegen die Nutzung ihrer Bilder als Trainingsdaten widersprochen haben.
Die Forscher gehen davon aus, dass sich Entwickler von Bild-KIs über solche Verbote und Opt-Out-Hinweise immer mehr hinwegsetzen werden.
Schutz von Künstlern und Werken
Bild-KIs lernen – wie alle KIs – mit einer großen Menge von Trainingsdatensätzen. Dazu scrapen sie im Internet veröffentlichte Bilder und lernen so, wie eine Katze oder eine Kuh aussieht. Allerdings gibt es etliche Künstler, die dagegen widersprochen haben, dass ihre Werke zum Anlernen von KIs genutzt werden. Wenn das dennoch geschieht, lässt es sich schwer nachweisen – allerdings gibt es jetzt Abhilfe.
Bereits mit Glaze hatten die Forscher an der Uni Chicago zuvor ein Tool entwickelt, mit dem sich vermeiden lässt, dass KI die Stile der Künstler kopiert. Zu dem Zweck werden Pixel so verändert, dass dies zwar für das menschliche Auge nicht wahrnehmbar ist, die KI den Stil aber nicht mehr erkennen kann.
Durch Nightshade kann KI die richtigen Konzepte verlernen
Nightshade ist nun eine Weiterentwicklung davon. Das Tool funktioniert ähnlich wie Glaze und gaukelt der KI ein anderes Motiv vor, während der Mensch weiterhin das originale wahrnimmt. Dafür werden Verzerrungen genau berechnet, um den perfekten Schnittpunkt zwischen KI-Verwirrung und Beibehaltung des Originalbildes für das menschliche Auge zu erreichen.
Die Software hält damit KI nicht nur davon ab, mit den entsprechenden Bildern zu lernen, sondern schadet ihr auch noch zusätzlich – etwas, das ihr Vorgänger Glaze nicht konnte. Je nach Größe der KI reichen weniger oder mehr verzerrte Bilder aus, um sie insgesamt das Falsche lernen zu lassen – sodass sie irgendwann bei Prompts, die das Wort Katze enthalten, tatsächlich einen Hund darstellt.
Nightshade steht kostenlos für Windos und macOS zur Verfügung und soll parallel zu den KIs immer weiterentwickelt werden. (tl)
