Nightshade est conçu comme un outil « offensif ».

Il est impossible de parler d’IA sans évoquer les problèmes associés aux droits d’auteur et à l’éthique. Avec des modèles génératifs tels que Midjourney critiqués pour avoir été apparemment formés sur le travail d’artistes sans leur consentement, la technologie suscite une vive controverse. Mais si vous vous inquiétez du fait que votre propre travail puisse influencer ce que l’IA pourrait générer à l’avenir, de l’aide pourrait être à portée de main.

Un outil gratuit du projet Glaze est conçu pour aider les artistes à « empoisonner » les modèles d’IA en ajoutant de minuscules modifications au niveau des pixels à leurs œuvres. Ces changements peuvent être indiscernables pour l’œil humain, mais sont apparemment suffisants pour perturber un modèle d’IA génératif.

Nightshade est conçu pour transformer « n’importe quelle image en un échantillon de données inadapté à l’entraînement d’un modèle. Plus précisément, Nightshade transforme les images en échantillons « empoisonnés », de sorte que les modèles s’entraînant sur eux sans consentement verront leurs modèles apprendre des comportements imprévisibles qui s’écartent des normes attendues, par exemple, une demande demandant une image d’une vache volant dans l’espace pourrait plutôt obtenir une image d’un sac à main flottant dans l’espace. »

Alors que l’outil précédent du projet, Glaze, est conçu comme une défense contre la mimétisme de style, Nightshade est un outil « offensif » spécifiquement conçu pour entraver l’efficacité des modèles d’IA eux-mêmes. Et il fait déjà sensation en ligne. « Nightshade est la première vraiment BONNE nouvelle depuis le début de la montée de l’IA générative », commente un utilisateur X. « Pour la première fois, cela signifie des conséquences. »

Mais l’équipe Nightshade souligne que l’outil n’est actuellement pas sans limites. « Les changements apportés par Nightshade sont plus visibles sur des œuvres avec des couleurs plates et des arrière-plans lisses. Parce que Nightshade vise à perturber les modèles, des niveaux plus faibles d’intensité/empoisonnement n’ont pas de conséquences négatives pour le propriétaire de l’image. Ainsi, nous avons inclus un réglage de faible intensité pour ceux qui souhaitent privilégier la qualité visuelle de l’image d’origine. »

Le guide de l’utilisateur Nightshade fournit des instructions étape par étape pour télécharger Nightshade sur Windows ou Mac (les utilisateurs de ce dernier auront besoin d’un modèle de puce ‘M’).