Dirigée par Ben Zhao, professeur à l’Université de Chicago, une équipe de chercheurs a mis au point Nightshade, un outil innovant conçu pour permettre aux artistes de ‘poisonner’ les données d’entraînement des modèles d’IA génératives d’images.
Selon la Technology Review, l’objectif de Nightshade est de rendre aux créateurs le pouvoir de contrôler le degré auquel les machines peuvent produire de nouvelles œuvres en imitant le style d’œuvres protégées par des droits d’auteur.
L’outil exploite une vulnérabilité dans le fonctionnement des modèles d’IA. Étant donné que ces modèles sont entraînés à partir de vastes ensembles de données collectées en ligne, Nightshade perturbe ces jeux de données en introduisant des perturbations.
Les images modifiées par Nightshade peuvent dérouter l’entraînement des modèles génératifs, par exemple en leur faisant apprendre que des images de chapeaux représentent des gâteaux ou que des images de sacs représentent des grille-pains.
L’équipe a d’abord créé Glaze, qui permet aux artistes de ‘masquer’ leur style pour empêcher les modèles d’IA et les entreprises qui les créent de copier leur style. Ils prévoient maintenant d’intégrer Nightshade à cet outil révolutionnaire, ouvrant ainsi de nouvelles voies passionnantes pour les artistes et leur créativité.
En combinant Glaze et Nightshade, les artistes ont maintenant un moyen puissant de défendre leur créativité contre l’appropriation non autorisée par les modèles d’intelligence artificielle. L’introduction de Nightshade signifie que les créateurs peuvent jouer avec les attentes, défier les conventions et réinventer les normes visuelles.
Cette technologie novatrice offre une nouvelle perspective sur la manière dont l’intelligence artificielle et la créativité humaine peuvent interagir. Plutôt que d’être submergés par les avancées de l’IA, les artistes peuvent maintenant les utiliser à leur avantage. Ils peuvent explorer des frontières artistiques autrefois inaccessibles, tout en préservant l’unicité de leur style.
Avec Nightshade, la créativité devient une arme puissante, permettant aux artistes de repousser les limites de l’art numérique. Les œuvres qui en résultent sont uniques, non seulement par leur esthétique, mais aussi par la résilience créative qu’elles représentent.
Alors que Nightshade se profile comme un outil révolutionnaire, son impact sur le monde de l’art numérique pourrait être profond. Il offre aux artistes la liberté de créer sans crainte, transformant ainsi l’IA d’un défi potentiel en un allié créatif. Cette nouvelle ère de collaboration entre l’homme et la machine promet des œuvres d’art étonnantes et inédites, ouvrant ainsi la voie à un futur où la créativité humaine reste au cœur de l’expression artistique, même dans un monde de plus en plus numérisé et automatisé.