Les ARTISTES Vs L'IA : le "data poisoning" va inverser le rapport de force grâce à NightShade
Category
🤖
TechnologieTranscription
00:00 Pour les artistes, la bataille contre l'IA semble perdue d'avance.
00:03 Mais une lueur d'espoir est en train de naître avec d'énormes progrès réalisés sur le data poisoning.
00:08 Le data poisoning, c'est une stratégie qui consiste à corrompre des données
00:12 avant qu'elles ne servent à entraîner un modèle IA.
00:15 Un artiste peut donc utiliser ce principe de data poisoning
00:18 pour modifier subtilement les pixels de ses designs avant de les publier en ligne.
00:23 Des altérations imperceptibles à l'œil humain,
00:25 mais qui, si on les utilise ensuite pour entraîner un modèle IA,
00:29 poussent celui-ci à commettre des erreurs.
00:31 Différents projets de recherche sont menés pour mettre au point des outils simples
00:35 permettant de protéger ses designs avec le principe de data poisoning.
00:39 Et c'est le cas notamment de l'outil Nightshade.
00:41 Un outil développé par une équipe de recherche de l'Université de Chicago.
00:45 Une première version de l'application est maintenant disponible et téléchargeable depuis leur site.
00:49 Une fois téléchargée, l'application est simple à utiliser.
00:52 Il suffit de choisir son design et de régler le niveau d'empoisonnement souhaité,
00:55 sachant qu'il ne faut pas aller trop fort au risque de déformer le design.
00:58 On doit aussi décrire le sujet principal de l'image.
01:01 Il ne reste plus qu'à lancer l'empoisonnement.
01:03 Ici j'ai mon design empoisonné, c'est invisible à l'œil nu.
01:06 Mais si je le publie en ligne et qu'un autre utilisateur le reprend pour entraîner un modèle IA,
01:11 ce design peut nuire au modèle IA en question.
01:14 Par contre, pour être efficace, des milliers d'échantillons infectés
01:17 ont besoin d'être intégrés dans les bases de données des modèles entraînés.
01:20 Et on ne va pas se cacher, pour les modèles les plus avancés,
01:22 qui exploitent plusieurs bases de données et qui ont déjà un très gros historique,
01:26 ça sera compliqué de lutter avec cette méthode.