Quand Stable Diffusion ou Midjourney génèrent une image, difficile de savoir ce qui, dans leur immense jeu de données d’entraînement, a réellement pesé dans le résultat final. Deux chercheurs du MIT se sont penchés sur cette question avec une méthode assez directe : retirer certaines images de l’entraînement, puis regarder ce qui change.
Retirer une image, puis comparer
Leur étude, publiée dans Nature Communications, met en évidence un phénomène qu’ils appellent « attribution decay », soit une sorte d’effacement progressif de la contribution identifiable de chaque image à mesure que le jeu de données grossit.
Zheng Dai, doctorant au Computer Science and Artificial Intelligence Laboratory (CSAIL) du MIT, et David Gifford ont construit une vingtaine de petits modèles de diffusion pour mener leurs expériences. Ils les ont entraînés sur des ensembles allant de quelques centaines à plusieurs centaines de milliers d’images.
L’idée était de créer une sorte de scénario alternatif. Les chercheurs ont d’abord généré une image avec un modèle entraîné normalement, puis ils ont recommencé après avoir supprimé une image précise du jeu d’entraînement. Si cette image avait joué un rôle important, le résultat aurait dû changer de manière notable. Les chercheurs ont mesuré cet écart avec un indicateur baptisé « counterfactual radius ».
« Dans cet univers alternatif où cette donnée n’existait pas, votre échantillon devrait être différent », résume Zheng Dai. L’expérience a été répétée sur des modèles entraînés avec des photos de visages, puis avec des œuvres de différents artistes. Et le résultat reste le même : plus les données d’entraînement sont nombreuses, moins il devient possible de pointer du doigt une image, une personne ou un artiste en particulier.
À grande échelle, les chercheurs estiment qu’il devient même impossible d’établir un lien causal clair entre une création générée et une œuvre précise présente dans les données. Ce constat pourrait peser dans les nombreux procès opposant artistes et entreprises d’IA générative. Certaines procédures cherchent notamment à démontrer qu’un modèle s’est servi d’œuvres protégées pour produire des images similaires.
Mais l’étude ajoute une nuance importante : elle ne dit pas que ces œuvres n’ont pas été utilisées pendant l’entraînement. Elle montre plutôt qu’il peut devenir extrêmement difficile de prouver qu’une œuvre précise est directement responsable d’une image produite ensuite.
Les grands modèles commerciaux compliquent encore les choses. Ils sont entraînés sur des volumes de données bien supérieurs à ceux utilisés dans cette étude, ce qui devrait accentuer ce phénomène d’« attribution decay ». Autrement dit, une image générée peut ressembler fortement au travail d’un artiste sans qu’il soit possible de démontrer qu’une œuvre particulière de cet artiste a servi de référence directe.