Face aux conséquences désastreuses des IA dites de “nudification”, qui permettent de créer de fausses images déshabillées d’une personne réelle sans son consentement, l’Union européenne décide d’agir. Cette semaine, les négociateurs du Parlement européen et du Conseil sont parvenus à trouver un accord provisoire, pour un texte omnibus sur l’intelligence artificielle, dont les mesures incluent un bannissement de ce type d’intelligence artificielle. Comme l’explique la Commission européenne, qui salue cet accord, le texte prévoit d’interdire “les systèmes d’IA qui génèrent des contenus sexuellement explicites et intimes non consentis ou du matériel pédopornographique”.
Si ce texte est adopté, il sera interdit de mettre sur le marché des IA qui ont pour but de créer ce type de contenu. Mais les IA à usage général qui ne prennent pas des mesures suffisantes pour empêcher la création de ces deepfakes sexuels pourront aussi être interdites dans l’UE, grâce à ce texte. “[…] nous interdisons les applications de déshabillage, un élément clé du mandat du Parlement, et, bien sûr, la création de matériel pédopornographique utilisant des systèmes d’IA. De cette manière, nous disposons des outils nécessaires pour agir si les fournisseurs ne s’attaquent pas aux systèmes d’IA qui compromettent les droits fondamentaux ou la dignité humaine”, explique corapporteur de la commission des libertés civiles, de la justice et des affaires intérieures, Michael McNamara.
Le texte doit désormais être adopté
Ce texte omnibus inclut aussi une série de mesures destinées à faciliter la mise en conformité des acteurs concernés à l’AI Act, la loi européenne sur l’intelligence artificielle. Et si l’accord provisoire entre le Parlement européen et le Conseil est déjà une importante avancée, le texte doit encore être adopté par ces colégislateurs. Et, une fois qu’il sera adopté, il sera publié dans le Journal officiel de l’UE, avant d’être appliqué.
En tout cas, la mesure est urgente, car ces IA capables de générer des deepfakes sexuels font déjà de nombreuses victimes, même en France. Sinon, le texte pousse aussi les laboratoires d’IA qui n’ont pas été conçus spécialement pour générer ce type de contenu à renforcer leurs mesures de protection, pour que leurs systèmes ne soient pas bannis de l’UE.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
