La concurrence sur le marché de l’IA générative ne cesse de devenir de plus en plus rude. OpenAI, xAI, Google et consort ne veulent pas se laisser distance par leurs principaux rivaux et mettent régulièrement à jour leurs outils.
L’entreprise de Sam Altman, connu avant tout pour ChatGPT, possède également Sora, un modèle spécialisé dans la génération de vidéos. OpenAI passe à l’étape supérieure. Son nouveau réseau social alimenté par Sora 2 autorise à créer des deepfakes de vous-même et des autres.
OpenAI lance Sora, un réseau social centré sur la création de deepfakes grâce à Sora 2
OpenAI nous présente Sora 2, l’évolution de son outil de génération vidéo. Concrètement, le modèle se montre encore plus permissif grâce à ses capacités de simulation. OpenAI évoque la possibilité de créer « des routines de gymnastique olympique, des sauts périlleux arrière sur un paddleboard qui modélisent avec précision la dynamique de la flottabilité et de la rigidité, et des triples axels pendant qu’un chat s’accroche de toutes ses forces. ».
L’innovation la plus importante se situe à un autre niveau. OpenAI lance une nouvelle application sociale iOS simplement appelée Sora et alimentée par Sora 2. Elle permet de créer et de remixer des vidéos, mais pas seulement. La fonction Caméo autorise à s’insérer dans un contenu après un bref enregistrement vidéo et audio afin de capturer au mieux votre personne. Un deepfake, en somme.
Un outil particulièrement ludique qui mènera irrémédiablement à la création de deepfakes réalisés à l’insu des personnes usurpées. OpenAI, bien conscient que Caméo est la porte ouverte aux abus, assure avoir pris les mesures nécessaires, notamment pour protéger les plus jeunes.
« Nous lançons cette application sur invitation afin de nous assurer que vous vous inscrivez avec vos amis […]. La protection du bien-être des adolescents est importante pour nous. Nous mettons en place des limites par défaut sur le nombre de générations que les adolescents peuvent voir par jour dans le fil d’actualité, et nous déployons également des autorisations plus strictes sur les caméos pour ce groupe. », indique OpenAI.
Par ailleurs, le réseau social possède des garde-fous pour éviter que votre image soit utilisée sans votre consentement. Ainsi, vous êtes le seul à pouvoir décider de qui peut utiliser votre Caméo. En outre, vous êtes toujours informé quand votre Caméo apparaît dans un contenu, même dans un brouillon. Vous pouvez les signaler et les supprimer à tout moment.
« Nous appliquons également des mesures de sécurité supplémentaires à toute vidéo contenant un caméo, et vous pouvez même définir des préférences quant au comportement de votre caméo, par exemple en demandant qu’il porte toujours un fedora. », ajoute l’entreprise américaine. Notez que l’IA refusera toujours de créer des deepfakes de personnalités publiques.
Pour l’heure, Sora 2 et l’application Sora sont uniquement disponibles aux États-Unis.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
