Le deepfake est une forme d’intelligence artificielle qui associe les concepts d’apprentissage profond et la création de faux. Avec cette technologie, on peut créer toutes sortes de fichiers médias, qu’il s’agisse de sons, d’images ou de vidéos fake, mais très convaincants. Si le deepfake peut servir à des fins ludiques comme la création de vidéos humoristiques ou participer à la création de séquences de films et de clips musicaux, il est aussi malheureusement utilisé par les cybercriminels à des fins malveillantes. Quelle est donc cette technologie deepfake et à quel point représente-t-elle une menace pour le monde numérique ou le monde tout court ?
Deepfake, quel est son concept ?
Le deepfake compile des faux images et sons pour ensuite les assembler en utilisant des algorithmes d’apprentissages automatiques. A la fin, le deepfake réussi à créer des représentations de personnes et/ou des évènements qui n’ont pas réellement eu lieu, mais très réalistes. On peut par exemple utiliser le deepfake pour créer des vidéos fake montrant une personnalité, voire un dirigeant tenant un discours qu’il n’a en fait jamais prononcé.
Le développement de la technologie deepfake a recours à un réseau neuronal pour examiner et découvrir les modèles nécessaires à la conception d’une image convaincante et dans la foulée développer un algorithme d’apprentissage automatique à partir de ces modèles. Comme pour tout apprentissage automatique, il est important d’avoir le maximum de données pour avoir le plus de précision possible dans l’algorithme. Sur internet, il existe déjà d’énormes ensembles de données d’entrainement et c’est gratuit.
A quel point faut-il craindre la technologie deepfake ?
Il s’agit d’une menace très sérieuse pour l’équilibre mondial même. Les menaces sont plus évoluées et actuellement, les deepfakers utilisent deux modèles de développement permettant d’augmenter la qualité des menaces. Le premier type de menace est l’adaptation de l’utilisation de réseaux antagonistes génératifs qui fonctionne avec deux modèles, un génératif et un discriminant. Ce dernier teste de façon répétée le modèle génératif par rapport à l’ensemble de données d’origine. A force, les résultats s’améliorent jusqu’à ce que le contenu qui en ressort se rapproche au maximum du modèle génératif. Le résultat final est si réaliste qu’il est impossible de faire la différencier le vrai du faux, le faux reste sous le contrôle du cyber-attaquant.
Pour ce qui est du second type de menace, Europol le pense provenir de la bande passante de la 5G et de la puissance de calcul du cloud qui permet de manipuler les flux vidéo en temps réel. Dans ce contexte, Europol craint avec raison, que le deepfake peut s’appliquer aux visioconférences, aux services de live-streaming mais également à la télévision. L’évolution de cette technologie avancera aussi vite que les technologies et solutions numériques pour la communication elles même. Si à ce jour, le deepfake recourt déjà à la 5G, on peut considérer qu’elle n’a aucun retard à rattraper en termes de technologies.
Un grand nombre d’application gratuite pour échanger les visages sont à disposition des simples utilisateurs sur les différents marketplace. Heureusement, les résultats, surtout pour les versions gratuites ne sont pas en UHD. Les professionnels sont toutefois plus malins …
