Deepfakes : peut-on encore croire ce que l'on voit ?

Deepfake : une technologie qui a changé de dimension

Le terme deepfake est né de la contraction de deep learning (apprentissage profond) et fake (faux). Derrière ce mot se cachent des techniques d'intelligence artificielle capables de reproduire un visage, une voix ou des expressions avec un réalisme parfois troublant.

Le principe ? Des modèles d'IA analysent des données visuelles ou sonores pour apprendre à reproduire certaines caractéristiques. Ils peuvent ensuite remplacer un visage dans une vidéo, générer une voix artificielle ou synchroniser les mouvements des lèvres avec un discours jamais prononcé.

Les progrès sont rapides. Les travaux menés par la CNIL et le Pôle d'expertise de la régulation numérique (PEReN) s'intéressent notamment aux nouvelles méthodes de génération et de détection de deepfakes.

Le problème n'est donc plus seulement celui des fausses vidéos diffusées sur Internet. Il concerne aussi les échanges professionnels, les appels téléphoniques et les outils de communication que nous utilisons quotidiennement.

De la vidéo truquée à l'arnaque à plusieurs millions

L'affaire Arup reste l'un des exemples les plus marquants de l'utilisation des deepfakes à des fins frauduleuses.

Tout commence par un message prétendument envoyé par le directeur financier de l'entreprise. L'employé sollicité doute d'abord de son authenticité. Mais une visioconférence avec plusieurs personnes qu'il pense reconnaître finit par le convaincre.

Au total, 200 millions de dollars hongkongais, soit environ 25,6 millions de dollars américains, sont transférés vers des comptes contrôlés par les escrocs. L'entreprise a confirmé avoir été victime de cette fraude en mai 2024.

Ce cas révèle une évolution des méthodes de cybercriminalité. Les fraudeurs ne cherchent plus seulement à voler des identifiants ou à envoyer de faux courriels. Ils peuvent aussi exploiter notre confiance dans les images et les voix.

Les entreprises ne sont d'ailleurs pas les seules concernées. Une voix clonée peut servir à réclamer de l'argent à un proche. Une vidéo falsifiée peut usurper l'identité d'une personnalité publique. Une image manipulée peut être diffusée pour humilier ou faire chanter quelqu'un.

La technologie change, mais le mécanisme reste le même : convaincre une victime qu'elle peut faire confiance à ce qu'elle voit ou entend.

Reconnaître un deepfake : les indices ne suffisent plus

Un visage légèrement déformé, un regard figé, des lèvres mal synchronisées… Ces défauts peuvent encore permettre de repérer certains montages.

Mais ils deviennent moins fiables à mesure que les outils progressent.

La CNIL rappelle que les hypertrucages peuvent être difficiles à identifier, même en examinant attentivement une image ou une vidéo.

Le meilleur réflexe n'est donc pas uniquement d'examiner le contenu. C'est aussi de vérifier son origine.

Avant de croire ou de partager une vidéo suspecte, quelques questions méritent d'être posées :

• Qui a publié cette vidéo et sur quelle plateforme ?
• D'autres sources fiables confirment-elles les faits présentés ?
• Le contenu cherche-t-il à provoquer une réaction immédiate ?
• Une demande d'argent ou d'informations confidentielles accompagne-t-elle le message ?

En cas de doute sur l'identité d'un interlocuteur, la CNIL recommande de reprendre contact par un autre moyen, à partir de coordonnées déjà connues.

Un réflexe simple, qui peut éviter des conséquences considérables.

Les deepfakes sont-ils forcément une mauvaise nouvelle ?

Pas nécessairement. Les techniques de génération et de manipulation d'images présentent aussi des possibilités dans le cinéma, la publicité ou la création audiovisuelle.

Modifier une séquence, synchroniser des dialogues dans plusieurs langues ou concevoir des effets visuels : les applications créatives sont nombreuses.

Mais une question revient rapidement : celle du consentement.

Utiliser l'image ou la voix d'une personne sans son autorisation peut porter atteinte à ses droits. En France, certains montages non consentis peuvent être sanctionnés pénalement. La CNIL rappelle notamment que l'article 226-8 du Code pénal prévoit, dans les conditions définies par la loi, jusqu'à un an d'emprisonnement et 15 000 euros d'amende, voire davantage dans certaines circonstances.

La frontière entre création et manipulation ne dépend donc pas uniquement de la technologie employée, mais aussi de la manière dont elle est utilisée.

Intelligence artificielle et cybersécurité : des enjeux au cœur des formations de 3W Academy

Les deepfakes mettent en lumière deux domaines étroitement liés : l'intelligence artificielle, qui permet de générer ces contenus, et la cybersécurité, qui cherche notamment à prévenir les usages frauduleux des technologies numériques.

Pour les professionnels du secteur, les défis sont multiples. Comment analyser des contenus suspects ? Comment protéger les données utilisées par les systèmes d'IA ? Comment sécuriser les échanges lorsqu'une voix ou un visage ne suffisent plus à confirmer une identité ?

Ces questions mobilisent des compétences en programmation, en analyse de données et en sécurité informatique.

Autant de domaines que l'on retrouve dans les formations de 3W Academy, notamment à travers les Bachelors Développeur Data & IA et Cybersécurité.

Au-delà de la maîtrise des langages et des outils, ces spécialisations permettent d'aborder des enjeux qui occupent une place croissante dans le numérique : exploiter les données, comprendre les systèmes informatiques et anticiper les risques liés aux nouvelles technologies.

Car les deepfakes rappellent une chose : les progrès de l'intelligence artificielle ne créent pas seulement de nouveaux usages. Ils obligent aussi à repenser la façon dont nous protégeons nos informations et vérifions ce que nous voyons.

Dans un monde où presque tout peut être reproduit, la question n'est peut-être plus seulement de savoir ce que l'on voit, mais pourquoi on devrait y croire.

FAQ : les questions fréquentes sur les deepfakes