En photo, les fichiers RAW sont considérés comme la preuve ultime de l’authenticité d’une image. Mais est-ce si sûr ?
La génération de fichiers RAW synthétiques est un axe actif de R&D. Si en 2025 on ne sait pas encore créer de toutes pièces par IA un fichier raw crédible, il est probable que cela devienne possible dans un futur assez proche.
Rappel : Qu’est-ce qu’un fichier RAW ?
Le fichier RAW est un fichier numérique (pas une image) qui contient les données brutes enregistrées par le capteur d’un appareil photo, sans compression ni traitement. C’est considéré comme un équivalent du négatif en photographie argentique dans la mesure ou il doit être développé pour révéler l’image qu’il contient (décrit plutôt) et qu’il permet des retouches avancées. Il contient beaucoup de métadonnées indiquant les conditions de prise de vue (exifs).
Génération d’images crédibles par IA
Les modèles d’IA générative comme Midjourney, DALL-E, Stable Diffusion, Firefly, sont déjà capables de produire des images extrêmement réalistes. Pour un œil non averti, il est de plus en plus difficile de distinguer une image générée par l’IA d’une photo réelle. Certains services (payants) proposent déjà des fichiers non compressés au lieu des jpeg classiquement générés. Mais ce ne sont pas des raw.
Tous les visages ci-dessus proviennent du site thispersondoesnotexist.com. Comme l’indique clairement le nom du site, aucun n’est vrai, ils ont tous été générés par IA. Par 2 IA en réalité : la première assemble des visages à partir de morceaux de photos de visages existants, la seconde vérifie la cohérence. C’est assez bluffant. Il suffit de rafraichir le site pour générer un nouveau visage.
Certaines images (peu) sont curieusement non rejetées alors qu’il reste des défauts évidents, notamment quand les deux oreilles sont visibles (la mode de deux boucles d’oreilles différentes est en vogue on dirait 😁). Surtout il y a un biais de représentation évident : tous les visages ou presque sont souriants ; une grande majorité de blancs ; quelques asiatiques ; presque pas de noirs ou de métis (j’ai beaucoup rafraichi la page pour en trouver !) ; aucune personne âgée dans tous les essais que j’ai faits. Mais dans la plupart des cas, on s’y trompe facilement.
Le point clé reste que les fichiers RAW et même les JPEG contiennent des métadonnées EXIF (date, heure, modèle d’appareil photo, réglages d’exposition, etc.). Actuellement, les images générées par IA ne contiennent pas ces métadonnées ou présentent des incohérences. Cependant, il est tout à fait possible de manipuler ces métadonnées pour faire croire qu’une image a été prise avec un appareil spécifique, à une date donnée, etc. Des logiciels existent déjà pour modifier les EXIF. En combinant une image IA très réaliste avec des métadonnées falsifiées, on pourrait créer un « fake RAW » ou un « fake JPEG » très difficile à démasquer.
Création de « fake raw »
En 2025, il n’existe pas encore à ma connaissance d’outil accessible qui permette de créer un fichier raw à partir de 0.
Des outils comme Topaz JPEG to RAW AI utilisent l’intelligence artificielle pour tenter de « récupérer » des informations perdues lors de la compression JPEG et les transformer en un fichier DNG. Bien qu’il soit techniquement impossible de recréer un vrai fichier RAW, le but est d’améliorer la flexibilité d’édition d’un JPEG en simulant certaines caractéristiques d’un fichier RAW. Celui-ci ne contient pas les données brutes du capteur mais cela rend l’image plus crédiblement manipulable.
Cependant, plusieurs laboratoires de recherche en imagerie développent des programmes qui vont dans le sens d’une véritable création de raw :
Plusieurs articles ont été récemment soumis pour publication et déposés par leurs auteurs dans Archiv :
RAW-Diffusion: RGB-Guided Diffusion Models for High-Fidelity RAW Image Generation
ReRAW: RGB-to-RAW Image Reconstruction via Stratified Sampling for Efficient Object Detection on the Edge
Neural Camera Simulators
Ces travaux, basés sur l’analyse de jeux de données de fichiers raw réels, visent à produire des modèles capables de convertir des images RGB en fichiers RAW qui simulent les données du capteur. Si ces travaux se confirment, l’IA ne se contenterait plus d’améliorer un JPEG existant, mais tenterait de recréer les informations brutes (non dématriçées, non compressées) telles qu’elles sortiraient directement du capteur.
En connaissant et en reproduisant les « empreintes digitales » uniques des appareils photo, une IA pourrait injecter ces caractéristiques dans une image générée pour la faire passer pour authentique, même sous une analyse technique poussée basée sur la structure du fichier RAW. Le bruit du capteur en particulier est souvent un indicateur clé de l’authenticité d’un RAW, et si l’IA peut le reproduire fidèlement, la détection devient exponentiellement plus difficile.
Le temps ou les IA mettaient 6 doigts aux mains est derrière nous. Elles ne cessent de s’améliorer et de produire un rendu photo de plus en plus crédible. Il est plausible que d’ici 1 à 2 ans, la capacité des IA à simuler des caractéristiques de bruit de capteur, d’aberrations optiques, et même de « défauts » typiques des optiques réelles et des métadonnées réalistes, pourrait « s’améliorer » considérablement.
A moyen terme, la distinction entre un « vrai » RAW et un « fake » RAW pourrait devenir extrêmement difficile, voire impossible, pour l’œil humain et même pour les outils de détection actuels.
Détection de l’utilisation de l’IA
La course est lancée entre la génération et la détection. Des outils de détection d’images générées par l’IA existent, mais ils ne sont pas infaillibles et doivent constamment s’adapter aux nouvelles techniques des IA génératives. Ils se basent sur des incohérences visuelles (artefacts spécifiques, irrégularités dans les motifs, la peau, les arrière-plans, etc.) et sur l’analyse des métadonnées. L’absence ou l’incohérence des données EXIF est un indicateur important.
Le domaine évolue très vite, et l’efficacité des outils peut varier en fonction des avancées des modèles d’IA générative.
Face à ce risque, des acteurs comme Sony développent des « solutions d’authenticité pour appareils photo » qui intègrent des signatures numériques au niveau matériel pour garantir l’intégrité des images RAW dès la capture. La Coalition for Content Provenance and Authenticity (C2PA) travaille également sur des normes pour fournir un historique vérifiable des modifications et du traitement des images.
Voici une liste d’outils (web ou autres) disponibles aujourd’hui pour tester si une image a été produite ou améliorée par IA.
Il est généralement recommandé d’utiliser plusieurs outils et de combiner l’analyse automatisée avec un examen humain critique de l’image.
Outils généralistes
Souvent basés sur l’analyse de motifs :
- Sightengine : (inclut AI or NOT): Souvent cité comme un bon outil gratuit pour détecter les images générées par IA. Il peut même indiquer quel modèle de diffusion (DALL-E, Midjourney, Stable Diffusion, etc.) a été utilisé et quels éléments de l’image sont générés par IA. AI or NOT est un détecteur d’images IA qui fournit une différenciation instantanée entre le contenu réel et le contenu falsifié. Vous pouvez tester sur cette page votre propre capacité à reconnaitre une image AI d’une vraie photo… Pas évident du tout !
- Winston AI : Un outil plus complet qui détecte non seulement les images IA mais aussi d’autres contenus générés par IA. Il prétend avoir un taux de précision élevé et est régulièrement mis à jour pour suivre l’évolution des technologies.
- Illuminarty : Un outil qui offre une analyse complète des images et du texte générés par l’IA.
- Decopy AI (Fake Image Detector) : Conçu pour aider à identifier avec précision les images générées par l’IA et prévenir la fraude numérique.
- isgen AI detector : Un outil gratuit qui utilise des modèles d’apprentissage profond et des algorithmes avancés de vision par ordinateur pour analyser les images et donner un score de probabilité. Il peut aussi classer le modèle spécifique utilisé pour la génération (GPT-4o, FLUX. 1, Adobe Firefly, etc.) et détecter les images altérées par IA.
- VerifAI : Propose une détection avancée des images générées par IA, avec une interface simple.
- wasitai : Un outil qui aide à identifier les photos générées par IA, pour garantir l’intégrité visuelle.
Outils d’analyse forensique
Plus techniques, pour détecter des manipulations générales, y compris celles par IA :
- FotoForensics : Excellent pour l’analyse des niveaux d’erreur (ELA), une technique qui peut révéler des altérations numériques.
- Forensically Beta : Offre divers outils d’analyse pour un examen détaillé des images et de leurs métadonnées.
- V7 Deepfake Detector : Spécifiquement conçu pour détecter les images deepfake générées par StyleGAN qui a généré les portraits présentés plus haut. Cet outil est décrit comme une extension Chrome développée par V7 Labs. Il ne semble pas y avoir d’outil web autonome public à ce jour.
- Fake Image Detector : Un autre outil pour détecter les images manipulées ou éditées. Il existe plusieurs outils et applications mobiles portant ce nom générique.
- TinEye : Un moteur de recherche d’images inversées qui peut aider à trouver l’origine d’une image et voir si elle a été réutilisée ou modifiée. Bien que ce ne soit pas un « détecteur d’IA » direct, il est utile pour vérifier l’authenticité générale.
- Photo Sherlock : Permet d’utiliser plusieurs moteurs de recherche inversée. Il s’agit principalement d’une application mobile, disponible sur Google Play et l’App Store.
Technologies émergentes pour l’authentification d’images:
- Watermarks numériques : Des technologies comme SynthID de Google Deepmind intègrent des filigranes invisibles directement dans les images générées par IA pour faciliter leur identification. D’autres outils comme IMATAG proposent des solutions d’intégration de tatouages numériques pour certifier l’origine et l’authenticité d’une image.
- Blockchain-based image verification : Des solutions basées sur la blockchain sont en développement pour créer des preuves numériques inaltérables de l’origine et des modifications d’une image.
- APIs d’analyse d’images via IA : Des services comme Google Cloud Vision API, Microsoft Azure AI Vision, et Amazon Rekognition offrent des fonctionnalités avancées d’analyse d’images qui, bien que n’étant pas des « détecteurs d’IA » au sens strict, peuvent être utilisées pour identifier des incohérences ou des motifs liés à la génération par IA, ou pour authentifier des documents et des identités (par exemple, en détectant des deepfakes faciaux).
Risques pour la photographie
Si on peut à terme générer un raw à partir d’une image entièrement crée par AI, ou bien à partir d’une photo réelle mais profondément « améliorée » par AI, il est illusoire de penser qu’en exigeant de voir un raw on pourrait prouver l’authenticité d’une photo. Le marquage numérique intégré au matériel de capture est certes une étape de plus à franchir pour ceux qui voudraient frauder mais pour combien de temps ? Tout dépend de l’enjeu, et donc de l’énergie nécessaire à dépenser pour contourner cet obstacle, et de son coût.
Même les IA reconnaissent que leur existence et leur utilisation posent de nombreuses questions. Je leur ai posé 5 questions à ce sujet et leurs réponses sont parfois édifiantes !
Photographie artistique
La notion de « vraie photo » au sens où certains l’entendent – un cliché sans aucune modification en post traitement – n’a jamais existé. Dès l’invention de la photographie, il y a eu des superpositions de négatifs, des mises en scène. Même un simple cliché sans aucune retouche, par son choix de cadrage, de focale, est une interprétation de la « réalité » qui elle-même n’est qu’une vision parmi d’autres de son environnement par l’auteur.
La photographie est un art. Tant que l’auteur assume une intention artistique et ne cherche pas à tromper intentionnellement le lecteur, il a pour moi tous les droits, et j’ai moi celui d’aimer, ou pas, ce qu’il ou elle propose. L’utilisation de l’IA pour supprimer des éléments gênants, redresser et compléter une image ne me dérange pas.
Le risque de l’IA c’est à mon avis d’accentuer l’uniformisation des styles de photos. Certains sites instagrammables sont déjà saturés de touristes qui prennent tous la même photo du même endroit. Et l’IA ne fait qu’aider à ajouter des couleurs saturées, des ciels spectaculaires. A force de voir ce type d’images partout, le risque c’est que l’on finisse par s’y habituer et que les images « normales » paraissent fades, et ne retiennent plus l’attention. C’est comme pour n’importe quelle drogue : plus on en prend (ou voit pour la photo, même involontairement) plus il en faut pour procurer un effet. Il ne suffit de voir une photo de lion, il faut que celui-ci soit en train de dévorer une gazelle avec 3 oiseaux exotiques perchés sur lui, un rhinocéros et un troupeau d’éléphants en arrière-plan.
Le risque en quelque sorte inversé c’est ce à quoi on assiste aujourd’hui sur les réseaux sociaux : un vent de suspicion, ou des gens crient à l’IA à tout va et mettent en doute l’intégrité de photographes dont certains n’ont pourtant plus à prouver leur talent après des années de publication.
J’apprécie que l’auteur dise si le cliché a été ou non entièrement généré par IA. Si j’attache de l’importance à la réponse, je pourrais passer un peu de temps à vérifier ses dires en utilisant les outils cités plus haut. Mais ils ne sont pas infaillibles, ils le disent du reste eux-même, et cela prend du temps. Dans le cas général, je préfère faire confiance plutôt que d’être dans la suspicion permanente. Et me fier à mon ressenti, à mon émotion devant son image, sans me demander si « c’était vraiment comme ça » tant qu’il s’agit de photo artistique.
La situation est différente quand il y a des enjeux.
Concours photo
Exiger des participants à un concours photo qu’ils décrivent exactement leur utilisation de l’IA implique que le jury soit capable de vérifier ces dires. Et comme on l’a vu cela deviendra de plus en plus difficile et prendra de plus en plus de temps.
Les jurys de concours amateurs n’en n’auront clairement pas le temps et les moyens. Dans ces conditions c’est encore pire à mon avis de demander à divulguer quelque chose qu’on ne peut contrôler. Cela revient à donner un avantage aux tricheurs par rapport aux personnes honnêtes et à décourager ces dernières de participer.
Il est en tous cas probable que les organisateurs de concours devront préciser ce qui est accepté en termes d’utilisation de l’IA. Certains concours pourraient même choisir d’accepter l’IA comme une nouvelle forme d’art, mais les catégories devraient être clairement séparées.
Dans les concours photo prestigieux, dotés de prix conséquents, on commence déjà à demander aux participants de produire le raw plus une vidéo du moment de la prise de vue. Est-ce vraiment utile quand on voit à quelle vitesse les deep fake évoluent en vidéo ?
La situation est bien plus préoccupante en ce qui concerne la photo documentaire. Je place dans cette catégorie le photo journalisme et les illustrations scientifiques.
Photo journalisme
Les théories complotistes se répandent malheureusement bien plus vite que leurs démentis. Tout comme notre oeil est attiré par des images choc, au couleurs saturées, avec des ciels dramatiques, notre cerveau est aimanté par tout ce qu’il identifie comme un complot, un danger, une info extra-ordinaire. C’est un mécanisme de protection qui a évolué pendant des millions d’années et nous a permis d’être ici aujourd’hui.
En mars 2023, Eliot Higgins, fondateur de Bellingcat, une plateforme de journalisme d’investigation, a publié sur Twitter une série d’images générées par Midjourney montrant l’arrestation de l’ancien président américain Donald Trump. Ces images, bien que créées dans un but expérimental et satirique, sont devenues virales et ont semé la confusion en raison de leur réalisme saisissant. Elles ont été largement partagées et ont nécessité un examen attentif pour que les spectateurs réalisent qu’elles étaient synthétiques et générées par l’IA.
Les exemples de ce type ne manque pas et se multiplieront certainement car c’est une arme puissante.
Les situations de conflits donnent lieu à une guerre d’image dans laquelle l’IA est largement utilisée pour mettre en avant les dégats causés à l’adversaire, ou au contraire les minimiser.
Apprendre dès l’école à vérifier les informations auprès de plusieurs média, à comprendre les enjeux de la manipulation d’image est essentiel mais cela ne fera pas tout. Et pour cela il faut que les professeurs soient eux-mêmes formés.
Les journalistes sérieux croisent leurs sources, les vérifient, donnent les références nécessaires et mettent les faits dans le contexte. Les rédactions utilisent les outils de détection d’IA mais également de recherche inversée sur le net pour vérifier qu’une photo n’a pas été prise à un autre moment, dans une autre situation. Mais ils se font avoir parfois. Et cela deviendra de plus en plus compliqué.
Maintenant que chacun ou presque a son smartphone dans la poche pour prendre des photos ou des vidéos, le doute doit être la règle lorsqu’il n’y a qu’une seule source pour illustrer un fait, un seul angle de vue, surtout si celui-ci s’est produit dans l’espace public.
Recherche scientifique
Dans le domaine de la recherche, cela fait des années que les éditeurs de journaux connaissent le problème de la fraude. Elle n’a pas attendu l’IA. La pression pour publier qui n’a cessé d’augmenter ces dernières années y pousse.
Face à cela, les éditeurs (pour se protéger de la critique…) demandent de plus en plus de documents originaux, ce qui prend un temps considérable quand ils concernent plusieurs années de recherche et ont été obtenus par de nombreuses personnes. Il y aurait beaucoup à dire sur l’évolution de l’édition scientifique ces dernières années, un business très juteux, mais ce n’est pas le sujet. Toujours est-il que des articles frauduleux, ou en partie « arrangés » sont régulièrement publiés.
A tel point que des chercheurs se sont spécialisés pour détecter ces fraudes qui causent un tort considérable à la science, et à l’opinion que le public a de la science. Ces fraudes représentent une toute petite partie des publications mais ce sont celles-là qui font parler d’elles dans les média, et qui sont reprises par les complotistes de tous bords, et contribuent à une mise en doute de l’ensemble de la méthode et du travail scientifique.
Des sites comme pubpeer sont extrêmement utiles pour commenter les articles et soulever d’éventuelles questions d’éthiques. Des images inversées, ou utilisées plusieurs fois avec des légendes différentes sont régulièrement identifiées et conduisent souvent à la rétractation des articles incriminés. Il est évident dans ce contexte que la possiblité de régénérer un raw à partir d’une image « arrangée » compliquera la tâche des éditeurs. Quand des « scientifiques » faussent des résultats d’essais cliniques pour faire accepter des « traitements » comme on l’a vu pendant le Covid-19, les conséquences peuvent être dramatiques.
En science, il n’y a en fait qu’une méthode qui fasse constamment ses preuves : la répétition de l’expérience et de son interprétation par des laboratoires indépendants. Mais cela prend du temps, bien plus que le temps médiatique.
Conclusion
Les fichiers RAW ont longtemps été considérés comme la preuve ultime de l’authenticité d’une photo.
Mais cette confiance vacille face aux progrès de l’intelligence artificielle. Si l’IA ne peut pas encore générer de vrais fichiers RAW crédibles en 2025, des travaux de recherche montrent que cela pourrait bientôt changer.
La capacité des IA à produire des images ultra-réalistes, à falsifier les métadonnées, et à simuler les caractéristiques techniques des capteurs photo soulève de sérieuses inquiétudes. Les outils de détection existent, mais la course entre création et détection s’accélère.
Cette problématique touche autant la photographie artistique que le photojournalisme ou la recherche scientifique, où les enjeux d’authenticité sont cruciaux. Dans ce contexte, les solutions comme les signatures numériques intégrées aux appareils ou les outils d’authentification se multiplient, mais pour combien de temps resteront-ils fiables ?
Addendum :
J’ai demandé à ChatGPT d’écrire le résumé-conclusion ci-dessus. J’ai soumis ce texte à Winston.ai qui m’a affirmé qu’il y avait 0% de chances pour que ce texte ait été écrit par un humain. Il ne s’est pas trompé ! L’analyse ajoute : « Ce texte a un score de lisibilité de 59/100 et a un niveau scolaire américain de Niveau de la 10ème à la 12ème année, ce qui signifie qu’il est assez difficile à lire. » Mais j’espère que l’article est plus facile à lire et surtout qu’il vous aura intéressé !
J’apprécie l’utilisation de l’IA pour rechercher des informations et j’y ai souvent recours, notamment pour ce blog. Je n’aurais pas trouvé tous ces outils de vérification d’IA sans cette aide par exemple. Mais j’ai pu vérifier à de nombreuses reprises que les IA se trompent souvent, qu’elles répondent toujours quelque chose, même quand elles ne disposent pas de l’information. C’est particulièrement flagrant quand je demande à une IA où trouver telle fonction ou tel outil dans photoshop et que j’obtiens une réponse détaillée avec un chemin vers un bouton qui n’a jamais existé.
Je vérifie toujours les informations que me donnent les IA, y compris les références d’articles. Enfin je fais tout pour mais je ne suis pas plus infaillible qu’elles ! Si vous voyez des erreurs, n’hésitez pas à me les signaler (gentiment !) par le formulaire de contact.
N’hésitez pas non plus à poster vos commentaires.