Peut-on encore croire aux images ?

Entretien avec Sandra Ristovska

Sandra Ristovska est professeure associée en études des médias à l’université du Colorado à Boulder, où elle a fondé et dirige le Laboratoire de preuve visuelle. À la croisée des études des médias, du droit et des droits de l’homme, ses recherches explorent la manière dont les images et les vidéos influencent la production de preuves, la quête de justice et l’exercice du pouvoir institutionnel. Elle s’intéresse tout particulièrement à la façon dont les technologies visuelles transforment les pratiques juridiques ainsi qu’à la relation entre voir, savoir et croire. Son ouvrage Seeing Human Rights : Video Activism as a Proxy Profession (MIT Press, 2021) montre comment les vidéos militantes sont de plus en plus intégrées au sein des institutions juridiques et de défense des droits de l’homme.

La Vie des idées : Vos travaux mettent en avant le rôle des images en tant que preuves juridiques. Comment les supports visuels influencent-ils aujourd’hui le raisonnement judiciaire ? Et les normes existantes sont-elles suffisantes pour évaluer leur valeur probatoire ?

Sandra Ristovska : Une manière de réfléchir au rôle des images dans le raisonnement judiciaire aujourd’hui consiste à remonter un peu dans le temps, car le droit a tendance à raisonner par analogies ; les formes de médias plus anciennes sont donc pertinentes pour comprendre les formes de médias plus récentes. Ainsi, si l’on prend l’exemple de la photographie à la fin du XIX^e siècle, le système juridique avait alors développé la catégorie des « preuves démonstratives » afin de régir l’admissibilité des photographies en tant que preuves.

Or que signifie exactement « preuve démonstrative » ? Cela signifie qu’une photographie ne peut légalement prouver des faits à elle seule ; elle ne peut s’exprimer qu’à travers les propos des témoins qui parlent de la signification de la photo. En d’autres termes, les photographies illustrent ce que les témoins en disent, mais les juristes ont souligné que cette catégorie a toujours été instable. Elle a toujours oscillé entre l’illustration d’une part et la preuve d’autre part, et ce type de tension autour de ce qui constitue réellement une preuve démonstrative continue de faire partie du système juridique aujourd’hui. Ainsi, la vidéo, par exemple, à titre d’analogie, s’apparente fortement à une photographie accompagnée de son.

Aujourd’hui, la vidéo peut servir de support illustratif pour étayer les déclarations des témoins, mais elle est également largement utilisée comme preuve directe. Or, s’il s’agit d’une preuve directe, cela signifie qu’elle peut établir un fait à elle seule. De plus, à l’ère des caméras de surveillance, quand on sait qu’il y a des caméras de rue ou des caméras de surveillance dans un grand magasin, il n’y a personne sur place, il n’y a que la caméra ; c’est pourquoi les tribunaux ont admis ce qu’on appelle « l’exception du témoin silencieux », selon laquelle la vidéo peut parler d’elle-même lorsqu’il n’y avait personne d’autre pour voir les événements filmés.

Au cœur de ces catégories changeantes et ambivalentes concernant l’utilisation des images comme éléments de preuve se trouve en réalité une incertitude et une ambivalence : comment évaluer leur valeur probante, ou dans quelle mesure une vidéo peut-elle prouver les faits qu’elle est censée établir devant un tribunal ? Et pourquoi est-ce compliqué ? Ce n’est pas compliqué parce que les tribunaux veulent le rendre compliqué. C’est compliqué parce qu’en réalité, la manière dont nous communiquons avec des images est très différente de celle dont nous communiquons avec des mots et des chiffres.

Nous avons identifié avec ma collaboratrice Yael Granot trois domaines concernant la manière dont la vidéo est évaluée dans le système judiciaire, et les raisons pour lesquelles nous devons réfléchir à des lignes directrices relatives à l’utilisation de la vidéo comme preuve devant les tribunaux. L’un des points que nous avons mis en évidence, et que d’autres chercheurs ont également relevé dans diverses disciplines, est qu’en tant que spectateurs, en tant qu’individus, nous avons parfois du mal à faire la distinction entre les informations juridiquement pertinentes et celles qui ne le sont pas dans une vidéo ; ce faisant, nous avons tendance à surestimer l’importance de ce que nous considérons comme pertinent. Pour vous donner un exemple, de nombreuses études en psychologie sociale, menées il y a plusieurs décennies, ont démontré l’influence de ce que l’on appelle aujourd’hui le « biais de perspective de la caméra ».

Soit des aveux filmés : un suspect est en garde à vue et la police l’interroge. Dans ces expériences – et il en existe de nombreuses menées au fil des ans, contrôlant différents facteurs et influences –, la manière la plus simple de comprendre ce phénomène est la suivante : il y a des caméras dans la pièce, des acteurs, l’un jouant le rôle du policier, l’autre celui du suspect, et dans un cadrage, la caméra se concentre uniquement sur le suspect ; on ne voit pas le policier. Ainsi, lorsque les gens voient ce cadrage, ils pensent que ce qui importe vraiment, c’est l’apparence du suspect, et, vous savez, on peut imaginer que le suspect soit potentiellement… Je ne sais pas, les gens sont mal à l’aise devant les caméras, etc. Il se peut qu’il transpire, qu’il baisse les yeux, qu’il soit mal à l’aise, et les gens ont tendance à croire que c’est un signe de culpabilité, et qu’il n’y a pas de coercition de la part de la police.

Le témoignage est sincère, et c’est pourquoi, dans ce cas précis, on surestime ce qui serait juridiquement pertinent. En revanche, les personnes qui regardent le plan plus large, avec un cadrage différent où l’on voit à la fois le suspect et le policier, se disent : « il baisse les yeux parce qu’il est intimidé par le policier. Le policier essaie de faire pression sur lui. Ce témoignage a sûrement été obtenu sous la contrainte. Cette personne n’est peut-être pas coupable ». Qu’est-ce qui a changé ? Absolument rien, n’est-ce pas ? C’est la même mise en scène. Ce qui a changé, c’est l’angle de prise de vue de la caméra, et cela influence la façon dont les gens perçoivent la scène ; ils attribuent donc une certaine importance à ce qu’ils considèrent comme les informations pertinentes dans ce contexte.

On peut avoir des interprétations différentes, mais devant un tribunal, la vie d’une personne est en jeu : son innocence ou sa culpabilité, son incarcération ou non, la durée de sa peine… C’est donc là que nous avons besoin d’une meilleure compréhension commune, et ce n’est pas nécessairement une question de normes appliquées par les tribunaux, mais plutôt de défis liés à la manière dont nous interprétons les images, aux multiples facteurs qui influencent ce processus, qu’il s’agisse de facteurs cognitifs, technologiques ou sociaux. Qui sommes-nous en tant que spectateurs ? Quelles expériences et quelles idées apportons-nous, en tant que spectateurs, face à ces images ? Tout cela façonne notre regard, et le système judiciaire n’a jusqu’à présent pas vraiment réussi à trouver un moyen de relever ces défis ni de les gérer lorsqu’il s’agit de preuves visuelles.

La Vie des idées : En quoi les technologies émergentes, telles que les « deep fakes » et l’intelligence artificielle modifient-elles le statut épistémique des preuves visuelles ? S’agit-il d’un problème fondamentalement nouveau ou accentuent-elles des problèmes existants ?

Sandra Ristovska : J’adore cette question, car c’est celle à laquelle je me suis attachée cette année au Centre d’études avancées en sciences comportementales de l’université de Stanford, où je travaille actuellement sur mon nouveau livre intitulé Deep Faking Evidence. Cet ouvrage retrace l’histoire de la manipulation visuelle et de la tromperie dans un contexte juridique, même si, bien évidemment, ce qui se passe dans ce contexte juridique reflète ce qui se passe dans la société et la culture au sens large.

Je m’en tiens aux technologies que l’on associe généralement aux médias visuels aujourd’hui, et ce qui est très intéressant, c’est que dès 1897, un vaste débat s’est engagé dans les journaux à travers les États-Unis, affirmant que cette vieille idée selon laquelle « les photos ne mentent pas » était une idée dépassée, et de nombreux articles soutiennent que les photographies peuvent très souvent mentir, et que la retouche est l’une des techniques permettant de le faire. Or, au début du XX^e siècle, on recense de nombreux cas qui ressemblent à ce que nous connaissons aujourd’hui. La seule différence, c’est que la technologie que nous utilisons aujourd’hui est très différente. Le président Tufts, aux États-Unis, s’inquiétait beaucoup de la retouche des photographies.

Il en avait tellement assez de voir des photos de lui serrant la main de touristes à Washington vendues et diffusées, qu’il a demandé à son ministère de la Justice, en 1912, de rédiger un projet de loi visant à interdire la production, la circulation et la distribution de fausses photographies. Si ce projet de loi avait été adopté, un bureau de poste aurait pu être accusé d’avoir envoyé ces photos retouchées, ou d’avoir contribué à leur diffusion. Le projet de loi n’aboutit pas, mais cela nous montre qu’au début du XX^e siècle, à l’époque de la photographie noir et blanc à l’ancienne, développée sur pellicule dans un studio photo, ces risques existaient bel et bien, et les gens s’en inquiétaient. Cela se répercuta également devant les tribunaux, car en 1916 eut lieu à San Francisco le procès de Tom Mooney, un militant syndicaliste très actif.

Les historiens, en particulier du mouvement ouvrier, ont beaucoup écrit sur cette affaire, et soutiennent qu’il s’agissait en réalité d’un procès politique dès le départ, que Mooney avait été victime d’un coup monté. L’issue était très claire dès le début, car il s’agissait d’une manœuvre visant à anéantir le mouvement ouvrier de l’époque. Mooney a été accusé d’avoir posé une bombe lors du défilé de la « Journée de la préparation » à San Francisco, qui a coûté la vie à dix personnes. Pourquoi évoquer cette affaire ? Parce qu’à l’époque, nous disposions de photographies montrant Mooney et sa femme en train d’observer le défilé depuis le toit d’un immeuble. À l’arrière-plan de ces photographies, on aperçoit une horloge sur l’un des bâtiments, dont on pouvait distinguer l’heure, mais pas très clairement.

Donc, ce que Mooney et ses avocats voulaient, c’était agrandir la photo devant tout le monde, etc., afin qu’on puisse éventuellement voir l’heure, ce qui aurait fourni un alibi à Mooney. Or, le procureur dans cette affaire a réussi à faire exclure les photos. Il a fait valoir qu’elles auraient pu être retouchées, falsifiées, et qu’on ne pouvait donc pas se fier à la photo ; il fallait donc l’exclure. Je pense que cette affaire illustre parfaitement ce qui se produit aujourd’hui avec l’IA ; c’est pourquoi vous comprenez que les défis, notamment en matière de preuve dans un contexte juridique, que pose l’IA ne sont pas sans précédent. L’IA amplifie ces défis : si l’on y réfléchit bien, au XIX^e siècle, il fallait posséder des compétences, des connaissances et des ressources : il fallait posséder du matériel photographique, avoir accès à des studios photo, savoir retoucher des photos. C’était un savoir-faire, un travail, et tout le monde ne pouvait donc pas le faire. Aujourd’hui, un juge américain, Paul Green, affirme que l’IA a démocratisé la fraude.

Pourquoi dit-il cela ? C’est qu’aujourd’hui, il suffit d’un ordinateur portable ou d’un smartphone : on télécharge une application, on saisit un prompt, on crée une vidéo montrant xyz en quelques minutes, on obtient cette vidéo… C’est donc très accessible, aucune compétence n’est requise, etc. Et puis, il y a aussi les réseaux sociaux aujourd’hui. Une vidéo peut y être vue instantanément partout dans le monde et devenir virale avant même que l’on s’en rende compte. Les gens commencent à en parler sans même s’en rendre compte, ou même parfois sans y prêter la moindre attention. Est-ce vrai ? Est-ce faux ? Cela complique donc la situation. Récemment, le Comité fédéral sur la preuve, un comité consultatif, a interrogé plus de 900 juges fédéraux aux États-Unis, et la plupart d’entre eux ont déclaré que, selon eux, pour traiter ce genre d’accusations de falsification ou d’allégations selon lesquelles un contenu serait généré par l’IA, il fallait inverser la charge de la preuve. Si quelqu’un affirme qu’une chose est truquée, il doit fournir une preuve justifiant ses accusations avant que cette allégation puisse être prise au sérieux ; mais l’autre aspect de la question est tout aussi important, car nous pouvons avoir une vidéo authentique – disons une vidéo parfaitement authentique filmée avec un téléphone portable – qui, avant l’avènement de l’IA, aurait facilement pu être admise comme preuve, et les jurés, dans un système fondé sur un jury, auraient alors évalué cette preuve.

La crainte aujourd’hui est que nous n’entrions dans une ère où le débat public sur le principe « voir, c’est croire » n’ait plus cours, où tout doit être techniquement authentifié et vérifié, ce qui pourrait nous conduire à un contexte où des vidéos parfaitement authentiques se verraient accorder moins de poids en tant que preuves, car les jurés se demanderaient : « Comment savoir si c’est un faux ou non ? » Encore une fois, l’affaire Mooney n’est qu’un exemple parmi tant d’autres qui nous offre un bon parallèle historique ou peut-être des pistes de réflexion sur la situation actuelle ; je ne veux donc pas sous-estimer à nouveau l’IA en tant que technologie. Je pense vraiment que l’IA porte le problème de la contrefaçon, de la manipulation et de la tromperie à un niveau sans précédent. De plus, avec les deepfakes, on peut créer une vidéo à partir de rien. Dans les techniques traditionnelles de tromperie ou de manipulation, il fallait encore disposer d’une sorte d’original, que l’on falsifiait ensuite. L’IA pose donc des problèmes, mais dans le livre que j’écris actuellement au CASBS, je m’intéresse à la manière dont l’IA aggrave les problèmes existants et aux leçons que nous pouvons tirer de l’histoire de la manipulation et de la tromperie devant les tribunaux.

La Vie des idées : Les risques et les incertitudes liés aux preuves visuelles affectent-ils tout le monde de la même manière, ou contribuent-ils à reproduire les inégalités sociales existantes ?

Sandra Ristovska : Il existe certaines disparités raciales, ethniques et genrées qui font partie intégrante du système judiciaire américain. Donc, si ces disparités existent déjà, alors lorsque nous utilisons la vidéo comme preuve, on pourrait s’attendre à ce qu’elles se reproduisent. La vidéo en tant que preuve est un outil : elle peut être utilisée à bon escient ou détournée ; elle se prête à de multiples interprétations, c’est là tout son intérêt, mais souvent, nous constatons qu’il est difficile d’en évaluer le bilan net : est-ce que cela aide ou non ? On peut citer de nombreux cas aux États-Unis, et même à l’étranger, où des vidéos tournées avec un téléphone portable par des militants ou des témoins ont réellement contribué à faire la lumière sur d’importantes allégations relatives aux droits de l’homme, et ont été utilisées avec succès devant les tribunaux. Dans une étude menée par le Visual Evidence Lab, que je dirigeais à l’université du Colorado à Boulder, nous avons constaté que les vidéos tournées avec un téléphone portable peuvent jouer un rôle déterminant dans la défense des droits constitutionnels devant les tribunaux américains.

Ainsi, la vidéo peut jouer un rôle important et aider les personnes issues de communautés marginalisées, de communautés d’immigrés et de communautés de couleur à bénéficier d’un procès équitable devant les tribunaux ; mais en même temps, elle peut aussi exacerber les inégalités existantes. À l’heure actuelle, nous recensons 14 cas d’utilisation de systèmes de reconnaissance faciale basés sur l’IA, dans lesquels des personnes ont été arrêtées pour des crimes qu’elles n’ont jamais commis, et ont passé entre une nuit et 17 mois en prison pour un crime qu’elles n’ont jamais commis. Et si l’on examine le profil de ces personnes, on constate qu’elles sont majoritairement noires ; lorsqu’elles sont blanches, elles sont généralement plus âgées ; et lorsqu’il s’agit de « deep fakes » – une autre forme d’image générée par l’IA –, ce sont majoritairement des femmes. Quant aux cas qui apparaissent actuellement, il est encore trop tôt pour se prononcer, mais ceux-ci concernent souvent des « deep fakes » liés à des affaires de violence conjugale, où une femme est accusée, par exemple, d’avoir enfreint une interdiction de contact sur la base d’une image « deep fake », ce qui lui vaut de passer deux jours en prison, avant que la situation soit finalement éclaircie. Ainsi, dans l’ouvrage que j’ai rédigé au CASBS, intitulé Deep Faking Evidence, j’ai examiné comment l’IA pourrait exacerber les inégalités existantes au sein du système judiciaire, inégalités qui reposent sur des critères raciaux, ethniques et de genre.

La Vie des idées : Quelles réformes juridiques ou institutionnelles sont nécessaires pour préserver l’équité et la confiance à l’ère des médias synthétiques, dont l’accès ne cesse de se démocratiser ?

Sandra Ristovska : Il n’existe pas de solution infaillible pour répondre aux problèmes posés par les images générées par l’IA. Le domaine dans lequel je travaille, et celui auquel je consacre la majeure partie de mon temps au sein de mon laboratoire dédié aux preuves visuelles, est le système judiciaire. Or, dans ce cadre, nous devons nous pencher sur plusieurs aspects différents, dont notamment la formation des magistrats : ainsi, les juges, du moins aux États-Unis, reçoivent souvent une formation spécialisée.

Je pense donc que nous pouvons nous en inspirer pour réfléchir au type de formation judiciaire que nous pourrions mettre en place autour de l’interprétation et de la perception visuelles, dans le cadre de laquelle les juges seraient initiés aux différents facteurs qui influencent la manière dont nous voyons et percevons les images, et dont nous interprétons, par exemple, un extrait vidéo présenté comme élément de preuve au sens juridique du terme. Cela pourrait les aider à mieux comprendre ou à être mieux armés pour analyser et poser des questions sur le contenu visuel sous-jacent présenté au tribunal.
Un autre domaine consiste à réfléchir au type d’instructions qui aideraient les jurés à mieux délibérer dans les affaires impliquant des preuves vidéo. Là encore, aux États-Unis, certains tribunaux disposent de ce type de recommandations pour les témoignages oculaires. Lorsque l’efficacité de ces recommandations a été testée, les résultats se sont avérés mitigés, mais c’est un début. Pouvons-nous envisager des consignes similaires pour les preuves vidéo ? Que comporteraient-elles, et permettraient-elles d’atténuer certains des biais et des difficultés auxquels nous sommes confrontés ?

Une autre piste concernerait les ordres des avocats des États, qui disposent de règles déontologiques, et pourraient désormais prendre l’initiative d’émettre des avis pour clarifier la manière dont ces règles s’appliquent lorsqu’un avocat présente ou conteste des éléments de preuve générés ou améliorés par l’IA, sciemment ou pas. Évidemment, si un avocat présente sciemment un « deepfake », des sanctions claires devraient s’appliquer, mais les ordres des avocats des États ont un rôle à jouer à cet égard ; nous devons donc également réfléchir, au niveau des tribunaux, à la nécessité éventuelle de certaines réformes. D’autres juristes évoquent la nécessité d’une divulgation à chaque fois que l’IA est utilisée, que ce soit dans des systèmes de reconnaissance faciale, pour améliorer une vidéo ou pour analyser une vidéo : cela devrait être très clairement indiqué et divulgué en temps utile, afin que la partie adverse ait le temps d’examiner les éléments de preuve.

Ce sont là quelques-uns des champs auxquels il importe de prêter attention. Il n’existe pas de solution toute faite, mais je pense qu’il faut veiller à ne pas réduire le problème ou le défi à un simple défi technologique, du genre : « Bon, c’est juste un problème d’IA et de deepfakes, il suffit de disposer de meilleurs outils d’authentification pour vérifier si une image est authentique ou non, et le tour est joué. » Il y a certes une marge de progression, et il existe indéniablement un besoin de meilleures technologies d’authentification, mais le problème n’est pas purement technologique. Le problème ne se résume pas simplement à savoir si une image est vraie ou fausse ; c’est par là que l’on commence, mais ce n’est pas tout, car nous avons évoqué les différents facteurs qui influencent la perception visuelle. Je pense donc qu’il importe de ne pas aborder cette question sous un angle purement technologique. Nous nous sommes penchés sur des questions institutionnelles et avons défini des recommandations plus générales visant à garantir une utilisation cohérente et responsable de la vidéo devant les tribunaux à l’ère de l’IA.