La décision R. c. Larouche est la première à être rendue en matière de production de matériel de pornographie juvénile avec l’utilisation de la technologie de l’hypertrucage (en anglais, «deepfake»). Celle-ci permet par exemple d’intégrer le visage d’une personne sur le corps d’une autre, et ce, de façon ultraréaliste. L’accusé dans cette affaire a été condamné à une peine globale de 8 ans d’emprisonnement pour possession, distribution et production de matériel de pornographie juvénile.
Outre la quantité de fichiers possédés par l’accusé, 545 000, qui place sa «collection» parmi les plus importantes de l’histoire judiciaire, la décision mérite d’être soulignée afin d’alimenter une réflexion sur les répercussions des nouvelles technologies dans le domaine du droit criminel.
En effet, comme le souligne le juge, «[l]’avènement et le développement des nouvelles technologies ont tristement contribué à la prolifération de la pornographie juvénile» (paragr. 12), et l’utilisation de l’hypertrucage à cette fin semble placer les autorités policières «dans une nouvelle ère de cybercriminalité» (paragr. 66).
Les faits
Les enquêteurs affectés au module technologique de la Sûreté du Québec ont constaté que l’adresse IP de l’accusé était active depuis environ 3 ans dans le partage de fichiers connus comme relevant de la définition de «pornographie juvénile». Ils ont réussi à télécharger 16 fichiers complets et 1 fichier incomplet de pornographie juvénile à partir de l’ordinateur de l’accusé. Le logiciel robotisé qu’ils ont utilisé a noté 1 257 occurrences de disponibilité de fichiers connus comme constituant de la pornographie juvénile à partir de l’adresse IP de l’accusé.
En outre, l’accusé a produit 86 000 fichiers de matériel de pornographie juvénile en utilisant la technologie de l’hypertrucage, mais ce nombre découle du fonctionnement du logiciel qu’il a utilisé. Afin de créer un nouvel extrait «hypertruqué» à partir d’une séquence existante, le logiciel doit créer de 15 à 30 fichiers photographiques par seconde de vidéo. C’est pour cette raison que la production de 7 fichiers vidéo de pornographie juvénile a entraîné la production de plus de 86 000 nouveaux fichiers photographiques.
Les technologies utilisées
L’accusé a distribué du matériel de pornographie juvénile au moyen de logiciels de transmission pair-à-pair (paragr. 47). Le modèle pair-à-pair («peer-to-peer» ou P2P) est une technologie décentralisée, c’est-à-dire qui ne repose sur aucun serveur central sauvegardant ou transmettant des informations entre les usagers. La technologie de la chaîne de blocs («blockchain») fonctionne d’ailleurs sur la base du modèle pair-à-pair.
Autrement dit, cette architecture en réseau permet à chaque utilisateur (ou nœud) de partager des fichiers sans passer par un serveur centralisé. Elle renforce ainsi: 1) l’anonymisation des échanges qui se font sur ces réseaux; et 2) la dissimulation des informations ou des fichiers échangés en raison de l’absence de traces ou d’éléments de preuve disponibles dans un serveur ou auprès d’une «autorité» centrale, tels un logiciel ou un site hébergeant des contenus, de même que par l’utilisation de procédés de chiffrement.
La fonction de «hachage» qu’évoque le juge aux paragraphes 47 et suivants de la décision est liée justement au chiffrement des données puisqu’elle vise à empêcher tout tiers n’ayant pas la clé de déchiffrement, comme les policiers, de reconstruire le fichier, devenu incompréhensible après l’application de la fonction de hachage.
Le modèle pair-à-pair est donc problématique du point de vue des enquêteurs et de la poursuite, et ce, à plus d’un titre. D’abord, il complexifie l’enquête, les fichiers échangés n’étant pas accessibles en raison de l’utilisation de procédés de chiffrement. De plus, il est difficile de rechercher la responsabilité criminelle d’une autorité centrale hébergeant les fichiers de pornographie juvénile ou en permettant la transmission, car celle-ci n’existe pas.
[56] Il faut noter que le nombre de fichiers réellement échangés, en tout ou en partie, est inconnu à ce jour. Il est par exemple impossible de savoir si la totalité de la «collection» du délinquant était offerte en partage ou ne l’a été. Il est également impossible de savoir si les fichiers créés par le délinquant par hypertrucage ont été rendus disponibles. […]
Quant à la technologie de l’hypertrucage, il s’agit d’un «procédé de manipulation audiovisuelle qui recourt aux algorithmes de l’apprentissage profond («deep learning») pour créer des trucages ultraréalistes» (paragr. 60). Le juge explique que l’usager doit posséder entre 3 000 et 8 000 photographies d’un même visage afin de constituer un matériel source suffisant pour exporter un visage sur le corps d’une autre personne. Le logiciel «séquencera un extrait vidéo image par image, afin d’obtenir une banque suffisante à la création d’un hypertrucage» (paragr. 64).
[65] Une fois la banque de données suffisamment complète, le logiciel visera à entraîner une intelligence artificielle à prendre en compte les différents attributs du visage sur chacune des photographies: angle du visage, positionnement des yeux, des lèvres, des oreilles, etc., pour mimer les mouvements du visage de la source. L’entraînement demande des moyens technologiques importants et une quantité d’heures de travail qu’il est difficile de quantifier, outre que cela est particulièrement long. En fait, plus le travail est long, meilleur est le résultat, l’entraînement de l’intelligence artificielle n’étant que plus complet. […]
C’est qui est troublant, c’est qu’avec l’utilisation de l’hypertrucage, il est impossible de distinguer le vrai du faux. Il en résulte des «vidéos crédibles montrant des personnes qui font des choses ou tiennent des propos, alors qu’elles n’ont jamais fait de tels gestes ni prononcé de telles paroles». [Notre traduction.]
Les conséquences pour les victimes
L’accusé dans R. c. Larouche a utilisé des images de sa «collection» de pornographie juvénile pour en produire d’autres dont le contenu diffère de l’original. Bien que les enfants qui y figurent n’aient pas souffert de nouvelles agressions sexuelles, leur image et leur intégrité sexuelle liée à cette image ont été de nouveau violées. Le juge note que «[l]es impacts de la propagation de leurs images pour les victimes se font sentir dans différentes sphères de leur vie […]. Les problèmes toxicomaniaques découlant de leurs agressions et de la publication de leurs images ne font qu’exacerber leurs symptômes» (paragr. 32).
Les effets nocifs de l’utilisation de l’hypertrucage pour la commission de ce type d’infraction ne s’arrêtent pas là. En effet, cette technologie pourrait mettre en cause virtuellement tous les enfants:
[70] […] Un simple extrait vidéo d’enfant disponible sur les réseaux sociaux, ou une capture vidéo subreptice d’enfants dans un lieu public pourraient les transformer en victimes potentielles de pornographie juvénile. Il s’agira pour un cybercriminel de séquencer ce vidéo et d’échanger le visage de l’enfant avec celui d’une victime d’agression sexuelle qui se retrouve sur Internet. […] l’image et l’intégrité sexuelle et psychologique des enfants seront irrémédiablement atteintes, avec un potentiel que ce fichier ne soit propagé partout sur Internet, sans aucun contrôle.
Dans un article portant sur la publication non consensuelle d’une image intime, les professeures Emily Laidlaw et Hilary Young font état des conséquences de la création de vidéos à caractère sexuel avec l’utilisation de l’hypertrucage («deepfake sex videos») pour les victimes adultes:
Les victimes des vidéos à caractère sexuel créées par hypertrucage peuvent subir un préjudice émotionnel important. Les vidéos ou les images peuvent sembler réalistes et avoir les mêmes conséquences que la publication non consensuelle d’une image intime traditionnelle, telles que l’atteinte à la réputation, la perte d’emploi, la traque, le harcèlement, etc. Les effets sur les victimes comprennent l’objectivation sexuelle sans consentement, des sentiments de honte et d’humiliation ainsi que la compromission de la capacité des victimes à consentir à tous les aspects de leurs expériences sexuelles. [Notre traduction.]
Il est donc permis de croire que les conséquences seraient essentiellement les mêmes, ou encore plus graves, pour un enfant dont l’image serait utilisée pour la production de matériel de pornographie juvénile, même si en réalité il n’a subi aucune agression. Comme l’explique le juge, «[l]es impacts pour les victimes des crimes relatifs à la pornographie juvénile sont indépendants des impacts des crimes d’agression sexuelle et d’exploitation de ces enfants. Les crimes reliés à la pornographie juvénile entraînent des conséquences majeures et bien souvent perpétuelles» (paragr. 34).
Une infraction plus grave?
Le juge n’a pas retenu l’argument de la poursuite selon lequel l’usage de la technologie de l’hypertrucage pour produire du matériel de pornographie juvénile devait recevoir une peine exceptionnelle pour dissuader toute personne qui voudrait se rendre coupable d’un tel crime par le biais de cette technologie. Il n’a pas non plus accepté la proposition de la défense voulant que des enfants n’aient pas été de nouveau agressés sexuellement pour produire ce matériel (paragr. 74).
Il a plutôt conclu que l’utilisation de la technologie afin de produire du matériel hypertruqué ne change pas substantiellement l’essence du crime de production de matériel de pornographie juvénile et que cet élément n’a que peu d’importance dans l’établissement de la peine appropriée (paragr. 76).
Les répercussions des nouvelles technologies sur le travail des policiers
La création de fichiers de pornographie juvénile au moyen de l’hypertrucage rend inefficace la technologie utilisée par les policiers pour enquêter sur ce type de crime et elle sera rapidement désuète (paragr. 69). En effet, l’accusé n’a pas créé une copie du fichier original, mais plutôt un nouveau fichier avec une valeur de «hachage» indépendante. Ainsi, les fichiers qui étaient connus des policiers ont été remplacés par 86 000 unités indépendantes ayant de nouvelles valeurs de «hachage».
Conclusion
Bien que la technologie de l’hypertrucage ne soit pas accessible à tous aujourd’hui, elle pourrait le devenir assez rapidement et susciter encore plus de questions dans différents domaines du droit. R. c. Larouche a répondu aux questions qui se posaient dans les circonstances qui lui étaient propres et constitue un précédent d’intérêt en ce qui concerne le droit criminel.
Dans l’avenir, on pourrait aller plus loin et se questionner sur la responsabilité criminelle des compagnies et des personnes physiques participant à la conception de logiciels d’hypertrucage. En effet, si l’utilisation de ces logiciels par des individus à des fins de production et de distribution de matériel de pornographie juvénile n’a pas, bien sûr, été voulue ni même anticipée par les concepteurs, l’accessibilité de la technologie et la multiplication de crimes de ce genre pourraient soulever la question de leur négligence ou de leur insouciance à l’égard des logiciels du fait qu’ils étaient raisonnablement en mesure de savoir qu’ils seraient utilisés à des fins criminelles.
Ce billet a été rédigé avec la collaboration de Me Elias Paillon.
Ce jugement est une goutte d’eau mais il faut un début à tout. Ce qui est intéressant c’est qu’il tente d’ouvrir les yeux de ceux et celles qui croient que jouer avec les données à des fins de production numérique non réellement déterminés quant à l’envergure de la diffusion, ne peut plus être traité à la légère. L’impact (pas forcément criminel d’ailleurs, tout dépend de la production) est potentiellement mondial avec les conséquences que cela produit. Certes Internet ne fait que dupliquer ce qui existe et c’est la raison pour laquelle il nous semble que la voie de correction à implémenter d’urgence, pourrait consister à pouvoir identifier clairement le vrai du faux. Ceci ne nous semble pas si difficile et on peut se demander pourquoi à ce jour rien n’a encore été fait dans ce sens. Vu le nombre d’informaticiens dans le monde et le souci de protection que tout le monde déclare avoir à l’esprit, il est difficile de croire que la planète entière est capable de produire des logiciels, applications ou tout autre développement de programmes quotidiennement avec une frénésie qui interpelle l’imagination et ceci, sans jamais s’auto discipliner ou auto protéger son prochain. Si on est capable d’aller les yeux fermés vers l’anonymisation poussée, on peut tout aussi bien informer son prochain de ce qui est vrai du faux ou encore de ce qui est produit par une IA ou un cerveau humain ou encore le résultat d’une production hybridée. L’Internet de doit pas devenir le Grand Tricheur car ce réseau a le pouvoir de normaliser ses propres productions.