Cybercriminalité : Intelligence Artificielle et Deepfake, aspects de droit pénal
115 partages |
L'intelligence artificielle (IA) offre de grandes opportunités, notamment en améliorant l'efficacité et en personnalisant les services, mais soulève aussi des préoccupations majeures, dont l'exploitation croissante des deepfakes par les cybercriminels.
Les deepfakes, des vidéos ou images générées par IA imitant des visages réels, peuvent avoir des usages créatifs ou éducatifs, mais posent des risques juridiques et éthiques graves : diffusion de fausses informations, manipulation de l'opinion, tromperie, et atteinte à la vie privée.
Les cybercriminels utilisent les deepfakes pour :
- Imiter la voix ou l'apparence d'une personne afin de tromper des victimes et obtenir des fonds ou des informations sensibles ;
- Créer des vidéos compromettantes pour extorquer de l'argent ou nuire à une réputation ;
- Diffuser de fausses déclarations pour influencer l'opinion publique, perturber des élections ou attiser des tensions sociales ;
- Tromper des systèmes d'identité basés sur la reconnaissance faciale ou vocale pour accéder à des comptes sécurisés.
Ces deepfakes, très réalistes, rendent la distinction entre vrai et faux difficile, avec des conséquences graves, telles que pertes financières et déstabilisation sociale. Cela souligne l'urgence d'une vigilance accrue et de technologies de détection avancées.
De nouveaux moyens juridiques destinés à mieux lutter contre cette nouvelle forme de délinquance
La loi contre les deepfakes
La loi du 21 mai 2024 sur la sécurisation et la régulation de l'espace numérique s'attaque aux deepfakes, ces contenus manipulés par l'intelligence artificielle pour créer des vidéos ou images fausses mais très réalistes. Elle encourage les technologies de traçabilité pour marquer les contenus authentiques, faciliter leur identification et distinguer les productions manipulées. Ces mesures visent à limiter la diffusion des deepfakes, qui menacent la sécurité en ligne, la vie privée et l'intégrité des informations.
La loi impose aux plateformes numériques :
- La détection et la suppression rapide des contenus illicites, y compris les deepfakes signalés.
- Des sanctions sévères pour ceux qui créent ou diffusent des deepfakes à des fins malveillantes, comme manipuler l'opinion publique, nuire à des individus ou propager de fausses informations.
La loi SREN renforce les pouvoirs de l'ARCOM pour lutter contre la désinformation, notamment des médias étrangers sous sanctions. Elle peut exiger le retrait de contenus, infliger des amendes allant jusqu'à 4 % du chiffre d'affaires mondial, ou demander le blocage d'accès (articles 11 et 14).
L'ARCOM audite les grandes plateformes pour vérifier leur conformité aux règles et publie des bilans sur leurs actions contre les fausses informations troublant l'ordre public ou les élections (article 54). Avant les élections, les plateformes doivent tenir un registre transparent sur les auteurs et montants des communications rémunérées (article 56).
Sanctions pénales spécifiques
La loi insère dans le Code pénal de nouvelles dispositions pour punir l'utilisation de deepfakes et protéger les utilisateurs numériques. L'article 226-8 prévoit que :
- Publier un montage utilisant l'image ou les paroles d'une personne sans consentement, sans mentionner qu'il s'agit d'un montage, est puni d'un an d'emprisonnement et de 15 000 euros d'amende.
- Les mêmes sanctions s'appliquent pour des contenus générés par traitement algorithmique reproduisant l'image ou les paroles d'une personne, dans les mêmes conditions.
Une infraction spécifique est prévue pour les contenus à caractère sexuel manipulés sans consentement si ces contenus sont publiés via des services de communication en ligne (article 226-8-1) du code pénal.
Au cas, d'espèce, d'autres infractions pénales pourront être retenues et également parfois se cumuler (usurpation d'identité, escroquerie, extorsion, chantage...)
Les bons réflexes à adopter
Dans un premier temps, si vous êtes victime de ce procédé et qu'il est susceptible de caractériser une infraction pénale, une plainte peut être déposée devant les services de police ou de gendarmerie.
L'article 15-3 du code de procédure pénale prévoit expressément que " Les officiers et agents de police judiciaire sont tenus de recevoir les plaintes déposées par les victimes d'infractions à la loi pénale, y compris lorsque ces plaintes sont déposées dans un service ou une unité de police judiciaire territorialement incompétents. Dans ce cas, la plainte est, s'il y a lieu, transmise au service ou à l'unité territorialement compétents ".
La plainte ou la dénonciation peut également être directement adressée au Procureur de la République selon les dispositions des articles 40 et 40-1 du code de procédure pénale.
Sont compétents le procureur de la République du lieu de l'infraction, celui de la résidence de l'une des personnes soupçonnées d'avoir participé à l'infraction, celui du lieu d'arrestation d'une de ces personnes, même lorsque cette arrestation a été opérée pour une autre cause et celui du lieu de détention d'une de ces personnes, même lorsque cette détention est effectuée pour une autre cause (article 43 du code de procédure pénale).
Toutefois, pour les infractions commises au moyen d'un réseau de télécommunication ou en ligne, l'article 113-2-1 du code pénal dispose que " Tout crime ou tout délit réalisé au moyen d'un réseau de communication électronique, lorsqu'il est tenté ou commis au préjudice d'une personne physique résidant sur le territoire de la République ou d'une personne morale dont le siège se situe sur le territoire de la République, est réputé commis sur le territoire de la République ".
Il s'agit là d'une exception permettant à la victime, personne physique résidant sur le territoire de la République ou à la personne morale dont le siège se situe en France, de déposer plainte en France, quel que soit le lieu de commission de l'infraction.
Enfin, le DSA (Digital Service Act), entré en vigueur en février 2024, est venu renforcer les obligations des plateformes en terme de lutte contre les contenus illégaux. L'article 16 prévoit une mécanisme de notification permettant aux utilisateurs de signaler les contenus illicites.
Les contenus enfreignant la loi peuvent également être signalés par la plateforme Pharos.
Une question en Nos avocats vous répondent gratuitement | 83%de réponse |