La police de l'UE recommande une nouvelle «technologie de dépistage» en ligne pour attraper les deepfakes – EURACTIV.fr

La police de l'UE recommande une nouvelle «technologie de dépistage» en ligne pour attraper les deepfakes – EURACTIV.fr

21 novembre 2020 0 Par Village FSE

Les autorités répressives de l’UE devraient faire des «investissements importants» dans le développement de nouvelles technologies de dépistage qui pourraient aider à détecter l’utilisation malveillante de deepfakes, recommande un nouveau rapport de l’agence de police de l’Union européenne, Europol.

La technologie Deepfake implique la création de médias synthétiques, généralement du matériel vidéo, en utilisant l'intelligence artificielle et des outils d'apprentissage automatique qui permettent aux expressions faciales et à la parole d'un individu d'être falsifiées pour paraître réelles.

Les politiciens de haut niveau ont longtemps supporté le poids de ces technologies, avec des vidéos falsifiées de la chancelière allemande Merkel, de l'ancien président américain Obama et de l'ancien Premier ministre italien Matteo Renzi.

Le but des vidéos deepfake à motivation politique est d'alimenter les troubles sociaux et la polarisation politique entre les utilisateurs en ligne, en diffusant des messages falsifiés de dirigeants bien connus. Europol s'attend à ce que les moyens de ceux qui produisent deviennent plus avancés technologiquement à l'avenir.

«Les individus et les groupes à l'origine de l'abus de deepfakes devraient adapter leur modus operandi dans le but d'échapper à la détection et de former leurs modèles à suivre les mesures de contre-détection», indique le rapport d'Europol, publié jeudi 19 novembre.

«Deepfakes peut, à cet égard, devenir un défi majeur pour les techniques d'analyse et d'authentification audiovisuelles médico-légales actuelles utilisées par les industries, les autorités compétentes, les professionnels des médias et la société civile», le document, qui examine le paysage des menaces pour les technologies d'intelligence artificielle , ajoute.

Afin de relever les défis futurs posés par le développement d'outils deepfake plus sophistiqués, le rapport, produit en collaboration avec l'Institut interrégional de recherche des Nations Unies sur la criminalité et la justice (UNICRI) et Trend Micro, recommande aux forces de l'ordre de mettre en place des moyens plus avancés de détection -génération de contenu vidéo et audio trafiqué.

«Il est nécessaire non seulement de faire des investissements importants pour développer une nouvelle technologie de filtrage afin de détecter les altérations et les irrégularités dans le contenu visuel et audio, mais aussi pour s'assurer que ces outils sont tenus à jour pour refléter l'évolution de la technologie de création deepfake, y compris actuelle et future possible. abus malveillant de cette technologie. »

«Afin d'optimiser les efforts et de combler les lacunes actuelles, le développement de systèmes de lutte contre les deepfakes doit se faire de manière collaborative entre l'industrie et les utilisateurs finaux des autorités compétentes.»

Loi sur les services numériques pour réprimer les deepfakes?

À Bruxelles, la Commission européenne met la touche finale à sa prochaine loi sur les services numériques, un cadre réglementaire ambitieux qui introduira de nouvelles règles dans des domaines allant de la modération de contenu à la publicité en ligne et à la transparence des algorithmes. Les nouvelles règles seront présentées par l'exécutif européen le 9 décembre.

Un document récent financé par le ministère allemand des Affaires étrangères et débattu au sein du groupe de travail du Conseil de l’UE sur les menaces hybrides indique que la loi sur les services numériques pourrait inclure des «possibilités de réglementation» contre les «menaces profondes».

Cependant, il est peu probable que des obligations strictes imposées aux plates-formes dans le cadre de la loi sur les services numériques puissent imposer des règles sur la suppression de ce contenu.

«Afin de lutter contre la désinformation et les contenus préjudiciables, nous devons nous concentrer sur la manière dont ce contenu est distribué et montré aux gens plutôt que de pousser à la suppression», a récemment déclaré Věra Jourová, vice-présidente de la Commission européenne pour les valeurs et la transparence.

Bien qu'il puisse y avoir des règles sur la lutte contre la viralité des contenus néfastes tels que les deepfakes dans la loi sur les services numériques de l'UE, la Commission est également susceptible de relever le défi de traiter ce matériel en ligne dans le prochain plan d'action pour la démocratie, qui se précisera sur les fausses nouvelles dans le contexte de l'ingérence et de la manipulation externes dans les élections.

Jourová a déclaré dans le cadre d'une vidéoconférence en ligne cette semaine que les nouvelles mesures, qui seront présentées par la Commission le 2 décembre, renforceront l'application du code de bonnes pratiques de l'UE contre la désinformation, un cadre volontaire qui introduit une série de bonnes pratiques pour signataires, y compris Google, Facebook et Twitter, à respecter.

Le code a été introduit par la Commission en octobre 2018, dans le but de lutter contre les fausses informations dans le contexte des élections au Parlement européen de mai 2019.

L'initiative a fait l'objet de vives critiques au début de cette année, une série d'États membres de l'UE qualifiant le cadre d'autorégulation «d'insuffisant et inadapté».

(Edité par Zoran Radosavljevic)