Expertises
Droit, technologies & prospectives
interview / Amandine Cayol, Emilie Gaillard et Coline Vuillermet
Transhumanisme : un changement de civilisation
Droit, technologies & prospectives
Tous les mois, toute l'actualité du numérique... Et tellement plus !
Nos derniers numéros
N°457 – mai 2020
N°456 – avril 2020
N°455 – mars 2020
N°454 – février 2020
N°452 – décembre 2019
N°451 – novembre 2019
N°450 – octobre 2019
N°449 – septembre 2019
N°448 – juillet 2019
Sommaire
Edito
Focus
En bref
L’information rapide sur le monde du numérique
Magazine
L’information légale et jurisprudentielle du numérique
Interview
Doctrines
Règlementation en France et en Europe
La jurisprudence évolue et s’affirme
La blockchain ne peut remplacer le tiers de confiance
« Caméras augmentées » sur le podium olympique : quelles garanties ?
L’application du principe de minimisation à un média
L'édito du mois
Eparpillement législatif
Le 3 mai dernier, le gouvernement devait présenter son projet de loi sur la sécurité de l’espace numérique pour protéger les Français de la criminalité sur internet, dans la cadre du programme « cent jours pour relancer le quinquennat d’Emmanuel Macron ». Au dernier moment, il a été reporté. Un texte consensuel, assurément pas de nature à faire descendre les Français dans la rue ni révolutionner l’espace digital. Il ne s’agit pas d’un grand projet généraliste sur cette technologie qui a bouleversé l’espace public et nos vies privées ; rien à voir avec une LCEN ou une loi Pour une République numérique. Même son contenu est mince par rapport aux enjeux de « sécurité de l’espace numérique » qu’il ambitionne de régler.
Il est d’abord question de créer une peine interdisant les cyberharceleurs de s’inscrire sur les réseaux sociaux. Puis, le projet de loi concrétise une des promesses de campagne d’Emmanuel Macron : l’instauration d’un système de « filtre anti-arnaque » pour détecter et bloquer les sites internet frauduleux. Il représente un des volets du plan de « bouclier numérique » pour 2023, doté de 30 millions d’euros. Ce dispositif vise à alerter les internautes lorsqu’ils reçoivent un mail ou un SMS frauduleux. Ce projet de loi prévoit également l’élargissement des entreprises assujetties au cyber score. La loi du 3 mars 2022 pour la mise en place d’une certification de cybersécurité des plateformes numériques destinée au grand public avait créé un « cyberscore » applicable à la fin 2023. Un décret devait lister les plateformes, réseaux sociaux et sites de visioconférence concernés (en fonction de l’importance de leur activité). Cette obligation d’afficher un « cyberscore » a été élargie à toutes les entreprises.
Le gouvernement utilise par ailleurs ce véhicule législatif pour la mise en conformité de la législation française avec les nouveaux règlements européens Data Government Act (DGA), Digital services Act (DSA) et Digital Markets Act (DMA). Le projet de loi devrait être soumis au Sénat début juin, puis au début de l’été à l’Assemblée nationale, soit juste avant le bilan prévu le 14 juillet des « 100 jours d’apaisement » voulus par le Président de la République.
Ce texte est loin d’avoir en 2023 le monopole des dispositions sur le numérique et précisément sur la cybersécurité. Le projet de loi de programmation militaire enregistré à l’Assemblée nationale le 4 avril dernier comporte un chapitre V qui vise à renforcer la sécurité des systèmes d’information. Par exemple, son article 32 autorise l’Anssi à prescrire des mesures graduelles de filtrage de noms de domaine aux hébergeurs, aux fournisseurs d’accès à Internet (FAI) et aux bureaux d’enregistrement de noms de domaine, afin de bloquer l’utilisation illicite d’un nom de domaine par un cyberattaquant et de mieux comprendre et contrer ses modes opératoires. La loi du 24 janvier 2023 d’orientation et de programmation du ministère de l’Intérieur comporte des dispositions sur l’assurance en matière de cyberattaques. Le Parlement a aussi définitivement adopté mercredi 12 avril le projet de loi relatif aux Jeux olympiques et paralympiques de 2024 qui autorise la vidéoprotection algorithmique.
Les parlementaires ne sont pas non plus en reste sur le sujet. L’Assemblée nationale a adopté, le 30 mars dernier, une proposition de loi sur les influenceurs pour protéger les internautes. Le 2 mars, elle a également voté une proposition de loi visant à instaurer une majorité numérique et à lutter contre la haine en ligne. Et le 5 avril dernier, les sénateurs ont déposé une proposition de loi sur la reconnaissance biométrique.
Il devient de plus en difficile de s’y retrouver dans ce maquis législatif du numérique français et européen, toujours plus touffu et éparpillé. Et ça ne va pas s’arranger avec l’accélération technologique.
Le focus du mois
Le test TikTok
Les Etats-Unis veulent interdire TikTok.
L’Europe peut suivre une autre voie pour se protéger. Elle dispose de deux armes juridiques pour contraindre les géants du numérique à respecter nos règles. Reste à tester leur efficacité.
Il n’a fallu que neuf mois à TikTok pour atteindre les cent millions d’utilisateurs dans le monde, quand Instagram avait mis deux ans et demi et Facebook quatre ans et demi. Le réseau social chinois qui compte désormais 150 millions d’utilisateurs par mois en Europe figure sur la liste des « très grandes plateformes » désignées par la Commission européenne, le 25 avril dernier, en application du DSA. Au-delà de son énorme succès, ce réseau social suscite une suspicion générale dans le monde occidental dont les pays interdisent les uns après les autres l’usage par les fonctionnaires. Les Etats-Unis envisagent même de l’interdire tout court.
TikTok offre la possibilité de poster des vidéos courtes, de 15 secondes et plus, en favorisant le scrolling, ce qui a immédiatement séduit les jeunes qui peuvent consulter ou créer du contenu facilement. En raison de son caractère très addictif et de l’opacité de son fonctionnement, les démocraties craignent que le Parti communiste chinois (PCC) puisse utiliser ce site pour interférer dans les processus démocratiques. TikTok est également suspecté de favoriser les contenus toxiques, les fake news pour l’exploitation des données personnelles de ses utilisateurs.
Les Etats-Unis, en guerre froide contre la Chine, projettent d’en interdire l’usage. L’Europe qui n’a pas exactement les mêmes intérêts doit-elle faire de même alors qu’elle dispose d’autres armes ? Avec le RGPD et le DSA, l’UE peut jouer sa propre partition à l’égard de TikTok, estiment Kai von Carnap et Antonia Hmaidi, analystes pour la science, la technologie et l’innovation au Mercator Institute for China Studies (MERICS), dans un article paru sur le site Euroactiv. Selon eux, une interdiction sans preuves convaincantes de l’action d’influence chinoise de TikTok affaiblirait les processus démocratiques européens alors que l’Europe a instauré une réglementation solide en matière de données personnelles et de services numériques qui pourraient se révéler plus efficaces qu’une interdiction.
Si TikTok prétend apporter des garanties, il faut néanmoins rester très prudents. N’oublions pas que l’application appartient à ByteDance, soumise à la loi chinoise de 2017 sur le renseignement. Cette loi impose aux sociétés chinoises de collaborer avec les services de renseignement lorsque ceux-ci les sollicitent, y compris celles qui opèrent hors du territoire national.
« Une enclave sécurisée pour les données des utilisateurs européens de TikTok »
La législaton chinoise sur la protection des données personnelles n’a pas reçu le label d’adéquation de la Commission européenne. Et des doutes très importants existent sur le transfert et l’exploitation en Chine des données des Européens. L’autorité irlandaise chargée de la protection des données personnelles a ouvert, en 2021, deux enquêtes sur la plateforme chinoise de partage de vidéos TikTok, liées à l’exploitation des données personnelles des mineurs et aux transferts de données vers la Chine. Sur ce dernier point, TikTok a fini par l’admettre en novembre 2022, mais elle a assuré que les données étaient sécurisées et que seuls quelques employés étaient autorisés à y accéder.
Pour apporter des gages de sa volonté de respecter le RGPD, TikToK a commencé par implanter un data center à Dublin. Et le 8 mars dernier, le réseau social a dévoilé son « Project Clover », « une enclave sécurisée pour les données des utilisateurs européens de TikTok ». Il s’agit d’implanter deux nouveaux datacenters pour stocker les données des utilisateurs de l’UE en Irlande et en Norvège, qui seront exploités par un fournisseur tiers. Par ailleurs, TikTok s’est engagé à faire appel à un tiers européen pour superviser la protection des données, contrôler les flux de données, effectuer des vérifications indépendantes et signaler tout incident potentiel. L’entreprise a l’intention d’introduire des passerelles de sécurité qui encadreront à la fois l’accès des employés aux données des utilisateurs de l’application en Europe et au Royaume-Uni, mais aussi leur transfert. La migration complète des données est prévue pour 2024. Les régulateurs européens devront vérifier que ce dispositif apporte bien les garanties suffisantes.
Reste à voir si les exigences européennes du RGPD sont conciliables avec le modèle commercial de TikTok qui repose sur la publicité ciblée, les achats intégrés et sa fonctionnalité « Tips » qui permet d’envoyer des cadeaux virtuels ou des pourboires à leurs créateurs de contenus et influenceurs. En 2022, la publicité a généré 11 milliards de dollars de revenus et les achats in-app 10 milliards de dollars.
« Pourra-t-il se conformer aux exigences du DSA ? »
Un autre levier d’action puissant pour l’Europe repose sur le règlement sur les services numériques (DSA).
En application de ce nouveau texte, TikTok figure sur la liste des « très grandes plateformes » qui doivent, à partir de 2024, garantir la transparence algorithmique dans des domaines tels que la protection de l’enfance et son système de recommandation. Dix-neuf plateformes et moteurs de recherche vont être sous la surveillance de la Commission européenne et seront soumises à des obligations de transparence, notamment celles d’ouvrir leurs algorithmes, de se soumettre à un audit annuel indépendant pour s’assurer qu’elles luttent efficacement contre la désinformation, la haine en ligne ou les contrefaçons. Cela permettra de vérifier si l’algorithme de TikTok est programmé pour répandre la désinformation et influencer les institutions démocratiques. Le DSA impose par ailleurs de consacrer des moyens adéquats en matière de modération de contenus. Or, TikTok se distingue des autres réseaux sociaux par la quasi-absence de modération sur les contenus publiés permettant ainsi la diffusion virale de vidéos violentes, pornographiques ou encore haineuses.
Il reste à voir si TikTok sera en mesure de se conformer au DSA. Un ministère chinois a déjà indiqué qu’il pourrait invoquer des contrôles à l’exportation récemment étendus pour empêcher l’accès étranger à l’algorithme de TikTok. Le gouvernement chinois pourrait rechigner à ce que l’UE examine de plus près ce logiciel et ne pas autoriser son exportation, ou ByteDance pourrait lui-même décider de ne pas révéler son algorithme aux régulateurs de l’UE.
TikTok, dont l’algorithme est l’un des plus puissants, des plus addictifs, mais aussi l’un des plus opaques, va être l’occasion de tester la robustesse et l’efficacité de la règlementation sur le numérique. Mais il n’y a pas que TikTok à exploiter nos données personnelles sans un niveau de protection adéquate et à menacer notre souveraineté, via des lois extra-territoriales. L’UE dispose des armes juridiques pour se défendre, aura-t-elle la volonté politique de les faire réellement appliquer ?
L'invité du mois
Interview / Amandine Cayol et Emilie Gaillard
Transhumanisme : un changement de civilisation
Le projet transhumanisme qui se diffuse peu à peu grâce aux technologies NBIC (Nanotechnologies, biotechnologies, technologies de l'information et sciences cognitives), impacte nos catégories juridiques et la manière dont on raisonne en droit, centré sur l’individu sujet de droits. Avec la convergence Homme / Machine, l’être humain « augmenté » se robotise et la machine s’humanise et pose la question des limites de l’humain et de la machine, selon les chercheuses Amandine Cayol et Emilie Gaillard, qui ont co-dirigé et co-rédigé l’ouvrage collectif « Les grandes notions du droit à l’aune des transhumanismes », publié chez Mare & Martin. Sous l’angle des notions de personne, de propriété, de responsabilité, de droits fondamentaux et de souveraineté, elles ont entrepris une recherche prospectiviste destinée à nourrir le débat public sur un projet de société aux enjeux existentiels et qui comporte des risques majeurs d’atteintes aux droits fondamentaux. Leur objectif : anticiper pour être prêt et agir, car le projet transhumaniste devient progressivement réalité.
Sylvie Rozenfeld : Le transhumanisme a pour ambition de dépasser les capacités physiques et psychiques de l’être humain, avec d’un côté un volet biologique et, d’un autre côté, un « projet cybernétique d’une hybridation systématique Homme-Machine mobilisant la robotique et l’intelligence artificielle », porté par les NBIC (Nanotechnologies, biotechnologies, technologies de l’information et sciences cognitives). Si l’un des buts ultimes, « la mort de la mort », relève encore pour longtemps de la science-fiction, un mouvement vers une convergence entre l’être humain et la machine a déjà commencé. Avec les progrès des interfaces cerveau-machine, de l’imagerie cérébrale, des implants ou des électro-encéphalogrammes portables, lire les pensées n’est plus inconcevable. Amandine Cayol et Emilie Gaillard, vous êtes maîtresses de conférences en droit privé (*). En 2022, vous avez co-dirigé la rédaction du rapport « Transhumanisme(s) & droit(s) » publié sous l’égide l’Institut des études et de la recherche sur le droit et la justice (IERDJ) pour lequel vous aviez entrepris un véritable travail d’enquête pluridisciplinaire. Vous aviez envisagé cinq notions fondamentales du droit impactées par ce projet : la personne, la responsabilité, la propriété, les droits fondamentaux et la souveraineté (voir Exp. N° 486, p. 4). Dans l’ouvrage collectif – qui vient de sortir – intitulé « Les grandes notions du droit à l’aune des transhumanismes », publié aux éditions Mare & Martin, que vous avez co-dirigé et co-rédigé (**), vous approfondissez l’analyse juridique des cinq notions impactées par ce mouvement.
Le transhumanisme est susceptible à plus ou moins court terme, selon vous, de remettre en cause les catégories anthropologiques fondant les grandes notions du droit français. Que voulez-vous dire ?
Amandine Cayol : Un des éléments de réponse porte sur la convergence Homme / Machine qui est vraiment mise en avant par le transhumanisme, notamment dans la Déclaration transhumaniste adoptée en 1998 par la World Transhumanist Association. Cette déclaration insiste sur la nécessité de favoriser le bien-être de toutes les espèces (humaines, animales, mais aussi extra-terrestres et artificielles). En effet, les idées transhumanistes conduisent à un rapprochement entre le vivant et le non-vivant, avec à la fois une humanisation de la machine et une machinisation de l’Homme grâce à la convergence NBIC . L’IA est un des thèmes que nous avons donc particulièrement étudiés, notamment la problématique de l’octroi d’une personnalité juridique à l’IA. Parallèlement, nous nous sommes intéressées à l’artificialisation croissante de l’Homme par le recours à des prothèses de plus en plus évoluées et aux interfaces cerveau/machine. Tout ceci questionne quant à la frontière entre l’Humain et la Machine.
Emilie Gaillard : La question des ruptures anthropologiques est au cœur de notre projet de recherche. Il a consisté à chercher en quoi le transhumanisme et ses ramifications, qui se diffusent de manière systémique et sur tous les fronts, impactent nos catégories juridiques et la manière dont on raisonne en droit car celles-ci sont fondées sur une vision anthropologique de ce qu’est l’Homme. En nous questionnant sur nos catégories juridiques, on peut anticiper les modifications, les mutations, les métamorphoses, les glissements voire les déviances qui peuvent survenir. Notre rôle en tant que chercheuses consiste à être à la fois juridiquement innovatives et à entreprendre une recherche responsable qui bénéficie tout autant à la société et au débat public.
Quelle sont ces ruptures anthropologiques dans les notions fondamentales ?
E. G. : Quand on regarde notre droit, on constate qu’il est anthropocentré et basé sur l’idée que l’humain constitue une unicité, une spécificité qui justifie qu’il soit le seul à être une personne juridique, seule responsable. Le transhumanisme questionne justement ce qu’est un être humain, celui qui peut être « amélioré », si on reprend le terme de ce projet, qui va au-delà de la nature humaine. L’être humain « augmenté » bionique ou autre, est-il encore une personne ? L’IA pourrait-elle être une personne ? L’angle anthropologique nous permet, à nous juristes, d’insister sur les défis qui nous sont lancés. On en revient à la question centrale : qu’est-ce que l’être humain ?
Qu’est-ce qu’un être humain ?
E. G. : C’est une question dangereuse car le fait de donner une définition porte en lui-même les germes de l’exclusion. Par exemple si l’on considère qu’être humain c’est avoir une capacité décisionnelle cela pourrait amener à considérer l’IA comme une personne. Or, il existe en droit, la…
Les doctrines du mois
Règlementation en France et en Europe
Si pour la Commission européenne1 le nouveau cadre règlementaire de l’Union relatif aux drones « accorde aux exploitants une plus grande souplesse de fonctionnement par rapport aux règlementations nationales antérieures », force est de constater que, bien au contraire, l’instauration d’un tel cadre a complexifié le droit applicable à ces opérations. Résumé & panorama des dates clefs de la règlementation des drones civils en France et en Europe.
La jurisprudence évolue et s’affirme
La signature électronique s’impose dans le monde des affaires comme dans la vie civile. Les juges, tout d’abord réticents, l’appréhendent de mieux en mieux. Les professionnels doivent connaître cette jurisprudence pour anticiper leurs moyens de défense et aborder au mieux les litiges.
La blockchain ne peut remplacer le tiers de confiance
Après l’engouement suscité par la blockchain, il s’avère qu’elle n’est pas un moyen idéal de gestion durable et sécurisée des droits de propriété intellectuelle pour six raisons.
« Caméras augmentées » sur le podium olympique : quelles garanties ?
Le projet de loi « relatif aux Jeux olympiques et paralympiques de 2024 » qui autorise l'expérimentation des caméras augmentées dans le cadre des JOP soulève un débat complexe et sensible, qui oppose la sécurité à la liberté et l'innovation à l'éthique.
L’application du principe de minimisation à un média
Comme chaque mois, Alexandre Fievée tente d’apporter des réponses aux questions que tout le monde se pose en matière de protection des données personnelles, en s’appuyant sur les décisions rendues par les autorités nationales de contrôle au niveau européen et les juridictions européennes. Ce mois-ci, il se penche sur la problématique de la licéité de la publication par un média d’un enregistrement audio de la déclaration faite devant un juge par une victime anonyme de viols.
Tous les mois, toute l'actualité du numérique... Et tellement plus !
FORMULES D'ABONNEMENT
- + Les alertes d’actualité de legalis.net, avec des présentations
de décisions de justice en exclusivité
- + Le carnet MOLESKINE série limitée « EXPERTISES », au format 13*21cm, disponible exclusivement pour nos abonnés