Expertises
Droit, technologies & prospectives

interview / Yannick Meneceur

IA en procès

Droit, technologies & prospectives

Tous les mois, toute l'actualité du numérique... Et tellement plus !

Nos derniers numéros

EXPERTISES N°461 - octobre 2020 - IA en procès / Yannick Meneceur
N°461 – octobre 2020
EXPERTISES N°460 - septembre 2020 - Smart city : intérêt général by design / Jacques Priol
N°460 – septembre 2020
EXPERTISES N°459 - juillet 2020 - Transmettre l'immatériel / David Ayache
N°459 – juillet 2020
EXPERTISES N°458 - juin 2020 - Les racines de notre dépendance technologique / Christian HARBULOT
N°458 – juin 2020
EXPERTISES N°457 - mai 2020 - Covid 19 & données personnelles<br>De la défiance à la confiance / Yann Padova” title=”EXPERTISES N°457 – mai 2020 – Covid 19 & données personnelles<br>De la défiance à la confiance / Yann Padova” description=”EXPERTISES N°457 – mai 2020-  Covid 19 & données personnelles<br>De la défiance à la confiance / Yann Padova”></div>
<div class=N°457 – mai 2020
EXPERTISES N°456 - avril 2020 - Pour l’ouverture<br>des données privées / Laurent Lafaye” title=”EXPERTISES N°456 – avril 2020 – Pour l’ouverture<br>des données privées / Laurent Lafaye” description=”EXPERTISES N°456 – avril 2020-  Pour l’ouverture<br>des données privées / Laurent Lafaye”></div>
<div class=N°456 – avril 2020
EXPERTISES N°455 - mars 2020 - Profilage :<br> pratiques & parades / Cédric Lauradoux” title=”EXPERTISES N°455 – mars 2020 – Profilage :<br> pratiques & parades / Cédric Lauradoux” description=”EXPERTISES N°455 – mars 2020-  Profilage :<br> pratiques & parades / Cédric Lauradoux”></div>
<div class=N°455 – mars 2020
EXPERTISES N°454 - février 2020 - La robustesse de<br>la PI face A l’IA / Franck Macrez” title=”EXPERTISES N°454 – février 2020 – La robustesse de<br>la PI face A l’IA / Franck Macrez” description=”EXPERTISES N°454 – février 2020-  La robustesse de<br>la PI face A l’IA / Franck Macrez”></div>
<div class=N°454 – février 2020
EXPERTISES N°453 - janvier 2020 - RGPD : une révolution dans la continuité / Ariane MOLE
N°453 – janvier 2020
EXPERTISES N°452 - décembre 2019 - le droit de<br>la compliance<br>pour réguler l’internet / Marie-Anne Frison-Roche” title=”EXPERTISES N°452 – décembre 2019 – le droit de<br>la compliance<br>pour réguler l’internet / Marie-Anne Frison-Roche” description=”EXPERTISES N°452 – décembre 2019-  le droit de<br>la compliance<br>pour réguler l’internet / Marie-Anne Frison-Roche”></div>
<div class=N°452 – décembre 2019
EXPERTISES N°451 - novembre 2019 - Data brokers :</br>le trou noir</br>des données personnelles / Antoine Dubus” title=”EXPERTISES N°451 – novembre 2019 – Data brokers :</br>le trou noir</br>des données personnelles / Antoine Dubus” description=”EXPERTISES N°451 – novembre 2019-  Data brokers :</br>le trou noir</br>des données personnelles / Antoine Dubus”></div>
<div class=N°451 – novembre 2019
EXPERTISES N°450 - octobre 2019 - Numérique :<br>le défi fiscal / Frédéric Douet” title=”EXPERTISES N°450 – octobre 2019 – Numérique :<br>le défi fiscal / Frédéric Douet” description=”EXPERTISES N°450 – octobre 2019-  Numérique :<br>le défi fiscal / Frédéric Douet”></div>
<div class=N°450 – octobre 2019
EXPERTISES N°449 - septembre 2019 - L'impérialisme<br>juridique / Olivier de Maison Rouge” title=”EXPERTISES N°449 – septembre 2019 – L’impérialisme<br>juridique / Olivier de Maison Rouge” description=”EXPERTISES N°449 – septembre 2019-  L’impérialisme<br>juridique / Olivier de Maison Rouge”></div>
<div class=N°449 – septembre 2019
EXPERTISES N°448 - juillet 2019 - DPO : un métier<br>qui s’installe / Paul Olivier Gibert” title=”EXPERTISES N°448 – juillet 2019 – DPO : un métier<br>qui s’installe / Paul Olivier Gibert” description=”EXPERTISES N°448 – juillet 2019-  DPO : un métier<br>qui s’installe / Paul Olivier Gibert”></div>
<div class=N°448 – juillet 2019
EXPERTISES N°447 - juin 2019 - Le RGPD : du droit sans vision stratégique / Julien Nocetti
N°447 – juin 2019
EXPERTISES N°446 - mai 2019 - IGN : la gratuitE des données en question / Marie Pisan
N°446 – mai 2019
EXPERTISES N°445 - avril 2019 - Nom de domaine un actif et des risques / Nathalie Dreyfus
N°445 – avril 2019
EXPERTISES N°444 - mars 2019 - Les logiciels libres, un modèle mature / Benjamin Jean
N°444 – mars 2019
EXPERTISES N°443 - février 2019 - Résister à la gouvernance algorithmique / François Pellegrini
N°443 – février 2019
EXPERTISES N°442 - janvier 2019 - Anticiper sa survie numérique au-delà de sa mort / Mathieu Fontaine
N°442 – janvier 2019
EXPERTISES N°441 - décembre 2018 - Intelligence artificielle et médecine quelle éthique pour demain ? / David Gruson
N°441 – décembre 2018
EXPERTISES N°440 - novembre 2018 - Blockchain AS A SERVICE Démocratisation de la blockchain ? / Marc-Antoine Ledieu
N°440 – novembre 2018
EXPERTISES N°439 - octobre 2018 - Nathalie Nevejans / Nathalie Nevejans
N°439 – octobre 2018
EXPERTISES N°438 - septembre 2018 - Pour la médiation judiciaire en  propriété  intellectuelle / Françoise Barutel Naulleau
N°438 – septembre 2018
EXPERTISES N°437 - juillet 2018 - Science-fiction : quand l’imaginaire devient source de droit / Fabrice Defferrard
N°437 – juillet 2018
EXPERTISES N°436 - juin 2018 - CONTRATS, Accès indirects & coûts cachés : SAP BRISE LA GLACE AVEC Ses utilisateurs / Gianmaria Perancin
N°436 – juin 2018
EXPERTISES N°435 - mai 2018 - L’innovation prédatrice Un nouveau défi pour le droit de la concurrence / Thibault Schrepel
N°435 – mai 2018
EXPERTISES N°434 - avril 2018 - LES données LA NOUVELLE INGENIéRIE  DU POUVOIR / Adrien Basdevant
N°434 – avril 2018
EXPERTISES N°433 - mars 2018 - L’open data de la jurisprudence : Le casse-tête de l’anonymisation / Loïc Cadiet
N°433 – mars 2018
EXPERTISES N°432 - février 2018 - RGPD : vers un futur standard global / Max Schrems
N°432 – février 2018
EXPERTISES N°431 - janvier 2018 - L’angoisse du RGPD la Cnil rassure / Jean Lessi
N°431 – janvier 2018
EXPERTISES des systèmes d’informationoctobre 2020 – N°461

L'édito du mois

Amish

«J’entends beaucoup de voix qui s’élèvent pour expliquer qu’il nous faudrait relever la complexité des problèmes contemporains en revenant à la lampe à huile. Je ne crois pas au modèle amish, et je ne crois pas que le modèle amish permette de régler les défis de l’écologie contemporaine »,
a déclaré le Président de la République le 14 septembre dernier, à des entrepreneurs du numérique réunis à l’Elysée, en réponse aux 70 élus de gauche et écologiques qui demandaient un moratoire sur le déploiement de la 5G.

Convoqués par Emmanuel Macron pour discréditer ses adversaires, les Amishs, méfiants à l’égard des technologies, ont curieusement une leçon à nous donner : celle du débat public. Cette communauté religieuse américaine, fermée sur elle-même, a en effet instauré un dialogue permanent avec ses membres à l’occasion d’éventuelles introductions de nouvelles techniques, dans le but de préserver l’ordre social et les grands principes directeurs. C’est ainsi qu’ils se sont prononcés contre le téléphone personnel, la télévision ou l’internet mais pour les réfrigérateurs ou la vente de leur production en ligne, par le truchement d’intermédiaires.

Les Amishs ont trouvé un moyen de fonctionner avec leurs valeurs, en en débattant publiquement. Ce que nous ne savons pas faire. Les technologies transforment en profondeur les fondements de notre société sans que jamais elles ne soient soumises à une vraie discussion démocratique conduisant à une décision politique. On a essayé avec la 5G, mais ça n’a pas marché. Ce moratoire demandé par les 70 élus figurait pourtant dans la liste des demandes de la Convention citoyenne pour le climat auxquelles le Président de la République avait promis de souscrire.

Bien sûr, la 5G s’annonce comme un levier de croissance dont on a plus que besoin aujourd’hui et elle comporte de nombreuses promesses de progrès. Mais elle va aussi permettre d’édifier une société totalement numérique. Face à la perspective d’une telle évolution, doit-on pour autant faire taire les craintes et les réticences ? Doit-on précipiter sa mise en place ? Dans une période de défiance à l’égard du personnel politique et des experts, la décision unilatérale du Président de la République ne risque-t-elle pas de cristalliser les oppositions, de favoriser une situation de rejet, comme celle à laquelle on assiste pour les vaccins ? La défiance gagne aussi les édiles agacés par les choix imposés d’en haut, de manière verticale, sans réelle concertation avec les élus ni consultation des citoyens. Les maires inquiets face aux incertitudes sanitaires et écologiques pourraient bloquer le déploiement d’antennes dans leurs communes.

Entre les nécessités économiques et notre indépendance géo-politique, avons-nous encore le choix de dire non ? Laissez croire qu’on n’y peut rien pourrait cependant être délétère pour notre société. C’est pourquoi le dialogue et la concertation sont salutaires. Affirmer la nécessité d’un débat démocratique sur une technologie qui impacte la société est une chose, savoir comment l’organiser en est une autre. Surtout dans un pays où le compromis et le dialogue n’est pas inscrit dans sa culture.

Le focus du mois

Données personnelles

Facebook / Max Schrems : une histoire sans fin

L’arrêt Schrems II qui a invalidé le Privacy Shield n’a pas mis un point final à cette affaire. Alors que l’autorité de contrôle irlandaise envisage de suspendre les transferts transatlantiques de données de Facebook, le réseau social a intenté un recours contre ce projet de décision. Un contentieux qui risque de durer.

Si la CJUE a ouvert la boîte de Pandore, aucun cataclysme n’est encore survenu. Les transferts transatlantiques de données personnelles continuent mais les entreprises sont à la merci des régulateurs. La DPC (Data Protection Commission), la Cnil irlandaise, a ouvert les hostilités en avertissant Facebook de son projet d’ordonnance préliminaire en vue de la suspension des flux de données entre l’Europe et les Etats-Unis. Sans surprise, le réseau social a contrattaqué devant la high court irlandaise qui l’a autorisé à déposer un recours contre la DPC et a gelé la procédure en cours. Par ailleurs, le Commission a ouvert une nouvelle enquête sur l’utilisation des clauses contractuelles types par Facebook. Et dans le même temps Facebook a annoncé qu’il s’appuyait désormais sur un autre fondement juridique pour ces transferts. Dans ce contexte incertain où aucun mécanisme sûr ne permet de garantir un transfert adéquat de données, les entreprises américaines et européennes sont inquiètes. Dans un communiqué commun, l’Asic, le Syntec Informatique et Tech In France ont appelé, le 25 septembre dernier, les autorités de contrôle nationales et la Commission européenne à trouver une solution pérenne. Les entreprises ont, en effet, horreur de l’incertitude.

Plus personne n’ignore la censure du Privacy Shield par l’arrêt du 16 juillet 2020 de la CJUE. On se souvient aussi que la Cour n’avait pas remis en cause la validité des clauses contractuelles types de la Commission européenne. La Cour avait toutefois jugé qu’« à moins qu’il existe une décision d’adéquation valablement adoptée par la Commission, l’autorité de contrôle compétente est tenue de suspendre ou d’interdire un transfert de données vers un pays tiers fondé sur des clauses types de protection des données adoptées par la Commission, lorsque cette autorité de contrôle considère, à la lumière de l’ensemble des circonstances propres à ce transfert, que ces clauses ne sont pas ou ne peuvent pas être respectées dans ce pays tiers et que la protection des données transférées requise par le droit de l’Union ». Facebook avait justement recouru à ce mécanisme contractuel pour fonder ces transferts. Et c’est fort logiquement que l’autorité de contrôle irlandaise a engagé un processus l’emmenant à ordonner la suspension des transferts entre l’Europe et les Etats-Unis puisque le réseau social est susceptible de communiquer aux autorités américaines des données de personnes se trouvant dans l’UE, en vertu de la section 702 de la loi Fisa ou d’un executive order 12 333. Le 28 août 2020, la DPC a envoyé à Facebook son projet d’ordonnance préliminaire lui signifiant ses griefs et lui laissant 21 jours pour justifier du caractère adéquat de ses clauses contractuelles types au droit communautaire.

Facebook a immédiatement réagi en se tournant vers la justice irlandaise pour un contrôle judiciaire avant que la décision finale ne soit rendue. Dans un affidavit, une déclaration sous serment de 22 pages transmise à la cour irlandaise le 10 septembre dernier, Yvonne Cunnane, responsable de la protection des données de Facebook Irlande, a listé les griefs contre l’autorité de contrôle. Elle a indiqué que les mesures correctives préconisées auraient un effet contraire significatif sur les affaires et les utilisateurs. Elle a indiqué qu’en cas d’interdiction de transfert de données, elle ne voyait pas comment poursuivre les activités de Facebook et d’Instagram en Europe. Elle a également soulevé le fait que le réseau social était la seule entreprise visée par la DPC alors que l’arrêt de la CJUE concerne toutes celles qui opèrent des flux de données entre l’UE et les Etats-Unis. Enfin, elle a dénoncé les trop courts délais de réponse accordés à Facebook par la DPC. En conséquence, le réseau estime avoir fait l’objet d’un traitement déloyal et disproportionné. La cour a entendu ces arguments et a « gelé » l’action de la DPC jusqu’à une décision attendue vers le mois de novembre.

Parallèlement, la Commission irlandaise a écrit à Max Schrems, l’auteur de la plainte contre Facebook, le 31 août 2020, le prévenant qu’elle ouvrait une enquête sur cette affaire sur le recours de Facebook aux clauses contractuelles types. Ce qui a énervé Max Schrems qui lui a répondu, le 7 septembre, qu’il ne voyait pas l’intérêt d’une nouvelle enquête qui ne pouvait que retarder d’autant la résolution du litige. La clôture de l’affaire risque d’être également retardée par la soumission du cas au mécanisme de contrôle de la cohérence entre les autorités figurant à l’article 63 du RGPD.

Entre temps, Facebook a annoncé qu’il n’utilisait plus la base légale des clauses contractuelles types pour ces flux transatlantiques. Il invoque désormais la nécessité d’externaliser le traitement des données aux Etats-Unis dans le cadre d’un contrat avec les utilisateurs, en vertu de l’article 49 du RGPD. Reste à savoir si cette exception peut constituer une base légale de manière permanente. La CJUE pourrait, une fois de plus, être amenée à se prononcer.

De son côté, Max Schrems a l’intention de déposer une « injonction interlocutoire » afin de s’assurer que la DPC prenne une décision sur toutes les bases légales du litige : les clauses contractuelles types et le présumé contrat entre le réseau social et les utilisateurs.

Autant dire qu’on n’a pas fini d’entendre parler de ce contentieux fleuve. Et Max Schrems n’est pas près de changer de carrière professionnelle, comme il nous avait dit le souhaiter dans une interview qu’il nous avait accordée en janvier 2018 (voir Exp. n° 432, p. 58).

par Sylvie Rozenfeld

L'invité du mois

Interview / Yannick Meneceur

par Sylvie Rozenfeld

IA en procès

Yannick Meneceur, magistrat, ancien cadre informatique à Bercy, actuellement au Conseil de l’Europe, affecté en tant que conseiller en transformation numérique et en intelligence artificielle, vient de publier un livre intitulé « L’intelligence artificielle en procès ». Contrairement à ce que son titre laisse entendre, il ne fait pas le procès de cette technologie, il nous livre plutôt un dossier d’instruction sous un angle technique, politique et juridique pour que nous puissions être éclairés sur ses enjeux, ses apports, ses limites. Pour Expertises, il se penche plus particulièrement sur les fausses promesses et les dangers de la justice prédictive, l’open data des décisions de justice et la question sensible de l’anonymat des magistrats. Il aborde aussi la problématique de la régulation de l’IA. Il nous rappelle que le droit peut appréhender la plupart des questions et apporter une réponse. Seulement, cette technologie globale appelle une réponse globale et cohérente au niveau mondial. Il fait le point de l’état des travaux qui sont menés au niveau européen et international.

Sylvie ROZENFELD : Vous êtes magistrat de l’ordre judiciaire, détaché au Conseil de l’Europe, affecté en tant que conseiller en transformation numérique et en intelligence artificielle (*). Vous êtes l’auteur du livre « L’intelligence artificielle en procès », l’ouvrage d’un technophile qui a voulu poser les termes du débat qui consiste à démythifier l’IA, à évaluer ses risques et ses dangers et envisager une réponse juridique.
Vous vous dites « geek », vous avez toujours été fasciné par l’informatique que vous utilisez depuis l’enfance. Et pourtant, comme beaucoup d’autres technophiles, vous commencer à craindre cette transformation en profondeur de la société par le numérique. Faut-il craindre l’IA ?

Yannick Meneceur : J’ai intitulé ce livre « l’intelligence artificielle en procès », non pas pour en faire le procès, sous la forme de réquisitions en bon ancien magistrat que je suis, mais plutôt comme un juge d’instruction, fonction à laquelle j’ai été également formé et qui consiste à instruire à charge et à décharge. J’ai souhaité documenter le sujet de manière approfondie et dépasser les poncifs, avec mon expérience. J’ai eu mon premier ordinateur très jeune. J’ai aussi programmé. Tout cela m’a aidé à comprendre ce que sont les paramètres, les variables, comment un ordinateur, de manière binaire, va traiter les données. J’ai toujours utilisé mes deux compétences de front. J’ai commencé par exercer des fonctions de greffier, j’ai ensuite été attaché d’administration centrale à Bercy où j’ai été responsable informatique d’un service à la direction du budget puis j’ai passé le concours de l’Ecole nationale de la magistrature. Tout ça pour dire que du fait de ma compréhension de l’informatique, je constate que cette traduction de la réalité comporte toujours un peu d’arbitraire. Certains phénomènes sont quantifiables, ils sont blancs ou noirs. Mais dans les sciences sociales, il y a une part de subjectivité ou d’interprétation d’une situation difficile à mettre en paramètre, sans y embarquer nos propres préjugés.
Quand j’ai vu arriver ces outils qui avaient la prétention d’anticiper ou de prévoir les décisions de justice, j’ai été sceptique. Mais j’ai néanmoins essayé de voir ce qu’il y avait sous la machine et de dépasser ma première impression, ce biais d’ancrage contre lequel l’ENM nous apprend à nous méfier. Malheureusement ma première impression a été confirmée. Dans un article de 2016, des chercheurs de l’University College London, ont essayé de montrer qu’ils pouvaient anticiper les décisions des juges de la Cour européenne des droits de l’homme à 79 % : un article très accrocheur qui conclut quasiment à l’obsolescence du juge. En creusant l’article, on constate qu’ils ont suivi une approche statistique en dénombrant des familles de mots : certains termes se trouvent ainsi plus souvent liés à des violations ou à des non-violations, mais on est bien loin de restituer un raisonnement juridique.

Ce qui est à craindre est la manière dont on se saisit de ces technologies en les faisant entrer dans certaines représentations : croire que la technologie est nécessairement synonyme de progrès sans prendre en compte le progrès social, les conditions de vie, les relations humaines, etc. Les technologies peuvent également être une source d’asservissement et d’emprise. Avoir une représentation de la société purement informatique, procède d’une vision très simplifiée dont les mécanismes purement logiques rendent inconcevables certaines options, contrairement à la vraie vie.

Ne sommes-nous pas leurrés par cette promesse de l’IA judiciaire, comme outil prédictif alors que ces applications sont fondées sur des statistiques, donc sur le passé ?
Cela n’arrive pas sur un terrain vierge. La justice fait face à une augmentation des contentieux dans quasiment l’ensemble des pays européens. Or, les moyens ne suivent pas. Cela fait longtemps qu’on s’intéresse à l’informatique pour rendre plus efficiente la justice. Pour répondre à cette problématique de moyens, on souhaite sortir les contentieux des tribunaux. Plutôt que de se doter de plus de juges et de greffiers, on veut davantage être en amont des contentieux en offrant différents types de réponses. En matière civile, on propose des médiations ou des conciliations pour désengorger les tribunaux, ce qui peut tout à fait offrir une meilleure réponse à un litige. Mais là, l’idée est de diriger des justiciables vers ces modes de résolutions alternatifs sur la base d…

Les doctrines du mois

Données personnelles

Health Data Hub et souveraineté des données le Conseil d’Etat recentre le débat

Par Lorraine Maisnier-Boché

La décision du Conseil d’Etat du 19 juin 2020 a rappelé que le Health Data Hub a tenté d’arbitrer au mieux entre ses différents objectifs, dans le respect du cadre juridique existant.

Contrats et RGPD

Difficultés de négociation des contrats au RGPD pour les start-up

Par Maud Jamme et Julie SCHWARTZ

Les difficultés de négociation des contrats au RGPD peuvent être décuplées lorsque les parties sont dans une relation déséquilibrée, en particulier pour les négociations impliquant des start-up en position de faiblesse. Quelles sont les principales difficultés rencontrées par ces start-up et quelles pistes d’amélioration peuvent être envisagées ? Cet article est le sixième d’une série de sept articles consacrés à la problématique contrats et RGPD.

Technologies

Accessibilité numérique : vers de nouvelles contraintes pour les entreprises ?

Par Joseph ATIAS et Guillaume FLAMBARD

L’accessibilité numérique apparaît comme une nécessité grandissante. Dans un récent rapport remis le 5 février 2020 à la secrétaire d’Etat chargée des Personnes handicapées, ainsi qu’au secrétaire d’État chargé du Numérique1, le Conseil national du Numérique (CNNum) a présenté les résultats de l’étude des différents scénarios d’amélioration de l’accessibilité numérique. Celle-ci a été conduite dans la perspective de la Conférence nationale du handicap (CNH) du 11 février 2020.

Expertises : Droit, technologies & prospectives

Tous les mois, toute l'actualité du numérique... Et tellement plus !

FORMULES D'ABONNEMENT

EXPERTISES N°440
EXPERTISES N°459
EXPERTISES N°447
EXPERTISES N°444
EXPERTISES N°441
EXPERTISES N°441
  • + Les alertes d’actualité de legalis.net, avec des présentations
    de décisions de justice en exclusivité
  • + Le carnet MOLESKINE série limitée « EXPERTISES », au format 13*21cm, disponible exclusivement  pour nos abonnés