Expertises
Droit, technologies & prospectives

interview / Franck Macrez

La robustesse de
la PI face A l’IA

Droit, technologies & prospectives

Tous les mois, toute l'actualité du numérique... Et tellement plus !

Nos derniers numéros

EXPERTISES N°454 - février 2020 - La robustesse de<br>la PI face A l’IA / Franck Macrez” title=”EXPERTISES N°454 – février 2020 – La robustesse de<br>la PI face A l’IA / Franck Macrez” description=”EXPERTISES N°454 – février 2020-  La robustesse de<br>la PI face A l’IA / Franck Macrez”></div>
<div class=N°454 – février 2020
EXPERTISES N°453 - janvier 2020 - RGPD : une révolution dans la continuité / Ariane MOLE
N°453 – janvier 2020
EXPERTISES N°452 - décembre 2019 - le droit de<br>la compliance<br>pour réguler l’internet / Marie-Anne Frison-Roche” title=”EXPERTISES N°452 – décembre 2019 – le droit de<br>la compliance<br>pour réguler l’internet / Marie-Anne Frison-Roche” description=”EXPERTISES N°452 – décembre 2019-  le droit de<br>la compliance<br>pour réguler l’internet / Marie-Anne Frison-Roche”></div>
<div class=N°452 – décembre 2019
EXPERTISES N°451 - novembre 2019 - Data brokers :</br>le trou noir</br>des données personnelles / Antoine Dubus” title=”EXPERTISES N°451 – novembre 2019 – Data brokers :</br>le trou noir</br>des données personnelles / Antoine Dubus” description=”EXPERTISES N°451 – novembre 2019-  Data brokers :</br>le trou noir</br>des données personnelles / Antoine Dubus”></div>
<div class=N°451 – novembre 2019
EXPERTISES N°450 - octobre 2019 - Numérique :<br>le défi fiscal / Frédéric Douet” title=”EXPERTISES N°450 – octobre 2019 – Numérique :<br>le défi fiscal / Frédéric Douet” description=”EXPERTISES N°450 – octobre 2019-  Numérique :<br>le défi fiscal / Frédéric Douet”></div>
<div class=N°450 – octobre 2019
EXPERTISES N°449 - septembre 2019 - L'impérialisme<br>juridique / Olivier de Maison Rouge” title=”EXPERTISES N°449 – septembre 2019 – L’impérialisme<br>juridique / Olivier de Maison Rouge” description=”EXPERTISES N°449 – septembre 2019-  L’impérialisme<br>juridique / Olivier de Maison Rouge”></div>
<div class=N°449 – septembre 2019
EXPERTISES N°448 - juillet 2019 - DPO : un métier<br>qui s’installe / Paul Olivier Gibert” title=”EXPERTISES N°448 – juillet 2019 – DPO : un métier<br>qui s’installe / Paul Olivier Gibert” description=”EXPERTISES N°448 – juillet 2019-  DPO : un métier<br>qui s’installe / Paul Olivier Gibert”></div>
<div class=N°448 – juillet 2019
EXPERTISES N°447 - juin 2019 - Le RGPD : du droit sans vision stratégique / Julien Nocetti
N°447 – juin 2019
EXPERTISES N°446 - mai 2019 - IGN : la gratuitE des données en question / Marie Pisan
N°446 – mai 2019
EXPERTISES N°445 - avril 2019 - Nom de domaine un actif et des risques / Nathalie Dreyfus
N°445 – avril 2019
EXPERTISES N°444 - mars 2019 - Les logiciels libres, un modèle mature / Benjamin Jean
N°444 – mars 2019
EXPERTISES N°443 - février 2019 - Résister à la gouvernance algorithmique / François Pellegrini
N°443 – février 2019
EXPERTISES N°442 - janvier 2019 - Anticiper sa survie numérique au-delà de sa mort / Mathieu Fontaine
N°442 – janvier 2019
EXPERTISES N°441 - décembre 2018 - Intelligence artificielle et médecine quelle éthique pour demain ? / David Gruson
N°441 – décembre 2018
EXPERTISES N°440 - novembre 2018 - Blockchain AS A SERVICE Démocratisation de la blockchain ? / Marc-Antoine Ledieu
N°440 – novembre 2018
EXPERTISES N°439 - octobre 2018 - Nathalie Nevejans / Nathalie Nevejans
N°439 – octobre 2018
EXPERTISES N°438 - septembre 2018 - Pour la médiation judiciaire en  propriété  intellectuelle / Françoise Barutel Naulleau
N°438 – septembre 2018
EXPERTISES N°437 - juillet 2018 - Science-fiction : quand l’imaginaire devient source de droit / Fabrice Defferrard
N°437 – juillet 2018
EXPERTISES N°436 - juin 2018 - CONTRATS, Accès indirects & coûts cachés : SAP BRISE LA GLACE AVEC Ses utilisateurs / Gianmaria Perancin
N°436 – juin 2018
EXPERTISES N°435 - mai 2018 - L’innovation prédatrice Un nouveau défi pour le droit de la concurrence / Thibault Schrepel
N°435 – mai 2018
EXPERTISES N°434 - avril 2018 - LES données LA NOUVELLE INGENIéRIE  DU POUVOIR / Adrien Basdevant
N°434 – avril 2018
EXPERTISES N°433 - mars 2018 - L’open data de la jurisprudence : Le casse-tête de l’anonymisation / Loïc Cadiet
N°433 – mars 2018
EXPERTISES N°432 - février 2018 - RGPD : vers un futur standard global / Max Schrems
N°432 – février 2018
EXPERTISES N°431 - janvier 2018 - L’angoisse du RGPD la Cnil rassure / Jean Lessi
N°431 – janvier 2018
EXPERTISES des systèmes d’informationfévrier 2020 – N°454

L'édito du mois

Open space

La nouvelle décennie qui s’amorce sera, sans conteste, celle d’un nouvel âge spatial, du new space. Début janvier, SpaceX, propriété d’Elon Musk, a envoyé 60 satellites rejoindre les 120 qui tournent déjà autour de la Terre. D’autres lancements sont prévus cette année pour parachever son projet de constellation de satellites Starlink destiné à offrir au monde le wifi de l’espace, une connectivité à haut débit et bon marché. Virgin Orbit, du milliardaire britannique Richard Branson, prévoit le lancement orbital de LauncherOne pour le début 2020, destiné à déployer des petits satellites depuis l’espace. Blue Origin, du patron d’Amazon Jeff Bezos, projette d’envoyer son lanceur lourd New Glenn en 2021. A cela s’ajoute une myriade de start up prêtes à se lancer dans la conquête commerciale de l’espace.

Qui aurait pu imaginer dans les années 60 que l’exploration et exploitation spatiales seraient à la portée d’entreprises privées, cinquante ans plus tard seulement ? Le traité de l’espace de 1967, signé par une centaine d’Etats, a été rédigé dans le contexte de la guerre froide, à une époque où seuls les Etats avaient les moyens d’envoyer des engins dans l’espace. Aujourd’hui, la rivalité des Etats s’estompe au profit d’une concurrence économique dont le cadre juridique reste très flou.

Le droit spatial n’a pas prévu le cas de la régulation de l’exploitation des ressources naturelles. L’espace y est sanctuarisé, en tant qu’ : « apanage de l’humanité tout entière ». L’article 2 du traité de 1967 prévoit que « l’espace extra-atmosphérique, y compris la Lune et les autres corps célestes, ne peut faire l’objet d’appropriation nationale par proclamation de souveraineté, ni par voie d’utilisation ou d’occupation, ni par aucun autre moyen ». Or, une loi américaine de novembre 2015, le Space Act, dispose que les « citoyens américains peuvent entreprendre l’exploration et l’exploitation commerciales des « ressources spatiales ». De même, la loi luxembourgeoise du 20 juillet 2017 autorise les sociétés basées sur son territoire à exploiter les ressources de l’espace. Par ailleurs, se pose un problème de frontières. Le traité de 1967 ne définit pas l’espace extra-atmosphérique. Or, il existe une zone grise entre 80 et 130 kms au-dessus du niveau de la mer, car on se sait pas établir où commence l’espace. Pour l’instant, les Etats semblent préférer conserver ce flou juridique. Les rédacteurs du droit spatial n’ont pas davantage anticipé les problèmes provoqués par le trafic satellitaire. Quid de la responsabilité en cas de collision ? Quid de la pollution des débris spatiaux ?

Encore une fois, le droit est confronté à de nouveaux défis, des situations inconnues. La France, en tant qu’acteur spatial majeur, dispose de toutes les cartes pour s’imposer dans ce débat à venir. Dans le rapport « Chocs du futurs », elle avait identifié la nécessité de réécrire un droit spatial pour réaffirmer le fait que l’espace est un bien commun. On s’inquiète aujourd’hui de souveraineté numérique, on va devoir se préoccuper de conserver sa souveraineté spatiale.

Le focus du mois

Intelligence artificielle

Ethique / réglementation : bataille transatlantique

Alors que la Maison Blanche vient de publier un mémorandum qui appelle à limiter la réglementation pour ne pas freiner l’innovation, l’Europe s’oriente vers un cadre contraignant, protecteur de la société et des personnes.

Ethique contre réglementation. Mais aussi liberté contre protection. Tels sont les enjeux d’une nouvelle bataille qui oppose Américains et Européens sur l’intelligence artificielle. Les entreprises technologiques d’outre-Atlantique qui militent depuis quelques années pour l’éthique comme mode de régulation de l’IA ont su se faire entendre de l’administration Trump. Le 7 janvier dernier, Washington publiait un mémorandum appelant à une réglementation souple en la matière.

De l’autre côté de l’océan, l’Europe s’oriente plutôt vers un cadre contraignant. Le 19 février 2020, la Commission européenne présente son livre blanc dans lequel elle préconise une réglementation ferme. L’Europe a, semble-t-il, perdu la bataille économique de l’IA, menée par la Chine et les Etats-Unis. Il lui reste l’arme du droit. Une arme de soft power, qui a fait ses preuves avec le RGPD.

Le 20 janvier 2020, Sundar Pichaï, le patron de Google et d’Alphabet, s’est rendu à Bruxelles à l’invitation du club de réflexion pro-européen Bruegel, dirigé par Jean-Claude Trichet, pour parler d’intelligence artificielle. Il y a appelé l’Europe à opter pour une « réglementation judicieuse » qui suit une approche « proportionnée » de façon à ne pas bloquer l’innovation, de façon à trouver un équilibre entre prévention des risques potentiels et encouragement des opportunités au niveau social. « La question n’est pas de savoir s’il faut réguler, mais comment », a-t-il ajouté intelligemment, montrant qu’il n’est pas totalement fermé à une régulation, du moment qu’elle va dans le bon sens. Il devait ensuite rencontrer Frans Timmermans, commissaire européen en charge de l’Environnement, et Margrethe Vestager, en charge de l’Economie numérique et de la Concurrence.

Deux semaines auparavant, la Maison Blanche publiait un mémorandum comportant les dix principes qui devraient régir le développement et l’utilisation de l’IA. Dans ce texte, soumis à consultation pendant 90 jours, il est demandé aux autorités fédérales « d’effectuer une évaluation des risques et une analyse coûts-avantages avant toute action réglementaire sur l’IA mettant l’accent sur des cadres flexibles ». Plutôt qu’un cadre juridique trop strict, « la meilleure manière de contrer les utilisateurs autoritaires de l’IA est de s’assurer que les Etats-Unis et ses partenaires internationaux restent des plaques tournantes mondiales de l’innovation, faisant progresser la technologies conformément à nos valeurs », a expliqué Michael Kratsios, conseiller de Donald Trump pour les nouvelles technologies. Il a ajouté que « l’Europe et nos alliés devraient éviter les modèles destructeurs de l’innovation » et les encourage à s’inspirer des dix principes américains.

Les Big Tech ne sont pas pour rien dans cette position non interventionniste de Washington. Depuis quelques années, les géants du numérique infusent un discours d’une IA éthique, préférée à une réglementation empêcheuse d’innover. Une vaste opération de lobbying a été menée au niveau académique, destinée à légitimer leur position pour un cadre souple et non contraignant. Beaucoup d’universités et d’instituts reçoivent des soutiens financiers des géants du numérique et des experts académiques participent aux travaux des comités d’éthiques que les géants du numérique ont mis en place. Les publications académiques pour une IA éthique sont de plus en plus importantes. Parallèlement, Microsoft a publié en janvier 2018 ses « principes éthiques » pour l’IA. En mai, Facebook a annoncé ses « engagements pour un développement et un déploiement éthique de l’IA ». En juin suivant, c’était au tour de Google de proposer ses « pratiques responsables » pour la recherche et le développement en IA.

Du côté européen, on s’intéresse aussi aux questions éthiques. Le 8 avril 2019, l ‘Union européenne a publié des lignes directrices pour le développement d’une IA éthique, aboutissement des travaux d’un groupe d’une cinquantaine d’experts. Le philosophe et éthicien allemand Thomas Metzinger, qui a participé à ce groupe de travail, s’est exprimé de façon très critique sur ces lignes directrices jugées tièdes, court-termistes et vagues. Selon lui, « l’industrie organise et entretient des débats éthiques pour gagner du temps – distraire le public et empêcher ou du moins de retarder l’efficacité de la réglementation et de l’élaboration des politiques ». L’éthique apparaît donc comme une alternative à la régulation ou un substitut à la loi alors qu’elle devrait se matérialiser par des dispositions concrètes destinées à protéger la société et les personnes, à l’instar du RGPD.

Si ces lignes directrices constituent le texte le plus abouti au monde sur la question, elles ne paraissent pas à même de procurer un cadre protecteur. D’ailleurs, le 19 février prochain, la Commission européenne rend publiques ses propositions pour développer une approche réglementaire dans l’UE sur l’intelligence artificielle. Le but est de proposer des règles pour un usage de cette technologie, respectueux de nos valeurs européennes, notamment sur la protection de la vie privée. Cinq options sont proposées. La première porte sur une labellisation volontaire qui donnerait un cadre aux développeurs pour une IA éthique et fiable. Le respect de normes permettrait d’obtenir un label d’une IA digne de confiance. La seconde option a trait à l’utilisation de l’IA par les pouvoirs publics et notamment la reconnaissance faciale que la Commission envisage d’interdire pendant 3 à 5 ans. Dans la troisième option, elle se concentre sur les secteurs sensibles pour lesquels elle envisage une réglementation contraignante. Cela concernerait des secteurs potentiellement à haut risque, tels que la santé, les transports, la police et la justice, et qui sont susceptibles d’exposer les personnes à un risque important de dommages corporels ou matériels. La quatrième option couvre les questions de sécurité et de responsabilité. La Commission suggère des modifications ciblées de certaines législations européennes, notamment la directive sur la sécurité générale des produits, celle sur les machines, sur les équipements radio ou celle sur la responsabilité du fait des produits. Des précisions pourraient être apportées sur la responsabilité des développeurs d’IA, à distinguer de celle des producteurs de produits. Enfin, le cinquième point porte sur la gouvernance avec un système de supervision du secteur public.

S’il existe une vraie divergence de vue entre les Etats-Unis et l’Europe sur la manière de réguler l’IA, les deux blocs ne sont pas complètement étanches. L’Europe a ses partisans de l’éthique. Mais une règlementation de l’IA n’est pas exclue du débat aux Etats-Unis. Elle a, par exemple, les faveurs des démocrates qui ont présenté au Sénat, en avril dernier, le projet de loi Algorithmic Accountability Act qui envisage de réguler les algorithmes des grandes entreprises qui font plus de 50 millions de dollars de profit par an ou dont les systèmes sont susceptibles d’impacter plus d’un million de personnes. Il prévoit une obligation d’évaluation des biais de leur système et un pouvoir de contrôle et hhde sanction de la Federal Trade Commission. Porté par les Démocrates, il n’a cependant aucune chance d’être adopté par un Sénat dominé par les Républicains.

par Sylvie Rozenfeld

L'invité du mois

Interview / Franck Macrez

par Sylvie Rozenfeld

La robustesse de la PI face à l’IA

L’intelligence artificielle impacte nos économies et nos vies mais aussi la propriété intellectuelle, que ce soit le droit des brevets ou le droit d’auteur. L’Office européen des brevets vient de rejeter une demande de brevet portant sur deux inventions générées par une intelligence artificielle, au motif qu’une machine ne peut pas être inventeur. A l’opposé, un tribunal chinois vient de reconnaître un droit d’auteur sur un article de presse généré automatiquement. Franck Macrez, maître de conférences au Centre d’études internationales de la propriété intellectuelle revient sur les fondements de la propriété intellectuelle pour appréhender les changements provoqués par l’intelligence artificielle.

Sylvie Rozenfeld : L’intelligence artificielle est un sujet incontournable aujourd’hui. Il ne s’agit pas que d’une simple mode mais d’un véritable changement de paradigme qui impacte nos vies et nos économies. Le nombre de brevets liés à l’IA a explosé ces dernières années, les créations générées par ces technologies se multiplient. Consciente que l’IA aura des incidences fortes sur la propriété intellectuelle, l’Organisation mondiale de la propriété intellectuelle a initié une consultation publique afin de réfléchir aux impacts de l’IA sur les brevets, le droit d’auteur, le droit des bases de données et les dessins et modèles en vue d’anticiper les changements à venir et imaginer l’évolution du droit en conséquence.
Franck Macrez, vous êtes maître de conférences au Centre d’études interna-tionales de la propriété intellectuelle de Strasbourg qui organise un séminaire avancé sur “Intelligence artificielle et propriété intellectuelle” dont la 3ème édition se tiendra du 23 au 25 avril et qui vient de créer un Diplôme d’Université (DU) sur le même thème. L’implication d’une IA dans le processus créatif ou inventif n’est pas une nouveauté mais une IA revendiquant une invention en tant qu’inventeur, oui. L’Office européen des brevets vient de rejeter une demande de brevet dont l’inventeur désigné est Dabus, un système intelligent qui a généré deux inventions. L’IA est en train de transformer le concept d’inventeur. Dans ces conditions, une IA peut-elle être un inventeur au sens du droit des brevets ?

Franck Macrez  : Avant de répondre à cette question, il faudrait d’abord définir de quoi l’on parle. Evoquer le terme d’intelligence artificielle, c’est répondre à une question avant qu’elle soit posée : nommer cet objet « intelligence artificielle » présuppose qu’il est intelligent. Or, Yann Le Cun, responsable de la recherche en IA chez Facebook, un des grands spécialistes de la matière, dit lui-même qu’une intelligence artificielle a moins de sens commun qu’un rat. Il s’agit d’un outil, certes d’un genre nouveau, mais encore faut-il déterminer où réside la nouveauté. La question des brevets sur les programmes d’ordinateur, et donc les algorithmes qui les sous-tendent, est assez ancienne. Elle figure déjà dans les travaux préparatoires de la convention de Munich de 1973. On retrouve dans les années 60, jusqu’en 1973, la question de savoir si les logiciels sont brevetables. La convention de Munich va exclure les logiciels de la brevetabilité, un peu par imitation de la position américaine. Les Américains ne l’ont pas inscrit dans une loi mais ont pu changer d’avis, à partir de la moitié des années 80.
Aujourd’hui, la nouveauté réside dans les algorithmes d’apprentissage, je préfère ce terme à celui d’intelligence artificielle, qu’on peut nourrir de données et qui arrivent à apprendre et à prendre des décisions, après apprentissage. La nouvelle problématique repose donc sur cette boîte noire de l’algorithme d’apprentissage. A partir d’un moment, on ne sait pas comment il a fait pour arriver au résultat. Il s’agit d’une vraie rupture technique et paradigmatique. A un logiciel classique, on donne des instructions et il les exécute. A l’algorithme d’apprentissage, on lui apprend des règles, on rentre des données et il va apprendre par lui-même. Il va faire des inférences, des co-occurrences, des probabilités.

Pour en venir à la question sur une IA inventeur, j’ai du mal à concevoir que ce soit l’algorithme qui ait produit tout seul une invention. Il y a toujours de l’humain avant, pendant et après le résultat. Il y a toujours quelqu’un pour appuyer sur le bouton.

Le chercheur qui a créé ce système générateur d’inventions dit qu’il l’a conçu pour qu’il soit souple, instable et créatif.
Oui, mais c’est lui qui l’a créé, qui a sélectionné les données. Si on regarde comment un algorithme d’apprentissage fonctionne, on voit qu’il y a de l’humain à tous les stades. Au départ, des données personnelles ou non sont collectées, elles sont codées puis stockées. Une personne nourrit donc la machine avec ces données. Ensuite, elle va mettre des labels qui consistent à aider l’algorithme à apprendre en lui donnant des types ou typologies. C’est aussi l’action de personnes partout dans le monde qui effectuent leur tâche en micro travail et qui entraînent ainsi la machine. Des choix algorithmiques sont opérés par le système mais une partie a été sélectionnée humainement. Une personne va aussi introduire des paramètres, procéder à des tests puis les valider. Il faut démystifier l’objet, en gardant en tête que ce n’est qu’un outil. Catelijne Mull…

Les doctrines du mois

propriété intellectuelle

Brevetabilité des inventions mises en œuvre par ordinateur

Par Abdelaziz KHATAB

De récents arrêts et décisions de justice révèlent une évolution dans l’appréciation du caractère brevetable des inventions mises en œuvre par ordinateur, sous l’influence des positions prises à l’OEB depuis maintenant un certain temps.

Données personnelles

Le California Consumer Privacy Act : beaucoup de bruit pour rien ?

Par Marc Lempérière

En Californie, une loi sur la protection des données personnelles vient d’entrer en vigueur. Souvent comparée au RGPD, cette loi est en fait d’une portée bien plus limitée, aussi bien dans son champ d’application que dans les droits qu’elle confère aux consommateurs californiens et dans les obligations qu’elle impose aux entreprises dans cet État.

Données personnelles

Health Data Hub hébergé par Microsoft : et le Cloud Act ?

Par Alexandra ITEANU

Si le choix de Microsoft comme hébergeur des données de la plateforme des données de santé Health Data Hub est justifié par ses garanties de sécurité technique et sa structure d’hébergement, il pose des questions par rapport au Cloud Act américain en termes de risque d’ingérences extérieures.

Logiciel

Violations de licences : le droit de la contrefaçon s’applique

Par François-Pierre LANI et Camille ROD

Par un arrêt du 18 décembre 2019, la CJUE rappelle que la violation d’une clause d’un contrat de licence de logiciel, portant sur des droits de propriété intellectuelle du titulaire des droits d’auteur de ce programme, relève de la notion d’atteinte aux droits de propriété intellectuelle.

E-commerce

Le démarchage à l’heure de la transformation digitale

Par Isabelle Renard

A l’heure du numérique, le démarchage peine à trouver ses marques et les règles juridiques afférentes ont du mal à trouver un équilibre entre juste protection du consommateur et praticabilité pour les professionnels.

Expertises : Droit, technologies & prospectives

Tous les mois, toute l'actualité du numérique... Et tellement plus !

FORMULES D'ABONNEMENT

EXPERTISES N°438
EXPERTISES N°435
EXPERTISES N°433
EXPERTISES N°454
EXPERTISES N°453
EXPERTISES N°453
  • + Les alertes d’actualité de legalis.net, avec des présentations
    de décisions de justice en exclusivité
  • + Le carnet MOLESKINE série limitée « EXPERTISES », au format 13*21cm, disponible exclusivement  pour nos abonnés