Expertises
Droit, technologies & prospectives
interview / Murielle POPA-FABRE
UNE IA DE CONFIANCE EST-ELLE POSSIBLE ?
Droit, technologies & prospectives
Tous les mois, toute l'actualité du numérique... Et tellement plus !
Nos derniers numéros
Sommaire
Edito
Focus
En bref
L’information rapide sur le monde du numérique
Magazine
L’information légale et jurisprudentielle du numérique
Interview
Doctrines
La loyauté de l’IA
Limiter les risques d’échec : Avant la contractualisation (1ère partie)
Les recommandations de la cnil en faveur de l’innovation
L’IA générative : quels usages et quels enjeux pour les avocats ?
Logiciels, originalité et contrefaçon : ce que nous apprend la pratique contentieuse récente
Réglementation du numérique à Monaco : Innovation et souveraineté
Nos actes quotidiens sont-ils soumis au RGPD ?
L'édito du mois
UE : sept commissaires pour le numérique
L’Europe perd deux figures phares de la régulation du numérique, Thierry Breton commissaire chargé du Marché intérieur et Margrethe Vestager commissaire chargée de la Concurrence, tous deux bêtes noires des Gafam. Sous la précédente Commission, de nombreux textes innovants ont été adoptés et sont entrés en vigueur. Reste désormais à les faire vivre. Et pour cela, il faut déployer une énergie et une détermination sans faille car l’Europe, mieux outillés juridiquement, reste dépendante des Etats-Unis.
Thierry Breton avait adopté une approche extrêmement volontariste et offensive de la régulation du numérique. Pour imposer l’application des nouveaux règlements, il n’avait pas hésité à affronter les patrons des Big Techs sur un mode parfois très viril. Avant qu’Elon Musk ne discute avec Donald Trump sur X, le 12 août dernier, Thierry Breton l’avait mis en garde : « Mes services et moi-même seront extrêmement vigilants (…) concernant d’éventuelles violations du DSA, et nous n’hésiterons pas à utiliser tous les outils à notre disposition, y compris des mesures temporaires, si cela s’avérait nécessaire pour protéger les citoyens européens ». Une initiative qui sera désavouée quelques jours plus tard par la Commission européenne, craignant que ses mauvais rapports avec les entreprises américaines du secteur, risquent de compliquer la relation transatlantique, selon le journal Libération.
Le mandat de Thierry Breton n’a pas été reconduit, ce dont la Silicon Valley, a de quoi se réjouir. La directrice générale de X Linda Yaccarino s’en est très vite félicitée, affirmant que le départ de Thierry Breton était « un bon jour pour la liberté d’expression ». En est-il un pour la mise en œuvre effective des DSA, DMA ou l’IA Act et pour une Europe numérique souveraine ? Les opinions sont partagées sur la gouvernance et l’action de l’ex-commissaire. Certains le regrettent comme l’eurodéputé social-démocrate allemand qui a qualifié la démission de Thierry Breton de « perte énorme », et son homologue Sergey Lagodinsky (Verts) qui ne voit pas « comment ce vide pourrait être comblé ». D’autres au contraire fustigent sa gouvernance autoritaire ou critiquent une politique réglementaire freinant l’innovation en Europe, tel Cédric O, ex-secrétaire d’État chargé du Numérique, associant l’AI Act porté par le commissaire français à un « arrêt de mort de l’intelligence artificielle en Europe. ».
En dehors de questions de personnes, on peut aussi s’interroger sur la nouvelle stratégie de régulation numérique du second mandat de la présidente de la Commission européenne. Elle repose désormais sur sept commissaires. Henna Virkkunen, l’ex-eurodéputée finlandaise devient vice-présidente exécutive en charge de la Souveraineté technologique, de la Sécurité et de la Démocratie, avec un portefeuille qui comprend le cloud, ou l’application de l’IA Act. Stéphane Séjourné devient commissaire de la Prospérité et de la Stratégie Industrielle. L’ancienne ministre bulgare de la Justice Ekaterina Zaharieva est en charge des Startups, de la Recherche et de l’Innovation, notamment dans le domaine de l’IA. Roxana Mînzatu, vice-présidente exécutive est notamment chargée des Compétences. Le Lituanien Andrius Kubilius devient le Commissaire de la Défense et de l’Espace. L’ex-KPMG Michael McGrath est en charge de la Démocratie, de la Justice et de l’Etat de droit et traitera de la lutte contre la désinformation et l’influence étrangère. La Concurrence est, quant à elle, confiée à Teresa Ribera Rodríguez, qui est chargée de l’application DMA.
Est-ce que cet éclatement des responsabilités dans le numérique est de nature à s’imposer face aux Big Tech ? Ceux qui, à l’instar de Mario Draghi, considèrent que la réglementation freine l’innovation seront-ils plus entendus ? Une chose est probable : la régulation du numérique sera probablement moins personnifiée mais aussi moins conflictuelle.
Le focus du mois
VMWare : les clients font de la résistance
Face à un brutal changement de politique commerciale et contractuelle, et une explosion des prix de VMWare, des dizaines de clients l’ont assigné en référé. Thales a obtenu la poursuite du contrat en cours.
Passage à un modèle de souscription, commercialisation groupée de logiciels, changement de métriques pour le calcul des tarifs et augmentation drastique des prix, remise en cause de relations commerciales bien établies, résiliation unilatérale des contrats et arrêt de la maintenance constituent les ingrédients du changement brutal de la politique commerciale de VMWare, éditeur de solution des environnements IT virtualisés, provoquant ainsi la colère des clients dans le monde. Si face à ces modifications des termes du contrat, certains ont choisi la voie de la négociation pour obtenir des aménagements de la part du leader des logiciels de virtualisation, Thales a opté pour le front judiciaire et a en partie eu gain de cause. Le 19 juillet dernier, le tribunal de commerce de Paris a ordonné l’exécution forcée du contrat en cours, jusqu’à son terme. Des dizaines d’autres clients ont assigné l’éditeur, comme Orange qui, d’après l’informé, l’accuse de rupture brutale des relations commerciales. Aux Etats-Unis, AT&T poursuit l’éditeur pour rupture de contrat, en réaction au refus de VMWare d’honorer les contrats d’assistance signés avant son rachat.
En novembre dernier, l’Américain Broadcom, spécialisé dans les semi-conducteurs, a acquis VMWare, après l’aval de la Commission européenne. Et dès décembre, l’éditeur a annoncé « une simplification spectaculaire » et une réduction du portefeuille de produits ainsi que la fin immédiate des licences perpétuelles. L’abonnement mensuel à une offre regroupée de produits s’impose, avec à la clé une multiplication de la facture. Un véritable séisme pour les entreprises. Si les DSI ont déjà vécu avec d’autres comme Symantec, IBM ou Microsoft la fin des licences perpétuelles au profit d’un système d’abonnement, ils réagissent mal au comportement agressif de VMWare à leur égard.
Début avril, quatre organisations, Beltug en Belgique, Cigref en France, CIO Platform Nederland aux Pays-Bas et Voice en Allemagne, représentant plus de mille grandes entreprises européennes utilisatrices de technologies numériques, ont envoyé une lettre à la Commission européenne, accusant frontalement Broadcom de pratiques abusives et d’abus de position dominante. Elles lui reprochent les points suivants : une forte hausse des prix, le non-respect d’accords contractuels antérieurs, l’interdiction de la revente de licences, le refus de maintenir les conditions de sécurité pour les licences perpétuelles, le regroupement des licences entraînant des coûts plus élevés, un bouleversement de l’écosystème des revendeurs et partenaires VMware, et in fine une perte de connaissances.
Une autre organisation, Cispe (Cloud Infrastructure Services Providers in Europe), qui compte 26 membres dont Amazon, s’est également plainte de la modification unilatérale des conditions de licence pour des logiciels de virtualisation. Elle ajoute à la liste des griefs « l’imposition de conditions de licence logicielle injustes qui limitent le choix et enferment les clients et les partenaires. ». Et elle conclut que cette politique commerciale « menace la viabilité économique de nombreux services cloud utilisés par les clients en Europe ». La réponse de la Commission ne s’est pas fait attendre et s’est saisie du dossier.
Parallèlement à ces actions des organisations professionnelles sur le terrain de la concurrence, Thales a assigné VMWare en référé pour obtenir la poursuite forcée du contrat de licence d’entreprise globale (Entreprise Licence Agreement, ELA) et du contrat de partenariat. Et le 19 juillet dernier, le tribunal de commerce de Paris a ordonné l’exécution forcée de l’article 22 du contrat ELA, sous astreinte de 50 000 € par jour de retard ou par infraction constatée. Ce contrat qui expire en mars 2025 a pour objet l’acquisition de licences complémentaires pour une valeur prédéterminée. Le 11 décembre 2023, Thales a donc passé une commande additionnelle pour des licences perpétuelles. Mais VMWare a refusé de l’exécuter invoquant la fin de son programme de licences perpétuelles, comme la société l’a annoncé le 12 décembre par voie de communiqué. Le tribunal va rejeter cet argument au motif que le communiqué est « inopérant et ne saurait permettre à VMWare de se soustraire à ses engagements contractuels ». Par ailleurs, les juges relèvent que n’est invoqué « aucune disposition contractuelle lui permettant de mettre fin de façon anticipée au contrat en cours, ou à la seule clause de condition d’achat complémentaire ». En revanche, ils déboutent Thalès de ses demandes relatives au contrat de partenariat dédié à son activité de cloud au profit de ses clients. Ils constatent que ce contrat relève déjà de la commercialisation de licences par souscription, et que les seules modifications affectent le périmètre des « bundles » et leur tarif. Et de conclure que « Thales ne démontre pas les conséquences techniques qu’elle allègue d’un tel changement. Le débat se résume alors aux conséquences pécuniaires des changements annoncés par VMWare. Thales ne démontre pas non plus son incapacité à y faire face ».
Cette ordonnance, si elle est con-
firmée, est un signal fort envoyé à VMWare, d’autant que d’autres décisions vont être rendues. Un premier coup de canif dans un comportement quelque peu abusif d’un éditeur en position dominante. Reste à attendre le débat au fond qui aura lieu sur la licéité des pratiques commerciales de VMWare.
L'invité du mois
Interview / Murielle Popa-Fabre
Une IA de confiance est-elle possible ?
Les systèmes d’intelligence artificielle générative ont fait irruption dans le public il y a moins d’un an et s’imposent déjà dans la vie professionnelle comme dans la vie personnelle. La question de la confiance dans les méthodes d’entraînement, dans la qualité et la légalité des données utilisées mais aussi dans les résultats générés se pose. Selon Murielle Popa-Fabre, experte au Conseil de l'Europe, et spécialiste des questions de gouvernance de l'intelligence artificielle, au-delà de la question des données, l’élément crucial pour une IA de confiance consiste à se donner les moyens d’évaluer les systèmes, de les tester, de monitorer les résultats et les usages mais aussi d’analyser leur caractère discriminant ou leur impact sur les droits fondamentaux des usages et des contenus générés. Elle évoque l’état de l’art, les études en cours ou encore le rôle de la réglementation pour une IA plus vertueuse.
Sylvie Rozenfeld : Vous êtes experte auprès du Conseil de l’Europe, notamment sur la question de la liberté d’expression et l’IA générative. Vous êtes aussi consultante aux Nations Unies sur les questions de gouvernance de l’IA liées au développement, à l’évaluation et au déploiement de solutions d’IA de confiance. Vous avez un parcours initial de chercheur en neuro-imagerie du langage dans le domaine des neurosciences cognitives, notamment pour modéliser et traiter de manière computationnelle les données cérébrales et le langage, au Collège de France, à l’INRIA et à l’université de Cornell aux Etats-Unis. Vous êtes par ailleurs consultante en stratégie et gouvernance d’IA générative notamment pour les médias et le monde du droit.
Comme pour l’internet ou les données personnelles, on parle aussi d’établir la confiance au sujet de l’IA. Cela implique une IA maîtrisée, gouvernée, où une responsabilité peut être établie à toutes étapes. Mais on en est loin. Peut-on aller vers une IA de confiance et comment y parvenir ?
Un premier aspect de la question autour de la confiance concerne les données d’entraînement. La qualité de l’IA dépend des données qu’elle utilise. Plus les données sont de qualité, plus l’IA est fiable et efficace. Or, la quantité de textes écrits par des humains est limitée et se renouvelle moins rapidement que la consommation qu’en fait les systèmes d’IA. Certains parlent de deux ou trois ans de données disponibles, d’autres d’une carence de ce stock entre 2026 et 2032.
Murielle Popa-Fabre : La majorité des études portent sur l’épuisement de l’écrit présent sur le web pour entraîner des algorithmes à grande échelle comme les modèles de langage. Cette utilisation évolue plus rapidement que le renouvellement de la production humaine. Plusieurs éléments permettent néanmoins de remettre en perspective ces pronostics. D’abord, les techniques de webcrawling sont plus complexes aujourd’hui, elles impliquent une étape plus complète de nettoyage des données ce qui rend largement accessibles des données de meilleures qualités.
On commence aussi à expérimenter des solutions pour produire des données générées automatiquement à partir d’exemples de contenus humains pour atteindre les quotas nécessaires sans pour autant former entièrement des corpus avec des données synthétiques. L’entraînement se divise en deux grandes étapes : ce qu’on appelle le pré-entraînement là où est forgé le réseau de neurones par l’apprentissage sur le corpus d’entraînement, et le post-entraînement où l’on affine et optimise le modèle. C’est dans cette seconde phase qu’on a le plus besoin de données de qualité car on doit instruire l’algorithme à effectuer certaines tâches avec des jeux de paires instruction-réponse. Les données synthétiques sont très utiles ici car on remplace les annotations humaines, ce qui minimise les coûts. Plusieurs études montrent qu’un pré-entrainement à base de données synthétiques porte à une dégradation des sorties que l’on appelle model collapse. Mais il faut ajouter que l’IA générative est devenue multimodale, utiliser aussi des données non textuelles comme des images, de l’audio ou des vidéos aident à apprendre des informations sur le monde (des distributions de probabilités) par d’autres modalités que l’écrit. Cela enrichit le modèle d’informations qui souvent ne figure pas dans un texte, et minimise aussi l’importance du texte. Des études récentes d’une start up EpochAI montrent que le recours à l’entrainement multimodal permettrait de tripler les données d’entraînement disponibles.
Mais au-delà des questions de données, l’élément crucial pour une IA de confiance c’est de se donner les moyens d’en évaluer, tester et monitorer les sorties et les usages. Et surtout dans le cas de solutions d’IA générative qui, par rapport au logiciel traditionnel, fournissent des réponses non-déterministes : à une même entrée correspondent plusieurs sorties à la fois correctes et incorrectes.
Est-ce que la propriété intellectuelle et plus particulièrement le fait que des ayants droit interdisent l’utilisation de leurs données, ne réduit pas la masse de données disponibles ?
Il y a en effet de grandes tensions autour de la disponibilité des données, mais je n’opposerais pas de manière générale la protection de la propriété intellectuelle ou protection des données personnelles et innovation. J’observerais la façon dont la dernière année a abouti à des campagnes très importantes d’acquisition de données auprès de grands éditeurs que nous avons pu suivre par les journaux. La façon dont les affaires de données et d’IA générative sont arrivées dès 2023 dans les tribunaux américains f…
Les doctrines du mois
La loyauté de l’IA
Ce texte a été élaboré à partir de l’intervention réalisée au forum du gf2i qui s’est tenu le 11 juin 2024 sur le thème : Nouvelle valorisation économique des données pour l’IA : de l’ombre à la lumière.
Limiter les risques d’échec : Avant la contractualisation (1ère partie)
Dans une étude qui fera l’objet d’une publication sur trois numéros, l’auteur présente les réflexes et bonnes pratiques à adopter pour faciliter le bon déroulement du projet et anticiper un éventuel contentieux, avant de contracter (I), lors de la contractualisation (II), et pendant l’exécution du projet (III).
Les recommandations de la cnil en faveur de l’innovation
La Cnil a publié des recommandations sous la forme de fiches pratiques sur l’exploitation en open data des données personnelles qui clarifient le rôle et les devoirs des diffuseurs et des réutilisateurs.
L’IA générative : quels usages et quels enjeux pour les avocats ?
Depuis 2023, l'Intelligence Artificielle Générative (IAG) bouscule la profession d'avocat. Si des legatechs proposent des solutions innovantes, les avocats doivent rester attentifs aux risques de l’introduction de l’IAG, laquelle soulève d’importantes questions techniques, déontologiques et juridiques, mais également d’organisation des cabinets et se préparer à cette transformation.
Logiciels, originalité et contrefaçon : ce que nous apprend la pratique contentieuse récente
Les enseignements à tirer de la décision sur renvoi de la cour d’appel de Paris du 14 février 2024 (*) sur la question de la preuve de l’originalité d’un logiciel et sur les voies contentieuses ouvertes en cas de contrefaçon.
Réglementation du numérique à Monaco : Innovation et souveraineté
Monaco est un Etat souverain qui dispose de ses propres normes. Ses institutions s’illustrent par une volonté forte de soutenir la transition numérique, notamment par la modernisation de l’environnement légal. Le numérique y occupe une place incontournable de sorte que les entreprises souhaitant étendre leurs activités à Monaco doivent désormais porter une attention toute particulière à la réglementation locale.
Nos actes quotidiens sont-ils soumis au RGPD ?
Comme chaque mois, Alexandre Fievée tente d’apporter des réponses aux questions que tout le monde se pose en matière de protection des données personnelles, en s’appuyant sur les décisions rendues par les différentes autorités nationales de contrôle au niveau européen et les juridictions européennes. Ce mois-ci, il se penche sur la question de l’application du RGPD à des actes relativement banals auxquels se livre une grande majorité de la population.