Expertises
Droit, technologies & prospectives

interview / Murielle POPA-FABRE

UNE IA DE CONFIANCE EST-ELLE POSSIBLE ?

Droit, technologies & prospectives

Tous les mois, toute l'actualité du numérique... Et tellement plus !

Nos derniers numéros

EXPERTISES N°505 - octobre 2024 - UNE IA DE CONFIANCE EST-ELLE POSSIBLE ? / Murielle POPA-FABRE
N°505 – octobre 2024
EXPERTISES N°504 - septembre 2024 - ACCULTURATION DES PME AU RGPD : VERS UNE CONFORMITÉ FACILITÉE / Sophie NERBONNE
N°504 – septembre 2024
EXPERTISES N°503 - juillet 2024 - RELATION CLIENT/FOURNISSEUR, UN DÉSÉQUILIBRE EN ÉVOLUTION / Stéphane LEMARCHAND
N°503 – juillet 2024
EXPERTISES N°502 - juin 2024 - Société à mission, un statut prisé par la Tech / Garance Mathias et François Gorriez
N°502 – juin 2024
EXPERTISES N°501 - mai 2024 - SAINT-GOBAIN : UNE GESTION AGILE DES FLUX TRANSFRONTIERES ET DES DONNEES / Charlène GABILLAT et Emma GOLDITÉ
N°501 – mai 2024
EXPERTISES N°500 - avril 2024 - DROIT DU NUMÉRIQUE : RÉTROSPECTIVE ET PERSPECTIVES / Alain BENSOUSSAN
N°500 – avril 2024
EXPERTISES N°499 - mars 2024 - Extra -                                                                                                                                                                                                                                         Territorialité: menaces et solution / Pierre DESMARAIS
N°499 – mars 2024
EXPERTISES N°498 - février 2024 - Rassurer les assureurs sur la Blockchain / Nicolas Hélénon, Delphine Mercelat, Emmanuel du Ranquet
N°498 – février 2024
EXPERTISES N°497 - janvier 2024 - FiDA, l’open finance qui fait peur à l’assurance / Anne-Sophie Morvan
N°497 – janvier 2024
EXPERTISES N°496 - décembre 2023 - Le droit, créateur d’un marché de la donnée / Marie-Hélène Tonnellier
N°496 – décembre 2023
EXPERTISES N°495 - novembre 2023 - L’Europe de la donnée, malgré les différences / Simon Chignard
N°495 – novembre 2023
EXPERTISES N°494 - octobre 2023 - Se défendre dans la jungle des noms de domaine wEB3 / Matthieu Quiniou
N°494 – octobre 2023
EXPERTISES N°493 - septembre 2023 - RGPD & Droit de la concurrence « Entente » mode d’emploi / Richard Milchior
N°493 – septembre 2023
EXPERTISES N°492 - juillet 2023 - DPO : un métier en souffrance / Bruno RASLE
N°492 – juillet 2023
EXPERTISES N°491 - juin 2023 - L’UE s’investit dans les crypto-actifs / Arnaud Touati
N°491 – juin 2023
EXPERTISES N°490 - mai 2023 - Transhumanisme : un changement de civilisation / Amandine Cayol, Emilie Gaillard et Coline Vuillermet
N°490 – mai 2023
EXPERTISES N°489 - avril 2023 - Anonymiser : une question de gestions de risques / Maryline Laurent
N°489 – avril 2023
EXPERTISES N°488 - mars 2023 - Actifs immatériels : Une valeur encore trop sous-estimée / Sylvie Gamet
N°488 – mars 2023
EXPERTISES N°487 - février 2023 - Flux transatlantique de données : Des progrès mais… / Bradley Joslove
N°487 – février 2023
EXPERTISES N°486 - janvier 2023 - L’intelligence juridique : pour un juriste stratège / Véronique Chapuis-Thuault
N°486 – janvier 2023
EXPERTISES N°485 - décembre 2022 - Les problématiques virtuelles des métavers / Caroline Laverdet
N°485 – décembre 2022
EXPERTISES N°484 - novembre 2022 - BIG DATA DEMATERIALISATION DU REEL / Antoinette Rouvroy
N°484 – novembre 2022
EXPERTISES N°483 - octobre 2022 - Intelligence artificielle : Vers une justice plus sécurisée / Thomas Cassuto
N°483 – octobre 2022
EXPERTISES N°482 - septembre 2022 - MiCA, un règlement qui manque de hauteur / Pierre Storrer
N°482 – septembre 2022
EXPERTISES N°481 - juillet 2022 - Néobanques, le far west bancaire / Aude Poulain de Saint Père
N°481 – juillet 2022
EXPERTISES N°480 - juin 2022 - Géopolitique du numérique et risque de fragmentation / HENRI VERDIDER
N°480 – juin 2022
EXPERTISES N°479 - mai 2022 - Ransomware : payez la rançon l'assurance rembourse / Valéria FAURE-MUNTIAN
N°479 – mai 2022
EXPERTISES N°478 - avril 2022 - RÉDUIRE LA POLLUTION DU NUMÉRIQUE : UNE LOI PIONNIÈRE / Patrick CHAIZE et Frédéric BORDAGE
N°478 – avril 2022
EXPERTISES N°477 - mars 2022 - LE CASSE-TETE DE LA FISCALITE DES CRYPTO-MONNAIES / Frédéric poilpré
N°477 – mars 2022
EXPERTISES N°476 - février 2022 - Véhicule connecté : l'enjeu des données / Romain Perray
N°476 – février 2022
EXPERTISES N°475 - janvier 2022 - DROIT DU LOGICIEL : ETAT DES LIEUX / Bernard LAMON
N°475 – janvier 2022
EXPERTISES N°474 - décembre 2021 - Open data judiciaire : Un lancement prudent / Estelle Jond-Necand
N°474 – décembre 2021
EXPERTISES N°473 - novembre 2021 - La data au cœur des investigations internes / Jean-Julien Lemonnier
N°473 – novembre 2021
EXPERTISES N°472 - octobre 2021 - ROMAIN DARRIERE / INFLUENCEURS VERS LA MATURITÉ
N°472 – octobre 2021
EXPERTISES N°471 - septembre 2021 - ENTENTES ALGORITHMIQUES / NATASHA TARDIF
N°471 – septembre 2021
EXPERTISES N°470 - juillet 2021 - Brevets IA : les écueils à éviter / Mathias Robert
N°470 – juillet 2021
EXPERTISES N°469 - juin 2021 - IA : POUR UN DROIT DE RUPTURE / ALAIN BENSOUSSAN
N°469 – juin 2021
EXPERTISES N°468 - mai 2021 - Néoassurance, un modèle qui émerge / Christophe Dandois
N°468 – mai 2021
EXPERTISES N°467 - mars 2021 - Humain / machine : la nouvelle division du travail juridique / Olivier CHADUTEAU
N°467 – mars 2021
EXPERTISES N°466 - mars 2021 - DSA/DMA : CHANGEMENT DANS LA CONTINUITÉ / ANNE COUSIN ET JEAN-MATHIEU COT
N°466 – mars 2021
EXPERTISES N°465 - février 2021 - CMP : UN PASSEUR DE CONSENTEMENT / Romain BESSUGES-MEUSY
N°465 – février 2021
EXPERTISES N°464 - janvier 2021 - L’expertise-conciliation : pacifier les litiges / Fabien CLEUET et François-Pierre LANI
N°464 – janvier 2021
EXPERTISES N°463 - décembre 2020 - Matching prédictif un recrutement biaisé / Stéphanie Lecerf
N°463 – décembre 2020
EXPERTISES N°462 - novembre 2020 - La révolution open banking / Thibault Verbiest
N°462 – novembre 2020
EXPERTISES N°461 - octobre 2020 - IA en procès / Yannick Meneceur
N°461 – octobre 2020
EXPERTISES N°460 - septembre 2020 - Smart city : intérêt général by design / Jacques Priol
N°460 – septembre 2020
EXPERTISES N°459 - juillet 2020 - Transmettre l'immatériel / David Ayache
N°459 – juillet 2020
EXPERTISES N°458 - juin 2020 - Les racines de notre dépendance technologique / Christian HARBULOT
N°458 – juin 2020
EXPERTISES N°457 - mai 2020 - Covid 19 & données personnelles<br>De la défiance à la confiance / Yann Padova” title=”EXPERTISES N°457 – mai 2020 – Covid 19 & données personnelles<br>De la défiance à la confiance / Yann Padova” description=”EXPERTISES N°457 – mai 2020-  Covid 19 & données personnelles<br>De la défiance à la confiance / Yann Padova”></div>
<div class=N°457 – mai 2020
EXPERTISES N°456 - avril 2020 - Pour l’ouverture<br>des données privées / Laurent Lafaye” title=”EXPERTISES N°456 – avril 2020 – Pour l’ouverture<br>des données privées / Laurent Lafaye” description=”EXPERTISES N°456 – avril 2020-  Pour l’ouverture<br>des données privées / Laurent Lafaye”></div>
<div class=N°456 – avril 2020
EXPERTISES N°455 - mars 2020 - Profilage :<br> pratiques & parades / Cédric Lauradoux” title=”EXPERTISES N°455 – mars 2020 – Profilage :<br> pratiques & parades / Cédric Lauradoux” description=”EXPERTISES N°455 – mars 2020-  Profilage :<br> pratiques & parades / Cédric Lauradoux”></div>
<div class=N°455 – mars 2020
EXPERTISES N°454 - février 2020 - La robustesse de<br>la PI face A l’IA / Franck Macrez” title=”EXPERTISES N°454 – février 2020 – La robustesse de<br>la PI face A l’IA / Franck Macrez” description=”EXPERTISES N°454 – février 2020-  La robustesse de<br>la PI face A l’IA / Franck Macrez”></div>
<div class=N°454 – février 2020
EXPERTISES N°453 - janvier 2020 - RGPD : une révolution dans la continuité / Ariane MOLE
N°453 – janvier 2020
EXPERTISES N°452 - décembre 2019 - le droit de<br>la compliance<br>pour réguler l’internet / Marie-Anne Frison-Roche” title=”EXPERTISES N°452 – décembre 2019 – le droit de<br>la compliance<br>pour réguler l’internet / Marie-Anne Frison-Roche” description=”EXPERTISES N°452 – décembre 2019-  le droit de<br>la compliance<br>pour réguler l’internet / Marie-Anne Frison-Roche”></div>
<div class=N°452 – décembre 2019
EXPERTISES N°451 - novembre 2019 - Data brokers :</br>le trou noir</br>des données personnelles / Antoine Dubus” title=”EXPERTISES N°451 – novembre 2019 – Data brokers :</br>le trou noir</br>des données personnelles / Antoine Dubus” description=”EXPERTISES N°451 – novembre 2019-  Data brokers :</br>le trou noir</br>des données personnelles / Antoine Dubus”></div>
<div class=N°451 – novembre 2019
EXPERTISES N°450 - octobre 2019 - Numérique :<br>le défi fiscal / Frédéric Douet” title=”EXPERTISES N°450 – octobre 2019 – Numérique :<br>le défi fiscal / Frédéric Douet” description=”EXPERTISES N°450 – octobre 2019-  Numérique :<br>le défi fiscal / Frédéric Douet”></div>
<div class=N°450 – octobre 2019
EXPERTISES N°449 - septembre 2019 - L'impérialisme<br>juridique / Olivier de Maison Rouge” title=”EXPERTISES N°449 – septembre 2019 – L’impérialisme<br>juridique / Olivier de Maison Rouge” description=”EXPERTISES N°449 – septembre 2019-  L’impérialisme<br>juridique / Olivier de Maison Rouge”></div>
<div class=N°449 – septembre 2019
EXPERTISES N°448 - juillet 2019 - DPO : un métier<br>qui s’installe / Paul Olivier Gibert” title=”EXPERTISES N°448 – juillet 2019 – DPO : un métier<br>qui s’installe / Paul Olivier Gibert” description=”EXPERTISES N°448 – juillet 2019-  DPO : un métier<br>qui s’installe / Paul Olivier Gibert”></div>
<div class=N°448 – juillet 2019
EXPERTISES N°447 - juin 2019 - Le RGPD : du droit sans vision stratégique / Julien Nocetti
N°447 – juin 2019
EXPERTISES N°446 - mai 2019 - IGN : la gratuitE des données en question / Marie Pisan
N°446 – mai 2019
EXPERTISES N°445 - avril 2019 - Nom de domaine un actif et des risques / Nathalie Dreyfus
N°445 – avril 2019
EXPERTISES N°444 - mars 2019 - Les logiciels libres, un modèle mature / Benjamin Jean
N°444 – mars 2019
EXPERTISES N°443 - février 2019 - Résister à la gouvernance algorithmique / François Pellegrini
N°443 – février 2019
EXPERTISES N°442 - janvier 2019 - Anticiper sa survie numérique au-delà de sa mort / Mathieu Fontaine
N°442 – janvier 2019
EXPERTISES N°441 - décembre 2018 - Intelligence artificielle et médecine quelle éthique pour demain ? / David Gruson
N°441 – décembre 2018
EXPERTISES N°440 - novembre 2018 - Blockchain AS A SERVICE Démocratisation de la blockchain ? / Marc-Antoine Ledieu
N°440 – novembre 2018
EXPERTISES N°439 - octobre 2018 - Nathalie Nevejans / Nathalie Nevejans
N°439 – octobre 2018
EXPERTISES N°438 - septembre 2018 - Pour la médiation judiciaire en  propriété  intellectuelle / Françoise Barutel Naulleau
N°438 – septembre 2018
EXPERTISES N°437 - juillet 2018 - Science-fiction : quand l’imaginaire devient source de droit / Fabrice Defferrard
N°437 – juillet 2018
EXPERTISES N°436 - juin 2018 - CONTRATS, Accès indirects & coûts cachés : SAP BRISE LA GLACE AVEC Ses utilisateurs / Gianmaria Perancin
N°436 – juin 2018
EXPERTISES N°435 - mai 2018 - L’innovation prédatrice Un nouveau défi pour le droit de la concurrence / Thibault Schrepel
N°435 – mai 2018
EXPERTISES N°434 - avril 2018 - LES données LA NOUVELLE INGENIéRIE  DU POUVOIR / Adrien Basdevant
N°434 – avril 2018
EXPERTISES N°433 - mars 2018 - L’open data de la jurisprudence : Le casse-tête de l’anonymisation / Loïc Cadiet
N°433 – mars 2018
EXPERTISES N°432 - février 2018 - RGPD : vers un futur standard global / Max Schrems
N°432 – février 2018
EXPERTISES N°431 - janvier 2018 - L’angoisse du RGPD la Cnil rassure / Jean Lessi
N°431 – janvier 2018
EXPERTISES des systèmes d’informationoctobre 2024 – N°505

L'édito du mois

UE : sept commissaires pour le numérique

L’Europe perd deux figures phares de la régulation du numérique, Thierry Breton commissaire chargé du Marché intérieur et Margrethe Vestager commissaire chargée de la Concurrence, tous deux bêtes noires des Gafam. Sous la précédente Commission, de nombreux textes innovants ont été adoptés et sont entrés en vigueur. Reste désormais à les faire vivre. Et pour cela, il faut déployer une énergie et une détermination sans faille car l’Europe, mieux outillés juridiquement, reste dépendante des Etats-Unis.
Thierry Breton avait adopté une approche extrêmement volontariste et offensive de la régulation du numérique. Pour imposer l’application des nouveaux règlements, il n’avait pas hésité à affronter les patrons des Big Techs sur un mode parfois très viril. Avant qu’Elon Musk ne discute avec Donald Trump sur X, le 12 août dernier, Thierry Breton l’avait mis en garde : « Mes services et moi-même seront extrêmement vigilants (…) concernant d’éventuelles violations du DSA, et nous n’hésiterons pas à utiliser tous les outils à notre disposition, y compris des mesures temporaires, si cela s’avérait nécessaire pour protéger les citoyens européens ». Une initiative qui sera désavouée quelques jours plus tard par la Commission européenne, craignant que ses mauvais rapports avec les entreprises américaines du secteur, risquent de compliquer la relation transatlantique, selon le journal Libération.
Le mandat de Thierry Breton n’a pas été reconduit, ce dont la Silicon Valley, a de quoi se réjouir. La directrice générale de X Linda Yaccarino s’en est très vite félicitée, affirmant que le départ de Thierry Breton était « un bon jour pour la liberté d’expression ». En est-il un pour la mise en œuvre effective des DSA, DMA ou l’IA Act et pour une Europe numérique souveraine ? Les opinions sont partagées sur la gouvernance et l’action de l’ex-commissaire. Certains le regrettent comme l’eurodéputé social-démocrate allemand qui a qualifié la démission de Thierry Breton de « perte énorme », et son homologue Sergey Lagodinsky (Verts) qui ne voit pas « comment ce vide pourrait être comblé ». D’autres au contraire fustigent sa gouvernance autoritaire ou critiquent une politique réglementaire freinant l’innovation en Europe, tel Cédric O, ex-secrétaire d’État chargé du Numérique, associant l’AI Act porté par le commissaire français à un « arrêt de mort de l’intelligence artificielle en Europe. ».
En dehors de questions de personnes, on peut aussi s’interroger sur la nouvelle stratégie de régulation numérique du second mandat de la présidente de la Commission européenne. Elle repose désormais sur sept commissaires. Henna Virkkunen, l’ex-eurodéputée finlandaise devient vice-présidente exécutive en charge de la Souveraineté technologique, de la Sécurité et de la Démocratie, avec un portefeuille qui comprend le cloud, ou l’application de l’IA Act. Stéphane Séjourné devient commissaire de la Prospérité et de la Stratégie Industrielle. L’ancienne ministre bulgare de la Justice Ekaterina Zaharieva est en charge des Startups, de la Recherche et de l’Innovation, notamment dans le domaine de l’IA. Roxana Mînzatu, vice-présidente exécutive est notamment chargée des Compétences. Le Lituanien Andrius Kubilius devient le Commissaire de la Défense et de l’Espace. L’ex-KPMG Michael McGrath est en charge de la Démocratie, de la Justice et de l’Etat de droit et traitera de la lutte contre la désinformation et l’influence étrangère. La Concurrence est, quant à elle, confiée à Teresa Ribera Rodríguez, qui est chargée de l’application DMA.
Est-ce que cet éclatement des responsabilités dans le numérique est de nature à s’imposer face aux Big Tech ? Ceux qui, à l’instar de Mario Draghi, considèrent que la réglementation freine l’innovation seront-ils plus entendus ? Une chose est probable : la régulation du numérique sera probablement moins personnifiée mais aussi moins conflictuelle.

Le focus du mois

Contrat

VMWare : les clients font de la résistance

Face à un brutal changement de politique commerciale et contractuelle, et une explosion des prix de VMWare, des dizaines de clients l’ont assigné en référé. Thales a obtenu la poursuite du contrat en cours.

Passage à un modèle de souscription, commercialisation groupée de logiciels, changement de métriques pour le calcul des tarifs et augmentation drastique des prix, remise en cause de relations commerciales bien établies, résiliation unilatérale des contrats et arrêt de la maintenance constituent les ingrédients du changement brutal de la politique commerciale de VMWare, éditeur de solution des environnements IT virtualisés, provoquant ainsi la colère des clients dans le monde. Si face à ces modifications des termes du contrat, certains ont choisi la voie de la négociation pour obtenir des aménagements de la part du leader des logiciels de virtualisation, Thales a opté pour le front judiciaire et a en partie eu gain de cause. Le 19 juillet dernier, le tribunal de commerce de Paris a ordonné l’exécution forcée du contrat en cours, jusqu’à son terme. Des dizaines d’autres clients ont assigné l’éditeur, comme Orange qui, d’après l’informé, l’accuse de rupture brutale des relations commerciales. Aux Etats-Unis, AT&T poursuit l’éditeur pour rupture de contrat, en réaction au refus de VMWare d’honorer les contrats d’assistance signés avant son rachat.

En novembre dernier, l’Américain Broadcom, spécialisé dans les semi-conducteurs, a acquis VMWare, après l’aval de la Commission européenne. Et dès décembre, l’éditeur a annoncé « une simplification spectaculaire » et une réduction du portefeuille de produits ainsi que la fin immédiate des licences perpétuelles. L’abonnement mensuel à une offre regroupée de produits s’impose, avec à la clé une multiplication de la facture. Un véritable séisme pour les entreprises. Si les DSI ont déjà vécu avec d’autres comme Symantec, IBM ou Microsoft la fin des licences perpétuelles au profit d’un système d’abonnement, ils réagissent mal au comportement agressif de VMWare à leur égard.
Début avril, quatre organisations, Beltug en Belgique, Cigref en France, CIO Platform Nederland aux Pays-Bas et Voice en Allemagne, représentant plus de mille grandes entreprises européennes utilisatrices de technologies numériques, ont envoyé une lettre à la Commission européenne, accusant frontalement Broadcom de pratiques abusives et d’abus de position dominante. Elles lui reprochent les points suivants : une forte hausse des prix, le non-respect d’accords contractuels antérieurs, l’interdiction de la revente de licences, le refus de maintenir les conditions de sécurité pour les licences perpétuelles, le regroupement des licences entraînant des coûts plus élevés, un bouleversement de l’écosystème des revendeurs et partenaires VMware, et in fine une perte de connaissances.

Une autre organisation, Cispe (Cloud Infrastructure Services Providers in Europe), qui compte 26 membres dont Amazon, s’est également plainte de la modification unilatérale des conditions de licence pour des logiciels de virtualisation. Elle ajoute à la liste des griefs « l’imposition de conditions de licence logicielle injustes qui limitent le choix et enferment les clients et les partenaires. ». Et elle conclut que cette politique commerciale « menace la viabilité économique de nombreux services cloud utilisés par les clients en Europe ». La réponse de la Commission ne s’est pas fait attendre et s’est saisie du dossier.

Parallèlement à ces actions des organisations professionnelles sur le terrain de la concurrence, Thales a assigné VMWare en référé pour obtenir la poursuite forcée du contrat de licence d’entreprise globale (Entreprise Licence Agreement, ELA) et du contrat de partenariat. Et le 19 juillet dernier, le tribunal de commerce de Paris a ordonné l’exécution forcée de l’article 22 du contrat ELA, sous astreinte de 50 000 € par jour de retard ou par infraction constatée. Ce contrat qui expire en mars 2025 a pour objet l’acquisition de licences complémentaires pour une valeur prédéterminée. Le 11 décembre 2023, Thales a donc passé une commande additionnelle pour des licences perpétuelles. Mais VMWare a refusé de l’exécuter invoquant la fin de son programme de licences perpétuelles, comme la société l’a annoncé le 12 décembre par voie de communiqué. Le tribunal va rejeter cet argument au motif que le communiqué est « inopérant et ne saurait permettre à VMWare de se soustraire à ses engagements contractuels ». Par ailleurs, les juges relèvent que n’est invoqué « aucune disposition contractuelle lui permettant de mettre fin de façon anticipée au contrat en cours, ou à la seule clause de condition d’achat complémentaire ». En revanche, ils déboutent Thalès de ses demandes relatives au contrat de partenariat dédié à son activité de cloud au profit de ses clients. Ils constatent que ce contrat relève déjà de la commercialisation de licences par souscription, et que les seules modifications affectent le périmètre des « bundles » et leur tarif. Et de conclure que « Thales ne démontre pas les conséquences techniques qu’elle allègue d’un tel changement. Le débat se résume alors aux conséquences pécuniaires des changements annoncés par VMWare. Thales ne démontre pas non plus son incapacité à y faire face ».

Cette ordonnance, si elle est con-
firmée, est un signal fort envoyé à VMWare, d’autant que d’autres décisions vont être rendues. Un premier coup de canif dans un comportement quelque peu abusif d’un éditeur en position dominante. Reste à attendre le débat au fond qui aura lieu sur la licéité des pratiques commerciales de VMWare.

par Sylvie Rozenfeld

L'invité du mois

Interview / Murielle Popa-Fabre

par Sylvie Rozenfeld

Une IA de confiance est-elle possible ?

Les systèmes d’intelligence artificielle générative ont fait irruption dans le public il y a moins d’un an et s’imposent déjà dans la vie professionnelle comme dans la vie personnelle. La question de la confiance dans les méthodes d’entraînement, dans la qualité et la légalité des données utilisées mais aussi dans les résultats générés se pose. Selon Murielle Popa-Fabre, experte au Conseil de l'Europe, et spécialiste des questions de gouvernance de l'intelligence artificielle, au-delà de la question des données, l’élément crucial pour une IA de confiance consiste à se donner les moyens d’évaluer les systèmes, de les tester, de monitorer les résultats et les usages mais aussi d’analyser leur caractère discriminant ou leur impact sur les droits fondamentaux des usages et des contenus générés. Elle évoque l’état de l’art, les études en cours ou encore le rôle de la réglementation pour une IA plus vertueuse.

Sylvie Rozenfeld : Vous êtes experte auprès du Conseil de l’Europe, notamment sur la question de la liberté d’expression et l’IA générative. Vous êtes aussi consultante aux Nations Unies sur les questions de gouvernance de l’IA liées au développement, à l’évaluation et au déploiement de solutions d’IA de confiance. Vous avez un parcours initial de chercheur en neuro-imagerie du langage dans le domaine des neurosciences cognitives, notamment pour modéliser et traiter de manière computationnelle les données cérébrales et le langage, au Collège de France, à l’INRIA et à l’université de Cornell aux Etats-Unis. Vous êtes par ailleurs consultante en stratégie et gouvernance d’IA générative notamment pour les médias et le monde du droit.
Comme pour l’internet ou les données personnelles, on parle aussi d’établir la confiance au sujet de l’IA. Cela implique une IA maîtrisée, gouvernée, où une responsabilité peut être établie à toutes étapes. Mais on en est loin. Peut-on aller vers une IA de confiance et comment y parvenir ?
Un premier aspect de la question autour de la confiance concerne les données d’entraînement. La qualité de l’IA dépend des données qu’elle utilise. Plus les données sont de qualité, plus l’IA est fiable et efficace. Or, la quantité de textes écrits par des humains est limitée et se renouvelle moins rapidement que la consommation qu’en fait les systèmes d’IA. Certains parlent de deux ou trois ans de données disponibles, d’autres d’une carence de ce stock entre 2026 et 2032.

Murielle Popa-Fabre : La majorité des études portent sur l’épuisement de l’écrit présent sur le web pour entraîner des algorithmes à grande échelle comme les modèles de langage. Cette utilisation évolue plus rapidement que le renouvellement de la production humaine. Plusieurs éléments permettent néanmoins de remettre en perspective ces pronostics. D’abord, les techniques de webcrawling sont plus complexes aujourd’hui, elles impliquent une étape plus complète de nettoyage des données ce qui rend largement accessibles des données de meilleures qualités.
On commence aussi à expérimenter des solutions pour produire des données générées automatiquement à partir d’exemples de contenus humains pour atteindre les quotas nécessaires sans pour autant former entièrement des corpus avec des données synthétiques. L’entraînement se divise en deux grandes étapes : ce qu’on appelle le pré-entraînement là où est forgé le réseau de neurones par l’apprentissage sur le corpus d’entraînement, et le post-entraînement où l’on affine et optimise le modèle. C’est dans cette seconde phase qu’on a le plus besoin de données de qualité car on doit instruire l’algorithme à effectuer certaines tâches avec des jeux de paires instruction-réponse. Les données synthétiques sont très utiles ici car on remplace les annotations humaines, ce qui minimise les coûts. Plusieurs études montrent qu’un pré-entrainement à base de données synthétiques porte à une dégradation des sorties que l’on appelle model collapse. Mais il faut ajouter que l’IA générative est devenue multimodale, utiliser aussi des données non textuelles comme des images, de l’audio ou des vidéos aident à apprendre des informations sur le monde (des distributions de probabilités) par d’autres modalités que l’écrit. Cela enrichit le modèle d’informations qui souvent ne figure pas dans un texte, et minimise aussi l’importance du texte. Des études récentes d’une start up EpochAI montrent que le recours à l’entrainement multimodal permettrait de tripler les données d’entraînement disponibles.
Mais au-delà des questions de données, l’élément crucial pour une IA de confiance c’est de se donner les moyens d’en évaluer, tester et monitorer les sorties et les usages. Et surtout dans le cas de solutions d’IA générative qui, par rapport au logiciel traditionnel, fournissent des réponses non-déterministes : à une même entrée correspondent plusieurs sorties à la fois correctes et incorrectes.

Est-ce que la propriété intellectuelle et plus particulièrement le fait que des ayants droit interdisent l’utilisation de leurs données, ne réduit pas la masse de données disponibles ?
Il y a en effet de grandes tensions autour de la disponibilité des données, mais je n’opposerais pas de manière générale la protection de la propriété intellectuelle ou protection des données personnelles et innovation. J’observerais la façon dont la dernière année a abouti à des campagnes très importantes d’acquisition de données auprès de grands éditeurs que nous avons pu suivre par les journaux. La façon dont les affaires de données et d’IA générative sont arrivées dès 2023 dans les tribunaux américains f…

Les doctrines du mois

Intelligence artificielle

La loyauté de l’IA

Par Aurore Hyde

Ce texte a été élaboré à partir de l’intervention réalisée au forum du gf2i qui s’est tenu le 11 juin 2024 sur le thème : Nouvelle valorisation économique des données pour l’IA : de l’ombre à la lumière.

Projets Informatiques

Limiter les risques d’échec : Avant la contractualisation (1ère partie)

Par Olivier PIGNATARI

Dans une étude qui fera l’objet d’une publication sur trois numéros, l’auteur présente les réflexes et bonnes pratiques à adopter pour faciliter le bon déroulement du projet et anticiper un éventuel contentieux, avant de contracter (I), lors de la contractualisation (II), et pendant l’exécution du projet (III).

Open data

Les recommandations de la cnil en faveur de l’innovation

Par Alexandra ITEANU

La Cnil a publié des recommandations sous la forme de fiches pratiques sur l’exploitation en open data des données personnelles qui clarifient le rôle et les devoirs des diffuseurs et des réutilisateurs.

Intelligence artificielle

L’IA générative : quels usages et quels enjeux pour les avocats ?

Par Laurent BABIN

Depuis 2023, l'Intelligence Artificielle Générative (IAG) bouscule la profession d'avocat. Si des legatechs proposent des solutions innovantes, les avocats doivent rester attentifs aux risques de l’introduction de l’IAG, laquelle soulève d’importantes questions techniques, déontologiques et juridiques, mais également d’organisation des cabinets et se préparer à cette transformation.

Logiciel

Logiciels, originalité et contrefaçon : ce que nous apprend la pratique contentieuse récente

Par Corinne Thiérache et Romane Cussinet

Les enseignements à tirer de la décision sur renvoi de la cour d’appel de Paris du 14 février 2024 (*) sur la question de la preuve de l’originalité d’un logiciel et sur les voies contentieuses ouvertes en cas de contrefaçon.

International

Réglementation du numérique à Monaco : Innovation et souveraineté

Par Stephan Pastor et Xavier Widawski

Monaco est un Etat souverain qui dispose de ses propres normes. Ses institutions s’illustrent par une volonté forte de soutenir la transition numérique, notamment par la modernisation de l’environnement légal. Le numérique y occupe une place incontournable de sorte que les entreprises souhaitant étendre leurs activités à Monaco doivent désormais porter une attention toute particulière à la réglementation locale.

RGPD

Nos actes quotidiens sont-ils soumis au RGPD ?

Par Alexandre FIEVEE

Comme chaque mois, Alexandre Fievée tente d’apporter des réponses aux questions que tout le monde se pose en matière de protection des données personnelles, en s’appuyant sur les décisions rendues par les différentes autorités nationales de contrôle au niveau européen et les juridictions européennes. Ce mois-ci, il se penche sur la question de l’application du RGPD à des actes relativement banals auxquels se livre une grande majorité de la population.

Expertises : Droit, technologies & prospectives

Tous les mois, toute l'actualité du numérique... Et tellement plus !

FORMULES D'ABONNEMENT

EXPERTISES N°500
EXPERTISES N°497
EXPERTISES N°451
EXPERTISES N°481
EXPERTISES N°485
EXPERTISES N°502