L’Inria (Institut National de Recherche en Informatique et Automatique) lance un nouveau programme de recherche consacré à la sécurité et à la fiabilité des systèmes d’intelligence artificielle avec le soutien de France 2030, à hauteur de 13,5 millions d’euros.
Parmi les projets lauréats, celui porté par Clara Bertolissi, enseignante-chercheuse à l’INSA Centre Val de Loire, s’intéresse aux enjeux de confidentialité soulevés par l’utilisation croissante des modèles de langage. Elle nous présente son projet, ses ambitions et les perspectives qu’il ouvre.
Les modèles de langage de grande taille, ou LLM (Large Language Models), ont rapidement trouvé leur place dans nos usages professionnels : rédiger ou résumer un document, rechercher une information, analyser des données ou encore interagir avec une base documentaire en langage naturel. Mais leur utilisation soulève une question importante dès lors que les informations manipulées sont sensibles : comment profiter des capacités des modèles de langage sans risquer de divulguer des données confidentielles ?
C’est la question au cœur du projet que je mène en collaboration avec le CRIL (Centre de Recherche en Informatique de Lens). Lauréat du programme Évaluation de l’IA (EVALIA), ce projet s’intéresse à la protection de la confidentialité des informations lors de l’utilisation de modèles de langage, et plus particulièrement au moment où ceux-ci génèrent leurs réponses.
Lorsqu’un LLM est utilisé dans une entreprise ou une organisation, il peut être amené à traiter des informations qui ne doivent pas être communiquées à n’importe quel utilisateur : données personnelles, documents internes, informations stratégiques, résultats de recherche ou données relatives à des clients ou partenaires. Le risque ne se limite cependant pas à un utilisateur qui demanderait explicitement au modèle de révéler une information confidentielle.
Une information sensible peut être divulguée à la suite d’une requête malveillante, mais aussi en raison d’un comportement inattendu du modèle. Elle peut également être révélée de manière indirecte, par exemple lorsque plusieurs informations sont combinées dans une réponse et permettent d’en déduire une information qui n’aurait pas dû être accessible.
Rendre un modèle plus transparent sans rendre les informations qu’il manipule plus accessibles est l’un des problèmes auxquels le projet cherche à répondre. L’objectif du projet est de concevoir une architecture de médiation de sécurité autour du modèle de langage.Il s’agit donc de contrôler les flux d’information avant et après la génération. L’enjeu est particulièrement important pour les organisations qui souhaitent intégrer des LLM à leurs outils tout en conservant des exigences fortes en matière de confidentialité et de sécurité.
Le projet s’inscrit dans une réflexion plus large sur la manière de gouverner la confidentialité des informations lorsqu’elles sont utilisées par des modèles de langage.
Il sera mené dans le cadre du programme Évaluation de l’IA (EVALIA), lancé par Inria en septembre 2026 dans le cadre de France 2030. Le programme constitue la feuille de route scientifique de l’INESIA, l’Institut national pour l’évaluation et la sécurité de l’intelligence artificielle. Il rassemble 36 projets de recherche autour de trois axes : les risques systémiques, la sûreté de l’IA et les méthodologies d’évaluation. Notre projet s’inscrit dans l’axe “Sûreté de l’IA”, consacré aux vulnérabilités et aux menaces spécifiques aux systèmes d’intelligence artificielle, ainsi qu’aux méthodes permettant d’évaluer et de renforcer leur sécurité.
Cette inscription dans EVALIA est particulièrement importante pour notre projet, car on pourra s’appuyer, en fin de parcours, sur EVA, la plateforme d’évaluation développée dans le cadre du programme EVALIA, pour expérimenter sur différents modèles de langage les mécanismes de protection proposés et évaluer leur efficacité dans différents scénarios de divulgation. À terme, nous souhaitons contribuer à définir des méthodes permettant de trouver un équilibre entre plusieurs exigences : protéger les informations sensibles, préserver l’utilité du modèle et maintenir un niveau de transparence maîtrisé.
