Médiation de sécurité et explicabilité contrôlée pour la protection de la confidentialité des modèles de langage en phase d'inférence: proposition d'un mécanisme de contrôle de divulgation sémantique multiniveaux // Security Mediation and Controlled Expl

Topic description

Cette thèse étudie les problèmes de confidentialité lors de l'utilisation des modèles de langage de grande taille (LLM). Le travail de recherche se concentrera sur la phase d'inférence interactive. On supposera que le LLM est une boîte grise. Les attaques considérées visent principalement la confidentialité des données, notamment par l'inférence de l'existence ou

du contenu de documents internes, la reconstruction d'informations sensibles à partir de réponses agrégées, ou la divulgation indirecte via reformulation ou abstraction. La première étape consistera à la définition d'un modèle de menace pour les LLM en

environnement potentiellement adversarial avec l'identification des surfaces de fuite (entrée, génération, sortie, explication) et formalisera les exigences de sécurité telles que la non-divulgation (directe ou indirecte), la robustesse face

aux requêtes adversariales, la notion de niveaux d'abstraction pour une expl...