La CNIL, l’ANSSI, le PEReN et le projet IPoP du PEPR Cybersécurité lancent PANAME, un projet visant à développer un outil pour auditer la confidentialité des modèles d’IA.
Auditer les modèles pour évaluer leur conformité
L’avis adopté par le comité européen de la protection des données (CEPD) en décembre 2024 rappelle que le RGPD s’applique, dans de nombreux cas, aux modèles d’IA entraînés sur des données personnelles, en raison de leurs capacités de mémorisation (voir l’article du LINC Petite taxonomie des attaques des systèmes d’IA ).
Il précise également qu’il est très souvent nécessaire de démontrer dans une analyse qu’un modèle résiste à des attaques portant sur la confidentialité des données pour conclure à son caractère anonyme, condition permettant de le sortir du champ d’application du RGPD.
Sommaire
- Des ressources encore peu disponibles
- Un consortium aux compétences complémentaires pour créer un nouvel outil
Source - CNIL
Auditer les modèles pour évaluer leur conformité
L’avis adopté par le comité européen de la protection des données (CEPD) en décembre 2024 rappelle que le RGPD s’applique, dans de nombreux cas, aux modèles d’IA entraînés sur des données personnelles, en raison de leurs capacités de mémorisation (voir l’article du LINC Petite taxonomie des attaques des systèmes d’IA ).
Il précise également qu’il est très souvent nécessaire de démontrer dans une analyse qu’un modèle résiste à des attaques portant sur la confidentialité des données pour conclure à son caractère anonyme, condition permettant de le sortir du champ d’application du RGPD.
Sommaire
- Des ressources encore peu disponibles
- Un consortium aux compétences complémentaires pour créer un nouvel outil
Source - CNIL