Le Service Intelligence Artificielle de la CNIL (SIA)

La CNIL (Commission nationale de l'informatique et des libertés) a créé un Service dédié à l'Intelligence artificielle (SIA).

La CNIL a pour projet de renforcer son expertise en matière d'intelligence artificielle en créant un service dédié à cette technologie. Ce service sera chargé de comprendre les risques pour la vie privée liés à ces systèmes et de préparer l'entrée en application du règlement européen sur l'IA. En outre, elle prévoit de publier des premières recommandations sur les bases de données d'apprentissage dans les prochaines semaines.

Les principales missions de ce service seront

• de faciliter la compréhension des systèmes d'IA pour les professionnels et les particuliers,
• de consolider l'expertise de la CNIL dans la connaissance et la prévention des risques pour la vie privée liées à la mise en œuvre de ces systèmes,
• de préparer l'entrée en application du règlement européen sur l'IA
• de développer les relations avec les acteurs de l'écosystème.

Ce service contribuera aussi aux travaux du Comité européen de la protection des données.

Le SIA conseille les acteurs publics ou privés sur des projets impliquant des systèmes d'IA complexes et prépare également l'entrée en application du règlement européen sur l'IA, en cours de discussion au niveau européen, et développera les relations avec les acteurs de l'écosystème.

Ce service est composé de 5 personnes (juristes et des ingénieurs spécialisés).

La vision de la CNIL

Pour la CNIL, il est nécessaire de rendre une technologie comme l'IA aussi compréhensible que possible pour tous afin de mieux la réguler. Cela permettra aux organismes, aux personnes concernées et à la CNIL (Commission Nationale de l'Informatique et des Libertés) de comprendre les risques pour la vie privée et de prendre des mesures pour les gérer. Cela signifie rendre la technologie moins comme une "boîte noire" opaque et plus transparente.

La création du SIA en 2023, est, en réalité, le prolongement des travaux de la CNIL depuis 2017.

En effet, la CNIL a consacré des années à étudier l'intelligence artificielle, qui se compose de nouveaux types d'algorithmes ou de traitements de données en conformité avec la loi Informatique et Libertés. Jusqu'à présent, elle a agi de trois manières : en identifiant les défis éthiques et juridiques liés à l'utilisation de l'IA, en examinant les dossiers impliquant l'utilisation de l'IA, et en produisant des outils et des ressources pour faciliter la compréhension de cette technologie. Elle a également travaillé pour maîtriser les risques associés.

Dès 2017, la CNIL lance un débat public sur les algorithmes et l'IA, accompagné d'une consultation citoyenne. Cette démarche a été menée en collaboration avec des instituts de recherche, des institutions publiques, des fédérations professionnelles et des entreprises. Elle a abouti à la publication d'un rapport de synthèse contenant des recommandations et mettant en évidence les principaux enjeux liés à l'utilisation de systèmes d'IA lorsqu'ils traitent des données personnelles.

La CNIL a également étudié de nombreux cas concrets d'utilisation de l'IA, comme les caméras "intelligentes" ou "augmentées" dans les espaces publics, les assistants vocaux, et la reconnaissance faciale. Elle a également donné son avis sur des projets gouvernementaux tels que le projet de ciblage de la fraude fiscale.

Le SIA a lancé une étude qui visent à aider les sociétés, organismes publics et universitaires à cadrer du point de vue juridique l'utilisation des données personnelles pour créer des modèles d'intelligences artificielles (c'est à dire des applications d'intelligence artificielle créées, entrainées à partir des données personnelles comme les historiques d'achat de dizaines de milliers de personnes).

Cette étude a pour objectif de clarifier la position de la CNIL sur ces points et à promouvoir des bonnes pratiques, conformément aux exigences du RGPD et en tenant compte de la proposition de règlement sur l'IA actuellement discutée au niveau européen.

La CNIL fournit un cadre d'analyse de la réglementation sur la protection des données personnelles et fournira des réponses concrètes pour permettre aux organismes de créer ou d'utiliser des bases de données en respectant les droits et libertés fondamentaux des personnes.

Le SIA de la CNIL publie régulièrement des outils d'accompagnement sur ce sujet pour compléter ses premières fiches pratiques.

Cette étude couvre différents aspects de l'IA, notamment :

• les systèmes d'IA qui nécessitent la création d'une base de données (systèmes d'apprentissage automatique et systèmes experts)
  la collecte de données provenant de diverses sources (données collectées auprès des personnes concernées, données collectées auprès de data brokers, données collectées à partir de sources ouvertes, etc.)
• les étapes nécessaires à la mise en place ou à l'amélioration d'un système d'IA (conception du système, prétraitement des données, entraînement, entraînement en continu, etc.). La phase de production est exclue de ce projet.
• les différents usages liés au développement ou à l'amélioration d'un système d'IA (recherche scientifique, recherche et développement, amélioration d'un produit commercial, etc.), quel que soit l'objectif du système d'IA en production et le régime juridique applicable au traitement (règlement général sur la protection des données, directive « Police-Justice » et loi Informatique et Libertés).
• Les questions relatives aux modèles d'IA appris à partir des données collectées et en particulier celles concernant leur diffusion et leur réutilisation ne font pas partie de ce projet et seront abordées séparément.