Se poser les bonnes questions avant d’utiliser un système d'intelligence artificielle
Intégrer l'IA de manière proportionnée et en définissant un objectif clair.
Objectif et proportionnalité
Comme toute collecte et utilisation de données personnelles, un traitement mettant en œuvre des techniques d'IA doit se faire dans le respect de la protection des données.
Lors de la mise en place d’un système d’IA, il convient de s'interroger sur son objectif (sa finalité) et sur la proportionnalité des techniques choisies : sont-elles strictement nécessaires pour atteindre cet objectif ?
Les questions suivantes pourront aider le responsable de traitement à apprécier les risques associés au système envisagé et son caractère proportionné en amont de sa conception.
Des données personnelles sont-elles traitées par le système ?
L’objectif (finalité) du traitement reposant sur l'utilisation d'un système d'IA est-il clairement défini ?
Les phases d'apprentissage et de production du système d'IA sont-elles distinctes ?
Si oui, une seconde évaluation est-elle prévue concernant la phase de production ?
Les personnes ayant vocation à interagir avec le système d'IA ou envers lesquelles une décision automatisée sera prise, sont-elles identifiées ?
Quelles sont leurs caractéristiques (âge, genre, spécificités physiques, etc.) ?
Quel est leur nombre ?
Le traitement pourra-t-il viser directement ou indirectement des personnes vulnérables (par ex. : enfants, patients, employés) ?
Le traitement pourra-t-il entraîner des conséquences juridiques, financières ou physiques sur la santé, le statut social ou la sécurité des personnes visées directement ou indirectement par le système d'IA ?
Le système d'IA remplace-t-il un autre type de système pour la tâche qui lui est confiée ?
Pour quelle raison celui-ci doit-il être remplacé ?
Le système d'IA présente-t-il un avantage notable (en termes d’efficacité technique, de coût, de protection de la vie privée, etc.) en comparaison avec les autres solutions disponibles ?
Cet avantage notable compense-t-il les risques supplémentaires potentiellement liés à l’utilisation d’un système d’IA (voir la fiche 6 sur les conséquences sur les droits fondamentaux) ?
Au vu de vos réponses aux questions précédentes, l'utilisation d'un système IA pour atteindre la finalité identifiée semble-t-elle proportionnée et nécessaire ?
Fournisseurs, utilisateurs de systèmes d’IA et individus
Dans le cas où le responsable du traitement n'est pas le fournisseur du système d'IA, le partage de responsabilités entre ces deux acteurs doit être formalisé.
Ces responsabilités doivent être claires pour les personnes impliquées dans la mise en œuvre du traitement, pour celles dont les données sont traitées, ainsi que celles sur lesquelles le dispositif aura des conséquences.
Si des données personnelles sont collectées et/ou utilisées, un responsable du traitement a-t-il été identifié ?
Les personnes morales en charge du développement du système d'IA, de son déploiement et de son contrôle sont-elles clairement définies ?
Les personnes physiques en charge du développement du système ont-elles la formation adéquate ?
Ont-elles été sensibilisées aux enjeux juridiques, techniques, éthiques et moraux de l'IA ?
Existe-t-il une charte ou politique interne encadrant la conception et le déploiement de systèmes d'IA ?
Les personnes en charge du maintien du système d'IA, de la correction des problèmes et de l'intervention sur son fonctionnement sont-elles clairement identifiées et connues de tous ?
Un suivi est-il effectué afin d'assurer une permanence de ce service, par exemple en période de congés ?
Aucune information n'est collectée par la CNIL.
Vous souhaitez contribuer ?
Écrivez à ia[@]cnil.fr
