Évènement air2023 : IA et libre arbitre, le 28 novembre à la CNIL

air : un débat public annuel pour comprendre les nouveaux enjeux éthiques

Depuis la loi du 7 octobre 2016 pour une République numérique, la CNIL est chargée de mener une réflexion sur les problèmes éthiques et les questions de société soulevés par l'évolution des technologies numériques.

La mise en œuvre de cette mission a conduit la CNIL à organiser des débats publics autour des nouveaux enjeux du numérique, au croisement d’expertises terrain et scientifiques : c’est l’objectif des évènements air (avenirs, innovations, révolutions).

IA : quelles conséquences sur nos libertés ?

Nous déléguons de plus en plus de tâches à des intelligences artificielles. Si les algorithmes de recommandation ou les intelligences artificielles génératives (telles que ChatGPT) sont les plus connues, d’autres utilisations de l’intelligence artificielle, qui peuvent avoir des conséquences sur notre quotidien, sont moins visibles.

Ainsi, des activités telles que la traduction automatique de texte, la sélection et la retouche des photos ou encore la suggestion de mots dans un message s’appuient de plus en plus sur de tels systèmes. Si l’intelligence artificielle accélère les processus, elle limite aussi nos moments de réflexion et nos choix. Ce faisant, elle est susceptible de reproduire des biais et des sélections faits par les acteurs du numérique, mais également par les personnes qui annotent les données et entraînent ces IA.

Des photos stéréotypées, des textes reproduisant des biais de discrimination, une limitation imperceptible des contenus auxquels nous avons accès… quels sont les risques à laisser ce modèle se développer sans encadrement ?

Alors que l’IA commence à « composer » des contenus, la question des choix qu’elle passe sous silence et des biais qu’elle est susceptible de reproduire devient d’autant plus critique.

Programme de l’évènement

Sous réserve de modifications.

Animation : Mehdi ARFAOUI, sociologue du numérique au Laboratoire d’innovation numérique de la CNIL (LINC)

Accueil à partir de 14 h 00

14 h 20

Ouverture par Marie-Laure DENIS, présidente de la CNIL

14 h 30

Allocution de Jean-Noël BARROT, ministre délégué chargé de la transition numérique et des télécommunications

14 h 45

Table ronde n°1 : L’IA au quotidien : Comment faire pour que l’intelligence artificielle soit au service de nos vies ?

Les technologies d’intelligence artificielle sont de plus en plus présentes et déterminantes dans notre quotidien. Quels sont leurs effets sur notre comportement et nos décisions ? Selon les cas d'usage, quels sont les effets potentiels des IA sur les biais ou la standardisation de nos goûts, de nos choix, voire de nos opinions politiques ? Comment garantir un équilibre vers des effets positifs ? Quelles conditions sont nécessaires pour mettre l’intelligence artificielle au service de l’émancipation et non de la reproduction ?

Si certains cas d’usage, comme les algorithmes de recommandations commerciale ou musicale, sont de plus en plus identifiés, d’autres apparaissent plus diffus ou méconnus des usagers. Quelles solutions existent pour rendre visible et compréhensible le travail algorithmique ? Doit-on voir, savoir et contrôler ce que l’IA sait ? Est-ce que cela permettrait de garantir un meilleur exercice de notre libre-arbitre ?

Modérateur : Valérie PEUGEOT, chercheuse en sciences sociales du numérique, professeure associée à Sciences Po et membre de la CNIL

Avec la participation de :

• Olivier BABEAU, professeur à l’Université de Bordeaux, président de l’Institut Sapiens
• Dominique BOULLIER, professeur des universités émérite en sociologie, chercheur au Centre d'Etudes Européennes et de Politique Comparée, Sciences Po
• David CHAVALARIAS, directeur de recherche CNRS au Centre d'analyse et de mathématique sociales (CAMS) de l’EHESS et directeur de l'Institut des Systèmes Complexes de Paris Île-de-France
• Irénée REGNAULD, Président de l’association Le mouton numérique, chercheur associé au sein du laboratoire COSTECH (Connaissance, organisation et systèmes techniques) de l'Université de Technologie de Compiègne
• Milie TAING, fondatrice et présidente de la start-up Lili.ai

16 h 00

IA et Art : processus de création des œuvres IA (collectif OBVIOUS)

16 h 30

Keynote de l’Organisation des Nations Unies pour l'éducation, la science et la culture (UNESCO) : Quelle éthique pour une intelligence artificielle au service de l’humanité ?

• Doaa ABU-ELYOUNES, Responsable du programme éthique de l’IA de l’UNESCO

16 h 45

Table ronde 2 : L’IA et les mutations du travail : Comment l’IA peut-elle être mise au service du marché de l’emploi, des entreprises et des travailleurs ?

Les technologies d’intelligence artificielles sont présentées comme libératrices d’un certain nombre de tâches à plus ou moins grande valeur ajoutée. L’IA doit-elle être considérée comme un outil d’émancipation, calibré pour effectuer les tâches ingrates et chronophages ? Aussi, n’émancipe-t-elle pas les uns en aliénant les autres, notamment les annotateurs de données ? Comment faire en sorte que le travailleur assisté par l’IA comprenne et garde le contrôle sur son outil de production ? Existe-t-il des risques d’homogénéisation ou de standardisation des processus de travail ?

En plus d’accompagner les tâches, l’IA peut être mobilisée pour encadrer la production, la distribution, et l’organisation du travail et des ressources. Quelles sont les conséquences de l’IA sur le marché de travail ? Quelles mutations, quels risques et quelles opportunités sur ce marché ? Quelles possibilités de régulations ? Comment garantir une mobilisation des technologies d’intelligence artificielle qui ne se traduise pas en surveillance, en tri ou discrimination algorithmique au travail ou sur le marché de l’emploi ?

Comment régler la question de la responsabilité dans le cas d’IA décisionnelles et responsabilité ? Comment sensibiliser et préparer l’humain, garantir sa place dans le processus, pour laisser la possibilité de contredire l’IA, notamment dans des domaines sensibles (santé, sécurité, etc.) ?

Modérateur : Claude CASTELLUCIA, directeur de recherche à l’INRIA, membre de la CNIL

Avec la participation de :  

• Yann FERGUSON, sociologue à l’Institut Catholique d'Arts et Métiers, chercheur associé au CERTOP (CNRS) et responsable scientifique du LaborIA (Ministère du Travail, de l'Emploi et de l'Insertion, Inria)
• Paul JORION, anthropologue, professeur associé des facultés de l’Université Catholique de Lille et président de la start-up Pribor.io.
• Cédric O, ancien secrétaire d’État chargé du numérique, conseiller et cofondateur de Mistral AI
• Angelica SALVI DEL PERO, conseillère principale auprès du directeur de l’emploi, du travail et des affaires sociales (OCDE)
• Françoise SOULIE-FOGELMAN, professeure des universités, ENS, conseillère scientifique de Hub France IA

18 h 00

Allocution de clôture par Étienne KLEIN, physicien et philosophe des sciences