Éthique et numérique : les algorithmes en débat
Alors que 72% * des Français estiment que les algorithmes représentent un enjeu de société, la CNIL lance le 23 janvier un cycle de débats publics sur ce thème, conformément à sa nouvelle mission de réflexion sur l’éthique et le numérique.
Une nouvelle mission pour la CNIL
La loi pour une République numérique de 2016 a confié à la CNIL la mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevés par l’évolution des technologies numériques. La CNIL a choisi d’y répondre par l’organisation de débats publics, ateliers ou rencontres.
Les algorithmes : un thème nécessaire
En 2017, cette réflexion portera sur les algorithmes à l’heure de l’intelligence artificielle. En effet, ceux-ci occupent dans nos vies une place importante, bien qu’invisible. Résultats de requêtes sur un moteur de recherche, ordres financiers passés par des robots sur les marchés, diagnostics médicaux automatiques, affectation des étudiants à l’Université : dans tous ces domaines, des algorithmes sont à l’œuvre.
Ces derniers mois, le sujet des algorithmes s’est invité dans le débat public et a suscité une forte attention médiatique.
Des questions complexes
- S’agit-il d’une nouvelle révolution industrielle, ou d’un simple moyen d’améliorer la productivité ?
- Les algorithmes sont-ils les nouveaux décideurs ?
- Ont-ils pour effet de nous enfermer dans une bulle informationnelle, mettant en danger ouverture culturelle et pluralisme démocratique ?
- Sont-ils au contraire un moyen d’accéder à des idées, contenus, données ou personnes inaccessibles ou invisibles jusqu’alors ?
- Quelle transparence à l’ère des algorithmes : comment concilier transparence et propriété intellectuelle ?
- Faut-il repenser, face aux progrès de l’intelligence artificielle, la responsabilité des acteurs publics et privés ?
- Comment construire le libre-arbitre dans un monde « algorithmé » ?
Face à ces interrogations, des réactions diverses et souvent passionnées, entre enthousiasme, fascination, inquiétude et contestations se font jour. Les progrès récents de l’intelligence artificielle et du machine learning renforcent encore l’ampleur des défis posés.
Faire des algorithmes l’objet d’un vaste débat public pour faire progresser la connaissance et la réflexion par la société civile s’impose donc comme une nécessité.
Les Français et les algorithmes : notoriété et perception
D’après un sondage mené par l’IFOP pour la CNIL en janvier 2017, les algorithmes sont présents dans l’esprit des Français mais de façon assez confuse. Si 83 % des Français ont déjà entendu parler des algorithmes, ils sont plus de la moitié à ne pas savoir précisément de quoi il s’agit (52%). Leur présence est déjà jugée massive dans la vie de tous les jours par 80% des Français qui considèrent, à 65% que cette dynamique va encore s’accentuer dans les années qui viennent.
Concernant l’opinion sur les algorithmes, une courte majorité (53%) estime qu’ils sont plutôt sources d’erreur contre 47 % qui pensent qu’ils sont fiables. Mais, la confiance s’élève à mesure que le niveau de connaissance sur les algorithmes progresse. Un effort de pédagogie et de transparence peut donc contribuer à renforcer la confiance.
Sous un angle marketing, 57% des Français pensent que les algorithmes limitent l’étendue des choix proposés. Chez les plus jeunes, la tendance s’inverse, puisque 53% des moins de 35 et 56% des 18-24 ans mettent plutôt en avant le fait que les algorithmes proposent plus de choix.
Enfin, c’est sous l’angle de la perception citoyenne que l’opinion est la plus tranchée en fonction de l’âge. Si 2/3 des Français (64%) considèrent que les algorithmes représentent plutôt une menace en raison de l’accumulation de données personnelles sur les choix, les goûts et les comportements, les 18-24 ans inversent cette tendance nettement affirmée puisque 51% estiment au contraire que les algorithmes représentent une opportunité.
Un débat public décentralisé, initié par la CNIL
Le rôle de la CNIL a consisté à animer un débat public qu’ont fait vivre tous ceux – institutions publiques, société civile, entreprises – qui ont souhaité y prendre part en organisant des débats et manifestations multiformes. Après un événement de lancement en janvier 2017 (Voir l'évènement en vidéo et le compte rendu), la CNIL a assuré la coordination et la cohérence d’une quarantaine de manifestations organisées par près de 50 partenaires, ainsi que l’organisation d’une concertation citoyenne à Montpellier.
La CNIL a lancé cette initiative le 23 janvier 2017 par l’organisation d’une première table-ronde sur le sujet. Voir l'évenement en vidéo et le compte rendu.
Quelle restitution finale ?
À l’automne 2017, la CNIL rendra publique la synthèse des échanges et des contributions. Il s’agira d’établir une cartographie de l’état du débat public et un panorama des défis et enjeux. Des pistes ou propositions pour accompagner le développement des algorithmes dans un cadre éthique pourront être présentées aux pouvoirs publics.
* Etude réalisée par l’IFOP du 9 au 11 janvier 2017 auprès d’un échantillon de 1001 personnes, représentatif de la population française âgée de 18 ans et plus. Questionnaire auto-administré en ligne.
