Intelligence artificielle : le Conseil d’État se prononce sur la gouvernance du futur règlement IA

L’IA au service de l’action publique : instaurer la confiance

Dans son étude réalisée à la demande de l’ancien Premier ministre Jean Castex, le Conseil d’État reconnaît que si elle suscite encore des craintes, l’intelligence artificielle connaît des avancées technologiques spectaculaires, permettant d'assister l’humain dans de très nombreuses tâches. Il fait en particulier le constat qu’en appui des administrations, son utilisation pourrait améliorer concrètement la qualité du service public rendu à l’usager.

Si aujourd’hui l’IA n’est encore employée par les acteurs publics que dans des domaines limités (gestion de l’éclairage public, circulation automobile, défense et sécurité, lutte contre la fraude fiscale, etc.) le Conseil d’État pointe qu’aucun secteur de l’action publique n’est imperméable aux systèmes d’intelligence artificielle.

Le Conseil d’État plaide donc pour la mise en œuvre d’une politique de déploiement de l’intelligence artificielle volontariste, au service de l’intérêt général et de la performance publique. Pour conduire cette stratégie, il insiste sur l’importance de disposer de ressources humaines et techniques adaptées. L’étude préconise également un renforcement des moyens confiés à Etalab, le département de la direction interministérielle du numérique (DINUM) en charge de coordonner la conception et la mise en œuvre de la stratégie de l’État dans le domaine de la donnée, ainsi qu’au coordonnateur national pour l’intelligence artificielle, en lien avec l’Agence nationale de la cohésion des territoires (ANCT).

Gouvernance du futur règlement IA : un rôle pour la CNIL

L’étude du Conseil d’État se projette également dans le futur cadre réglementaire de l’IA, actuellement en cours d’élaboration au niveau européen. À ce titre, elle souligne « la très forte adhérence entre la régulation des systèmes d'IA [à venir] et celle des données, en particulier des données à caractère personnel ».

Afin d’assurer l’articulation de ces deux régimes, le Conseil d’État recommande que la CNIL devienne l'autorité nationale de contrôle des systèmes d’IA au titre du règlement, rejoignant ainsi l’avis que la CNIL et ses homologues ont rendu en juin 2021.

L’institution publique met également en avant l’importance pour la future autorité de contrôle de jouer un rôle d’autorité de coordination et de supervision et ainsi d’assurer le maillage d’un vaste réseau d’institutions publiques : autorités de surveillance de marché existantes (ANSM, DGCCRF, etc.), régulateurs des industries de réseau (ARCEP, CRE, ART, etc.), régulateurs à vocation horizontale (ADLC, AMF, ACPR, etc.) ou encore régulateurs sectoriels (ANJ, ARCOM, etc.).

Enfin, le Conseil d’État fait valoir que, pour remplir ce rôle ambitieux, la CNIL devra opérer « une transformation profonde ». L’étude précise qu’il conviendra d’augmenter ses capacités. Un investissement immédiat, massif et déterminé de ses moyens (en particulier humains) est donc recommandé afin d’assurer la crédibilité des pouvoirs publics dans le développement des systèmes d’IA.