Dans un monde où l’intelligence artificielle (IA) façonne de plus en plus notre quotidien, la Commission supérieure du numérique et des postes (CSNP) a publié un avis le 17 janvier 2024, visant à mieux encadrer l’usage de cette technologie en pleine expansion. Nos recommandations visent à mettre en exergue l’impérieuse nécessité de régulation, au regard des besoins en innovation et en recherche, tout en veillant aux implications sociales, économiques, éthiques et même environnementales du développement de l’intelligence artificielle. En d’autres termes, cet avis reconnaît d’emblée le potentiel transformateur de l’IA, notamment dans le domaine de l’IA générative, tout en soulignant les défis que pose son intégration dans la société.

Trois ans après son avis publié dans le cadre de la consultation publique sur le livre blanc européen sur l’IA, et préconisant des investissements massifs dans cette technologie et une régulation équilibrée, les membres de la CSNP notent les premiers résultats de la stratégie française mais observent que la réglementation européenne de l’IA, entre protection des droits individuels et promotion de l’innovation, suscite des craintes. Le développement de l’IA générative accentue ce débat.

En premier lieu, la Commission soulève des préoccupations quant à l’impact de l’IA sur l’emploi, sur les compétences, et sur les capacités cognitives. Lorsque la machine fait à votre place, pourquoi apprendre à réfléchir, calculer et rédiger par soi-même ? Pour contrer ces effets, nous proposons deux axes d’action principaux : d’abord, encourager une anticipation des répercussions sociales de l’IA par le biais de plans de formation et de reconversion adaptés aux nouvelles réalités du marché du travail. Ensuite, adapter les contenus éducatifs aux innovations technologiques sans négliger les bases académiques fondamentales, assurant ainsi une intégration harmonieuse de l’IA dans les programmes scolaires. Ces recommandations visent à équilibrer le progrès technologique avec l’inclusion et l’accès équitable aux compétences numériques pour tous.

Actuellement, la réglementation de l’intelligence artificielle se caractérise par une diversité d’approches à l’échelle mondiale, comprenant des ordonnances exécutives et des législations nationales dans des pays tels que les États-Unis, l’Inde, la Chine, et le Royaume-Uni, ainsi que des recommandations de l’OCDE, un travail du Conseil de l’Europe et un code de conduite du G7. Dans ce contexte complexe, les membres de la CSNP privilégient le niveau européen mais proposent une vision ambitieuse pour l’avenir de la régulation de l’IA, en envisageant la création d’un traité international inspiré par les cadres réglementaires de l’espace aérien et maritime. Ce processus, bien qu’il requière du temps et de l’ambition, est jugé crucial pour faire face aux bouleversements sociétaux induits par l’IA et à l’hétérogénéité des conceptions de l’IA. Les recommandations de la CSNP impliquent l’élaboration d’une définition juridique précise de l’IA, ainsi que la formalisation d’un acte législatif européen équilibré qui stimule la recherche et l’innovation, qui respecte les auteurs et leur création, tout en protégeant les utilisateurs.

En outre, l’entraînement efficace des systèmes d’intelligence artificielle dépend crucialement de l’accès à de vastes ensembles de données variées. Les données, ce sont le carburant de ce puissant moteur qu’est l’IA. Cependant, la fragmentation et des approches conservatrices limitent cet accès, notamment dans des domaines critiques comme la santé, où les chercheurs peuvent attendre jusqu’à dix mois pour obtenir les données nécessaires. La Commission supérieure du numérique et des postes souligne l’urgence d’établir une politique publique robuste de gestion des données, pilotée par l’INRIA, afin de favoriser l’indépendance et la fiabilité des données souveraines. Elle appelle à la levée des barrières administratives et politiques entravant l’accès rapide aux données publiques, et à la mise en place de solutions de stockage souveraines pour protéger les données sensibles, en particulier celles liées à la santé. Ces mesures visent à accélérer l’innovation et la recherche en IA, en assurant une base de données riche et accessible, tout en respectant les normes de sécurité et de confidentialité.

La mise en œuvre de la première phase de la stratégie nationale française pour l’intelligence artificielle, en suivant les recommandations du rapport VILLANI, a marqué un tournant significatif avec l’inauguration de projets majeurs comme le supercalculateur Jean ZAY et la création de quatre instituts interdisciplinaires d’IA. Cette progression, saluée par la CSNP, est encore renforcée par l’annonce de la transformation de l’INRIA et du lancement du centre Kyutai par Scaleway, soulignant l’attractivité et le potentiel de la France dans le domaine de l’IA. Toutefois, malgré ces avancées, des défis subsistent, notamment en ce qui concerne l’accès aux données pour les chercheurs : un point critique pour le développement futur de l’IA en France. Une attention particulière doit être portée à notre dépendance en matière de puces électroniques. Enfin, il sera nécessaire d’augmenter les salaires des chercheurs pour être compétitifs au niveau international. et de les inciter à collaborer au sein de l’UE  ou avec des pays non membres de l’UE comme le Royaume-Uni, dans un contexte mondial où la compétition pour le leadership en IA s’intensifie.

La France a engagé une ambitieuse stratégie en intelligence artificielle (IA), initiant sa première phase avec 1,5 milliard d’euros pour la recherche, y compris le financement de supercalculateurs et d’instituts spécialisés en IA. La suite de cette stratégie, lancée avec un budget de 2,22 milliards d’euros, vise à intégrer l’IA dans l’économie et stimuler l’innovation sectorielle. Les membres de la CSNP appellent à une orientation des investissements publics vers des projets d’IA dite « de confiance ». Au niveau européen, bien que des fonds significatifs soient disponibles, la France semble sous-utiliser ces ressources. Notre Commission recommande une meilleure mobilisation et un accompagnement pour l’accès à ces financements. Enfin, face aux défis du financement privé pour les startups en IA, la CSNP propose des mesures pour faciliter l’investissement en phase d’amorçage (ou early stage) tout en établissant un système de remboursement pour des cas où les entreprises seraient acquises par des entités étrangères.

Le croisement de l’intelligence artificielle et de la protection de l’environnement est devenu un enjeu clé, offrant un potentiel immense pour accompagner les transitions vers un futur durable. L’IA promet des avancées dans la gestion des ressources et la lutte contre le réchauffement climatique, mais soulève aussi des préoccupations en matière de consommation énergétique liée aux infrastructures numériques. En effet, l’émergence des intelligences artificielles met en lumière de nouveaux défis écologiques, notamment liés à une consommation d’énergie en hausse en raison de la multiplication des Data Centers, indispensables à l’utilisation et à l’entrainement de l’IA. De même, l’IA est très gourmande en eau. Ces consommations de ressources doivent, cependant, être regardées à l’aune des gains écologiques et énergétiques favorisés par l’IA : par exemple optimisation des émissions carbone, capacité à prévenir les risques climatiques, et supervision de l’usage ou de la production des énergies renouvelables.

Pour aborder ces défis, la CSNP recommande la création d’un consortium pour une IA frugale et le développement de standards internationaux pour évaluer l’impact environnemental de l’IA, visant une approche équilibrée entre innovation et durabilité.

Certains services d’IA sont déjà déployés au sein des services publics, à une échelle encore limitée, pour la lutte contre la fraude (usage des services d’IA au sein de la Direction générale des finances publiques pour détecter des piscines non déclarées), en matière de sécurité intérieure (test sur les caméras de surveillance, cartographie, prédiction des crues) et en assistant les agents pour apporter par exemple une réponse aux usagers.

Aussi, les membres de la commission soutiennent l’usage de l’IA dans le secteur public sous conditions strictes de supervision humaine et de transparence envers les usagers, permettant la contestation de décisions administratives. Des projets emblématiques d’IA doivent être encouragés et développés par les ministères afin d’améliorer les services aux citoyens, en préférant le recours aux applications françaises et européennes.

Enfin, cet avis met en lumière les défis et propose des solutions pour le développement des compétences en intelligence artificielle, en France. D’abord, l’IA nécessite des experts hautement qualifiés. La France possède une excellente formation en mathématiques, essentielle pour l’IA, mais le niveau général en mathématiques des élèves français a diminué, ce qu’il faut corriger. En outre, nous recommandons de développer des formations qualifiantes en IA, notamment pour les niveaux bac+2 et bac+3, et de piloter, via des indicateurs de suivi, le nombre des étudiants spécialisés dans l’intelligence artificielle. Cela passe par une mise à niveau continue des compétences des formateurs dans le domaine de l’intelligence artificielle : cela apparaît crucial pour maintenir un haut niveau domaine en constante évolution. Par ailleurs, comme pour tous les métiers du numérique, la féminisation sera cruciale pour augmenter les viviers et prévenir les biais de genre.

En définitive, pour accompagner cette révolution amenée par l’Intelligence Artificielle, nous devons impulser une régulation internationale permettant de développer une IA éthique et durable, respectueuse de l’Homme et de l’Environnement. L’Europe et l’OCDE devront être au rendez-vous pour faire adopter des normes internationales dans ce sens. Car ces garanties et cette vision de long terme permettront à l’IA d’être un outil indispensable pour mieux vivre les transitions à l’œuvre dans nos sociétés.