Les progrès spectaculaires de l’IA autour de nous masquent une diversité d’usages, présentant à la fois des opportunités réelles et des gains substantiels d’efficacité ainsi que des risques tout aussi réels de fuite d’information et de perte de souveraineté.

Suivons donc l’adage d’un ancien Premier ministre : « Plus un sujet est compliqué, plus il est important de répéter des choses simples ».

Aussi, aujourd’hui, l’usage de l’IA dans un cadre de service public ou professionnel commence par deux questions simples, outre bien sûr celle de son utilité :

• Sommes-nous spécifiques ? et si oui en quoi ?
• Les données à mobiliser sont-elles sensibles ?

Revenons sur ces deux questions.

L’IA est entrainée en se nourrissant de ce qu’elle apprend, sur Internet et par les données qui lui sont transmises. L’IA grand public répond à des besoins génériques et est entrainée à grande échelle pour y répondre. Cela donne en général des résultats de très bon calibre sur des questions standard [1], pour laquelle l’IA est très entraînée.

NB : La performance apparente ne doit cependant pas nous faire oublier que l’IA générative fonctionne en mode probabiliste, en donnant la réponse qu’elle pense être la plus probable. Il faut toujours rester vigilant sur la tendance de l’IA de générer du contenu plausible même quand elle ne sait pas, ce qui peut donner des « hallucinations » dont certaines sont parfois spectaculaires. L’IA peut également amplifier des biais appris à partir des données dont elle se nourrit.

En complément, cet entrainement de masse, nourri d’Internet, ne prend pas en compte des besoins spécifiques, ou y répond de manière générique. Cela peut amplifier le risque d’erreur, d’hallucination ou de biais parce que l’IA ne prend pas suffisamment en compte votre contexte particulier qui peut parfois modifier substantiellement la teneur de la réponse souhaitée. Il est bien sûr possible de réaliser un entrainement spécifique[2], en vérifiant qu’il est suffisant et en pensant à le maintenir à jour.

Le carburant de l’IA, ce sont les données. Une question posée à une IA publique avec des données sensibles les divulgue directement en les rendant potentiellement disponibles en réponse à des requêtes futures d’autres acteurs.

La réponse à ces deux questions donne ainsi le cadran suivant qui permet de positionner votre contexte d’usage de l’IA :

Il faut vérifier alors si les données concernées sont sensibles et si un entrainement générique suffit, en répondant aux deux questions ci-dessus.

• Pour la phase amont de veille et de sourcing, pour laquelle il s’agit généralement de données ouvertes et de questions standards, l’IA grand public peut être très efficace.
• Pour la phase de rédaction, il semble possible pour certains paragraphes de s’appuyer sur une IA généraliste interne, sans entrainement particulier mais en veillant à la protection des données avant publication de l’appel d’offres.
• Pour la phase d’analyse des offres reçues, l’utilisation d’une IA générative grand public est bien sûr proscrite car elle divulguerait les réponses sans tenir compte du secret industriel et de la propriété intellectuelle des candidats. L’utilisation d’une IA interne à qui on « apprend » quels sont les critères d’analyse des offres semble a contrario envisageable en aide au dépouillement.

Il s’agit ici impérativement de vérifier si l’IA donne des réponses adaptées à la demande des usagers, et pas juste de jolies réponses formelles parfois déconnectées de la question initiale. Si certaines IA grand public peuvent constituer un premier socle, il y a très probablement une phase d’entrainement spécifique à prévoir pour intégrer le contexte local ainsi qu’une phase de vérification importante pour confirmer, avant l’ouverture du service, la qualité du service obtenu et la lisibilité du parcours usager.  

Permettez-moi de citer ici deux exemples de déploiement d’IA en appui de la relation usager.

L’application dédiée aux Jeux Olympiques et Paralympiques, Transport Public Paris 2024, a mobilisé de la traduction automatique par IA sur plusieurs langues indo-européennes[3]. Ce service s’est massivement appuyé sur des briques génériques de traduction, avec seulement quelques ajustements à la marge. Une phase de tests préalable importante a néanmoins été nécessaire pour confirmer l’adaptation au besoin.

Pour les transports franciliens, un numéro de téléphone unifié, en cours de généralisation, permet de prendre en compte l’ensemble des appels usagers, jusque-là portés par 106 numéros différents. Pour ce faire, un entrainement très spécifique a dû être réalisé et nécessite une actualisation très régulière pour conserver le niveau de qualité attendu dans les relations usager.

L’intelligence artificielle induit aujourd’hui une transformation très forte de notre environnement. Elle constitue un vrai accélérateur, une sorte d’exosquelette, dont il serait dommage, voire pénalisant, de ne pas pouvoir se servir mais qu’il faut utiliser en sachant pour quel usage et dans quel cadre. Aussi, avant de l’utiliser, demandez-vous toujours si l’IA est-elle correctement entrainée pour ce que vous souhaitez faire et quels sont les risques à la nourrir avec vos données.

 ——–

[1] Avec un prompt bien travaillé pour optimiser le retour.

[2] Avec par exemple ce qu’on appelle la technologie RAG (Retrieval-Augmented Generation), technologie qui permet de générer du contenu en s’appuyant sur des sources spécifiques, même en dehors de la phase d’apprentissage.

[3] Allemand, espagnol, italien, portugais