Éditions Sorman

Co-fondateur d'Avanoo, Étienne Delouvrier a publié une tribune sur les dangers de l'utilisation clandestine de l'intelligence artificielle (ChatGPT ou outils équivalents) par les agents des collectivités locales. Une étude parue en avril dernier dans La Tribune Dimanche, menée auprès de 2 000 agents publics issus de neuf administrations, révèle que plus d'un agent sur deux déclare utiliser ChatGPT ou un équivalent. Il n'est pas question d'interdire aux agents d'utiliser l'IA, c'est un mouvement irréversible, mais il faut avertir les communes des risques encourus. C'est l'objet d'Avanoo, société créée en 2024 par cinq fondateurs, dont trois ingénieurs (certains venus de Google, d'autres de la DGA). L'un des fondateurs, Tanguy Duthion, nous présente les enjeux et les risques que présente l'utilisation de l'IA pour les collectivités locales.

La Lettre du Maire : quels sont les premiers risques de mauvaise utilisation de l’IA ?

Tanguy Duthion : les agents publics utilisent l'IA pour faire relire ou corriger un mail, des documents d'un appel d'offres... Les données sont alors transmises à l'IA, et donc accessibles à l'éditeur de l'outil. Or, il est évident que des données stratégiques ne doivent pas être divulguées. Même chose pour des documents qui contiennent des données personnelles. Les agents qui utilisent une IA doivent aussi être avertis des risques d'hallucination.

La LDM : qu’entendez-vous par hallucination ?

T.D : dans le domaine de l’IA, une hallucination — ou confabulation — désigne une réponse fausse ou trompeuse présentée comme un fait certain. Par exemple, une IA peut citer avec aplomb un article de loi ou une jurisprudence qui n'existent pas ; l'agent qui reprend cette réponse sans la vérifier engage la collectivité. À côté de l'hallucination, il y a aussi le biais : un outil peut propager des préjugés ou refléter la position de celui qui l'a conçu. Si vous interrogez une IA chinoise sur la situation des Ouïghours, tout porte à croire que la réponse sera orientée. Dans les deux cas, la solution n'est pas d'interdire, mais de former et de protéger l'agent. Pour prendre une comparaison, il serait incongru d'interdire les calculatrices mais, pour s'en servir correctement, il faut connaître les bases du calcul. Le maire, lui, doit avoir conscience de ces dangers, car il court un risque réputationnel si ses agents se servent mal de l'IA.

La LDM : vous avez déjà des clients parmi les communes, la Métropole et la ville de Grenoble par exemple. Votre service est-il accessible à toutes les communes, et quel est son prix ?

T.D : sur le prix, c'est difficile de donner un montant unique, car il dépend de la taille de la collectivité et du nombre d'agents concernés : plus la commune compte d'agents, plus le prix est élevé. Mais nous le calculons en tenant compte du nombre d'agents qui utilisent les services numériques, pas de ceux qui sont sur le terrain. Vous pouvez nous contacter pour avoir un devis.

La LDM : pouvez-vous nous présenter concrètement votre service ?

T.D : nous installons une extension sur tous les navigateurs utilisés par l'agent sur son poste de travail, pour les seuls usages professionnels. Si l'agent lit L'Équipe sur son ordinateur, nous ne le voyons pas ; l'idée n'est absolument pas de savoir si un agent travaille ou s'il ne travaille pas. Notre logiciel détecte les risques liés à chaque navigateur utilisé, ou signale ceux que présente l'envoi d'un fichier vers tel ou tel site. L'installation se fait à distance : quinze minutes suffisent. Nous adressons ensuite des comptes rendus à la collectivité, par exemple chaque semaine, en plus des tableaux de bord évidemment accessible en permanence. En fonction des pratiques observées, nous expliquons aux agents ce qu'il faut faire et ne pas faire.
Prenons deux exemples. Quand un agent utilise un convertisseur en ligne comme iLovePDF pour transformer un PDF, le fichier (parfois confidentiel) part sur des serveurs tiers : c'est la fuite de données classique. Mais le risque n'est pas toujours là où on l'attend. Un agent un peu technique peut installer un outil comme Ollama (via le téléchargement d'un fichier "OllamaSetup.exe") qui fait tourner une IA directement sur son poste : cette fois, la donnée ne sort pas. Le danger est ailleurs. C'est un logiciel installé hors du contrôle de la direction des services informatiques, souvent mal configuré et sans protection, qui ouvre une porte d'entrée sur le réseau ; ce type d'outil a déjà connu des failles critiques permettant à un cybercriminel de prendre le contrôle de la machine à distance, puis de se propager dans le système d'information. Notre logiciel aide précisément la collectivité à identifier ces risques et à répondre aux exigences de cybersécurité.

Michel Degoffe le 21 juillet 2026 - n°2419 de La Lettre du Maire