Les trois niveaux de sécurité de l’IA Abonnés
Lettre n° 2419 du 21 juillet 2026
Sosafe rappelle que l’utilisateur de l’IA doit avoir conscience que celle-ci produit ou interprète des résultats mais que l’agent doit les affiner ou les valider, et qu’une collectivité qui utilise l’IA doit toujours prendre en compte trois niveaux : le niveau de l’outil, le niveau humain et le niveau de l’entreprise.
Le niveau de l’outil : des prompts mal conçus influencent le comportement à venir de l’IA en l’induisant en erreur et en semant la confusion.
Rappelons qu’un prompt est l’entrée ou la commande communiquée à un système d’IA qui lui indique d’exécuter une tâche spécifique ou de générer une réponse particulière. Si l’agent pose mal sa question, la réponse de l’IA sera biaisée. La collectivité utilisatrice doit donc avoir conscience que l’IA utilisée est un modèle en évolution.
Le niveau de l’agent : l’utilisation de la Shadow IA augmente dans le travail des agents. Ces derniers peuvent également commettre des erreurs dans les questions posées.
Rappelons que le Shadow AI (ou IA fantôme) désigne l'utilisation, par des employés ou des départements, d'outils et d'applications d’IA sans l'approbation ou la supervision du service informatique de l'organisation. Soasafe préconise donc de créer une culture commune des agents dans l’utilisation de l’IA.
Le niveau de l’entreprise : la commune court un risque réputationnel en cas d’utilisation malencontreuse de l’IA.
Selon Soasafe, les dirigeants devraient donc traiter l’accès à l’IA comme une zone de contrôle spécifique, en instaurant des restrictions d’identité autour des services d’IA, en empêchant les autorisations héritées et en aidant les collaborateurs à comprendre ce qu’implique l’accès à chaque outil qu’ils autorisent.
Attention, l’agent doit avoir conscience que s’il utilise l’IA sans précaution, par exemple en faisant relire un mail par l’IA, il peut favoriser une intrusion dans le système informatique communal. Sosafe rappelle que les hackers peuvent utiliser les outils d’IA à des fins d’espionnage et constate que près de 50 % des collaborateurs continuent de copier-coller des données sensibles, comme que des dossiers clients, des bilans financiers et des e-mails internes, dans des outils d’IA publics. Une fois ces informations injectées dans un modèle externe, les entreprises perdent tout droit de regard sur le stockage, la conservation et l’utilisation de ces informations en aval. Il en résulte des risques de fuite, de régénération et d’inférence.
Attention également à l’utilisation de données protégées par le droit d’auteur.
Attention également à l’utilisation de données protégées par le droit d’auteur.
Michel Degoffe le 21 juillet 2026 - n°2419 de La Lettre du Maire
Cet article vous a intéressé :
S'abonner
Vous êtes abonné :
S'identifier
Vous souhaitez conserver cet article :
Ajouter à mes archives
Les avantages de mon abonnement :
- Conserver mes publications au format pdf help_outline
- Recevoir par mail deux articles avant le bouclage de la publication.help_outline
- Créer mes archives et gérer mon fonds documentairehelp_outline
- Bénéficier du service de renseignements juridiqueshelp_outline
- Bénéficier du service InegralTexthelp_outline
- Gérer mon compte abonnéhelp_outline
