RisqueComment il se manifesteAtténuationQui surveille
R1
Biais et inégalité de traitement
Comment il se manifesteUne qualité de réponse ou d'orientation différente selon certains groupes, langues ou régions.
Atténuation- Qualité testée par langue et par groupe sur des demandes réelles
- Les agents IA proposent, les agents publics décident de tout ce qui touche aux droits
- Revue périodique par échantillon par l'audit
Qui surveilleAudit et délégué à la protection des données
R2
Hallucination
Comment il se manifesteUne réponse assurée ou une citation qui n'existe pas.
Atténuation- Réponses uniquement à partir de vos sources indexées, avec citation et lien
- Pas de source, pas de réponse — l'agent IA dit qu'il ne sait pas
- Les tests de référence bloquent les versions qui régressent
Qui surveilleInstructeurs et IT
R3
Fuite de données
Comment il se manifesteDes données personnelles atteignent une personne non habilitée ou quittent la juridiction.
Atténuation- Déploiement isolé ou dans le pays
- Accès jusqu'au niveau des lignes et des champs, hérité de votre annuaire
- Masquage et journalisation complète des accès
Qui surveilleIT et sécurité
R4
Manipulation de l'agent
Comment il se manifesteUn texte dans une demande ou un document tente de modifier les instructions de l'agent IA.
Atténuation- Filtrage des entrées et séparation des instructions et du contenu
- Les agents IA ne peuvent pas étendre leurs propres droits
- Les actions à risque exigent toujours un humain
Qui surveilleIT et sécurité
R5
Confiance excessive
Comment il se manifesteDes agents publics approuvent des projets sans les lire.
Atténuation- Sources affichées à côté de chaque affirmation
- Contrôles ponctuels et indicateurs de reprise par utilisateur
- Formation des agents au lancement
Qui surveilleChefs de service
R6
Dépendance au fournisseur
Comment il se manifesteL'administration ne peut changer de fournisseur ou de modèle sans tout recommencer.
Atténuation- Fonctionne sur votre infrastructure ; les modèles sont interchangeables
- Données, prompts et journaux exportables dans des formats ouverts
- Documentation et transfert de compétences à votre équipe
Qui surveilleDSI et achats