AI / AI-06
Agent IA et sécurité des actions d'entreprise
Encadrer l'IA capable d'utiliser des outils ou d'agir : principe du moindre privilège, limites de tâches, approbation des opérations sensibles et mécanisme d'arrêt. Un agent ne doit pas hériter automatiquement de toutes les permissions de son opérateur.
QUAND C'EST UTILE
Une réponse ciblée
à un besoin défini.
Agent connecté au CRM, au système de billetterie, au courrier électronique, aux fichiers ou à la gestion administrative ; automatisation requérant un accès privilégié ; besoin de contrôler les actions et leurs coûts.
PORTÉE ET RÉSULTATS
Ce que couvre la mission.
Portée
- Inventaire des outils
- identité dédiée
- permissions
- séparation de lecture/écriture
- Destinations autorisées
- approbation humaine
- transactions
- quotas
- briques
- arrêt
- Test d’annulation et d’abus
Livrables
- Matière première/action
- règles d'approbation
- Identités restreintes
- Procédures d’arrêt
- tests
- Journal d'audit
- consignes d'exploitation
- Registre des actions exclues
Preuve de réception
Les actions non couvertes par les règles sont refusées ; les paramètres sensibles sont visibles par les homologues ; l’arrêt et la révocation sont testés ; les journaux sont utilisables ; les limites de nombre de appels et de tentatives de redémarrage sont appliquées.
LIVRAISON
Comment le travail est structuré.
Approche
Choisir un cas d'usage ; classifier les données et l'accès ; concevoir et piloter ; tester la confidentialité, les actions et le coût ; décider du déploiement et du suivi.
Prérequis et responsabilités
Client : sponsor métier, propriétaires des données, équipe d'identité, DPO/juridique si nécessaire et budget. Fournisseur : architecture et tests ; le client conserve l'approbation des utilisations sensibles.
Facteurs de portée
Usages, utilisateurs, modèles, données, connecteurs, autorisations, actions, volumes et hébergement. Projet séparé, licences, jetons, recherche, stockage et opérations ; pas d'économies revendiquées sans mesure.
Questions à clarifier
Quelles actions ont des effets externes ou irréversibles ? Qui approuve l’action spécifique avant son exécution ? Que peut faire l’agent lorsque l’outil renvoie des instructions trompeuses ?
LIMITES IMPORTANTES
Un message système ne constitue pas en soi un cadre de sécurité. Les outils et services doivent imposer des autorisations ; l’approbation doit concerner l’action proprement dite et non une intention vague.
Les autorisations, l'utilisation des données par le fournisseur, la conservation, la résidence et l'application des coûts sont évaluées séparément. Les fonctionnalités techniques et les obligations applicables sont vérifiées pour l'offre et le cas d'utilisation choisis.
EN PRATIQUE
Situations illustratives.
Ces exemples décrivent des engagements possibles et des résultats cibles. Il ne s'agit pas de références clients ni de résultats obtenus.
Scénario 01
Un agent rédige les réponses commerciales et peut les envoyer. Projet : séparation entre la rédaction et l’envoi des messages, avec approbation du destinataire et du contenu. Objectif : une assistance utile sans messages externes indépendants non approuvés.
Scénario 02
Une équipe souhaite un agent de remédiation technique. Projet : limiter initialement cette intervention à l’analyse et aux modifications réversibles approuvées. Objectif : des actions traçables ; la suppression de données et les modifications de privilèges restent interdites en dehors d’une procédure plus rigoureuse.
Contexte technologique et de référence
Exemples : identités d’application, passerelles d’outils, contrôles de connecteurs et orchestration basée sur l’approbation ; références OWASP GenAI.
L'ensemble final des technologies est convenu lors du cadrage, sur la base de l'interopérabilité, des licences, des droits d'accès et des exigences opérationnelles.
SERVICES CONNECTÉS
Construisez l'étape suivante.
Ces services peuvent compléter la mission. Ils ne sont pas inclus automatiquement.
Commencer une conversation
Clarifiez la portée.
Nous clarifierons l'objectif, les dépendances et les responsabilités de ce service avant de proposer la livraison.