Sécurité des IA et des agents connectés au réseau

Évaluez les risques d’un assistant ou agent IA connecté au système d’information et mettez en place des protections vérifiables avant sa mise en service.

Durée2 jours

NiveauIntermédiaire à avancé

FormatPrésentiel ou à distance

PublicProfessionnels IT

Formation technique

Objectifs opérationnels

Formation de deux jours pour sécuriser les modèles, assistants et agents IA ayant accès à des API, documents ou outils d’administration réseau.

Cartographier les données, outils et privilèges d’un agent IA.
Identifier les scénarios de fuite, d’injection et d’abus d’outils.
Protéger les clés, secrets et comptes de service.
Valider les entrées, sorties et actions sensibles.
Mettre en place journalisation, surveillance et réponse à incident.

Compétences développées

Construire un modèle de menace adapté à une intégration IA.
Définir une architecture réseau segmentée et des droits minimaux.
Concevoir une validation humaine pour les actions à impact.
Tester les contrôles et documenter les risques résiduels.

Déroulé pédagogique

Programme détaillé

Chaque demi-journée combine apports ciblés, démonstrations et travaux pratiques dans un laboratoire isolé.

Jour 1 - Menaces et architecture de confiance

Matin - Surface d’attaque d’une solution IA

Composants : modèle, interface, API, données, outils et connecteurs.
Fuites de données, prompt injection et contenu non fiable.
Abus de fonction, escalade de privilèges et actions non prévues.
Méthode de cartographie des actifs, flux et niveaux de confiance.

Travaux pratiques : Construire le modèle de menace d’un assistant ayant accès à une documentation et à une API réseau.

Après-midi - Identités, secrets et segmentation

Comptes de service, jetons courts et rotation des secrets.
Coffre de secrets, séparation des environnements et moindre privilège.
Segmentation réseau, filtrage sortant et contrôle des destinations.
Traçabilité des appels d’outils et attribution des actions.

Travaux pratiques : Définir une matrice de droits et des flux réseau minimaux pour l’agent.

Jour 2 - Contrôles applicatifs, tests et réponse

Matin - Encadrer les entrées, sorties et actions

Validation de schéma, filtrage et normalisation des paramètres.
Liste d’outils autorisés et séparation lecture/écriture.
Approbation humaine, simulation et limites transactionnelles.
Traitement des erreurs et prévention des données sensibles dans les traces.

Travaux pratiques : Ajouter des contrôles à un agent vulnérable et vérifier leur efficacité.

Après-midi - Audit et gestion d’incident

Jeux de tests adverses, critères d’acceptation et non-régression.
Journalisation exploitable, alertes et surveillance des comportements.
Désactivation d’urgence, révocation des secrets et investigation.
Politique d’usage, responsabilités et dossier de sécurité.

Travaux pratiques : Auditer puis sécuriser un agent doté d’outils d’administration dans un laboratoire isolé.

Projet de synthèse

Audit de sécurité et durcissement d’un agent IA capable d’interroger des outils d’administration réseau.

Pédagogie

Démonstrations commentées
Travaux pratiques guidés
Mise en situation finale
Supports et corrigés numériques

Évaluation

Positionnement initial
Évaluation formative
Projet final évalué
Validation des connaissances

Télécharger le programme complet

Retrouvez le plan par demi-journée, les objectifs, les prérequis, les moyens pédagogiques et les modalités d’évaluation.

Télécharger le programme PDF