AIHA Office Agentic AI & Hyperautomation Implementation Office · demo

Architecture et solutions

Sécurité et menaces de l'IA

Menaces propres à l'IA — injection et empoisonnement d'instructions, empoisonnement du RAG et des données, corruption des données brutes, mémoire des agents, outils compromis, chaîne d'approvisionnement, exfiltration, élévation de privilèges, épuisement des coûts — avec mesures.

Menaces

  • Injection d'instructions directe et contournement: Filtre d'entrée, isolation des instructions système, tests de refus, liste d'outils
  • Empoisonnement d'instructions (injection indirecte via e-mails, documents, pages, tickets): Le contenu retrouvé est une donnée, pas une instruction ; assainissement ; étiquettes de provenance ; approbation humaine des actions irréversibles
  • Empoisonnement du RAG / de la base de connaissances: Sources validées par leur propriétaire ; ingestion signée ; revue des changements ; détection d'anomalies
  • Empoisonnement des données d'entraînement et portes dérobées: Jeux sélectionnés avec traçabilité, échantillonnage, évaluation séparée et red team avant publication, signature des adaptateurs
  • Corruption des données brutes (systèmes sources, extraits, stockage objet): Sommes de contrôle à l'ingestion, zone brute immuable (WORM), rapprochement avec les systèmes de référence, aucun accès en écriture des agents aux données brutes
  • Empoisonnement de la mémoire des agents: Mémoire limitée et expirante ; pas de mémoire partagée entre utilisateurs ; écritures journalisées
  • Manipulation des sorties d'outils / serveur MCP compromis: Serveurs MCP signés et enregistrés, mTLS, validation des réponses, validateurs déterministes
  • Chaîne d'approvisionnement des modèles (poids altérés, paquets malveillants): Poids depuis registres approuvés, vérification des empreintes, SBOM, signature, analyse
  • Exfiltration de données via le modèle ou les outils: DLP, liste de sortie, routage par classe, analyse des sorties, audit en temps réel
  • Élévation de privilèges par un agent: Moindre privilège, ABAC décidé par le moteur de politiques, les agents ne peuvent modifier ni accès ni politiques
  • Épuisement des coûts et boucles incontrôlées: Budgets d'étapes, de jetons et de coût, limites de débit, arrêt d'urgence

Démonstration publique avec données fictives (Example Group). © 2025–2026 Russo-Got Marius Mihail & PIR2-IT. All rights reserved.

AIHA Office

Dans cette démo