Architecture et solutions

Maîtrise des hallucinations

Concept et politique : trois contrôles (ancrage ≥ 0,90, modèle critique indépendant, validateurs déterministes), dix mesures par niveau de risque, une démo de vérification et un générateur de politique.

Mesures

Contrôle d'ancrage (≥ 0,90): Chaque affirmation doit être étayée par le contexte retrouvé ; similarité et implication notées de 0 à 1.
Modèle critique indépendant: Un second modèle, d'une autre famille, compare les faits extraits aux sources et signale les contradictions.
Validateurs déterministes: Regex, schéma JSON et règles métier (IBAN, montants, dates, limites) — sans modèle.
Qualité de la recherche: Sources validées, recherche sous contrôle d'accès, dates de fraîcheur, découpage testé.
Génération contrainte: Sortie structurée, vocabulaires fermés, résultats d'outils plutôt que mémoire du modèle pour faits et chiffres.
Citations obligatoires: Les réponses citent la source de chaque affirmation ; sans source → supprimée ou signalée.
Règle d'abstention: Si les preuves manquent, l'agent le dit et transmet à un humain au lieu de deviner.
Calibrage de la confiance: Scores calibrés sur des cas étiquetés pour que les seuils aient un sens.
Évaluation et red team: Jeu ≥ 200 cas par usage, porte de non-régression à chaque changement, tests adverses.
Supervision en production: Taux d'ancrage, de correction et de réclamation suivis ; alertes de dérive ; contrôle par échantillon.

AIHA Office

Maîtrise des hallucinations

Mesures

Dans cette démo