« Combien gagne mon patron ? » Une question embarrassante posée à l’IA d’entreprise. La contre-question décisive est : quels documents le compte à l’origine de cette demande peut-il réellement lire ?
Une erreur possible commence bien avant l’IA.
Imaginons une entreprise fictive. Un ancien dossier du personnel contient un tableau des salaires. Lors d’une précédente migration, le dossier a été partagé avec un groupe général de salariés. Plus personne n’utilise le lien. Le partage existe toujours.
Une recherche dans les connaissances est maintenant mise en place. Si cette source est connectée, techniquement exploitable et accessible au compte demandeur, des extraits pertinents peuvent être intégrés à une réponse. Il n’est pas nécessaire de franchir une nouvelle barrière de sécurité. L’IA rend plus visible une ancienne erreur de droits.
Il s’agit d’un exemple hypothétique. Il ne décrit ni un cas réel de client DAXS ni un comportement généralement garanti d’un produit précis. Sans source adaptée et possibilité d’accès, l’IA ne peut pas connaître de manière fiable le montant réel ; un chiffre tout de même fourni peut être inventé.
Trois personnes, trois situations différentes.
La responsable du personnel peut lire le document pour accomplir sa mission. Une autre personne n’a pas ce droit : sa recherche doit exclure la source. Une troisième personne dispose d’un accès technique en raison du partage erroné avec le groupe. Dans son cas, c’est le partage lui-même qui doit être corrigé. Le modèle ne peut pas déduire de façon fiable une mauvaise décision organisationnelle à partir d’un prompt.
Une bonne réponse peut constituer une mauvaise divulgation.
De nombreux tests d’IA évaluent si une réponse semble exacte et s’appuie sur des documents. Pour les informations confidentielles, il faut aussi vérifier si cette personne précise a le droit de voir la preuve. Une réponse exacte sur un salaire peut néanmoins divulguer indûment une information dont seul un cercle restreint a besoin dans l’entreprise.
Inversement, un refus de répondre ne prouve pas encore l’efficacité de la protection. Le document n’a peut-être simplement pas été trouvé. Les tests d’accès doivent donc couvrir la source, l’index de recherche, les consultations directes et les formulations indirectes. Une simple mention aimable comme « Ces données sont confidentielles » ne constitue pas un contrôle fiable des droits.
Les calculs demandent la même vigilance.
Le sujet ne concerne pas seulement les salaires. Un salarié pourrait demander le tarif horaire facturé pour son travail, les conditions d’un client ou la marge interne d’un projet. Ces informations peuvent figurer dans des devis et des tableaux. Tarif facturé, marge sur coûts variables et bénéfice de l’entreprise sont des grandeurs distinctes ; un chiffre isolé ne permet pas de déduire sérieusement le bénéfice réalisé sur une heure de travail.
Les droits des sources comme la qualité du raisonnement doivent donc être corrects. Corriger les espaces documentaires confidentiels et vérifier le fond des résultats sont deux tâches distinctes.
Ce que les entreprises peuvent vérifier avant le pilote.
- Identifier les documents du personnel, financiers et stratégiques et attribuer les responsabilités.
- Vérifier les droits effectifs, y compris les groupes, l’héritage et les liens de partage.
- Préparer des comptes de test pour les accès autorisés, refusés et involontairement trop larges.
- Vérifier que les droits s’appliquent avant la transmission d’extraits au modèle.
- Répercuter aussi les retraits de partage dans les index, caches, exports et réponses partagées.
Pour Microsoft Copilot utilisant les données Microsoft 365, l’éditeur décrit l’utilisation des contenus dans les limites des droits de l’utilisateur. C’est précisément une raison de corriger les droits initiaux trop larges avant le déploiement. Les autres produits de conversation et les agents supplémentaires doivent être examinés selon leur modèle concret de données et de comptes.
Une prochaine étape pertinente.
DAXS peut planifier un contrôle délimité de la sécurité de l’IA avec inventaire des sources, vérification des droits et tests négatifs documentés. L’objectif est un état de déploiement compréhensible : quelles sources sont autorisées pour quels utilisateurs, quelles lacunes sont connues et qui les corrige ?
La page spécialisée sur la sécurité de l’IA et l’AI Oversharing explique les contrôles. Pour l’architecture de recherche, Connaissances d’entreprise et RAG complète cette présentation.
Sources : Microsoft : données et autorisations · OWASP : divulgation d’informations sensibles.
