IA fantôme : ce qu’elle est et comment la gouverner sans ralentir vos équipes
L’IA fantôme désigne l’utilisation d’outils, de fonctionnalités ou d’agents d’IA au travail sans l’approbation, la visibilité ou la gouvernance de l’organisation. Il peut s’agir d’un employé qui utilise un compte personnel d’IA, d’une fonctionnalité d’IA activée dans une application d’entreprise approuvée ou d’un agent connecté aux systèmes de l’entreprise sans responsable clairement désigné. Le défi pour les dirigeants consiste à comprendre où cette utilisation se produit, à gérer les risques et à donner aux employés des moyens sûrs d’accomplir leur travail.
Ce sujet est important aujourd’hui parce que l’IA apparaît dans les logiciels du quotidien, et pas seulement dans les robots conversationnels autonomes. Les employés peuvent l’adopter pour rédiger, analyser ou automatiser des tâches avant que les TI aient pu examiner la façon dont elle traite les renseignements de l’entreprise. Une interdiction générale résout rarement le problème de fond : elle peut rendre l’utilisation plus difficile à détecter pendant que les équipes cherchent des solutions de contournement.
TI fantômes et IA fantôme : quelle est la différence?
Les TI fantômes désignent généralement les logiciels, services ou appareils non approuvés utilisés au travail. L’IA fantôme présente un défi plus particulier : elle englobe les outils d’IA, mais aussi les fonctionnalités et les agents d’IA capables d’interpréter, de générer des renseignements ou d’agir sur ceux-ci.
Cette différence est importante, car l’IA peut traiter les données qui lui sont transmises, exploiter des renseignements connectés ou effectuer des actions par l’intermédiaire d’intégrations. Elle peut être intégrée à un service que l’entreprise utilise déjà, ce qui la rend plus difficile à repérer à partir d’une simple liste d’achats de logiciels.
Les risques réels de l’IA fantôme
1. Des données sensibles peuvent être transmises à des outils non approuvés
Les employés peuvent copier des renseignements sur les clients, des contrats, des renseignements sur les employés, du code source ou des données financières internes dans un service public d’IA. L’organisation peut ignorer comment le fournisseur conserve, utilise ou supprime ces renseignements, ou quelles conditions s’appliquent à un compte personnel.
Une règle de départ pratique est simple : ne saisissez pas de renseignements confidentiels, personnels ou réglementés dans un outil d’IA à moins que son utilisation ait été approuvée pour ces renseignements.
2. L’IA connectée peut faire ressortir des renseignements auxquels certaines personnes ne devraient pas avoir accès
Microsoft Copilot et les autres outils d’IA connectés utilisent généralement les renseignements auxquels un utilisateur a accès. Si les autorisations SharePoint, les liens de partage ou les anciens espaces de travail sont trop permissifs, un assistant peut faciliter la recherche et la synthèse de ces renseignements. L’outil peut respecter correctement les autorisations tout en révélant un problème d’accès qui existait déjà.
C’est l’une des raisons pour lesquelles la gouvernance de l’IA doit inclure l’accès aux données. Notre guide sur la gouvernance des données SharePoint pour l’adoption de l’IA explique pourquoi les autorisations, le partage et le contenu obsolète méritent une attention particulière avant un déploiement généralisé de l’IA.
Un score global de préparation peut masquer les problèmes précis d’accès et de partage que les dirigeants doivent résoudre.
3. Les agents et les intégrations non gérés peuvent disposer d’un accès trop étendu
Un agent peut se connecter aux courriels, aux documents, aux systèmes clients ou aux API internes. Si son responsable, son objectif et ses autorisations sont mal définis, il peut créer un accès à des données ou à des actions que l’organisation ne surveille pas. Considérez les agents comme des identités qui nécessitent un responsable, des autorisations approuvées et des examens réguliers, et non comme une simple application supplémentaire.
4. Les obligations en matière de protection des renseignements personnels et de réglementation demeurent applicables
L’utilisation d’un outil non approuvé ne dégage pas une organisation de ses responsabilités à l’égard des renseignements personnels. Selon l’organisation, les données et l’activité, les obligations canadiennes en matière de protection des renseignements personnels peuvent inclure des exigences prévues par la LPRPDE ou la Loi 25 du Québec.
Par exemple, un service d’IA qui traite des renseignements personnels peut soulever des questions concernant les finalités, les mesures de protection, la transparence et le lieu de traitement des renseignements. Les organisations québécoises devraient également déterminer si une évaluation des facteurs relatifs à la vie privée est nécessaire pour un système ou un transfert impliquant des renseignements personnels. Les détails dépendent des circonstances; faites participer votre équipe juridique ou de protection des renseignements personnels à l’évaluation des usages particuliers.
5. Les licences en double peuvent discrètement augmenter les coûts
Les équipes peuvent payer des abonnements individuels à des outils d’IA alors que l’organisation dispose déjà d’une plateforme approuvée ou de fonctionnalités similaires dans ses logiciels existants. Sans inventaire, les dirigeants peuvent passer à côté de dépenses en double, de contrôles de sécurité inégaux et d’occasions de regrouper les licences.
Comment repérer l’IA fantôme
Aucune méthode de découverte ne permet de tout repérer. Combinez les signaux techniques et les commentaires des employés, et examinez à la fois les outils autonomes et les fonctionnalités d’IA dans les services approuvés.
| Signal | Ce qu’il peut vous indiquer |
|---|---|
| Journaux réseau, de mandataire ou DNS | Les services d’IA auxquels les appareils des employés accèdent |
| Journaux d’authentification unique et d’identité | Les utilisateurs qui se sont connectés et si l’accès s’est effectué avec des comptes professionnels gérés |
| Découverte SaaS et relevés de dépenses | Les services actifs, payants ou connectés aux processus d’affaires |
| Autorisations OAuth et extensions de navigateur | Les applications ou modules complémentaires qui peuvent accéder aux comptes ou aux données de l’entreprise |
| Sondage auprès des employés et entrevues | Les outils utilisés, les tâches auxquelles ils servent et les raisons de leur utilisation |
| Examens des fonctionnalités d’IA dans les services SaaS approuvés | Les endroits où de nouvelles capacités d’IA peuvent traiter des renseignements d’affaires |
Les environnements Microsoft peuvent être en mesure d’utiliser Defender for Cloud Apps pour découvrir et évaluer les applications infonuagiques, y compris les services d’IA générative. Microsoft documente également la découverte de l’IA fantôme au moyen de Global Secure Access. Les capacités disponibles dépendent de votre configuration et de vos licences; confirmez donc ce que votre environnement prend en charge.
Commencez par rechercher des tendances plutôt que des visites isolées. Un journal réseau peut révéler un accès à un site d’IA, mais pas nécessairement si une personne y a saisi des renseignements sensibles ou avait une raison professionnelle légitime de le consulter. Associez les signaux techniques à une politique claire et à un moyen pour les employés de déclarer leurs outils et de demander une approbation.
Gouverner sans interdire
Une politique sur l’IA fantôme utile devrait préciser ce que les employés peuvent faire, ce qui nécessite une approbation et comment obtenir une solution de rechange sûre. Ces règles constituent un point de départ pratique :
- Utilisez des outils approuvés pour le travail. Tenez à jour une liste des services d’IA d’entreprise autorisés et des fonctionnalités approuvées.
- Adaptez les renseignements à l’outil. Ne saisissez pas de renseignements confidentiels, personnels, réglementés ou concernant les clients dans un service non approuvé.
- Utilisez des comptes gérés pour le travail. Utilisez les identités de l’entreprise et les méthodes de connexion approuvées; ne connectez pas de comptes personnels aux données professionnelles.
- Vérifiez les résultats de l’IA. Les employés demeurent responsables de vérifier l’exactitude, les biais, la confidentialité et la pertinence des résultats avant de les utiliser ou de les partager.
- Exigez un examen des agents et des intégrations. Documentez un responsable, un objectif, les autorisations, les systèmes connectés et les actions que l’agent peut effectuer.
- Protégez les décisions importantes. Exigez une vérification humaine appropriée lorsque l’IA contribue à des décisions qui touchent les employés, les clients ou l’accès à des services importants.
- Signalez les outils et les préoccupations. Facilitez la déclaration des usages actuels, des fonctionnalités d’IA inattendues, des expositions de données ou des comportements suspects.
- Réévaluez régulièrement. Examinez les outils, les autorisations, les conditions des fournisseurs et la politique à mesure que les produits et les besoins d’affaires évoluent.
En complément des règles, publiez une liste d’outils approuvés qui précise les usages autorisés de chaque outil, les données qu’il peut traiter et où obtenir de l’aide. Rendez-la facile à trouver et mettez-la à jour lorsque votre organisation approuve un nouveau cas d’utilisation.
Simplifiez les demandes : un employé ou un service soumet l’outil, l’objectif d’affaires, les données prévues et les intégrations; les TI, la sécurité, la protection des renseignements personnels et les achats examinent la demande à l’aide d’une liste de contrôle des risques uniforme; le demandeur reçoit ensuite une approbation, une solution de rechange sûre ou une explication claire des changements nécessaires. Offrez de courtes formations pour que les employés sachent protéger les renseignements, vérifier les résultats et utiliser efficacement les outils approuvés.
L’objectif est un cadre de gouvernance de l’IA applicable : des outils visibles, des mesures de protection raisonnables et un parcours clair pour que les employés obtiennent de l’aide. Si le processus d’examen est trop lent ou trop complexe, les employés risquent de revenir aux outils non approuvés.
Un plan pratique sur 90 jours
- Jours 1 à 30 : découvrir. Examinez les signaux réseau et d’identité, l’utilisation des services SaaS, l’activité des navigateurs et d’OAuth, et demandez aux employés ce qu’ils utilisent. Désignez les responsables d’affaires et priorisez les outils, les données et les agents à risque élevé.
- Jours 31 à 60 : établir les règles et combler les lacunes urgentes. Publiez une première liste d’outils approuvés et une politique concise. Corrigez les accès risqués, les intégrations non gérées et l’exposition des données sensibles; définissez un parcours d’approbation simple et formez les équipes.
- Jours 61 à 90 : surveiller et améliorer. Examinez l’adoption, les nouveaux outils, les demandes liées à la politique et les incidents. Mettez à jour l’inventaire et les contrôles, puis convenez des responsabilités permanentes et d’un calendrier d’examen régulier.
Si l’accès à SharePoint fait partie du problème, commencez par la gouvernance des données pour l’adoption de l’IA. Une fois les premiers contrôles en place, un accompagnement continu par notre Service d’IA géré peut contribuer à surveiller l’utilisation et l’adoption, à maintenir la politique et à examiner les progrès au fil du temps.
Foire aux questions
L’IA fantôme est-elle illégale?
Pas automatiquement. Toutefois, l’utilisation d’un outil d’IA non approuvé peut créer des problèmes de confidentialité, de sécurité, de contrats ou de réglementation, selon les renseignements et la façon dont ils sont traités.
L’IA fantôme est-elle répandue?
Cela varie selon l’organisation, le rôle et le secteur, et une utilisation cachée est difficile à mesurer sans vérification. Un sondage combiné à une découverte technique peut donner aux dirigeants une vision plus fiable que de simples suppositions.
Comment détecter l’IA fantôme?
Combinez les journaux réseau ou de mandataire, les signaux d’authentification unique et d’identité, la découverte SaaS, les examens des navigateurs ou d’OAuth et les sondages auprès des employés. Les clients Microsoft peuvent aussi être en mesure d’utiliser Defender for Cloud Apps et les outils de sécurité Microsoft connexes, selon leur configuration et leurs licences.
Est-ce une bonne idée d’interdire les outils d’IA?
Une interdiction peut être appropriée pour un outil ou un usage particulier à risque élevé, mais une interdiction générale peut rendre l’utilisation invisible. Une approche plus claire consiste à approuver les outils adaptés, à établir des règles de traitement des données et à offrir aux employés un moyen rapide de demander des solutions de rechange.
Commencez par une vision claire de votre utilisation de l’IA
L’Évaluation IA d’aiMpact Consulting est un mandat de trois semaines qui comprend un inventaire de l’IA fantôme et des agents, une analyse de la préparation à l’IA et de la gouvernance des données, un audit de sécurité de base, un sondage sur la préparation des employés et un plan destiné à la direction avec une feuille de route sur 90 jours. Elle peut aider votre équipe à comprendre ce qui est déjà utilisé et à décider des priorités, sans ralentir chaque employé.