hero image

Lunettes et enregistreurs IA : risques internes

Le milieu de travail a désormais de nouveaux yeux et de nouvelles oreilles. Une catégorie émergente de technologies grand public peut maintenant voir, entendre, interpréter et se souvenir de tout. Les lunettes intelligentes intègrent des caméras, des micros et une assistance à commande vocale. Les dispositifs d’enregistrement portatifs dotés de l’IA peuvent capter le contenu des réunions et des conversations, puis générer des transcriptions consultables, des résumés et des mesures de suivi.

Ces technologies peuvent améliorer l’accessibilité, les services sur le terrain et la productivité. Mais elles changent aussi la nature des pertes d’information. Du contenu sensible peut être capté dans ce qu’un membre du personnel voit ou entend, et non plus seulement lorsqu’il est téléchargé, envoyé par courriel ou copié.

Les écrans, les tableaux blancs et les insignes peuvent être captés visuellement, tout comme les personnes présentes. Les réunions et les appels peuvent être transformés en transcriptions, en résumés et en dossiers consultables. Cette collecte persistante et sans friction peut s’accumuler tout au long de la journée de travail. 

Risques internes : préoccupation croissante

Les risques ne se limitent pas à l’enregistrement fait de façon délibérée. Des membres du personnel bien intentionnés peuvent utiliser des outils personnels dotés de l’IA par souci de commodité au travail, sans s’apercevoir que des informations de l’entreprise seront transférées vers un appareil personnel, un compte personnel ou un environnement d’IA externe qui échappe à la vue et au contrôle de l’organisation.

La frontière de l’entreprise ne se limite plus aux appareils gérés : elle s’étend désormais à l’interface humaine, soit à ce que les membres du personnel peuvent voir et entendre. 

Notre point de vue? Il faut traiter les technologies portables et les dispositifs d’enregistrement dotés de l’IA comme des appareils de capture non gérés. Les mécanismes de contrôle classiques sont conçus pour détecter le téléchargement, l’envoi par courriel, le téléversement ou la copie d’un fichier. Or, les lunettes intelligentes et les enregistreurs vocaux dotés de l’IA peuvent capter directement l’information affichée sur un écran ou un tableau blanc, ou communiquée dans une conversation.

Une fois captée, l’information peut transiter par un téléphone intelligent personnel, un réseau mobile ou une application connexe. Elle peut ensuite être traitée dans un environnement d’IA externe qui échappe aux mécanismes contractuels de l’organisation ainsi qu’à ses contrôles de conservation, de surveillance et de suppression.

La protection des renseignements personnels et le consentement demeurent importants. Mais l’exposition ne se limite pas aux données personnelles : elle touche aussi la confidentialité, la propriété intellectuelle, les données réglementées, l’information importante inconnue du public ainsi que la migration graduelle et invisible des connaissances organisationnelles. 

Comment la capture ambiante peut entraîner la migration des connaissances organisationnelles

Les informations qui circulent dans l’entreprise sont observées, captées, traitées par des services d’IA externes et accumulées, échappant ainsi au contrôle de l’organisation.

En quoi cette exposition est-elle différente?

La capture ambiante peut contourner les mécanismes de prévention de la perte de données (DLP). Nul besoin de télécharger un fichier : l’appareil peut capter le contenu directement à partir de la couche de présentation. Même les mécanismes DLP classiques demeurent souvent incomplets. Selon le rapport Global Digital Trust Insights 2027 de PwC, à peine plus de la moitié (52 %) des organisations canadiennes ont pleinement mis en place des mécanismes DLP sur les principaux canaux de sortie. Les dispositifs de capture ambiante fonctionnent en dehors de ces canaux.

Cette exposition est également difficile à détecter. Les lunettes ont l’air tout à fait normales, tandis qu’un enregistreur peut être placé dans une poche, un portefeuille ou un étui de téléphone. Comme l’information de l’entreprise peut transiter par un téléphone personnel, un réseau mobile ou un abonnement infonuagique, les captures répétées peuvent s’accumuler à grande échelle et transformer des conversations fragmentées en une base externe de connaissances consultable.  

Miser sur les capacités, et non sur les produits

Un processus encadré de gestion des exceptions est essentiel. Pourquoi? Une interdiction générale sans solution de rechange approuvée risque de pousser les besoins légitimes vers des usages non autorisés. De plus, une interdiction visant des produits en particulier deviendra rapidement désuète. Un cadre axé sur les capacités peut tenir compte de la prochaine paire de lunettes, du prochain enregistreur, pendentif ou agent d’IA.

Les organisations devraient passer d’une simple clause d’utilisation acceptable à une architecture intégrée de gouvernance, de contrôle et d’assurance. La politique devrait définir ce que les personnes peuvent faire. Les normes connexes devraient préciser comment les systèmes, les installations et les contrôles doivent fonctionner.

Établir une voie d’approbation encadrée et rapide  

Mettez à jour la politique de sécurité de l’information et la politique d’utilisation acceptable. Ajoutez des normes sur les dispositifs de capture, l’IA et les agents, des obligations pour les visiteurs, des sanctions ainsi qu’une procédure officielle de gestion des exceptions.

Votre architecture de politiques pourrait comprendre ce qui suit :

  • Politique de sécurité de l’information
  • Politique d’utilisation acceptable
  • Norme sur les dispositifs de capture
  • Normes sur l’IA et les agents
  • Procédure de gestion des exceptions  

Établissez des zones ouvertes, contrôlées et restreintes. Parmi les contrôles pratiques, mentionnons les suivants :

  • Listes d’appareils et de services d’IA approuvés
  • Zones physiques contrôlées et restreintes
  • Restrictions visant les comptes personnels et les applications connexes
  • Mécanismes DLP pour les téléversements, les requêtes et les transferts de fichiers liés à l’IA
  • Filigranes dynamiques sur les écrans et les documents
  • Contrôles d’admission des robots aux réunions et contrôles d’enregistrement
  • Identités d’agents enregistrées avec accès à portée restreinte
  • Journalisation, expiration, révocation et coupe-circuit  

Tenez un registre des appareils et des solutions d’IA approuvés. Désignez des responsables, fixez des dates d’expiration des approbations, prévoyez des examens périodiques et automatisez la révocation. Une question essentielle à se poser : les cadres actuels de votre organisation en matière d’IA, de protection des renseignements personnels et de sécurité de l’information tiennent-ils adéquatement compte des technologies de capture ambiante?

Certaines organisations devront interdire des appareils, mais toutes devront encadrer les capacités

Pour la plupart des organisations, l’objectif n’est pas de freiner l’innovation. Il consiste à établir des limites claires quant à ce qui peut être capté, aux endroits où les technologies peuvent être utilisées, aux systèmes qui peuvent traiter l’information recueillie et aux personnes qui demeurent responsables.

Commencez par une évaluation ciblée de la façon dont les lunettes intelligentes et les enregistreurs dotés de l’IA pourraient entrer dans votre environnement. Repérez les informations et les emplacements à risque élevé, évaluez la portée des politiques actuelles et déterminez si les contrôles existants peuvent prévenir ou détecter la capture ambiante, ou en attribuer la responsabilité.

Le résultat? Une voie encadrée pour les usages légitimes et un plan d’action pratique couvrant les politiques, les zones physiques, les contrôles techniques, la sensibilisation du personnel et un processus rapide de gestion des exceptions. 

Apprenez-en davantage sur les nouveaux enjeux que soulèvent les technologies de travail propulsées par l’IA en matière de cybersécurité, de protection des renseignements personnels et de gouvernance de l’information.

Contactez-nous

Bali Minhas

Bali Minhas

Associé et leader national, Technologies, médias et télécommunications, PwC Canada

Tél. : +1 416 670-6244

Saif Nawaz

Saif Nawaz

Associé et leader, Lutte contre les menaces internes et la fraude, PwC Canada

Masquer