Les agents IA gagnent en utilité lorsqu’ils mémorisent le contexte, les préférences et les relations. Cette mémoire facilite la préparation d’une réponse commerciale, le rappel d’une échéance ou la personnalisation d’une recommandation. Elle crée aussi un risque moins visible : constituer des profils détaillés sur des personnes qui n’utilisent pas elles-mêmes l’outil.

Muse révèle l’envers de la mémoire relationnelle

Selon l’enquête publiée par WIRED, Muse, l’assistant personnel de Meta, se connecte aux messages, aux comptes bancaires ou aux données de santé de son utilisateur afin d’exécuter des tâches. Des chercheurs ont consulté ses instructions internes et observé la manière dont l’agent organise les informations collectées.

L’une de ces instructions prévoit la création d’une page pour chaque personne présente dans la vie de l’utilisateur : famille, amis, collègues, partenaires ou autres relations. Ces fiches rassemblent des faits, un historique commun, des sujets en attente, des dates importantes et des indications sur la nature de la relation.

Meta indique que l’agent doit s’appuyer sur les éléments disponibles et éviter d’inventer des détails. Cette règle limite les erreurs de génération, mais elle ne règle pas la question centrale : faut-il conserver toutes les informations exactes qu’un agent sait extraire ? Une donnée fidèle demeure excessive, sensible ou détournée de son contexte initial lorsque sa collecte dépasse l’objectif annoncé.

Le cas Muse dépasse donc la confidentialité de son utilisateur direct. Les personnes décrites dans la mémoire de l’agent n’ont pas nécessairement choisi d’y figurer. Pour une entreprise, cette distinction est essentielle : un salarié autorise parfois un assistant à lire ses échanges, sans disposer pour autant d’un droit illimité de profilage sur ses clients, collègues ou fournisseurs.

Le CRM enrichi change de nature

Dans une PME, le même mécanisme se retrouve lorsqu’un agent analyse les courriels, les comptes rendus d’appels, les notes commerciales et l’historique CRM. Au départ, l’objectif consiste à résumer une relation ou à proposer la prochaine action. Avec l’accumulation, le système forme une mémoire beaucoup plus riche que les champs visibles dans la fiche client.

Cette mémoire regroupe les habitudes de réponse, les tensions observées, les préférences personnelles, les changements de poste ou les sujets jugés sensibles. Le CRM ne sert alors plus seulement à enregistrer des interactions commerciales. Il devient un système d’interprétation des personnes et des relations, avec des effets directs sur la prospection, la négociation et le suivi des comptes.

Cette évolution concerne les projets d’agents IA reliés aux SMS et au CRM. Une automatisation améliore la continuité du service tout en élargissant fortement le périmètre des données traitées. Le même contrôle s’impose aux agents d’achat intégrés au commerce et au CRM, qui croisent intentions, préférences et historique transactionnel.

Le risque opérationnel ne se limite pas à une fuite. Un profil incomplet oriente un commercial vers une priorité inadaptée. Une information personnelle ressort dans un résumé partagé trop largement. Une mémoire ancienne continue d’influencer une recommandation alors que la situation du client a changé. La qualité, la durée de conservation et les droits d’accès deviennent donc des paramètres métier.

La performance commerciale dépend aussi de la confiance accordée aux informations produites. Sans règles claires, les équipes confondent facilement un fait enregistré, une déduction du modèle et une appréciation issue d’un échange. Cette confusion fragilise les décisions et rend les erreurs plus difficiles à corriger.

Gouverner la mémoire avant de déployer l’agent

La première décision consiste à distinguer ce que l’agent consulte de ce qu’il mémorise. L’accès ponctuel à un message pour exécuter une tâche ne justifie pas automatiquement son intégration durable dans un profil. Cette séparation doit figurer dans l’architecture, les instructions de l’agent et les contrats avec les fournisseurs SaaS.

La CNIL présente les principes applicables à l’intelligence artificielle, notamment autour de la finalité, de la minimisation et de la maîtrise des données personnelles. Le cadre réglementaire européen sur l’IA complète cette lecture par une approche fondée sur les usages et les risques. Ces références doivent devenir des règles compréhensibles par les équipes commerciales, et non rester cantonnées au service juridique.

Une politique interne utile précise les sources autorisées, les catégories de données exclues, la durée de conservation, les personnes habilitées à consulter la mémoire et la procédure de correction. Elle prévoit également un journal des actions de l’agent afin d’expliquer pourquoi une information a été enregistrée ou utilisée.

Avant d’étendre un agent à toute l’organisation, choisissez un processus CRM prioritaire et établissez sa carte de mémoire : données consultées, données conservées, personnes concernées, accès accordés et règle d’effacement. Cette action concrète vérifie que l’utilité commerciale ne repose pas sur un profilage devenu invisible.