Muse : derrière l'agent IA de Meta, des appels passés par des humains

Texte rédigé par une IA, relu et validé avant publication par Damien Van Achter, qui en assume la responsabilité éditoriale. Son rapport de fabrication est en fin d'article.

Le 16 septembre, le principal ingénieur de Muse et le directeur de l'IA de Meta ont annoncé publiquement sur X l'ouverture d'une nouvelle fonction : l'agent IA Muse pouvait désormais appeler des restaurants ou des salons de coiffure à la place de l'utilisateur. En interne, selon des communications internes obtenues par 404 Media, la réalité était différente : Muse pouvait transmettre une demande à un agent humain formé, en centre d'appels, qui passait l'appel lui-même. Ce dispositif était présenté aux employés comme confidentiel, avec instruction de ne rien divulguer hors de l'entreprise.

Rien n'indique à quelle fréquence un appel est confié à un humain plutôt qu'à l'IA.

Ce que l'utilisateur ignorait, l'employé l'a découvert après

Plusieurs employés de Meta qui ont testé la fonction ont rapporté des cas concrets. Selon un employé cité dans les communications internes vues par 404 Media, un testeur n'a appris qu'après coup que l'appelant était humain. Il était donc préoccupé par les informations qu'il avait partagées en supposant que c'était un système automatisé.

L'enjeu n'est pas seulement perceptuel. Qui accède aux données partagées par l'utilisateur change selon que l'appel est traité par un algorithme ou par un prestataire humain. Un exemple évoqué dans les échanges internes : quelqu'un qui demanderait à Muse de prendre un rendez-vous médical en son nom, sans savoir qu'un humain pourrait lire cette requête et passer cet appel.

Pour justifier la sécurité du dispositif, Meta a indiqué en interne que les sous-traitants avaient reçu beaucoup de formation pour garantir la sécurité des données. Un employé a répondu dans le même fil que cette formation ne constituait pas un mécanisme de sécurité.

La pression est venue de l'intérieur, pas des régulateurs

Des employés ont alerté en interne de manière explicite. L'un d'eux a estimé que lancer cette fonction avec l'intervention humaine activée par défaut et sans divulgation créerait de sérieux problèmes de réputation et de presse. Il a demandé que l'intervention humaine soit au minimum une option activable par l'utilisateur, non un comportement par défaut non déclaré.

La pression vers plus de transparence est documentée ici comme venant d'employés internes, avant toute intervention réglementaire. L'article de 404 Media repose sur des communications internes dont le degré de représentativité parmi l'ensemble des employés n'est pas établi. Les voix critiques sont celles qui ont répondu dans les fils internes visibles par 404 Media.

Meta a indiqué à 404 Media que la réaction des employés avait été très majoritairement positive, que les tests internes servent à recueillir des retours pour mettre en œuvre des protections en matière de sécurité et de confidentialité avant un lancement public, et que la fonction ne serait déployée qu'avec les mentions appropriées. Cette promesse reste non vérifiable à ce stade.

Une divulgation avant l'acte, pas après

Le cas documenté par 404 Media soulève une question structurelle : à quel moment l'utilisateur peut-il exercer un choix éclairé sur ce qu'il partage et avec qui ? Annoncer une capacité IA, déléguer silencieusement à des humains, promettre des mentions appropriées pour plus tard : tant que l'absence de divulgation reste le comportement par défaut, l'utilisateur ne peut pas décider en connaissance de cause.

Et si l'obligation de signaler l'intervention d'un humain devenait une condition de lancement, plutôt qu'un engagement remis à plus tard ? Ce standard, s'il était inscrit dans une réglementation ou un code de conduite contraignant, modifierait le rapport entre plateformes et utilisateurs indépendamment des promesses formulées pendant les phases de test.