François Duprat (Rakuten) "Avec l'IA générative, Rakuten a quadruplé la performance de son chatbot de SAV"

Rakuten a boosté son chatbot après-vente en 2023 avec l'IA générative. Six mois plus tard, François Duprat, CTPO de la marketplace, fait le point sur l'outil et les innovations tech à venir.

JDN. Nombreux sont les e-commerçants à avoir lancé leur chatbot mais très peu sont dédiés au SAV. Pourquoi avoir fait ce choix chez Rakuten ?

François Duprat. Il y a six mois, nous avons lancé notre chatbot, Yuki, basé sur un LLM. Il remplace un outil que nous avions précédemment et qui fonctionnait sur un moteur de règles traditionnel. Ce chatbot intervient en après-vente car c'est là où les messages entrants sont les plus nombreux. Nous voulions alléger les équipes et qu'une partie de ce volume de questions soit traité par un chatbot. Celui-ci adresse les questions relativement simples pour que les opérateurs se concentrent sur les cas plus complexes. L'enjeu est d'augmenter la satisfaction du client en offrant une réponse beaucoup plus rapide et qualitative. L'ancien outil devait être entraîné manuellement sur tous les cas possibles, aujourd'hui il nous suffit de lui donner accès à base de connaissances des pages aide en ligne.

Quels défis représente un chatbot après-vente ?

En après-vente les questions concernent majoritairement la commande du client, pour y répondre cela implique que le chatbot soit relié à notre système interne. Nous travaillons avec un compte Entreprise GPT4 et l'API d'OpenAI comprend une brique assistant qui très intéressante. Nous pouvons entraîner le LLM sur une base de connaissances et ajouter ce qu'ils appellent "les fonctions". Elles permettent au chatbot de répondre à des questions mais aussi d'exécuter des actions complexes. S'il faut exécuter une action, une annulation de commande par exemple, le chatbot doit appeler "une fonction" dans notre système interne pour que cette action puisse être exécutée sans l'intervention d'un opérateur. Le chatbot peut également récupérer de la donnée, comme des informations de tracking, pour le restituer à l'utilisateur. Et c'est là que c'est le plus intéressant d'un point de vue technologique. Nous sommes encore au début, nous ajoutons petit à petit des fonctions selon les use cases les plus fréquents.

Dans les cas cités il s'agit de données client. Comment en assurez-vous la sécurisation ?

Nos systèmes sont sécurisés avec des pare-feux systématiques. Nous n'entrainons pas le LLM sur nos données client. 

Quel est le bilan de ce chatbot après six mois ?

Avec Yuki, 80% des questions sont adressées sans intervention humaine. Avec notre ancien outil, cette part environnait les 20%. Avec l'IA générative nous avons quadruplé la performance de notre chatbot. D'une part, avec la technologie la compréhension des questions du client est meilleure. Et d'autre part, les réponses sont plus qualitatives grâce à une base de connaissances d'entraînement, nos pages d'aide en ligne, très riche.

D'autres projets à base d'IA générative sont-ils en cours chez Rakuten ?

Depuis un an et demi, notre logique a changé : alors que nous achetions des solutions, aujourd'hui nous internalisons parce qu'il y a beaucoup plus d'open source. Il est possible de prendre des modèles sur Hugging Face pour les intégrer à notre produit.

Le chatbot était le premier produit consommateur en ligne, après nous avons beaucoup de choses en cours. Sur la partie acheteur, par exemple, le moteur de recherche est le principal sujet d'intérêt. Nous pensons faire un bond en avant en intégrant des solutions pour mieux gérer les associations sémantiques. Nous travaillons également sur les images. Les photos de produits sont souvent prises dans un environnement chargé, nous intégrerons à partir d'avril des outils de détourage automatique. Côté vendeur, nous nous penchons sur la détection de la contrefaçon. Nous nous sommes rendus compte que nous étions assis sur une mine d'or jamais exploitée. Dans le passé, les images de contrefaçon étaient qualifiées manuellement, aujourd'hui nous testons des moteurs de similarité d'images à entrainés sur ces bases de données.