ChatGPT à tous les étages : un danger pour la souveraineté des données, la qualité relationnelle et l'environnement

Il n'est jamais facile de s'exprimer à contre-courant, face à une tendance qui domine l'actualité.

Je me souviens avoir été qualifié de « dépassé » par un journaliste, à l’époque où l’économie collaborative était la mode du moment et que j’avais écrit, que ces collaborations seraient requalifiées tôt ou tard comme étant des faux employés, par les tribunaux…

Dès lors, s’exprimer publiquement contre ChatGPT, à l’heure où tant d’éditeurs l’intègrent dans leurs solutions, n’est sans doute pas une très bonne idée. Cependant, si les experts en IA, conscients des dérives et risques potentiels ne tirent pas la sonnette d’alarme, qui le fera ?

Cela fait 20 ans que je travaille dans, avec et pour l’intelligence artificielle. Mes premiers pas furent dans les systèmes d’auto apprentissage contre le SPAM, puis dans la reconnaissance d’image, pour enchainer avec la reconnaissance vocale (et la gestion de requêtes vocales) intégrée  en 2014 dans Simple CRM (couplée la même année à la détection automatique de clients potentiels). En 2018, nous intégrions dans Simple CRM  les conseils stratégiques par l’IA et nous finalisons actuellement un module d’IA prédictive, capable d’interpréter les forces, faiblesses, opportunités et menaces qui gravitent dans et autour de l’entreprise.

Si je me permets cette introduction, j’ai juste pour vous rassurer sur ma capacité à analyser une technologie IA et ses cas d’usages. Ceci étant fait, entrons dans le vif de sujet.

Vulgarisation rapide de CHATGPT

Qu’est-ce que ChatGPT ? Vous me permettrez de prendre un énorme raccourci, en écrivant que c’est tout simplement « un super algorithme » qui va enchainer les mots qui ont le plus de chance de se suivre.

Lorsque ChatGPT avait été publié, j’avais testé le prompt suivant.

ChatGPT, merci de compléter cette phrase afin qu'elle soit correcte:
"Christophe Colomb a découvert l'Amérique en..."

Et ChatGPT avait répondu : 
"Christophe Colomb a découvert l'Amérique en 1492."

Ensuite, je lui avais écrit : 
"Brice Cornet a découvert l'Amérique en..."

Et ChatGPT avait répondu : 
"Brice Cornet a découvert l'Amérique en 1492."

Bien entendu, depuis ChatGPT a évolué et désormais il répondra : « … en regardant la télévision… en prenant l’avion… en lisant des livres… ».

Cela veut dire que ChatGPT est donc parti d’une base de probabilité statistique et qu’il a ensuite corrigé ses probabilités afin de fournir des réponses de plus en plus exactes.

Oui mais comment ? 
 

Quand c’est gratuit, vous le savez, c’est que c’est vous le produit 

Pour évoluer, ChatGPT s’est basé sur les interactions avec ses utilisateurs (et des fermes de micro workers), utilisateurs qui ont pointé des erreurs, et qui lui ont fourni du contenu supplémentaire.

Dès lors oui, les données que vous soumettez à ChatGPT deviennent des données d’apprentissage, données qui peuvent donc être transmises à d’autres utilisateurs de la solution car ChatGPT n’est nullement soumis au secret professionnel.

Face à cette réalité, à cette fuite concrète de données, Samsung a dès lors bloqué l'utilisation de ChatGPT sur ses lieux de travail. Même mesure de sécurité chez  JP Morgan ou Verizon qui ont bloqué l'accès aux IA génératives, à leurs salariés.

Si des multinationales appliquent ce principe de précaution élémentaire, pourquoi les TPE et PME françaises ne s’inquiètent pas de voir des applications comme des suites bureautiques ou des logiciels CRM, être interconnectés avec ChatGPT ?

N’est-il pas évident que, partager des données d’un rapport de mission client, afin qu’une IA génère ou améliore une analyse, pose un réel problème de respect et de confidentialité de l’activité du client ?

N’est-il pas évident que, copier/coller des échanges emails afin que ChatGPT produise une réponse automatique n’est pas une possible infraction au RGPD et au secret des affaires ?

N’est-il pas évident que le partage de vos informations, avec une entité juridique états-uniennes, fait passer ces informations sous le cloud act ?

La situation géopolitique de plus en contrainte, et les tensions économiques, ne font que rendre indispensable la souveraineté des données européennes, de vos données. Alors pourquoi les sacrifier, surtout pour au final, une valeur ajoutée aussi faible ? 

Sacrifier la qualité pour gagner du temps : un mauvais calcul
 

Une étude réalisée par Simple CRM, auprès de 380 entreprises françaises de 3 à 20 employés, du 1 février au 31 mars, a permis de pointer une utilisation somme toute basique de ChatGPT.

En effet, l’utilisation première est la réponse aux emails, tant des emails clients que des emails internes.

La deuxième utilisation, est la rédaction de contenu marketing, contenu de page web et contenu pour les médias sociaux.

La troisième utilisation, est une toujours une rédaction de contenu, mais là du contenu de type rapport interne ou rapport client.

Au final, l’utilisation de ChatGPT pour la création de code informatique, ou d’analyse BI reste assez anecdotique sur la cible de cette étude.

La question que je pose au vu des résultats est de savoir si le jeu en vaut la chandelle.

En effet, la relation client est un sentiment et l’on ne badine pas avec les sentiments. Demander à ChatGPT d’écrire un email, donnera une suite de mots logique, respectueuse de la logique statistique des mots qui doivent se suivre. En clair, cet email sera insipide. Pas de personnalisation, pas de prise en compte de l’historique relationnel, pas d’humain, de sincérité, ni de valeur ajoutée dans ce dialogue.

Utiliser ChatGPT pour créer du contenu marketing ne sera au fond que du recyclage d’idées que ChatGPT aura vues ailleurs. Quid de l’alignement avec votre branding, du respect de vos content pillar, mais surtout d’une créativité qui fera mouche ? Demandez à ChatGPT de vous raconter une blague innovatrice, unique… et dites-moi ensuite si elle vous a fait, ne serait-ce, que sourire…

Même chose pour la rédaction de rapport. Si l’on demande à une collaboratrice ou un collaborateur de l’entreprise de travailler dessus, c’est parce que l’on attend son expertise, son point de vue, son esprit critique, sa valeur humaine unique ; pas juste une suite de mots basés sur une probabilité statistique.

Oui, nous vivons dans une société qui vit à la vitesse de l’email.

Oui, l’économie est mondiale, tirée par une course effrénée.

Oui, il faut aller plus vite et être plus performant.

Cependant, l’utilisation de ChatGPT à tous les étages, ne fait que tirer la qualité de la production et des livrables vers le bas.

Vous n’en avez pas marre de lire sans cesses des contenus où il est écrit : « Dans le monde des entreprises modernes… prendre des décisions éclairées… » ? Vous n’en avez pas assez d’ingurgiter des quantités d’informations qui ne vous apportent rien ? Qui vous donne l’impression d’une suite de phrases prémâchées ?

Soyez pleinement conscient que cette sensation de « réchauffé », vous n’êtes pas seul(e) à le ressentir. Et si vous utilisez ChatGPT, sachez que vos interlocuteurs éprouvent sans doute ce sentiment envers vous. #AttentionDanger

Et l’environnement, on en parle ? 

On estime que d’ici 2025, le numérique qui pèse actuellement environs 4.3% des émissions mondiales de gaz à effet de serre devrait atteindre les 10%.

Le responsable ? L’exploitation massive (et souvent non justifiée) de l’IA.

Actuellement, un gros Datacenter consomme environs 100 millions de watts, soit un dixième de la production d’une centrale thermique.

Des chercheurs du MIT ont estimé l’empreinte carbone des quatre modèles les plus sophistiqués de l’IA (GPT, BERT, ELMo, Transformer). Leurs conclusions sont sans appel : l’entraînement d’un modèle peut générer environ 282 tonnes d’équivalent CO2, soit cinq fois plus qu’une voiture américaine durant tout son cycle de vie.

Et l’on parle ici uniquement d’un entrainement… pas de l’impact en terme de pollution de millions d’utilisateur qui abuserait de l’IA pour gagner du temps et générer du contenu insipide…

Oui bien sûr, il existe des pistes d’amélioration et elles sont multiples.

Par exemple, chez Simple CRM, nous travaillons avec des langages bas niveaux. Pourquoi ? Car le langage C est 100 fois plus rapide que Python. Une IA en C consomme donc 100 fois moins qu’une IA en Python. De même, C utilise 1.5% de la mémoire consommée par Python. Cela permet au final des serveurs plus petits, plus économe en ressource et donc moins impactant sur l’environnement.

On peut améliorer, retravailler, recadrer, recouper mais au final, la seule véritable solution, face à un réchauffement climatique inévitable, déjà présent, est la frugalité, la maturité et la responsabilisation de tout un chacun.

Lorsque j’entends des personnes débattre de façon passionnée de la voiture thermique VS l’électrique, mon intervention est toujours la même : la seule vraie solution est le vélo.

En ce qui concerne l’IA et ChatGPT en particulier, mon intervention sera alignée sur ce point de vue : la seule vraie solution est d’aller moins vite, de s’autoriser de prendre le temps, de prendre le temps pour remettre l’humain et la qualité au centre du débat, tout en respectant la souveraineté des données et du patrimoine des entreprises.