28 Janvier 2024

Publié par Jean-Pierre FORESTIER

ChatGPT, une rupture anthropologique ?

Homo sapiens deviendra-t-il un Homo ChatGPTus ?

L'IA, une rupture anthropologique au service de la performance ?
Cette question est le titre d’un article paru dans L’ADN le 24 janvier 2024.

Ma réponse est oui, ChatGPT « et ses compères » sont un nouvel outil qui ouvre une nouvelle anthropologique comme le furent jadis, le calcul de la répartition des récoltes par les premiers agriculteurs.
... puis la règle à calcul, la calculette puis l’ordinateur.
Comme tous les nouveaux outils, il faut savoir

1° ... ce qu’on peut en attendre, ….
- une bonne check-list, qui permet de ne pas oublier, par distraction, un paramètre fondamental.
- l’absence de confidentialité. Les demandes n’échappent pas aux sociétés qui gèrent les ChatGPT, elles en tirent même des profits.
- attendre, ou craindre, la désinformation persuasive.

2° … connaître les limites de ce nouvel outil.
La première de ces limites sont les hallucinations que génèrent naturellement les ChatGPT par les successions d’itérations.
D’autres limites apparaissent sur l’exemple du « traitement de l’endométriose » ;
- le nombre restreint des articles scientifiques utilisés,
- l’incapacité à croiser des travaux scientifiques avec pour conséquence de n'apporter rien d'innovant.
- des biais, comme celui de privilégier les médecines douces et être restreint par les tabous.

À l’Homo ChatGPTus de franchir toutes ses limites. Pour y parvenir il devra avoir une très large culture.

Dans l’état actuel de l’Intelligence Artificielle, Homo sapiens dispose encore de temps pour se préparer à la rupture anthropologique. Artificielle n’a-t-il pas le sens de crée par l’Homme ?

Il y aura toujours une performance pour laquelle l'être humain ne sera jamais dépassé par une machine, la curiosité !

Nouvel outil, nouvelles limites.

… comme calculer la répartition des récoltes

Une fois la première récolte, par exemple, de pois effectuée, un problème se posa aux premiers agriculteurs, la répartition.

Il fallait des pois pour toutes les soupes jusqu’à la prochaine récolte. De plus une partie devait être conservée pour les semailles.

Pour la première fois Homo sapiens devait faire des calculs. Y parvenir était une question de survie !

Comment le premier agriculteur a-t-il procédé ? Avec des petits galets comme je le suggère dans Emma la Rebelle du néolithique dans le § Calcul.

C’était sans compter les aléas de la nature, comme une mauvaise récolte.

… comme la règle à calcul, …

… encore utilisée pour Apollo 13, comme on le voit dans le film éponyme !

Déjà, l’humain devait intervenir car la règle à calcul de donnait pas les puissances.

Par exemple si le résultat était 137, il fallait calculer « de tête », ou sur un brouillon, l’ordre de grandeur pour savoir si c’était 0,137, 1,37 ou 13,7, etc.

… comme la calculette, qui selon Hewlett-Packard « était de vous donner une règle à calcul électronique portable de grande précision. »

Là encore, l’utilisateur doit interpréter le résultat. Contrairement aux mathématiques pour toutes les autres sciences (ou presque) le résultat est une mesure. Or une mesure est toujours accompagnée d’une certaine précision. L’utilisateur doit savoir quels sont les chiffres significatifs (voir super-calculette)

Par exemple vous voulez diviser 4,12 par 3
Vous entrez 4,12 ; / ; 3
La machine affiche : 1,373333333333333
1,37 n’est-il pas suffisant si vous voulez divisez en trois parties égales le mur de votre salon ?
Par contre, pour un calcul astronomique concernant une exoplanète, il vous faudra davantage de décimales.

… comme l’ordinateur, qui reste un super calculateur.

La légende de cette illustration de l’article de Pour la Science était « Le terme "calculateur" désignait des personnes qui passaient leur temps à calculer des nombres. Cette publicité de 1953 pour un calculateur électronique aussi performant que 150 calculateurs aguerris annonce l’avènement futur des calculatrices électroniques et des ordinateurs numériques. © IBM Corporation »

La disparition de ces 150 calculateurs donne immédiatement un des problèmes posés plus généralement par « l’intelligence » artificielle et pourquoi elle est « un ennemi qu’il faut combattre »
qui n’est qu’une n-ième répétition de la révolte des canuts contre le métier Jacquard.

Toute rupture technologique contraint certaines personnes à changer de métier et devient une rupture anthropologique.
Mais chacun se demande s’il aura les capacités nécessaires à remplir ces nouvelles missions. Plus encore, quel est l’avenir de ses enfants ?

À la NASA, dans le film Les figures de l’ombre (Hidden figures), les calculatrices deviennent des opératrices du tout nouvel IBM, à cartes perforées.

Dans cet excellent film, curieusement, les calculs ne sont pas effectués à la règle à calcul mais avec une machine à calculer descendante directe de celle inventée par Pascal. Ressemblant à une caisse enregistreuse, cette machine devait sembler plus vraisemblable au spectateur de 2016-2017 qu’une règle à calcul devenue complétement inconnue.

ChatGPT, hallucinations et fantasmes

Les bifurcations des algorithmes itératifs de ChatGPT génère des Hallucinations , des chaos.

Face à une rupture technologique et anthropologique, l’esprit de l’humain, néoténique, fantasme.
Fantasmes qui sont savamment utilisé par le marketing … pour effectuer des levées de fonds

Voir ChatGPT. Chaos. Hallucinations. Fantasmes

Exemple du traitement de l’endométriose

J’ai demandé à Bing Chat avec GPT-4 de répondre à « traitements de l’endométriose », sujet sur lequel je travaille actuellement, Une femme, une endométriose, un microbiome, un traitement ?

Des traitements basiques, ceux de la Haute Autorité de Santé, ont été listé.

« Le soutien psychologique, qui peut aider à faire face au stress, à l’anxiété ou à la dépression liés à la maladie. » ne doit effectivement pas être oublié.

C’est certainement la première utilité des ChatGPT, celle ne pas oublier, par distraction, un paramètre important. C’est dans ce sens qu’ils peuvent être utiles, en médecine, comme ailleurs.

Une check-list

La liste fournie par Bing Chat avec GPT-4 est une base de départ, une check-list qui pousse l’intelligence humaine à aller plus loin, et à effectuer une rupture anthropologique.

_Absolument rien d’innovant ! Le nombre de publications utilisées est étonnamment réduit. Pour écrire mes articles sur l'endométriose j'ai consulté certainement plus de cent articles, en sachant ce que je cherchais.
Jadis, les bibliothécaires allaient à la bibliothèque de l’université. Depuis https://scholar.google.com/ leur rôle a changé.

La liste fournie par Bing Chat avec GPT-4 est donc bien une base de départ, une check-list qui pousse l’intelligence humaine à aller plus loin, et à effectuer une rupture anthropologique.

Rien sur les traitements éligibles, à partir de différentes publications scientifiques, notamment la metformine, le sildénafil (Viagra®), le butyrate, la testostérone, des statines lipophiles, …

La yohimbine ne figure évidemment pas. Bing Chat avec GPT-4 aurait dû faire le lien intellectuel entre les Récepteurs à l’amertume (TAS2R) présents sur les implants endométriotiques et les TAS2R activés par la yohimbine.

L’importance donnée aux médecines douces est un peu surprenante. Serait-elle la volonté (politique) d’un biais algorithmique ?

_Des douleurs sont indiquées, mais rien sur la dyspareunie. Rien sur la vie sexuelle des femmes soufrant d'endométriose.

Couvrez ce traitement que je ne saurais voir.
Par de pareils remèdes les âmes sont blessées,
Et cela fait venir de coupables pensées.

C’est pourtant un remède à portée de main pour toutes les femmes !

Tartuferie ? Les algorithmes de Bing Chat ont-ils été écrits de manière à ne pas dépasser les tabous ? à rester consensuels ?

Curiosité

Le simple fait que notre intelligence repose sur notre curiosité, néoténique, l’Intelligence Artificielle ne sera jamais intelligente, car la curiosité manquera toujours à une machine, même à une machine aussi élaborée qu’un ordinateur.
Un ordinateur n’est qu’un super calculateur, or la curiosité ne se calcule pas !

Dans un article du 31 janv. 2024 dans Medscape, Cristina Ferrario rapporte que des modèles d’IA générative, peuvent produire une grande quantité de désinformation médicale persuasive, ciblée sur des populations spécifiques.