Compléments de « ChatGPT. Chaos. Hallucinations »
/image%2F2354072%2F20230417%2Fob_3e207c_flag-english.jpg)
/image%2F2354072%2F20230416%2Fob_a658c5_chat-00-couverture-3.jpg)
« mot suivant »
Reprenons « Les "larges" modèles de langage naturel comme ChatGPT … génèrent ce texte en prédisant le mot suivant. » cité dans ChatGPT. Chaos. Hallucinations. Fantasmes
Le Centre National de Ressources Textuelles et Linguistique, CNRTL donne la définition ci-dessous pour « hallucination »
/image%2F2354072%2F20230416%2Fob_392e39_chat-cn-hallucination.jpg)
/image%2F2354072%2F20230416%2Fob_58a28a_chat-cn-hallucination-concordance.jpg)
Cliquer sur le mot « hallucination » du premier exemple permet de connaître le nom de l’auteur et la phrase complète.
/image%2F2354072%2F20230416%2Fob_a7f0ac_chat-cn-hallucination-concordance-aute.jpg)
Un simple regard sur le « mot suivant », donné en exemple par le CNRL, montre sa variété, et la difficulté de le prévoir !
/image%2F2354072%2F20230416%2Fob_2821d8_chat-cn-hallucination-concordance-mot.jpg)
Des statistiques sur la prévision du « mot suivant » demandent l’utilisation de millions de textes contenant « hallucination », puisés dans 90 millions, ou même 9.4 milliards de Web Texts (dans l’exemple donné par Emily Dinan)
... pour espérer une significativité acceptable, … au moins pour permettre à ChatGPT d’écrire :
- des copies d’élèves méritant juste « la moyenne ».
/image%2F2354072%2F20230427%2Fob_9d4063_chat-innovation.jpg)
- des petits rapports professionnels, le plus impersonnels possibles ...
... et les moins innovants possibles ! (L'innovation est socialement dangereuse, voir Rebelles, Conquérants et Régnants et suivants)
Une utilisation a contrario de ChatGPT pourrait être de donner la liste de ce qu’il faut pas faire pour ne pas être innovant !
/image%2F2354072%2F20230427%2Fob_278e1d_chat-gpt-chat.jpg)
Il est parfaitement vraisemblable que les aides demandées (et accordées gratuitement) par les environ deux cent millions d’utilisateurs de ChatGPT servent à alimenter en Web-texts le futur ChatGPT (payant)
De plus, même avec ces (médiocres) objectifs limités, il est vraisemblable que ChatGPT pondère chacun des « mots suivants » relevés dans les textes.
/image%2F2354072%2F20230416%2Fob_f849e5_chat-proust-wiki.jpg)
Il est difficile d’imaginer que les informaticiens des Chatbots attribuent le même poids à Wikipédia qu’à Émile Moselly, ou même à Marcel Proust ou George Sand !
... même si les Concordances proposées par le CNRTL soient un outil précieux pour ceux qui prennent plaisir à écrire.
/image%2F2354072%2F20230416%2Fob_1254ec_chat-hallucination-google.jpg)
Le poids attribué à chaque « mot suivant » pourrait être celui de Google :
34 500 000 au premier résultat et
1 au dernier.
/image%2F2354072%2F20230417%2Fob_60ec6b_chat-balance-2.jpg)
Même si les algorithmes de ChatGPT sont certainement plus sophistiqués, ces répartitions des poids donne une idée des difficultés que doivent affronter les concepteurs des ChatGPT.
/image%2F2354072%2F20230416%2Fob_645115_chat-alice-surf.jpg)
En espérant qu’un chaos ne vienne pas provoquer des hallucinations ! Bifurcation d’autant plus perturbateur si le « mot suivant » bénéficie d’un très grand poids !
/image%2F2354072%2F20230417%2Fob_9be99a_chat-perroquet-papillon.jpg)
La qualification de « perroquets stochastiques » reprise par Sam Altman lui-même (!) semble particulièrement pertinente pour s’appliquer à ChatGPT.
Selon le Centre National de Ressources Textuelles et Linguistique, CNRTL, pour « perroquet »
6. (Dire, parler, réciter, etc.) comme un perroquet. D'une manière mécanique, sans réflexion personnelle et sans se soucier de la signification ou de la valeur de ce que l'on dit.
Les deux citations regroupent bien les critiques adressées à ChatGPT :
/image%2F2354072%2F20230417%2Fob_5ce5af_chat-perroquet-delescluze.jpg)
Le législateur français est un homme vain, superficiel, assez sot, trop peut-être, qui ne fait que débiter comme un perroquet tous les lieux communs de la politique du Contrat Social, délayés par la conversation des bourgeois de Paris (Delécluze,Journal, 1825, p.138):
/image%2F2354072%2F20230417%2Fob_3f9e9a_chat-chatgpt.jpg)
2. ... au beau milieu de la tirade où elle semblait mettre tout son cœur, il lui arrivait de dire des mots qui n'avaient aucun sens. Elle récitait sa leçon, comme un petit perroquet, sans s'inquiéter de ce que cela signifiait : et c'étaient alors des coq-à-l'âne burlesques. Rolland,J.-Chr., Révolte, 1907, p.468.)
♦ Processus stochastique.
C. − INFORMAT. Calculateur stochastique. Calculateur dans lequel l'information est codée par une probabilité`` (GDEL).
[Attention, le sens donné en épistémologie est inversé : « Qui dépend, qui résulte du hasard. »]
/image%2F2354072%2F20230416%2Fob_ffdee7_chatgpt-songe.jpg)
Les hallucinations de ChatGPT devraient-elles être interprétées comme des rêves ?
La « clé des songes » du fameux scribe Qenherkhepshef devrait-elle être intégrée dans les algorithmes ?
Guillemette Andreu-Lanoë en donne un exemple : Si tu rêves que tu bois de l’urine, que tu manges des excréments ou que ton épouse a des relations sexuelles avec un animal, c’est très bon signe, c’est un très bon présage.
!!!!!!!!!!!!!!!!!!!!
/image%2F2354072%2F20230417%2Fob_7ac7e7_chat-00-couverture-3.jpg)