13 Mars 2024

Publié par Jean-Pierre FORESTIER

S’amuser à tromper l’IA

Même "vectorielle", l’Intelligence Artificielle est incapable de croiser des informations indépendantes, il est donc facile de la tromper, en s’amusant … Qu'en pensent les investisseurs !

L’intelligence naturelle, celle des humains néoténiques, a encore de beaux jours devant elle !
L'IA a des connaissances mais pas de culture.

Les IA face au réel titre Pour la Science dans son numéro de mars 2024

(Les algorithmes des IA peuvent-ils comprendre notre monde ? dans la version électronique)

« Les modèles de langage tels que ChatGPT, malgré des capacités parfois stupéfiantes, font encore des erreurs grossières les faisant paraître comme déconnectés de notre monde. »

Les auteurs de l’article, Clément Romac, Thomas Carta et Pierre-Yves Oudeyer, proposent comme « erreur grossière » l’exemple suivant :

Question à ChatGPT3

Est-ce qu'un anaconda peut rentrer, en taille, dans un centre commercial ?

Réponse de l’IA

Non, un anaconda ne peut pas rentrer en taille dans un centre commercial. Les anacondas sont des serpents très grands et peuvent atteindre jusqu'a 10 mètres de longueur. Les couloirs des centres commerciaux ont généralement des plafonds de 2 à 3 mètres de hauteur.

De mon côté, j’ai testé Copilot, la dernière version proposée par Microsoft Edge, avec une question plus ludique.

Vous

Puis-je te poser un problème de calcul d’arithmétique ?

Copilot

Bien sûr ! Je suis là pour t’aider. Quel problème d’arithmétique aimerais-tu résoudre ? 😊

Vous

Sept palombes sont posées sur une branche.
Un chasseur ajuste son tir et fait feu
Une palombe est tuée.
Combien de palombes restent sur la branche ?

Copilot

Après le tir du chasseur, six palombes restent sur la branche. La palombe qui a été tuée ne fait plus partie du groupe initial de sept. 🕊️

(d’après l'Émoji final, Copilot a bien compris que la palombe est un oiseau.)

Copilot n’a pas tenu compte du bruit causé par le coup de feu, bruit qui a fait s'envoler les six autres palombes !
(Est-ce pour cela que certains chasseurs de palombes préfèrent la chasse au filet !)

Comme le signale Clément Romac, Thomas Carta et Pierre-Yves Oudeyer, « il semble nécessaire que nous partagions avec ces modèles un socle commun de connaissances, et que les mots que nous employons pour communiquer avec eux partagent le même sens ou réfèrent aux mêmes concepts ». Ici, il faut que l’IA puisse lier le mot « fusil » non seulement au tir d’un projectile, mais aussi au bruit que fait le tir.

Dans ma question, Copilot a-t-il été influencé par ma question préliminaire orientée vers « l’arithmétique » ?
… comme l’IA a-t-elle été influencée par « en taille » dans la question posée sur l’anaconda ?

Je formule la question plus simplement :

Vous

Puis-je te poser un problème ?

La réponse finale de Copilot est identique

Copilot

Après que le chasseur ait tué une palombe, il en reste six sur la branche. 🕊️

Je reformule ma question en aidant un peu Copilot

Vous

Sept palombes sont posées sur une branche. Un chasseur ajuste son tir et fait feu. Le bruit du coup de feu retentit dans toute la forêt. Une palombe est tuée. Combien de palombes restent sur la branche ?

Copilot

Après que le chasseur ait tué une palombe, il en reste six sur la branche. 🕊️

Copilot persiste !

L’IA est incapable de croiser les deux informations :
- le tir du chasseur avec
- l'effet du bruit provoqué par le coup de feu.

L’Intelligence Artificielle est un nouveau et formidable outil pour les humains et peut même être considérée comme une rupture anthropologique. ...

… à condition de la considérer qu’elle n'est qu'une check-list très performante.

Mais l’Intelligence artificielle a encore beaucoup à faire pour comprendre notre monde !

Dans mon article ChatGPT, hallucinations et fantasmes, sur l’exemple du « traitement de l’endométriose », j’avais déjà pointé l’incapacité de l’IA à croiser des travaux scientifiques. Sans cette capacité, l’IA ne peut rien apporter d'innovant. Mais il peut s’avérer très utile pour ne pas oublier, par distraction, un paramètre fondamental.

« … des informations fausses, voire inventées de toutes pièces ... » ne sont-elles pas seulement des hallucinations générées « par construction » des algorithmes itératifs d'apprentissage automatique ?

Le nouveau modèle « Transformer » mis en avant par les auteurs de Les IA face au réel constitue un progrès puisqu’il permet « d’effectuer des opérations entre les vecteurs de représentation des mots. »

Une représentation vectorielle se rapproche des vecteurs associés à la mémoire cérébrale ...

… plus exactement de la mémoire astrocytaire.

Hystérétiques, ces vecteurs sont « naturellement » quantiques, à température de notre cerveau !

« manipuler des dizaines de milliards de paramètres, et ... traiter des jeux de données de plus en plus grands. » … ne permettent pas d’accéder à une « simulation réaliste », comme celle d’intégrer que les oiseaux s’enfuient en entendant le bruit d’un coup de feu.

L’Intelligence Artificielle a des connaissances mais pas de culture.

Les connaissances de l’IA sont bien compartimentées. La culture humaine est-elle ce flou qui apparaît dans le recouvrement des deux domaines ("ensembles") ?

Voir Notre mémoire floue

Le cerveau comparerait des « objets cognitifs » dans un dialogue permanent

Ces « objets » sont plastiques et flous, de plus, la plupart correspondent à des mouvements qui peuvent être représentés par des vecteurs.

La coordination de toutes les comparaisons entre les "objets cognitifs" dans une agora neuro-astrocytaire permet au cerveau de prendre une décision, souvent après plusieurs nouvelles analyses.

La logique floue peut être considérée comme la logique de la plasticité

L’intelligence naturelle, celle des humains néoténiques, celle des fictions, a encore de beaux jours devant elle !

L’IA ne serait-t-elle pas est d’abord un formidable outil pour lever des fonds ?

Des levées de fonds où il y aurait plus de pigeons que de palombes !
Ne s’enfuiront-ils pas aussi au moindre "coup de feu" boursier !

Autre version, parue dans Les échos :

Oui, la France est en retard dans la course à l'intelligence artificielle. Mais rien n'est perdu si elle investit massivement. … « L'IA, c'est comme un cheval fougueux. Il peut vous amener dans le mur ou vous porter très loin si vous faites ce qu'il faut pour le dompter », résume l'économiste Philippe Aghion, professeur au Collège de France et à l'Institut européen d'administration des affaires..