Aujourd’hui, mes p’tits loups, je vais vous parler d’un truc qui m’énerve au plus haut point parce que je suis énervée au plus haut point: ChatGPT. La quantité de désinformation que j’entends et je lis au quotidien est tout simplement effroyable, donc je voudrais vous expliquer deux-trois trucs une bonne fois pour toute. C’est pas compliqué et c’est fascinant.
- Premièrement, tout ce qu’on demande/fait sur ChatGPT est utilisé comme “recherche” pour améliorer le système. Nous participons tous sans être payé un centime à un grand projet dont les chercheurs se font des couilles en or! (Sans parler des milliers d’esclaves au Kenya qui “nettoient” les abominations des psychopathes qui utilisent le système.)
- Le truc n’est PAS connecté à internet! Il a été créé avec des quantités massives de documents et de pages d’information piquées sur internet et nourries à une énorme machine, fin 2021. L’information est donc limitée et n’a pour l’instant pas été mise à jour depuis!
- Comme l’information date de novembre 2021, le truc ne sait pas qu’il y a la guerre en Ukraine, que l’Argentine à gagné la coupe du monde, que la Reine est morte, que l’inflation est terrible, qu’un crétin a acheté Twitter, ni que Roe vs. Wade a été anéanti.
- Cette machine utilise l’information qu’on lui a fournie pour en prendre des petits bouts d’un peu partout, les remâcher, et les offrir en réponses aux utilisateurs. Tout marche avec un système de probabilités: quel est le mot qui a la plus haute probabilité de se trouver après les mots “être ou ne pas être, telle est la…”? Le système ne “réfléchit” donc pas à la question posée, il donne simplement la réponse qu’il a trouvée le plus souvent dans les documents qu’il a digérés. Tout n’est que question de probabilités, pas d’intelligence!
- Quand on fait une recherche sur Google, on tombe sur des pages, des documents, des sites qu’on peut ensuite référencer. Mais ChatGPT pique des petits bouts d’information de partout et crache un magnifique morceau tout beau tout neuf en ne citant AUCUNE de ses références! Cela signifie, tout simplement, que le truc VOLE LITTERALEMENT les informations (par exemple dans mes articles publiés, sur mon blog, dans les livres, sur les sites écrits par des artistes et des chercheurs et des auteurs) qu’il utilise pour ses réponses. Tout le monde crie au miracle parce qu’il offre de “l’information neuve,” qui ne peut donc pas être suspectée de plagiat par les détecteurs de plagiat régulièrement utilisés dans les universités, mais ce n’est pas vraiment vrai. Oui, l’information est débitée de façon inédite, mais l’information ELLE-MÊME n’est PAS nouvelle, elle vient de quelque part et on ne sait pas d’où!
- Quand il manque des informations au bidule pour donner une réponse cohérente, il INVENTE des faits, des références, et il le fait de façon TRES CREDIBLE. Et le problème le pire est qu’IL NE SAIT PAS QU’IL RACONTE N’IMPORTE QUOI. Par exemple je lui ai demandé de me donner cinq références d’articles qui expliquent comment fonctionne ChatGPT à des gens qui n’y connaissent rien en intelligence artificielle, et il m’a filé cinq références qui avaient l’air géniales. Mais je les ai toutes vérifiées, et aucune n’existait! (Ce qui est logique, puisque tous les articles écrits à propos de ChatGPT ont été écrits depuis décembre 2022, donc il ne sait pas qu’ils existent et ne peut pas y avoir accès). Malheureusement, il ne souligne pas en rouge les informations qu’il invente, non, le vrai et le faux sont complètement intégrés en une réponse parfaitement vraisemblable! Il dit des conneries avec un aplomb incroyable!
- Comme le truc utilise les données qui venaient de partout sur internet (blogs, articles académiques, livres, pages Wikipedia, documents médicaux, journaux, documents de gouvernements, trucs trouvés sur les média sociaux, paroles de chansons, vidéos, scripts de séries télévisées, films, etc.), il propage aussi les fausses informations qui se trouvent sur internet, les préjugés, les stéréotypes, les erreurs, et toute la connerie qui se trouve sur internet. Il n’est pas connecté à internet mais il en a malgré tout tous les défauts (et même plus!).
Bon je m’arrête, sinon je vais écrire encore 25 pages! Mais ça m’énerve d’entendre des profs du monde entier parler du truc comme si c’était le fil à couper le beurre et ne jamais mentionner le fait que tout ce que dit ce truc est soit purement et simplement volé, soit des conneries.
(Et ne venez pas me raconter que la nouvelle version du bidule va bientôt sortir et qu’elle coûtera $20 par mois, je le sais!)
c'est pas moi je l'jure! 
Ah ben voilà une explication que je comprends, que j’assimile, et du coup il y a effectivement de quoi s’énerver… Merci à toi, et bonne journée. Ici il est 22h26
LikeLike
Merci, contente que ça te soit utile 🙂 Bonne journée (ici il est 17:28)
LikeLike
un article écrit avec courage et du coeur
LikeLike
Merci, et une pointe d’énervement aussi 😉
LikeLiked by 1 person
C’est une jolie cash machine. Et pas beaucoup plus à mon avis. Thomas Durand l’a pris en flagrant délit de pipeau et lui a dit. Faudrait que je retrouve la réponse tiens…
LikeLike
Ah ça pour être une cash machine, ils ont bien réussi leur coup!!!
LikeLike
<>
Je pense que ce que fait chatGPT est plus subtil que ça.
D’une part il est capable de créer des réponses plausibles qu’il n’a jamais lu dans aucun des documents utilisés pour son apprentissage, un peu comme une IA entraînée à reconnaitre des chats peut identifier des chats qu’elle n’a jamais vu parce qu’elle a capturé spontanément, lors de son apprentissage, certaines caractéristiques spécifiques à ces félins.
D’autre part, ce qui se passe dans le réseau de neurones artificiels au fil de son apprentissage dépasse notre entendement. On comprend comment fonctionne les algorithmes d’apprentissage, mais pas le résultat de cet apprentissage, c’est à dire toute la subtilité (1) de l’organisation des connaissances encodées par les 175 milliards de coefficients (synapses reliant les neurones artificiels) qui représentent les savoirs de la machine, et (2) des liens entre ces connaissances.
Il serait, à mon avis, très présomptueux, bien que tentant, d’affirmer qu’il est impossible qu’une certaine forme d’intelligence émerge d’un processus aussi complexe et évolutif. (Tout comme il serait tentant, mais présomptueux, d’affirmer que des algues ne peuvent pas évoluer vers des formes de vies capables de créer des sondes spatiales.)
Mon intuition actuelle est que chatGPT a réussi à capturer la logique et la structure sous-jacentes à de nombreux documents ayant servi de base à son apprentissage, et qu’il est capable d’exploiter cette forme de “compréhension” pour construire ses réponses, qui s’avèrent assez souvent meilleures que ce que beaucoup d’humains peuvent produire. Mais il me faudrait étudier le sujet pendant des années pour être en mesure d’affirmer quoi que ce soit.
Pour ce qui est du vol d’information, il va falloir prendre l’habitude, à chaque fois qu’on publie quelque chose, y compris dans un blog, de préciser quels sont les droit d’utilisation afférents. Et il va falloir définir des licences spécifiques pour préciser les droits d’utilisation par des IA. On se dirige vers une extrême complexité juridique.
LikeLike
Je dois avouer que j’étais un peu nerveuse de poster ça parce que je savais que tu allais passer derrière et corriger mes erreurs 🙂 Mais je suis contente de voir que tu ne parles que de mon point 5, et je suis d’accord avec toi, le truc peut écrire un poème sur un chat et une baleine qui tombent amoureux dans le style de Shakespeare, même si ça n’a jamais été fait. Mais je ne pense quand même pas que ce soit de “l’intelligence,” seulement un apprentissage massif (bien au-delà de ce qu’un humain peut faire, on est d’accord) et une utilisation des informations qu’on lui a données, et beaucoup de calculations statistiques 🙂
LikeLike
Je ne suis pas spécialiste des ce genre d’IA, c’est à dire “numériques” (basées sur des réseaux de neurones), mais des IA symboliques, qui raisonnent en réalisant des déductions basées sur des règles d’inférences logiques. Je considère que les IA symboliques sur lesquelles je travaillent ne sont, paradoxalement, pas intelligentes. Par contre, je suis enclin à penser que les IA génératives telles que chatGPT ont un forme d’intelligence, bien que différente de l’intelligence humaine. C’est un peu comme si on comparait un oiseau et un avion. Ils ne fonctionnent pas de la même manière, ne sont pas capables des mêmes prouesses, mais ils sont tous les deux capables de voler.
LikeLike
Bien sûr, j’ai laissé volontairement d’hooribles fautes pour montrer que ce n’est pas chatGPT qui a écrit cette réponse :-). Mon propre réseau de neurones commence à vieillir…
Nonobstant, je me disais ce matin (car je pense tous les jours à chatGPT, qui est vraiment une avancée majeure, quoi qu’en disent les gens qui minimisent ses exploits, et même si le truc se plante en faisant une simple addition) que ce ce genre de machine ayant recours au “deep learning” sont les premières intelligences artificielles qui n’usurpent pas le mot “intelligence”. J’ai le sentiment que tout ce qu’on a fait avant, incluant mes travaux de recherche, ce n’était pas vraiment des machines intelligentes.
Là on a une machine qui, à partir d’un réseau complètement vierge de neurones artificielle, est capable de faire ça -> https://www.craft.do/s/fyosxFmV3z6ZdF
Le résultat, sur ce problème qui n’a aucune chance de s’être trouvé dans les connaissances apprises par la machine, m’impressionne énormément par ce que c’est une réponse que pourrait donner une personne humaine ayant parfaitement compris l’énoncé du problème, puis ayant trouvé la bonne stratégie de résolution, mais qui aurait de grosses difficultés pour faire une addition (qui sont évidemment complètement anecdotiques). Autrement dit, le truc surmonte les deux grandes difficultés de ce type de problème : comprendre l’énoncé et trouver une stratégie de résolution.
Le texte “littéraire” qui suit peut paraître rempli de lieux communs, mais il m’impressionne malgré tout car il n’est le plagia de rien, c’est un texte original, dont la qualité n’est peut être pas du niveau attendu par des personnes littéraires, mais quelle proportion d’humains, sur la planète, peuvent produire ce niveau de qualité et de pertinence ?
LikeLike
Pour moi, ChatGPT représente une révolution aussi importante que l’invention de l’internet, donc je ne minimise absolument pas ses capacités. Ce qui m’énerve ce sont les gens qui ignorent ses limitations, parce que ces limitations sont extrêmement importantes (e.g., utilisation de données sans permission, erreurs, fabrications d’information, “esclavage,” le fait qu’on est des cobayes gratuits, en gros tout ce que j’explique dans mon post, et plus). Je l’utilise aussi, et je sais qu’il va continuer à s’améliorer, mais trop de gens ignorent les problèmes très sérieux liés à tout ça.
LikeLike
Pour moi, le fait de pouvoir inventer des choses plausibles et fausses n’est pas une limitation de la machine, mais au contraire plutôt une performance. Par contre c’est une sérieuse limitation de son champ d’utilisation, ce qui est différent.
Le pire danger est expliqué ici : https://www.youtube.com/watch?v=QprkRP-Dylo
LikeLike
Merci pour le lien, très intéressant, et je suis bien d’accord avec
tout ce que raconte le gars!
LikeLike
ChatGPT est une machine qui nous imite.
Par exemple, lundi, j’ai raconté que le Costa Rica était un pays sans armée. J’avais trouvé cette information sur la Toile et j’ai omis de citer ma source.
https://www.geo.fr/geopolitique/costa-rica-5-choses-a-savoir-sur-la-suisse-de-lamerique-centrale-208244Il faut éduquer les utilisateurs et les utilisatrices de ChatGPT.
Merci pour toutes vos explications.
LikeLike
Oui, il faut éduquer les utilisateurs et utilisatrices, c’est exactement ça!!
LikeLike
Merci pour ces explications claires et détaillées ! Tout le monde parle de ce truc à tort et à travers sans qu’on sache exactement ce qu’il en est. Je ne savais pas que les données utilisées par cet ia étaient si “anciennes”..
LikeLike
C’est ça qui m’énerve, que les gens ne sachent pas vraiment ce qu’est ce truc. Il y a du bon comme du mauvais, comme dans tout, mais il ne faut pas rester aveugles à la réalité, ça peut devenir dangereux!
LikeLike
je te sens un peu énervée par ce bidule, mais tu as été très précise et didactique dans ton article, j’ai compris beaucoup de choses concernant ce ChatGPT (déjà que le nom me fait rire!)
Je trouve abominable de voler des contenus et de vomir ensuite des articles présumés inédits. Si c’est ça l’IA!😨
Bon mercredi bises
LikeLike
C’est beaucoup plus que ça. ChatGPT est capable de traiter des exercices de compréhension et de conception de code informatique mieux que la plupart de mes étudiantes et étudiants de deuxième année. Il fournit un code propre, commenté, avec en plus des explications claires et concises.
Il m’a produit un programme en langage de programmation Python complètement original (au sens, non publié sur le WEB) de production de termes de lambda-calcul aléatoires. Ce programme était sans grande subtilité, mais ne comportait aucune erreur. Je l’ai utilisé comme base pour développer une version plus subtile, qui répondait à mes besoins pour illustrer un cours magistral de troisième année de licence Informatique.
Non seulement chatGPT m’a fait gagner plusieurs heures de travail (parce que je connais mal le langage Python), mais il m’a fournit des explications limpides sur un point syntaxique qui m’intriguait dans la solution proposée. Cela m’a permis d’apprendre en un temps record des choses très utiles sur le langage Python.
LikeLike
Mon rêve: être une pro de Python! J’ai essayé, mais toute seule c’était trop difficile 😦
LikeLike
catherine, c’est ça et encore plein d’autres choses, l’IA. Là j’étais juste un peu énervée, effectivement 😉 Par exemple le régulateur de vitesse adaptif de ma voiture (possible grâce à l’IA) me permet d’avoir beaucoup moins mal au dos que quand je conduis d’autres voitures, ce qui est fort agréable 🙂
LikeLike
C’est juste une bête machine. Faut pas perdre son temps à aller sur ce truc.
Comme une machine n’a ni conscience, ni âme, ni cerveau neuronal, elle ne peut pas être intelligence. Ni réelle ni artificielle. C’est un évident mensonge.
LikeLike
Non, malheureusement ce n’est pas une bête machine. Dire ça est comme de dire que l’automobile est une bête machine comparée à la calèche 🙂
LikeLike
Il n’a pas fallu attendre l’intelligence artificielle pour que des gens s’approprient des données et les remâchent à leur sauce. J’ai vu récemment un livre qui proposait une histoire de la danse sans citer aucune source… L’auteur aurait-il eu la science infuse? Le respect et la vérification des sources, c’est cela que nous devons apprendre et transmettre.
(Mentir avec aplomb, ne pas citer ses références… ChatGPT ferait un excellent politicien!)
LikeLike
C’est sûr que le plagiat, le vol, les fausses informations, la malhonnêteté, et tout ça, existaient bien avant ChatGPT. C’est juste que tout ça est devenu soudainement beaucoup plus facile et de façon exponentielle 🙂
LikeLike
Je n’ai pas encore eu l’occasion d’expérimenter cet outil… mais je suis avidement tout ce qu’on écrit là-dessus (et non, je ne t’ai pas oubliée). Justement, voici un article du Guardian qui présente une perspective intéressante.
LikeLike
@ Doreus: merci pour votre lien.
On utilise notre lave-linge sans remords; présenter ChatGPT comme un nouvel outil qu’on pourrait utiliser sereinement quitte à le signaler me semble une meilleure idée que de vouloir le combattre.
LikeLike
Je l’ai déjà utilisé pour mon travail. Plus précisément, il m’a fait gagner plusieurs heures de développement d’un programme original, introuvable sur le WEB, que j’ai utilisé le lendemain dans un cours magistral de lambda-Calcul.
LikeLike
Ah, “the misplaced confidence.” C’est ce que j’essaye de dire mais je ne pense pas que quiconque m’écoute 😉
LikeLike
Take heart.
“The misplaced confidence” is likely to vanish if many people listen to you.
LikeLike
S’il invente des réponses, c’est effrayant !
J’ai vu quelques blogs écrits par un robot (ChatGPT ou autre, je ne sais pas) et c’est totalement vide, ça tourne en rond, aucun intérêt…
LikeLike
J’y ai pensé, pour mon blog 😉 Mais ça demande plus de travail pour arriver à lui faire cracher un truc vaguement potable que de le faire moi-même!
LikeLike
Using it to run a blog looks like a misplaced use.
Can you see?
A bit crazy human being can mimic your new friend, the famous bot ChatGPT.
cf the answer you wrote at 5:08 PM
LikeLike