Aujourd’hui, j’avais une réunion de 9:30 à 10:30 et une réunion de 10:00 à 12:00, et ensuite j’avais une présentation à faire pour tous les profs et étudiants sur ChatGPT à midi, et ensuite de 13:30 à 14:30 j’avais une réunion pour apprendre à lire les plans architecturaux de la ville de Kingston (vous savez comment sont indiquées les entrées accessibles aux fauteuils roulants sur ces plans, vous, hein?) Et de 14:30 à 16:30, j’avais une réunion avec mon comité sur ChatGPT.
J’avais pris une cachet de caféine mais j’étais déjà morte à 13:00.
L’étudiant que j’avais invité à notre réunion de comité sur ChatGPT nous a montré, pendant une heure, toutes les façons d’utiliser ChatGPT et Bing. Déjà, c’était effarant! Le type avait développé des façons de poser des questions pour avoir les réponses qu’il voulait, c’était hyper impressionnant et flippant. Et il utilisait ChatGPT et Bing pour TOUT: ses devoirs, ses emails, ses articles, il avait même écrit un bouquin (enfin, guidé ChatGPT pour qu’il lui écrive un bouquin) et des poèmes pour ses enfants et des conseils maritaux pour ses amis et… C’était tout simplement stupéfiant, même pour moi qui ne suis quand même pas une néophyte du truc!
Ensuite, il nous a montré comment contourner les problèmes de détection d’écriture par intelligence artificielle. Pour ceux qui ne sont pas trop au courant, il y a plusieurs “détecteurs” qui ont été récemment créés pour essayer de “détecter” ce qui a été écrit par un humain et ce qui a été écrit par une machine. Ca marche plus ou moins bien. Mais maintenant, il y a des programmes d’intelligence artificielle qui sont créés exprès pour “cacher” le fait que le texte a été écrit par une machine! Donc plus aucun détecteur ne peut détecter quoi que ce soit!
J’étais médusée, soufflée. Dans le sens que je n’arrivais plus à respirer. Et depuis, j’ai l’impression de couler, d’arriver au fond de l’abysse, J’ai l’impression que mon corps est fait de plomb et je n’arrive même plus à bouger de ma chaise alors que j’ai super besoin d’aller faire pipi parce que ça fait depuis 09:30 que je suis en réunion (et il est 18:20, exactement). Je n’arrivais plus à dire quoi que ce soit après la présentation de cet étudiant, alors qu’il nous restait une heure de réunion et qu’on a des choses concrètes à accomplir, dans ce foutu comité! (Et je n’étais pas la seule membre du comité à être ainsi glacée par ce qu’on venait de voir, je peux vous dire!)
Je sais que “il ne sert à rien de pleurer sur le lait renversé,” comme on dit en anglais (c’est quoi en français?), et qu’il nous faut maintenant nous concentrer sur ce qu’on va faire sans lait, regarder de l’avant, faire face à la réalité, trouver la meilleure façon possible de vivre et étudier et enseigner dans ce nouveau monde, mais je n’y arrive pas. Je disais il y a quelques temps que jamais de ma vie je ne m’étais sentie aussi incompétente et aussi impuissante, et je peux maintenant rajouter que jamais de ma vie je n’ai eu aussi peur de quelque chose. Jamais!
Et je ne sais même pas pourquoi je panique tellement! Est-ce que j’ai la trouille de perdre mon boulot? De devenir inutile? Qu’un ordinateur soit plus intelligent que moi? Je sais que l’être humain a toujours eu peur de la science et de la technologie, depuis la nuit des temps. Et je n’y étais pas (dans la nuit des temps) donc c’est difficile de faire une comparaison, mais là, je vous jure, ce n’est plus la même chose. Ce n’est pas Gutenberg ou la calculatrice. On passe de l’humanité à la science fiction, là où l’être humain ne sert plus à rien. En tous les cas, pour l’instant, je n’arrive pas à le voir autrement.
c'est pas moi je l'jure! 
Comme toi cela me glace, mais mon fils me dit qu’il ne faut pas en avoir peur, que c’est une nouvelle avancée, mais que l’humain sera toujours nécessaire. Alors comme il est très intelligent, je me réfugie dans ce qu’il dit pour ne pas m’angoisser au delà du possible.
LikeLiked by 1 person
Peut-être que l’humain (dans le sens de UN humain) sera toujours nécessaire, oui… mais les autres?
LikeLike
Chère nièce, je comprends très bien tes questionnements abyssaux. Sans se sentir vieux schnock il semble vraiment qu’on entre dans une nouvelle dimension très inquiétante avec tous ces outils. Mais avec ces développements exponentiels de la pensée humaine boostés par les machines, tout devient inquiétant et je ne parle même pas du tournant hideux pris par la jeune génération avec les influenceurs, leurs goûts pour des valeurs si futiles et amenant parfois au fascisant … Brrrrrr !!!!! On va devoir se faire à de ces trucs ! Courage pour affronter tout ça avec en plus tes obligations de boulot, nous encore on peut se dire qu’on en est sortis d’une certaine manière …
Je t’embrasse. Les Tontons
LikeLike
C’est bien la première fois que je vois un avantage très clair à être vieux 🙂 Quoi que les jeunes ne se rendent compte de rien donc ça ne les dérange pas. C’est seulement ceux qui sont coincés au milieu qui se rendent compte de ce qui se passe…
LikeLike
Oldies but goodies … alors effectivement on peut se sentir préservés de cette mierda ambiante, mais ça me fait tout de même souffrir de constater tant de gâchis pour les jeunes. Tu crois vraiment qu’ils trouvent tellement de plaisir à se donner en pâture dans des attitudes et positions si grotesques via selfies ou clichés pris par leurs potes, mettant en avant luxe ringard et futilité ? Quelle vie misérable. …
LikeLike
Je crois que nos parents et grands-parents et arrières-grands-parents pensaient probablement la même chose… Quand on ne connaît rien d’autre, on trouve que notre vie est normal et ce qui vient est effarant pour les générations suivantes…
LikeLike
Comme femme, si je devais choisir entre vivre avec ChatGPT ou vivre en Afghanistan avec les Talibans, mon choix serait vite fait.
Avec ChatGPT, on peut parfois rigoler.
Par exemple, un journaliste belge lui a demandé quelle était la différence entre les œufs de poules et les œufs de vache et ce chatbot a répondu que les œufs de vache étaient beaucoup plus gros et plus foncés que ceux de poules mais qu’on en trouvait difficilement dans le commerce.
Courage. Je croise les doigts pour que ce commentaire ne disparaisse pas comme celui que j’avais posté sous le message précédent.
LikeLike
Peux-tu nous indiquer ton choix de vie, en tant que femme Mme Chapeau ?
Bleck
LikeLike
Vu mon âge, j’attends la Grande Faucheuse. Pour le moment, je suis assez sereine.
Je n’ai aucune idée de comment je réagirais si une longue et pénible maladie venait toquer à ma porte ou si un régime semblable au régime iranien ou afghan s’installait dans mon pays.
LikeLike
Se battre !! Contre l’une ou l’autre !
LikeLike
C’est sûr qu’il y a pire que vivre au Canada avec ChatGPT, mais je pense que vivre en Afghanistan avec ChatGPT ne sera pas non plus une sinécure 😦 En fait, ça sera même très probablement une excuse de plus pour dire que les femmes n’ont VRAIMENT plus besoin d’éducation…
LikeLike
Faudrait demander à chatGPT ce qu’il en pense.
🙂
LikeLike
ChatGBT ne remplacera jamais l’amour et la compassion qui passent par les yeux et les gestes entre ta maman et moi quand je suis à l’EHPAD et c’est bien l’essentiel de l’humanité : être et aimer, vivre quoi.
Et les étudiants qui s’y amusent en ce moment se lasseront et surtout deviendront parents et là avec leur bébés dans les bras, surtout la nuit, ils retrouveront l’essentiel.
LikeLike
GPT, comme j’ai pété 😉 L’amour et la compassion entre deux humains c’est bien beau, mais quand les “visiteurs” et les infirmiers et les babysitteurs et les profs seront remplacés par des robots, on verra s’il y a toujours beaucoup d’amour…
LikeLike
Tous mes élèves ont chatGPT installé sur leur ordinateur personnel. De mon coté, taraudé par la question des limites de l’intelligence du truc (j’utilise ce mot en référence au Grand livre des Gnomes de Terry Pratchett), j’ai enfin trouvé une source très éclairante, mais super difficile à lire, écrite par Stephen Wolfram, qui est une sommité scientifique mondiale en matière d’étude des systèmes complexes.
–> https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work
Dans cet article de 18000 mots (!) (dont 168 fois le mot, “neural”, 35 fois “embedding”, 23 fois “human”, 4 fois “lingusitic”), Wolfram fait notamment des lien entre chatGPT et la linguistique. Il émet l’hypothèse (je simplifie son propos) que, quelque part, chatGPT révèle que le traitement du langage humain et certaines tâches complexes réalisées par le cerveau humain sont plus simples que ce qu’on pensait. On ne comprend pas leur simplicité, mais le truc a réussi à la capturer dans son réseau de neurone (sous une forme qu’on ne comprend pas). En gros, on fait souvent des choses moins intelligentes qu’on ne veut bien le croire, et chatGPT invite à réfléchir sur les limites du cerveau humain. (Sous réserve que j’aie bien compris où l’auteur veut en venir, car son anglais est très relevé.)
LikeLike
Oh merci pour cet article, j’ai vu la notion de “température” hier pendant la présentation et je n’ai pas eu le temps de demander à l’étudiant à quoi ça servait. Ton article l’explique bien. C’est relié à ce que GPTZero appelle “perplexity.”
LikeLike
Bon. Alors. Tu as forcément plus travaillé que moi sur le sujet précis de Chat GPT, je n’ai pas autant de données que toi et je n’ai pas vécu cette expérience de la présentation de l’étudiant, et à l’inverse j’ai peut-être lu ou vu trop de SF avec des IA autrement plus flippantes.
CECI DIT.
Si ça peut t’aider un peu, j’ai le sentiment inverse. ChatGPT, sans l’humain, n’irait vraiment pas bien loin.
Toujours sans être une experte, les discussions que j’ai eu avec lui me donnent l’impression de parler à un élève qui bachote. Je l’ai interrogé sur ses capacités et ça ne fait que renforcer cette impression. Un bon élève, très fort en par coeur et assez bon pour la synthèse, mais pas un élève brillant, capable de transcender le contenu de ces cours pour créer autre chose. On est très très loin de Beethoven.
Je ne suis pas en milieu universitaire ou éducatif, je conçois donc que ta perception ne ressemble pas à la mienne.
Mais pour mon travail d’ingénieur, et aussi probablement pour un travail de chercheur, d’inventeur, que sais-je… ChatGPT ne ressemble, à ce stade, qu’à un assistant de recherche. Un bon assistant, mais rien de plus qu’un assistant.
À ce stade, pour moi la peur que tu décris ressemble à la peur qui existe déjà depuis des années sur l’automatisation de jobs dits non qualifiés (les caisses automatiques de supermarché ou les bornes de resto), sauf que ça commence à toucher des jobs un peu plus qualifiés et que cette foule-là, qui se croyait à l’abri, commence à se dire “attends une minute”.
Pour toi-même, cette peur est-elle fondée ? J’en doute sincèrement. Je ne crois pas un instant qu’en l’état, ChatGPT ait la capacité de concevoir, ni même mettre en oeuvre, tous les outils pédagogiques que tu as développés pendant ta carrière. Il fera au mieux des beaux discours à leur propos.
Pour l’éducation en général, oui, c’est possible qu’elle doive s’adapter, comme elle a dû le faire avec l’arrivée massive d’Internet et Google il y a 15 ans.
Quant au reste du monde… je suis convaincue que l’humain dans sa globalité peut travailler moins (et le doit, pour la planète), donc deep down ce résultat me paraît plutôt désirable.
Mais, en tant que société on n’en prend pas le chemin. Telle qu’elle est, la société a besoin que l’humain bosse. Même s’il n’y a plus sa compétence, il faidra toujours qu’il consomme. Citation apocryphe d’un employé à Henry Ford qui lui disait que sa machine ne ferait jamais la grève : “elles n’achèteront pas vos voitures non plus”.
Je ne suis pas un robot. Aucune IA n’a été impliquée dans l’écriture de ce commentaire 🙂
LikeLiked by 2 people
Heureusement que tu n’es pas un robot 🙂 Et ça me fait super plaisir de te revoir par ici! J’envie ton optimisme, mais comme je l’ai dit très clairement dans ma dernière présentation, le problème principal, dans l’affaire, c’est que très très peu de gens comprennent REELLEMENT comment le truc marche et les réels enjeux et défis qu’il va nous poser et nous pose déjà. Si ça t’intéresse, fait une recherche sur les terms “explicabilité” et “interprétabilité” (dans le contexte de l’IA). C’est fascinant et glaçant! Lis aussi ActuIA tous les matins, c’est très intéressant 🙂
LikeLike
Terminator’s world is coming…
LikeLike
Je ne sais pas si les robots vont remplacer les humains, mais ce qui est 100% sûr c’est c’est que les trois-quarts des humains (toi et moi inclues) vont devenir inutiles, et ça, c’est le plus triste.
LikeLike
Mais si l’humain n’a plus les moyens de “consommer”, l’économie va s’effondrer, parce que ce sont pas les AI qui vont acheter des canapés, de la bouffe, des téléphones, des appartements, des bagnoles… Ça risque d’être intéressant ! (à part qu’on sera trop morts de faim pour apprécier !)
LikeLike
Je suis d’accord avec toi, ça va créer de très sérieux problèmes. Beaucoup de gens ont déjà perdu leur emploi à cause de ce truc, c’est effarant!
LikeLike
Ce n’est pas ChatGPT qui est à craindre mais encore et toujours ce que l’humain peut en faire. C’est donc l’humain qu’il faut éduquer à mon avis.
Si je voulais faire un parallèle hasardeux, je dirais que la maîtrise de la fission atomique a conduit au pire (l’armement nuc) mais également à une production énergétique décarbonnée plutôt utile à notre époque de chasse au CO2.
LikeLike
Il y a quelques années, j’aurait été d’accord avec toi en ce qui concerne ta première phrase. Mais aujourd’hui, on n’en est plus là, l’humain est en train de perdre le contrôle de l’IA (lis ce que je réponds ci-dessus à Seer), et en plus, l’humain moyen (95% de la planète) ne peut tout simplement pas comprendre ni comment l’IA marche ni ses enjeux (positifs et négatifs) réels. (Et je trouve que l’armement nuc pèse bien plus lourd, dans la balance entre le bien et le mal, que la production énergétique!)
LikeLike
J’essaie de ne pas penser à tout ça. Ce n’est pas que je me voile la face, mais que puis-je faire à mon niveau ? Rien, sauf ne pas utiliser cette merde qui vole le travail des autres. On verra avec le temps…
LikeLike
Merci de démontrer exactement ce que j’essaye d’expliquer ci-dessus: pourquoi l’être humain ne fait rien et les choses sont si graves aujourd’hui 🙂 1) c’est trop complexe, et 2) que puis-je y faire à mon niveau?
LikeLike
Je suis en train de lire un article sur le sujet 😝
LikeLike
Merci ❤
LikeLike
Pour ta question sur l’expression française correspondant à « don’t cry over spilt milk » on me dit dans l’oreillette que c’est « il ne faut pas pleurer sur le lait renversé » sauf que ce n’est plus utilisé. On dit maintenant « ce qui est fait, est fait » ou « on ne ré-écrit pas l’histoire ».
Enquête menée par mon chéri (qui ne sera jamais détrôné par un chatbot)
LikeLike
Pas mal, pas mal 🙂 Mais dans tes deux expressions, il manque l’idée d’avoir perdu quelque chose (le lait, en anglais). Qu’est-ce qu’on fait sans lait maintenant? J’ai aussi trouvé “tourner la page.”
LikeLike
Je vote aussi pour “il faut tourner la page” / “il faut passer à autre chose”. En français, je pense que suivant le contexte, on utiliserait d’abord “on va pas en faire un formage / tout un plat” puis “il faut tourner la page”. Deux expressions pour le prix d’une, dont une qui te plaira bien 🙂
LikeLike
Et donc comme on a renversé le lait on ne peut plus en faire de fromage, c’est ça? 😉 (il me reste encore un peu de fromage de Toronto, le bonheur!)
LikeLike
Job de rêve : une étude cherche des cobayes qui devront… manger du fromage et dormir
Publié le 20/01/2023
par Anna Carolina Assuncao
Un petit reblochon avant d’aller dormir ….. v’la t’y pas une reconversion à méditer.
LikeLike
Ohhhh le job de rêve en effet!!!! Parfait pour moi 😀 (ça manque de câlins de chats quand même)
LikeLike
En tant que simple mâle primaire, il me semble qu’il y a plus à craindre de la connerie réelle plutôt que de l’intelligence artificielle.
Bleck
LikeLike
A méditer aussi …
Et en tant que ménagère de plus de 50 ans ?
LikeLike
Cinabre, eh, moi aussi je suis une “ménagère de plus de 50 ans,” hein 😉
LikeLike
Bleck, les deux marchent main dans la main hélas 🙂
LikeLike
Sans même parler de l’IA, je me demande comment tu fais pour enchaîner sur un tel rythme ….
LikeLike
En réalité il ne faut pas se leurrer Dom, Dr. Caso est un concept, une idée assez ingénieuse qui peut faire croire à des capacités tout à fait extraordinaires.
A l’origine il y avait une Dr. Caso, quelqu’un de particulièrement intelligent douée d’une force de travail peu commune et d’une volonté farouche et puis à trop en faire… aujourd’hui Dr. Caso est un concept, un regroupement genre clonage, elles sont dix sept à ce jour.
Bleck
LikeLike
Dom, cette semaine a été particulièrement épuisante physiquement et moralement. Toutes mes semaines et tous les jours ne sont pas comme ça heureusement, et j’ai même pu dormir jusqu’à 8 heures vendredi matin, le rêve 😀 (à la fin de la journée donc je parle dans mon post, j’ai longuement pleuré d’épuisement et de découragement, à vrai dire.)
LikeLike
Les robots censés alléger la peine des travailleurs en ont mis plus d’un au chomage. Les grandes entreprises ont compris que, via internet depuis les pays pauvres, leur bénéfices augmentaient. Quand à nous, continuons à consommer leurs produits jusqu’ à vider notre bourse qui va en s’amenuisant.
LikeLike
Eh oui, comme pour tout le reste, moins on est conscient des problèmes de ce monde et mieux on se porte (et mieux les banques et grosses entreprises se portent aussi)!
LikeLike
Ce que je trouve intéressant c’est que c’est la toute première incursion d’une technologie qui peut remplacer des empois qu’on pensait irremplaçables parce que complexes, intellectuels et à valeur ajoutée. On regardait d’un peu loin la mécanisation ou la robotisation ou l’informatisation qui a supprimé des millions d’emplois à faible qualification, mais là ça nous touche directement donc on y est forcément d’autant plus sensible, et d’autant plus qu’on peut nourrir une certaine lucidité et clairvoyance quant à ce qui nous attend.
Ce qui me trouble toujours aussi vis à vis des IA, c’est qu’ils partent d’un corpus existant qui lui est original pour alimenter ce “machine learning”, mais que rapidement on va avoir des IA qui inspirent des IA, et que la limite sera peut-être atteinte plus vite qu’on ne croit (ou pas LOL).
LikeLike
Tu as raison, c’est peut-être ça qui me fait tellement peur, le fait que toute notre vie on a appris que les révolutions industrielles et autres ont fait perdre leurs jobs à tant de gens peu éduqués, donc il fallait absolument avoir le plus d’éducation possible pour se sentir en sécurité, et là, soudain, c’est le contraire, le plombier va garder son boulot et ce sont les banquiers, les journalistes, les profs, les médecins, qui vont perdre leurs jobs!
LikeLike
Tu connais les travaux d’Emily Bender? Je suppose que oui. J’ai trouvé son interview passionnante
https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html
LikeLike
OMG no, I didn’t know her! Excellent article, merci, I love that woman 🙂
LikeLike
Pauvre humain qui n’aura bientôt plus qu’à s’habiller de peaux de biques et manger de l’herbe.
En ce qui concerne les étudiants, il faudra multiplier les oraux pour démasquer les fraudeurs.
LikeLike
Oui, mais ça c’est en attendant la prochaine génération de profs qui auront été éduqués dès leur jeunesse AVEC l’IA.
LikeLike
Je tombe sur ceci qui pourrait t’intéresser… ma discipline n’est pas indifférente: Mark Humphries and Eric Story, “Today’s AI, Tomorrow’s History: Doing History in the Age of ChatGPT” sur Active History.
LikeLike
Merci, je vais aller lire ça (mais cet article est basé sur GPT-3.5, alors que ChatGPT utilise GPT-4 depuis quelques jours, énorme différence, en particulier pour tout ce qui est visuel!) 🙂
LikeLike
J’en suis encore à chercher des biographies de musiciens dans plusieurs dictionnaires (français et anglophones) et à les compiler et les résumer en 1000 caractères. J’ai pensé un moment utiliser ChatGPT pour le faire à ma place, mais mon cerveau n’a rien compris au fonctionnement du machin et en plus, je pense que je passerais autant de temps à corriger les articles qu’à les rédiger moi-même.
Si tu veux une idée de ce que peut donner une société entièrement contrôlée par l’AI, je suis en train de lire un roman là-dessus (long, avec pas mal de fautes car auto-édité – mais je ferai remonter toutes mes remarques à l’autrice bientôt ) qui a été écrit bien avant la sortie de ChatGPT et fait preuve d’une incroyable clairvoyance sur ce que ça pourrait donner…
Isabelle Guézan, La Nouvelle Organisation du Travail (sur Amazon, en e-book uniquement)
LikeLike
Pingback: les machines à sous | c'est pas moi je l'jure!
Pingback: le bal de fin d’année | c'est pas moi je l'jure!