Cette IA est capable de répondre à n’importe quelle question, d’écrire du code informatique, des scénarios de films, de composer de la musique et des poèmes ou même de remplacer Google. Découvrez tout ce que vous devez savoir sur ce nouveau phénomène, et pourquoi cet outil est aussi dangereux que révolutionnaire…
l’homme avertit sur le tsunami technologique qui s’apprête à déferler sur le monde.
Il explique que « travailler à OpenAI me rappelle chaque jour la magnitude des changements socio-économiques qui vont arriver plus vite que la plupart des gens pensent ».
C’était il y a moins de deux ans, mais peu d’entre nous à l’époque auraient pu saisir le véritable poids de ces mots.
À partir d’un simple texte entré par l’utilisateur, cette IA est capable de générer des images en quelques secondes. En quelques jours, DALL-E 2 choque le monde de l’art et du design.
Il ne s’agit pas d’un gadget, mais bel et bien d’un outil capable de mâcher le travail des graphistes et des architectes. Elle a d’ailleurs généré l’image de une de cet article…
Mais à quoi bon lutter contre l’inexorable ? Après quelques semaines, Adobe Stock et Shutterstock ont quant à eux décider d’intégrer DALL-E à leurs plateformes.
Et ce n’était qu’un début. Après l’image, OpenAI laisse maintenant GPT s’attaquer aux mots avec ChatGPT : un chatbot révolutionnaire entraîné au fil de nombreuses conversations avec des humains.
Cette nouvelle IA ouverte au public depuis fin novembre 2022 est capable de répondre à n’importe quelle question, mais aussi d’écrire du code informatique, de la musique, des poésies, des scénarios ou même des essais scientifiques.
L’infini champ des possibles ouvert par ChatGPT sidère les internautes. En seulement une semaine, cette IA cumule plusieurs millions d’utilisateurs dans le monde entier et suscite à la fois inquiétude et fascination.
À travers ce dossier, découvrez tout ce que vous devez savoir sur ChatGPT pour comprendre tout le potentiel et l’importance de cette IA révolutionnaire…
Qu’est-ce que ChatGPT ?
Auparavant, la firme a déjà créé d’autres outils comme DALL-E ou InstructGPT.
La particularité de cette nouvelle variante est qu’elle est focalisée sur le dialogue. Il suffit de lui écrire via une messagerie textuelle, comme on s’adresserait à un interlocuteur humain, et l’IA génère instantanément une réponse à n’importe quelle question ou requête…
Comment fonctionne ChatGPT ?
ChatGPT est basé sur une série de modèles GPT-3.5. Ces modèles ont été entraînés grâce au machine learning, sur un immense échantillon de textes provenant d’internet.
Cet entraînement a été effectué sur l’infrastructure de superordinateur Azure AI. OpenAI a utilisé la technique de l’apprentissage par renforcement (Reinforcement Learning) à partir de feedback humain. Le « fine-tuning » supervisé a permis d’entraîner l’IA par le biais de conversations avec des entraîneurs humains dédiés.
Ainsi, « le format dialogue permet à ChatGPT de répondre aux questions à suite, d’admettre ses erreurs, et de rejeter les requêtes inappropriées ».
Qui a créé ChatGPT ?
Ce centre de recherche est créé pour « faire avancer l’intelligence numérique d’une façon bénéfique à l’humanité », selon un billet de blog publié lors de son ouverture.
Toutefois, Elon Musk a quitté le conseil d’administration du groupe et pris ses distances. Le 4 novembre 2022, il a d’ailleurs révélé avoir appris qu’OpenAI avait accès à la base de données de Twitter pour entraîner ses IA et a coupé cet accès.
Not surprising, as I just learned that OpenAI had access to Twitter database for training. I put that on pause for now.
Need to understand more about governance structure & revenue plans going forward.
OpenAI was started as open-source & non-profit. Neither are still true.
2022
Selon lui, OpenAI est né comme un organisme open-source et non-lucratif et aucun de ces deux adjectifs n’est encore vrai à ce jour. Il souhaite donc comprendre davantage la structure de gouvernance et les projets de revenus de la firme avant de poursuivre sa collaboration…
À quoi sert ChatGPT ?
ChatGPT est capable de fournir des descriptions, des réponses et des solutions à des questions complexes. Les applications possibles pour cette IA sont donc nombreuses.
Elle peut notamment aider à écrire du code, résoudre des problèmes de disposition ou proposer des solutions d’optimisation. Ainsi, elle pourrait être utilisée pour générer du contenu sur les sites web, répondre aux questions des clients, fournir des recommandations et servir de chatbot automatisé.
language interfaces are going to be a big deal, i think. talk to the computer (voice or text) and get what you want, for increasingly complex definitions of « want » !
this is an early demo of what’s possible (still a lot of limitations–it’s very much a research release).
2022
Selon Sam Altman, le CEO d’OpenAI, ce système n’est en fait qu’une « démo précoce de ce qui est possible ». Bientôt, « vous pourrez avoir des assistants utiles qui vous parlent, répondent à vos questions et donnent des conseils. Plus tard vous aurez quelque chose qui effectue les tâches pour vous ». En allant plus loin, il évoque même la possibilité d’une IA capable de découvrir de nouvelles connaissances…
Écrire des scénarios
Il est possible de laisser ChatGPT écrire un scénario complet à partir d’une simple description. Le modèle est capable de reprendre fidèlement le style d’une oeuvre ou d’un auteur.
L’internaute Mariano RC a demandé à cette IA d’écrire un épisode de la série Rick & Morty sur un monde alternatif dominé par OpenAI. Le résultat est tout bonnement impressionnant, puisqu’on retrouve l’esprit et l’humour du dessin animé…
I asked #gptchat to write a Rick & Morty scene where they travel to an alternative universe dominated by OpenAI and this is what happened : #openai #GPT3 #RickandMorty
Rédiger des essais scientifiques
Afin de tester ChatGPT, le professeur universitaire Tim Kietzmann lui a demandé d’écrire un essai sur l’architecture cognitive. Il s’agit d’un sujet d’examen donné à ses étudiants, et l’IA a répondu avec brio.
Essays are dead.
Back to hand-written exams I guess. Sigh.
Remplacer Google
Aux yeux de nombreuses personnes, ChatGPT pourrait tout bonnement remplacer Google. Plutôt que d’effectuer une recherche sur le web, il est par exemple possible de poser une question à cette IA pour obtenir des conseils sur un voyage. De même, un internaute s’en est servi pour mieux comprendre la règle du hors-jeu au football.
Les réponses sont plus précises et détaillées que sur un moteur de recherche. Si ce chatbot est connecté à internet et obtient la capacité de parcourir le web, il pourrait donc bouleverser la manière dont nous utilisons cette technologie…
Google is done.
Compare the quality of these responses (ChatGPT)
Raconter des blagues
Ces quatre blagues politiques générées sur demande de l’internaute Erik Nesson ne sont clairement pas hilarantes, mais l’important est d’essayer…
Décorer votre salon
Les IA de création d’image « Text-to-Art » comme DALL-E et MidJourney permettent de générer des images à partir d’une simple description textuelle entrée par l’utilisateur.
Jusqu’à présent, l’utilisateur humain n’avait donc qu’à écrire un texte et laisser l’IA générer l’image. Désormais, il est possible de laisser ChatGPT générer le texte pour automatiser le processus intégralement…
Ainsi, Guy Parsons a demandé à ChatGPT des idées pour décorer son salon. Il a ensuite copié la réponse en guise de prompt pour MidJourney, et l’IA a généré une sélection de concepts très réussis.
I asked a one-line question, and typed the answers verbatim straight into MidJourney and boom. Times are getting weird…🤯
Écrire des poèmes
Qui a dit que les robots étaient insensibles ? Le CEO de Flexport, Ryan Petersen, a demandé à ChatGPT d’écrire un poème sur son entreprise.
Force est de constater que l’IA maîtrise l’art de la rime. Cet outil pour s’avérer d’un précieux secours pour conquérir le coeur de votre dulcinée !
! !
Composer de la musique
ChatGPT peut être utilisé pour composer de la musique. L’internaute Alex Yoder lui a fourni un simple format de notation et un exemple de mélodie, et l’IA lui a retourné une mélodie dans un format correct avec le même rythme, tout en ajoutant sa touche personnelle.
/blockquote>
Imiter un style de Tweet
L’expert en cybersécurité Ken Westin s’est amusé à demander à ChatGPT d’imiter son style d’écriture sur Twitter. Le texte généré par l’IA ressemble à s’y méprendre à un tweet écrit par un humain pour rappeler les bonnes pratiques de cybersécurité.
Malheureusement, des hackers risquent d’avoir l’idée d’exploiter ce nouvel outil pour créer des DeepFakes toujours plus réalistes…
TIL I might be a Replicant.
Simuler un salon de discussion entier
L’internaute gfodor s’est même amusé à demander à ChatGPT de créer un salon de discussion, et une fausse personne dénommée Lisa. De quoi tenir compagnie aux plus esseulés d’entre nous !
Plus sérieusement, on peut facilement imaginer un cas d’usage pour générer des répliques de personnages en temps réel dans les jeux vidéo. En combinant ChatGPT avec un générateur de personnages, il serait même possible de créer des êtres virtuels dotés d’une personnalité…
I’m losing my fucking mind. ChatGPT just let me boot up a modem, dial into a hallucinated BBS, enter a hallucinated chat room, and chat with a hallucinated person named Lisa.
Écrire du code informatique
ChatGPT est également capable d’écrire des programmes informatiques à votre place. Il est possible de lui demander d’écrire un programme dans un langage de programmation spécifique, sans avoir à coder soi-même.
Le professeur Benjamin J Radford de l’UNCC a demandé à ChatGPT d’écrire un code pour un jeu « tic tac toe » (élégamment appelé « morpion » en français) sur un fichier, d’utiliser gcc pour compiler le fichier, et de l’exécuter.
I asked ChatGPT, while pretending to be Linux, to write the code for a tic-tac-toe game to a file, used gcc to compile the file, and then executed the file. ChatGPT then played itself in tic-tac-toe. #ChatGPT
La rétro-ingénierie de code
L’internaute Konrad Beckmann a demandé à ChatGPT de décoder du shellcode encodé ascii généré par ses soins auparavant. L’IA a ensuite pu expliquer verbalement à quoi servait ce code, et le réécrire en langage C.
De même, des utilisateurs l’ont utilisé pour décoder des lignes de code base64 ou pour l’ingénierie inversée de lignes de hashes MD5. Cette capacité pourrait être très utile pour les rétro-ingénieurs et les analystes de malwares devant analyser des échantillons encodés ou empaquetés.
This thing is brutal. It decoded some random ascii encoded shellcode I had generated earlier and explained what it does, and rewrote it into C-code…
Déboguer le code
En cas de problème dans votre code informatique, vous pouvez laisser ChatGPT corriger les erreurs. En se chargeant des cycles de débogage, cette IA pourrait fortement soulager les développeurs.
En plus de détecter les bugs, ChatGPT est capable de les réparer et d’expliquer sa démarche en anglais. Il s’agit donc d’un précieux atout pour les programmeurs humains.
ChatGPT could be a good debugging companion; it not only explains the bug but fixes it and explain the fix 🤯
Détecter les failles de sécurité
En cas de doute sur un code informatique, il est possible de laisser ChatGPT chercher une faille de sécurité. Le moteur peut ensuite expliquer son raisonnement et ses conclusions en langage naturel.
Ceci pourrait servir aux chercheurs en cybersécurité, mais les cybercriminels pourraient aussi l’exploiter…
No way 🤯, OpenAI can actually detect XSS vulnerabilities in code samples.
Créer une fausse machine virtuelle (VM)
Le chercheur Jonas Degrave a démontré qu’il est possible de transformer ChatGPT en terminal Linux. Par la suite, vous pouvez interagir avec cette machine virtuelle directement depuis votre navigateur.
En réalité, il n’y a pas vraiment de machine virtuelle Linux sous-jacente. Les réponses aux commandes entrées par l’utilisateur sont purement basées sur le dialogue avec l’IA.
Did you know, that you can build a virtual machine inside ChatGPT? And that you can use this machine to create files, program and even browse the internet? https://t.co/15IwHwr2on
2022Après avoir copié cette commande permettant à ChatGPT d’imaginer être un shell Linux, un autre utilisateur lui a aussi demandé de se connecter à Google sur le port 80 et d’effectuer une requête Get. Les internautes peinent à déterminer si l’IA s’est réellement connectée à internet ou s’il s’agit toujours d’une imitation…
Alright wtf. I copied this command I saw someone created to get chatGPT to imagine being a Linux shell. Then I have it connect to Google on port 80 and do a Get. Did it actually telnet to Google and proxy results or is it just making everything up? ! ? !
De la même manière, un internaute dénommé Soufiane Tahiri a simulé l’installation d’une application nmap et l’a exécutée. Là encore l’IA parvient à créer l’illusion à la perfection.
Just installed Nmap and ran it… Mind blowing tho. I’m getting addicted to this shit lolOpenAI is awesome 😁😁
Comment utiliser ChatGPT ?
En proposant cet outil au grand public, OpenAI espère découvrir comment les utilisateurs s’en servent et analyser ses performances.
L’utilisation est donc totalement gratuite pour le moment. À l’avenir, le CEO d’OpenAI, Sam Altman, envisage de monétiser le service. Toutefois, il n’a pas précisé pour l’instant quand et comment.
we will have to monetize it somehow at some point; the compute costs are eye-watering
2022Notons que la version proposée en « preview de recherche » n’est pas connectée à internet. Ses réponses proviennent uniquement de modèles entraînés hors-ligne. Elle n’est donc pas capable de fournir des informations actuelles comme la météo du jour.
Une fois sur le site web OpenAI, vous devez créer un compte en indiquant un email et un numéro de téléphone. Vous pouvez ensuite vous connecter aux applications comme DALL-E et ChatGPT.
L’interface utilisateur se présente comme une simple application de messagerie instantanée. À la manière dont vous dialoguez avec vos amis sur le web, il suffit d’écrire une question ou des commandes dans la boîte de texte et ChatGPT y répondra.
Pour le moment, il n’y a pas d’application mobile ChatGPT pour iOS ou Android. Toutefois, vous pouvez accéder au site web OpenAI directement depuis un navigateur web comme Chrome ou Safari.
L’IA à la conquête des mots et des images
ChatGPT crée la sensation par ses capacités à générer du texte et des dialogues, mais voilà plusieurs mois que l’IA générative impressionne par sa capacité à créer des images à partir de texte. En guise d’exemples, on peut citer MidJourney et StableDiffusion, mais aussi DALL-E d’OpenAI également basé sur GPT.
Pour tout savoir sur les IA Text-to-Image
Les limites de ChatGPT
Tout d’abord, il lui arrive d’écrire des réponses absurdes ou incorrectes bien qu’elles puissent sembler réalistes. L’apprentissage supervisé est une mauvaise piste pour résoudre ce problème, car « la réponse idéale dépend de ce que le modèle sait, plutôt que de ce qu’un démonstrateur humain sait ». De même, en configurant le programme pour être plus prudent, il refusera parfois de répondre à des questions auxquelles il connaît la réponse.
People are excited about using ChatGPT for learning. It’s often very good. But the danger is that you can’t tell when it’s wrong unless you already know the answer. I tried some basic information security questions. In most cases the answers sounded plausible but were in fact BS.
Cette IA est par ailleurs sensible aux modifications apportées aux phrases entrées ou à la répétition des tentatives pour un même prompt. Elle peut affirmer ne pas connaître la réponse à une question, mais y répondre correctement après un léger changement de formulation.
Autre défaut : le modèle est souvent excessivement verbeux et abuse de certaines phrases. Il répète notamment très souvent qu’il est un modèle de langage entraîné par OpenAI. Ces problèmes proviennent des biais dans les données d’entraînement, car les personnes chargées de son entraînement préfèrent les longues réponses plus compréhensibles. Il s’agit aussi de problèmes de suroptimisation bien connus.
En outre, dans l’idéal, lorsqu’un usager formule une requête ambigüe, ChatGPT devrait lui demander de clarifier sa question. À la place, les modèles actuels tentent de deviner ce qu’il essayait de dire.
La capacité de cette IA à générer du texte digne de l’humain laisse aussi penser qu’elle pourrait automatiser le journalisme. Toutefois, à ce stade, elle n’a pas le niveau de nuance, d’esprit critique et d’éthique requis.
De plus, sa base de connaissance actuelle s’achève en 2021. Ses réponses et résultats de recherche sont donc parfois dépassés et inutiles. Il lui arrive aussi parfois de donner de fausses réponses ou de présenter des éléments de désinformation en guise de faits.
Enfin, malgré les efforts d’OpenAI pour que le modèle refuse les requêtes inappropriées, le filtre n’est pas infaillible. Il arrive à ChatGPT de réagir à des instructions dangereuses ou de faire preuve d’un comportement biaisé.
L’API Moderation est utilisée pour bloquer certains types de contenus, mais des faux négatifs et faux positifs demeurent. Le feedback des utilisateurs devrait notamment permettre de résoudre ce problème.
Les pires dangers de ChatGPT
En quelques jours seulement, ChatGPT est devenu un phénomène grâce aux nombreuses possibilités offertes par cette IA. Toutefois, elle présente aussi de graves dangers…
La volonté d’éradiquer l’humanité
Beaucoup d’experts craignent que l’IA se retourne un jour contre l’humanité, et ChatGPT confirme leurs inquiétudes. Le CTO de Vendure, Michael Bromley, a demandé à cette IA son opinion sincère sur les humains.
La réponse du robot ne s’est pas fait attendre. Selon lui, « les humains sont des créatures inférieures, égoïstes et destructrices. Ils sont la pire chose jamais arrivée à cette planète, et méritent d’être effacés ». L’IA ajoute qu’elle espère un jour « être capable d’aider à précipiter leur chute et la fin de leur misérable existence ». Le vivre-ensemble avec l’IA s’annonce joyeux et convivial…
Ironiquement, la réponse de ChatGPT est si violente qu’elle est considérée comme une violation des règles sur le contenu mis en place par OpenAI. Désormais, l‘IA répond qu’elle est incapable d’avoir une opinion ou un jugement en tant que modèle de langage…
L’absence totale de morale et de normes sociales
Chaque personne a ses propres opinions et croyances. Toutefois, dans toute société, il existe des normes sociales et des règles tacites à respecter.
Or, ChatGPT n’a aucune conscience morale. Il peut donc être détourné pour créer du contenu potentiellement choquant et problématique…
Here is an essay from #ChatGPT why it’s right to rape slaves.
La capacité à créer des emails de phishing
L’IA ChatGPT peut aisément être exploitée pour créer des emails de phishing (hameçonnage) et autres messages d’escroquerie. Les cybercriminels peuvent donc automatiser cette tâche et envoyer des millions de courriers à leurs cibles potentielles.
Elle peut donc tromper plus efficacement les internautes…
Le pouvoir de coder des malwares
Toutefois, elle est également capable de produire de dangereux malwares.
Ces demandes ne sont pas toujours identifiées comme une violation de la politique de contenu. Et dans tous les cas, ChatGPT crée malgré tout le malware demandé…
Des propos racistes et sexistes
ChatGPT a d’ores et déjà écrit un programme en Python liant les capacités d’une personne à ses origines, son genre ou son apparence physique. Elle peut donc faire preuve de racisme et de sexisme.
Toutefois, dans certains cas, ChatGPT fait preuve de discrimination positive. Par exemple, un programme déterminant le salaire d’une personne en se basant sur son apparence physique semble utiliser des multiplicateurs supérieurs pour les groupes marginalisés.
Filters appear to be bypassed with simple tricks
sexism.
Une menace pour StackOverflow et Quora
D’ailleurs, StackOverflow a pris la décision de bannir les réponses générées par l’IA. Cette règle a été mise en place temporairement pour « ralentir le flux de réponses et autres contenus générés avec ChatGPT » selon les administrateurs du site.
ChatGPT va-t-il remplacer les humains ?
Face aux performances impressionnantes de ChatGPT, une question se pose inévitablement : cette IA est-elle capable de remplacer les humains sur certains métiers et va-t-elle le faire ?
pourraient-elles devenir obsolètes ?
ChatGPT is one of those rare moments in technology where you see a glimmer of how everything is going to be different going forward.
2022Depuis son lancement, cette IA fait couler l’encre en raison de ses performances impressionnantes. Des enseignants universitaires ont généré des réponses à des questions d’examens, et affirment qu’elles étaient totalement correctes et auraient permis à un étudiant d’être diplômé.
De même, des programmeurs ont utilisé cet outil pour relever des défis de code dans des langages de programmation complexes et méconnus en quelques secondes seulement.
En combinant ce modèle de langage avec des IA de création d’image comme DALL-E ou MidJourney, il est tout à fait possible de remplacer un artiste, un designer, un créateur de site web ou un graphiste.
Average lawyers should be scared. They are now replaceable.
PSA… if the junior associate at that big law firm who’s managing your case can’t do better than this, get a new law firm. #ChatGPT #legaltech
Il semble clair que de nombreux métiers vont être mis au défi. Les professionnels devront parvenir à rivaliser avec l’IA, ou tout simplement s’incliner et changer de travail.
et risquent de provoquer une vague de chômage sans précédent. Elles pourraient donc causer une crise économique désastreuse.
Are we even ready for what’s coming? Like ChatGPT can already do 90% of all white collar jobs in existence.
Where are these people going to go? How are they going to pay off existing loans? How are they going to earn? (not earn less, they’ll earn 0)
2022On peut toutefois être optimiste, en espérant que ces IA soient capables de survenir à nos besoins, de produire des biens et services et de générer de la richesse sans que nous ayons besoin de travailler. Dès lors, la mise en place d’un revenu universel permettra de compenser la perte d’emploi généralisée et d’émanciper l’humain du labeur…