Lucie : que s’est-il passé avec l’IA française qui répond n’importe quoi ?


Mauvaise en mathématiques, en histoire ou en logique : les débuts de Lucie, une IA générative française, sont laborieux. Ce week-end, le chatbot a rapidement montré ses limites à cause de ses fausses réponses, et suscité bien des moqueries. L’accès à Lucie a depuis été désactivé, et les concepteurs sont intervenus pour calmer le jeu.

Saviez-vous que Hérode le Grand, roi de Judée, était également connu pour avoir « joué un rôle important dans le développement de la bombe atomique » ? Ou bien que le calcul 5(3+2) peut donner à la fois 17 et 50 ? Ou qu’à la question de savoir quelle heure est-il un quart d’heure avant minuit, la bonne réponse est une heure quinze du matin ?

Toutes ces absurdités ont pour même dénominateur commun Lucie, une toute jeune intelligence artificielle (IA) qui a été l’objet de nombreuses moqueries sur les réseaux sociaux ces jours-ci. Ce système d’IA générative, qui fonctionne en principe comme les célèbres plateformes ChatGPT, Gemini ou Grok, a été à côté de la plaque régulièrement.

Pas très bon en maths. // Source : Capture d’écran

En mathématiques, elle aurait dû donner la réponse 25, car les calculs entre parenthèses ont ici la priorité par rapport à la multiplication. En histoire, Hérode n’a bien sûr tenu aucun rôle dans la création de la bombe, car il a vécu dans l’Antiquité. Quant au raisonnement pour trouver la bonne heure, la réponse attendue était évidemment 23h45.

Ces exemples, parmi d’autres qui ont circulé ce week-end, notamment sur X (ex-Twitter), n’ont pas que suscité des plaisanteries. Des internautes se sont inquiétés qu’une IA générative soit lancée avec de telles lacunes — elle a été rendue publique le 23 janvier. D’autres n’ont pas pu s’empêcher de noter l’écart visiblement colossal avec la fine fleur de l’IA générative.

La page d’accueil de Lucie, qui n’accepte pour les inscriptions à l’heure actuelle. // Source : capture d’écran

Une IA censée pouvoir servir dans l’éducation

Pour Lucie, une IA made in France, le contraste est d’autant plus rude que ses débuts ont lieu à peine quelques jours après la mise à jour de DeepSeek, une IA générative chinoise dont les capacités ont été remarquées (nonobstant la large censure du service pour ne pas répondre aux questions gênantes). La plus récente version de DeepSeek (« R1 ») date du 20 janvier.

Si Lucie a autant attiré l’attention sur elle, c’est aussi en raison des projets à long terme qui lui sont associés. Comme le pointait le 23 janvier le compte officiel dédié aux Lettres géré par éduscol, le portail national d’information et d’accompagnement des professionnels de l’éducation en France, cette IA est censée être « adaptée pour le monde de l’éducation courant 2025. »

Ni en lecture des lettres. // Source : Capture d’écran

De fait, d’aucuns se sont naturellement alarmés que l’on puisse mettre entre les mains des élèves et des professeurs un produit aussi peu abouti. Cela, alors que la page d’accueil de Lucie est pourtant décrite comme « fiable », « transparente » et « ouverte », et par ailleurs « guidée par des principes d’équité et de responsabilité. »

Initialement, l’accès public à Lucie était censé durer un mois, selon éducsol. Mais l’expérimentation a tourné court : il n’est actuellement plus possible de se servir du chatbot. En revanche, un message en surimpression — une « note d’informations » — apparaît à l’écran pour clarifier « sur ce que Lucie peut ou ne peut pas faire dans son état actuel. »

Un projet sorti trop tôt, sans explication et sans garde-fous

Ainsi, il a été rappelé que c’est « un projet de recherche académique encore en phase initiale » et « qu’aucun travail spécifique n’a été réalisé avec l’Éducation Nationale pour personnaliser ou adapter le modèle à un usage éducatif ». Il ne fallait pas s’en servir « dans des contextes éducatifs ou de production », en tout cas pour cette version.

Lucie est développée par Linagora, un éditeur de logiciels libres français, avec l’appui d’OpenLLM-France et du Secrétariat général à l’investissement. Une IA souveraine, ouverte, soutenue par EDF et le CNRS, et ayant bénéficié d’un accès au supercalculateur Jean Zay du Grand Équipement National de Calcul Intensif (GENCI) pour l’entraînement.

Selon les concepteurs, Le nom Lucie fait référence à « Lucy », l’ancêtre commune à toute l’humanité, et au personnage de Luc Besson qui parvient à maîtriser toutes les connaissances de l’humanité. Son visage s’inspire à la fois de Marianne, symbole de la France républicaine, et de Scarlett Johansson, l’héroïne du film.

« Nous n’aurions pas dû sortir le service lucie.chat sans ces explications et précautions d’usage. […] Nous allons donc nous y reprendre pour mieux expliquer notre démarche. Pour cela, nous avons besoin de calme et de temps. Aussi, nous préférons fermer temporairement l’accès à la plateforme lucie.chat », conclut le message.

Indéniablement, des garde-fous seront requis pour le retour de Lucie. En effet, un autre message d’alerte pointait que le chatbot ne disposait « d’aucune prévention systématique contre les usages inappropriés », sans calibrage des réponses et avec des réglages minimaux. En somme, c’était une « version brute », avec des risques de biais et d’erreurs.

À ce stade, on ignore quand Lucie sera de nouveau accessible et s’il sera possible de l’adapter dès cette année au monde de l’éducation, comme c’était suggéré. Il y a encore quelques jours, à l’occasion des vœux, les promoteurs de Lucie jugeaient que 2025 démarrait bien avec la naissance de Lucie. Finalement, l’année s’est ouverte avec un faux pas.

Newsletter Artificielles

Vous souhaitez recevoir la newsletter
Artificielles dans votre boîte mail ?

Les données transmises par le biais de ce formulaire sont destinées
à PressTiC Numerama, en sa qualité de responsable de traitement. Ces données
sont traitées avec votre consentement aux fins de vous envoyer par e-mail des actualités et
informations relatives aux contenus éditoriaux publiés sur ce site. Vous pouvez vous opposer à tout
moment à ces e-mails en cliquant sur les liens de désinscriptions présents dans chacun d’eux. Pour
plus d’informations, vous pouvez consulter l’intégralité de notre politique de traitement de vos
données
personnelles.

Vous disposez d’un droit d’accès, de rectification, d’effacement, de limitation, de portabilité et
d’opposition pour motif légitime aux données personnelles vous concernant. Pour exercer l’un de ces
droits, merci d’effectuer votre demande via notre formulaire de demandes d’exercices de
droits
dédié.