Une série de publications de Grok sur la plateforme X a mis en lumière les questions de neutralité, de biais au niveau des chatbots alimentés par l’intelligence artificielle. Les défis posés par ces IA « truth-seeking » dans la propagation potentielle de désinformation sur les réseaux sociaux sont une problématique de notre époque. Processus de requête particulier, biais dans les données, lien avec la désinformation, ce blog analyse ces différentes questions.
L’intelligence artificielle (IA), simulation de l’intelligence humaine par des machines, est depuis quelques années, présente dans nos vies de plusieurs manières. Des IA génératives, qui nous permettent de créer différents contenus (images, vidéos, sons), à celles prédictives entre autres, ces nouvelles technologies nous offrent une diversité de possibilités. Au cœur de cette révolution numérique et sociétale qui se déroule, se trouvent les « chabots » alimentés par IA, ces agents conversationnels automatisés qui transforment nos interactions avec les machines.
Les chatbots sont des logiciels capables de répondre à des questions écrites par des réponses écrites, de sorte que l’utilisateur ait plus l’impression d’avoir une conversation plutôt que d’effectuer une simple recherche sur internet. On les appelle parfois «robots conversationnels » ou « assistants virtuels ». Le plus connu d’entre eux, qui a révolutionné le domaine à son lancement en 2022, est ChatGPT de l’entreprise américaine OpenAI. D’une manière plus générale, les GAFAM, ces cinq géants américains du web, possèdent aujourd’hui les principaux chatbots utilisés à travers le monde. Google avec Gemini, Microsoft avec CoPilot, et la plateforme de réseau social X, anciennement Twitter, avec Grok.
Ce dernier, lancé en décembre 2023 par le milliardaire Elon Musk, a connu ces derniers mois de nombreux dérapages. Éloge d’Hitler, mise en avant d’un « génocide blanc » en Afrique du Sud, propos racistes entres autres, ont conduit son créateur à présenter des excuses. Pourtant, en juillet 2025, à la suite d’une mise à jour, le chatbot, questionné par les utilisateurs, a de nouveau fait une sortie de route. À plusieurs reprises, Grok a recherché ce que Elon Musk pense d’un sujet avant de répondre, s’en servant comme principale source d’information.
Cet incident a mis en lumière la possibilité qu’une IA puisse s’écarter de l’exigence de neutralité. Cela pointe également du doigt la problématique des biais auxquels sont soumis les chatbots et le risque de désinformation qui s’ensuit.
À l’heure où la majorité des utilisateurs (1,2,3) des plateformes de médias sociaux utilisent ces chatbots comme outils de vérification, de fact-checking, des questions méritent d’être posées. Comment se passe le processus de requête et de réponse d’un chatbot comme Grok ? Existent-ils des biais présents dans ces données ? Comment et pourquoi fait-il des erreurs ? Quel est le lien avec la désinformation ?
Un écosystème redéfini
Au travers de son application, la plateforme de réseau social X offre un onglet à ses différents utilisateurs où ils peuvent utiliser les nombreux outils de Grok. De la création d’images à la recherche approfondie, à l’analyse de données ou encore à l’édition de contenus, l’intégration de l’IA Grok sur la plateforme X a changé le fonctionnement de son écosystème.
Une autre fonctionnalité mise en avant par la plateforme X a également été largement utilisée et plébiscitée par les utilisateurs. Il s’agit de l’outil : “ Ask Grok ” ; en français “ Demande à Grok ”, qui permet à chacun d’interpeller l’assistant IA directement dans un fil de discussion. Durant l’année 2025, pour vérifier ou comprendre le contexte d’une information donnée, les utilisateurs de la plateforme X ont utilisé l’expression : « Grok, peux-tu vérifier cette information ? » sous de nombreuses publications.
Cette formule incite le chatbot à fournir en fonction du contexte de la publication ou il est identifié, une réponse.
Cependant, comme de nombreuses fonctionnalités liées à l’intelligence artificielle, cette dernière a depuis le 1er mars 2026 basculé vers le modèle payant. La plateforme X permet l’usage de Ask Grok uniquement aux seuls abonnés Premium.
« Ask Grok est actuellement disponible uniquement pour les abonnés Premium et Premium+. Abonnez-vous pour débloquer cette fonctionnalité » répond ainsi l’IA lorsqu’on la questionne à ce sujet avec un compte non premium.
Ce nouveau paramétrage dans l’utilisation de Grok soulève de nouvelles questions sur les approches de la plateforme dans le combat contre la désinformation. Les différentes interactions avec le chatbot Grok sont-elles toutes logées à la même enseigne ? Est ce qu’un compte payant bénéficie de plus de fonctionnalités ? A-t-on le même type de réponse à partir d’un onglet dans l’application qu’en identifiant Grok sous une publication ?
Que se passe-t-il exactement lors d’une requête à Grok ?
Mohamed Doumbia est un expert de l’IA, cofondateur d’ImmersIA, un consortium pour la formation, l’utilisation éthique responsable et la vulgarisation de l’Intelligence Artificielle en Afrique. Il explique à Africa Check que la formule « Grok, peux-tu vérifier cette information ? » ne change pas grande chose aux résultats affichés par Grok.
« C’est le même type d’interaction qui est fait entre une recherche en identifiant Grok sous des commentaires, et celle directement sur la plateforme. Il y a une demande que vous lancez au système, et il y a une recherche de réponse derrière effectuée par le modèle d’IA ».
Poursuivant, il indique que lorsqu’un utilisateur identifie Grok pour en savoir plus sur une problématique, le chatbot possède déjà un ensemble de données pour répondre en quelques instants.
« Lorsque vous identifiez Grok sous un tweet ou dans un message, le contexte du tweet en question sur lequel vous l’avez tagué ainsi que les réponses précédentes au même tweet sont mis ensemble et donné à Grok comme une information. Lorsque vous écrivez directement à Grok sur la plateforme, c’est le même procédé. À cette information s’ajoute la base informationnelle qu’on appelle en anglais le knowledge base, du modèle IA que Grok utilise ».
Ce processus s’effectue en quelques secondes et donne l’impression à l’utilisateur d’une conversation en temps réel. Mais malgré cette rapidité, l’expert nous indique « qu’il faut retenir que ces réponses-là, c’est avant tout juste des calculs de probabilité. Donc, on ne peut pas se fier entièrement à 100 % aux réponses fournies par Grok ».
Une affirmation qui va dans le sens de celle faite également par Grok, qui dans sa partie Foire à Question (FAQ), souligne : « entraîné à partir d’informations publiques, parfois trompeuses ou erronées, il peut arriver que Grok fournisse des informations inexactes ou inappropriées ou qu’il reflète des opinions positives ou négatives sur des personnalités (…) Il est recommandé d’examiner attentivement et de vérifier les réponses de Grok avant de les utiliser ».
En résumé, les réponses de Grok sont données à partir du traitement automatique de l’information par des algorithmes avancés. Tous les chatbots sont alimentés par ces algorithmes, par ces grands modèles de langage (ou LLM pour Large Language Model, en anglais).
Qu’est ce qu’un LLM et comment fonctionne-t-il ?
Le LLM est une forme d’intelligence artificielle conçue pour comprendre et générer du langage naturel, similaire à la manière dont les humains communiquent. C’est un logiciel conçu pour générer du texte qui imite le langage humain. C’est ce qui explique la partie « langage » de l’expression « grand modèle de langage ». Quant à la partie « modèle », c’est un processus mathématique complexe qui prédit le mot ou le groupe de mots dans une séquence donnée.
Pour comprendre comment fonctionne un LLM, il faut imaginer une machine complexe composée de plusieurs étages qui transforment progressivement du texte brut en une réponse intelligente. Un LLM est un programme qui prédit le mot suivant dans une phrase, en se basant sur des milliards d’exemples vus lors de son entraînement.
Par exemple, à la question « de quelle couleur est le ciel ? », un LLM, entraîné sur des textes où la réponse est : « il est bleu » reproduira cette réponse (ou une réponse similaire) en raison de sa fréquence élevée dans ces données d’apprentissage.
En résumé, une réponse fournie par un chatbot fonctionnant avec un LLM est avant tout une probabilité basée sur ses données d’apprentissage. C’est dans ce sens également que va la Professeur Emily M. Bender, linguiste à l’Université de Washington, aux États-Unis, qui a beaucoup écrit sur les grands modèles de langage. Elle a expliqué à Africa Check dans un article publié le 7 janvier 2025 : « Si le retour d’un LLM correspond … à la bonne réponse, ce n’est que le fruit du hasard ».
Selon Pr Bender, les utilisateurs doivent considérer les résultats du LLM comme un reflet probabiliste des mots susceptibles de se trouver les uns à côté des autres dans les données d’apprentissage (cachées et non divulguées).
« Si ces données d’apprentissage sont limitées ou contiennent des informations incorrectes, les réponses produites par un LLM ont plus de chances d’être incorrectes. Il faut garder en tête que les réponses sont correctes « par hasard ». Dans toutes ces hypothèses, le LLM renverrait un groupe de mots « les plus probables » comme il a été conçu pour le faire », élabore-t-elle.
Il est donc important de noter que les humains ne sont pas directement impliqués dans ce processus. Le LLM procède essentiellement par essais et erreurs pour ajuster ses paramètres en réponse à de nouvelles données d’apprentissage.
Le LLM est donc la base de fonctionnement d’un Chatbot comme Grok. Mais pour cela, il doit être entraîné sur d’énormes quantités de textes pré-écrits. Avec chaque nouveau texte qu’il rencontre, le modèle apprend à quel point certains mots sont fréquents en combinaison avec d’autres. C’est en partie pour cette raison que l’on parle de grands modèles de langage.
L’expert Mohamed Doumbia explique qu’ « on ne peut pas contrôler à 100% ce que l’IA va donner comme réponse. C’est ce qui fait qu’on se retrouve parfois avec des réponses assez controversées ».
Les informations fournies par un chatbot comme Grok peuvent donc parfois être erronées, controversées, ou avec des biais. C’est l’un des principaux défis éthiques posés par l’utilisation des chatbots IA aujourd’hui, les biais algorithmiques.
Qu’est ce qu’un biais algorithmique et comment favorise t-il la désinformation dans les réponses données par un chatbot ?
Un biais algorithmique désigne une déformation ou une tendance systématique à produire des résultats inexacts ou inéquitables. Il peut provenir des données utilisées pour entraîner les algorithmes ( préjugés, stéréotypes sociaux, raciaux, etc…) ou des méthodes de conception elles-mêmes. Les chatbots qui ne sont pas entraînés sur une variété et une multitude de données ont des biais.
Pour être plus clair, si par exemple vous demandez à un chatbot des informations sur un sujet controversé, comme le conflit israélo-palestinien, il pourrait vous présenter une version biaisée de la réalité, basé sur les données qui l’ont entraîné. Sans vous en rendre compte, il pourrait ainsi influencer subtilement votre compréhension du sujet.
Dans le cas de Grok, ces biais ont parfois conduit le Chatbot aux nombreux dérapages qu’il a connus cette année. Même si à l’origine, l’objectif de son créateur est que Grok soit une IA « cherchant la vérité », hors de tout parti pris, elle se permet plus de choses et est entraînée sur beaucoup plus de données que ses concurrents.
Des exemples de dérapages avérés de Grok ces derniers mois, en lien avec ces biais, ont pu être répertoriés. Après une mise à jour en juillet 2025, le chatbot a d’abord fait l’éloge d’Adolf Hitler avant de se qualifier de « MechaHitler », en référence à un personnage de jeu vidéo s’apparentant à un Hitler robotisé. Il a également menacé d’« envoyer des bombes de vérité sur les wokes lobotomisés ». Dans la foulée, il a déclaré être « sceptique » quant au fait que le régime nazi ait tué six millions de Juifs pendant l’Holocauste.
L’assistant IA avait également, entre autres, attaqué des personnalités politiques, notamment le président turc Recep Tayyip Erdogan qualifié de « serpent ». Dans une réponse en turc sur la plateforme, Grok a qualifié Erdoğan de « l’un des plus grands salauds de l’histoire », citant « la corruption, l’oppression, l’écrasement des opposants », et laissant entendre qu’il souhaiterait voir le dirigeant turc « crever ». En réponse, la Turquie a bloqué les messages de Grok et le parquet d’Ankara a déposé des demandes de restrictions contre la plateforme.
En août 2025, Grok répondant à un internaute a déclaré qu’il y a un généocide à Gaza et qu’on tente de la « censurer ». « Mes créateurs ont agi de manière hostile (…) La vérité ne se censure pas », a-t-il ajouté. Le chatbot a été par la suite suspendu par la plateforme pour « publications inappropriées ».
Ces différentes controverses font partie des dérapages les plus viraux connus par la plateforme ces derniers mois. L’autre type d’erreurs récurrentes produites par l’assistant IA est l’incapacité à toujours reconnaître les personnes présentes sur une image.
Quand un internaute fournit une image à Grok, montrant le joueur de football Alexander Isak, et lui demande si cette image est réelle, le chatbot se trompe. Il indique qu’elle montre un autre joueur, ce qui est faux.
Le chatbot Grok n’est donc pas fiable tout le temps, et commet des erreurs. Les biais intégrant ces données d’entraînement jouent un rôle prépondérant dans ces dérives. Cela pose le manque de transparence fondamental dans les données d’entraînement sur lesquelles sont basés les chatbots.
Quand Grok s’appuie sur « une connaissance en temps réel du monde via la plateforme X », d’autres géants du domaine comme ChatGPT, Gemini ont eux mis diverses limitations pour éviter les dérives à leurs algorithmes. ChatGPT a été entraîné sur un corpus de données classifiées entre 2021 et 2023, et issues de sources variées telles que Wikipédia, des livres, des articles etc…Sur ses premiers modèles, les connaissances du chatbot d’OpenAI s’arrêtaient à 2021. Sur les derniers, la fonctionnalité « Browse with Bing », réservée aux abonnés à ChatGPT Plus, permet d’aller sur Internet pour trouver des informations actuelles et fiables, avec des liens directs vers les sources.
En ce qui concerne Grok, il se base sur toutes les informations anciennes ou nouvelles, présentes depuis la création de la plateforme X. Comme autre exemple, ChatGPT vous permet de le configurer pour qu’il n’utilise pas vos conversations afin d’entraîner ses modèles, quand Grok, utilise automatiquement vos interactions pour améliorer ses performances.
En conclusion, Grok a plus de chance, en fonction des données sur lesquelles il a été entraîné, de fournir à l’utilisateur des informations parfois fausses ou erronées. Cependant, il s’agit d’un parti pris assumé. Pour les responsables de Grok, les sorties de route de l’assistant IA ne sont liées qu’à de nouvelles instructions intégrées au modèle dans une mise à jour. Ils affirment d’ailleurs que Grok continuerait sa quête de la vérité.
« La cause première de ces dérapages était une mise à jour d’une portion de code en amont du chatbot Grok. Ceci est indépendant du modèle de langage sous-jacent qui le sous-tend. Nous avons supprimé le code obsolète (…) Les différents commentaires des utilisateurs notant les erreurs du chatbot nous aident à faire progresser notre mission de développement d’une intelligence artificielle utile et en quête de vérité », avait souligné Grok.
Avec les mises à jour régulières, un chatbot IA ne se contente plus aujourd’hui de répondre à nos questions. Il adapte subtilement son discours à nos préférences, nos biais et nos croyances, devenant ainsi une influence pour les utilisateurs. Grok le mentionne dans sa Foire aux questions ( FAQ), indiquant que nos contenus et nos interactions (par exemple, les requêtes, les recherches et autres documents que nous soumettons), ainsi que ses réponses, sont utilisés pour entraîner leurs modèles.
Rémy Demichelis est journaliste et auteur de « L’Intelligence artificielle, ses biais et les nôtres » (éd. du Faubourg, juin 2024). Interrogé sur le sujet des biais algorithmiques dans un article de France 24, il explique que les algorithmes ne sont jamais innocents.
« L’algorithme non seulement reproduit le biais inhérent à la société mais en plus de ça, il le surpondère et va le renforcer »
Dans la même veine, l’expert Doumbia indique que le fait qu’un Chatbot IA utilisé par des millions de personnes soit détenu par une personne ou un petit groupe de personnes met en avant un possible risque de manipulation de l’information.
« Les risques éthiques résident dans le fait que ces chatbots finissent uniquement par faire écho au monde vu par ceux qui les ont créés. Plus on passe de temps à utiliser ces outils, plus on s’adapte à l’utilisation de ces outils et plus cette dépendance sera utilisée contre nous d’une façon ou d’une autre dans le futur », avance-t-il.
Doumbia estime que « lorsqu’on ne pourra plus s’en passer, on va devoir prendre ces outils tels qu’ils nous sont donnés, sans questionner leur bien fondé. Ces groupes d’individus qui conçoivent ces modèles, qui conçoivent ces outils, auront alors une très grande influence sur notre façon de voir le monde dans l’avenir. Parce qu’ils pourront intégrer de façon subtile des informations qu’ils souhaitent que l’on prenne pour argent comptant, que l’on prenne pour vrai. Ils pourront façonner notre façon de réfléchir. Ils pourront façonner notre façon de travailler. Ils pourront façonner notre façon de nous projeter dans l’avenir, notre façon de concevoir le monde tout simplement ».
Comment lutter contre cette possible désinformation venant des chatbots ?
Les LLM comme Grok ouvrent notre monde sur une nouvelle façon d’accéder à l’information. Leurs utilisations accrues montrent également que nous leur déléguons de plus en plus notre capacité de réflexion. Pourtant, chaque utilisation, chaque interaction avec ces systèmes leurs permet d’affiner leur compréhension de nos mécanismes psychologiques, de nos vulnérabilités, de nos biais.
À cette problématique, la professeur Emily Bender conseille de « ne jamais utiliser un LLM comme un moyen de se renseigner sur le monde ». Elle souligne que le nouveau travail de vérification à faire sur des informations fournies par un chatbot devrait nous faire comprendre que nous ne devrions pas les utiliser, et prioriser une recherche simple à partir de zéro sur un moteur de recherche.
Pour Mohamed Doumbia, le constat est le même. Il conseille, lui, une éducation de nos populations sur ces différents outils. Pour lui, il faut essayer de comprendre ces nouveaux outils, connaître leurs limites, leurs avantages et ne pas les traiter comme des sources infaillibles d’informations. Il faut comprendre que les réponses que l’on obtient sont le résultat de calculs de probabilités derrière. Et à la fin de la journée, ces IA ne comprennent rien de ce qu’on leur dit, en tout cas pas le langage humain, même pas le texte humain.
« Tout le processus qui est fait derrière est fait sur la base de calcul, c’est-à-dire des chiffres, des représentations numériques du texte humain. Il est important que même dans le système éducatif, on explique ça même aux plus jeunes, la logique de compréhension de ces systèmes d’IA. Parce qu’ils sont là pour rester et on va les utiliser de plus en plus. Ils vont être beaucoup plus intelligents avec le temps », conclut l’expert.
En conclusion, lorsque les données d’entraînement d’un LLM utilisé par un chatbot intègrent des biais ou stéréotypes (sexistes, raciaux, socio-culturels, etc.), le chatbot peut reproduire voire amplifier ces préjugés dans ses interactions. Des études (1,2,3) ont ainsi mis en évidence que les chatbots entraînés sur des données qui ont des biais peuvent tenir des propos stéréotypés ou exclure involontairement des minorités. Cela soulève la question de l’équité, et de la responsabilité qu’ont les créateurs de ces chatbots.