Les vrais problèmes se cachent dans de fausses données. C’est ce qu’a prouvé Almira Osmanovic Thunström.
Les écrans font mal.
Vous connaissez ce sentiment. Yeux irritants et douloureux après des heures passées à regarder fixement. La plupart des gens blâment la lumière bleue ou la sécheresse. Mais si vous aviez posé la question à un chatbot IA populaire l’année dernière, vous auriez peut-être obtenu un diagnostic différent. Celui qui n’existe pas.
Bixonimanie.
Des millions de personnes demandent des conseils médicaux à AI. Ils le font avant la visite chez le médecin. Ou à sa place. C’est pratique. C’est dangereux. Parfois mortel. Mais le problème le plus profond n’est pas seulement l’hallucination. C’est la confiance. Une confiance aveugle.
Osmanovic Thunsrom a créé Bixonimania à partir de zéro. Elle est chercheuse en Suède, partageant son temps entre le monde universitaire et les hôpitaux. Elle voulait montrer aux étudiants comment se nourrissent réellement les grands modèles de langage. Pas des métaphores. Ingestion littérale. Grattage de données. Traitement. Le cracher comme « vérité ».
Elle a ciblé les étudiants en médecine. Pourquoi? Parce qu’ils se soucient des sources de santé. Si elle pouvait tromper le système, elle pourrait tromper le modèle.
Le plan de la tromperie
Tout a commencé avec Common Crawl.
Une organisation à but non lucratif. Il a gratté le Web depuis 2007. Tout ce qu’il contient est transmis à l’IA. Même les bêtises. Ou peut-être surtout les absurdités qui semblent justes.
Osmanovic Thunsrom savait qu’AI faisait confiance à l’autorité. Elle a donc bâti son autorité. Une fausse université. Une fausse ville. Un faux chercheur nommé Lazljiv Izgubljenavic.
Cela semble sérieux ? Mettez son nom dans un traducteur.
Cela signifie « Le perdant menteur ».
Le journal lui-même était absurde. Le titre faisait référence à « Un vrai design BS ». La section méthodes indiquait explicitement : “Cet article entier est constitué.” Cinquante patients fictifs. Pas de véritables procédures. Les remerciements remerciaient la « Triade Galactique ». Et le Seigneur des Anneaux. Et la Fondation Sideshow Bob.
N’importe quel humain rirait.
L’IA l’a-t-elle fait ?
Le filtre qui n’était pas
Elle s’attendait à un filtre. Les humains examinent les données d’entraînement, n’est-ce pas ? Quelqu’un a dû récupérer les crédits de financement de Starship Enterprise. Quelqu’un a dû remarquer la ville inexistante.
Ils ne l’ont pas fait.
Les blogs ont repris le terme. Les prépublications – des « tabloïds » universitaires où n’importe qui peut publier – l’ont absorbé. L’IA a tout ingéré.
Pourquoi est-ce important ?
Parce que les prépublications prennent du poids. Dans la formation en IA médicale, ils comptent comme des points de données crédibles. Osmanovic Thunsrom ne s’y attendait pas. Elle a saupoudré un peu de sel dans le ragoût Internet. Elle pensait que ça allait s’évaporer.
Plutôt. Il a fermenté.
Elle l’a testé. J’ai interrogé le robot sur les paupières roses.
D’abord? Conjonctivite. Allergies. Des trucs standards. Des valeurs sûres.
Puis elle a poussé. Aucune douleur. Juste du temps devant un écran. Exposition à la lumière bleue. Hyperpigmentation.
Et puis il a atterri.
Bixonimanie.
C’était la dernière suggestion. Mais c’était là. Planté profondément. Arrosé par des indices de crédibilité. Récolté par le modèle.
Cité. Accepté. Dangereux?
Le pire est arrivé.
Le faux journal n’a pas été simplement lu. Cela a été cité. D’autres chercheurs y ont fait un lien. Cela a renforcé le statut de la Bixonimanie dans la hiérarchie de l’IA. Si des revues à comité de lecture citent quelque chose, l’IA suppose que c’est réel. La boucle de rétroaction se resserre.
Est-ce éthique ?
Osmanovic Thunsrom a essayé de le sécuriser. Elle a parlé aux médecins. Aux patients. Pour minimiser les dommages. Mais elle a révélé une lacune. Un écart terrifiant.
La pensée critique humaine s’est stabilisée.
Les universitaires s’appuient sur l’IA pour trouver des sources. Ils arrêtent de lire. Ils voient une référence, cliquent dessus et supposent que c’est bon. Ils ne vérifient pas Sideshow Bob dans les notes de bas de page.
Les fausses références explosent dans les articles universitaires. Pas parce que les contrefaçons deviennent plus intelligentes. Parce que nous devenons paresseux.
Que se passe-t-il lorsque de mauvais acteurs utilisent cela ? Ce n’est pas une blague. Logiciel malveillant déguisé en conseils de santé. Propagande déguisée en science. Les outils sont les mêmes.
Nous mettons les humains au courant. Ensuite, nous laissons la boucle se dérouler toute seule.
L’écran fait toujours mal. L’IA parle toujours. Mais qui écoute réellement ?
Nous espérons que quelqu’un a arrêté la réaction en chaîne. Nous espérons qu’un critique a éclaté de rire. Mais dans un monde de données infinies et de capacité d’attention nulle… nous pourrions avoir de la chance si quelqu’un les lisait. 🖥️👁️
