Photo: kaboompics @ pexels.com
Une chercheuse a inventé la bixonimanie, une fausse maladie oculaire, pour voir ce qu’en feraient les intelligences artificielles.
As-tu déjà demandé des conseils de santé à une intelligence artificielle ? Peut-être pour des yeux rouges qui piquent ou des démangeaisons après trop de temps devant un écran ? L’IA pourrait te répondre que tu souffres de… bixonimanie. Une maladie causée par la lumière bleue. Sauf qu’il y a un petit problème : cette maladie n’existe pas !
Tout commence en 2024 alors que Osmanovic Thunström, une chercheuse suédoise, décide de tester la façon dont les intelligences artificielles diffusent l’information. Elle invente de toutes pièces une maladie et rédige deux faux articles scientifiques à son sujet. Elle y glisse plusieurs indices évidents : un auteur au nom farfelu, Lazljiv Izgubljenovic, affilié à une université complètement fictive — l’Université de la communauté de l’Anneau et de la triade galactique ! Elle écrit même noir sur blanc que les articles sont faux. Et pourtant…
Elle met les articles en ligne, et les intelligences artificielles tombent dans le panneau. Rapidement, elles présentent la bixonimanie comme une vraie maladie et conseillent même aux utilisateurs de consulter un médecin. Mais l’histoire ne s’arrête pas là : les faux articles finissent par être cités dans de véritables publications scientifiques. La supercherie ne piège donc pas seulement les machines, mais aussi les humains, qui utilisent les IA pour dénicher des sources, mais sans les vérifier.
Cette histoire peut faire sourire, mais elle soulève des enjeux importants. Si une fausse maladie peut se glisser aussi facilement dans les réponses des IA — et même dans des articles scientifiques — imagine ce qui peut arriver avec de vraies informations mal vérifiées. Dans le domaine de la santé, cela peut être particulièrement risqué : une mauvaise information pourrait inquiéter inutilement… ou au contraire retarder une vraie consultation médicale.
Le problème, c’est que les intelligences artificielles ne « comprennent » pas comme nous : elles repèrent surtout des modèles et des textes qui ont l’air crédibles. Résultat, elles peuvent répéter des erreurs sans s’en rendre compte. Alors la prochaine fois que tu consultes une IA pour un conseil médical, garde un esprit critique… même si la réponse a l’air très convaincante !
