Hallucinations avec l’IA utilisée par les médecins
Lorsqu’un LLM est sollicité simultanément pour un calcul et une interprétation, il subit un phénomène de désynchronisation : le modèle linguistique anticipe le résultat clinique avant l’achèvement du calcul en arrière-plan. Ce « raccourci probabiliste » génère des hallucinations cliniques, où l’IA affirme avec aplomb un diagnostic ou un score factuellement faux, représentant un mésusage inacceptable pour la pratique médicale.
Pour pallier cette faille, une méthodologie stricte de Prompt Engineering vient d’être proposé par le Pr Xavier Girerd, un pionnier dans l’usage de l’IA en cardiologie préventive. Elle repose sur la séparation hermétique entre la fonction de calcul (déterministe) et la fonction d’interprétation (probabiliste).

