Pr Vincent Sobanski (enseignant-chercheur à Lille) : « La perte de compétences que l’IA entraîne nous laissera démunis face à l’imprévu »

LE QUOTIDIEN : Les nouvelles technologies prennent une place prépondérante dans les décisions de soin. Quels en sont les enjeux ?

Pr VINCENT SOBANSKI : La vitesse d’éclosion des outils dépasse nos capacités à suivre les défis émergents associés. Les autorités de santé, aux niveaux européen et national, ont commencé à travailler sur des textes autour de l’utilisation éthique et encadrée de l’IA. Il est primordial de réfléchir aux implications cliniques, dont la perte de compétences et d’expertise pour les professionnels de santé qui les utilisent.

Qu’implique la perte d’expertise pour les chercheurs et professionnels de santé qui utilisent l’IA ?

Qui dit perte de compétences dit inadaptation aux situations de crise. En cas de cyberattaque, de rupture d’accès aux données, de panne électrique, nous serons démunis si nous nous reposons uniquement sur les outils numériques. Ce n’est d’ailleurs pas une problématique propre à l’IA. On constatait déjà, à l’apparition des scanners, que les étudiants ne lisaient plus les radios thoraciques. Cette perte d’expertise liée aux nouvelles technologies s’observe dans d’autres domaines. En biologie, la fréquence élevée d’alertes automatisées diminue l’attention : on a tendance à les accepter sans les lire ni les analyser.

Quels sont les leviers pour garantir le maintien de compétences ?

Nous devons instaurer des garde-fous, comme la possibilité pour le médecin d’interrompre le système sans justification. Nous pouvons aussi chercher des réponses du côté de l’aviation : un maintien de la formation et l’évaluation régulière des pilotes évitent la perte de compétences induite par le pilotage automatique.

Quant à l’impact de l’IA sur l’acquisition des compétences des étudiants, cela devient un problème grandissant. Le plus inquiétant est l’aplomb avec lequel les outils génératifs répondent. Les étudiants ne sont pas sensibilisés à l’analyse critique, il faut les amener à comprendre que l’IA ne délivre pas une vérité absolue, ses sources pouvant être discordantes et soumises à des biais.
La formation est une clé pour faire face à ces défis. Apprendre à utiliser l’IA de manière raisonnée doit se faire main dans la main avec les enseignants. À Lille, nous développons des formations innovantes en santé numérique. Les étudiants sont particulièrement friands de doubles diplômes en médecine et programmation. Il faut aussi assurer un enseignement socle massifié pour tous les étudiants, qui aborde les enjeux de l’IA, le traitement et l’exploitation des données. Cela sera d’ailleurs mis en place à la rentrée 2024.

L’IA, par sa propension à trouver de nouvelles corrélations, peut-elle participer à créer des connaissances ?

Oui, très certainement, dès lors qu’il existe une transparence et une explicabilité des modèles d’apprentissage. Une IA qui assiste le professionnel de santé dans son raisonnement représenterait une belle perspective. Nous devons pousser les industriels à intégrer une information sur le degré de confiance d’un algorithme et sur la manière dont l’outil réalise son analyse : prise en compte du contexte sociodémographique et temporel, par exemple, pour la prévalence géographique d’une maladie.

Jusqu’où pouvons-nous aller avec l’IA en santé ?

Cette question ouvre des réflexions éthiques : il ne s’agit pas d’une limite technique mais de se demander jusqu’où notre société souhaite aller. Quelle perte de compétences pouvons-nous tolérer ? Ce choix concerne autant les professionnels de santé que les patients car il demande à mesurer la part d’interaction humaine que l’on estime indispensable dans le soin.