LE RAPPORT

RAPPORT N° 611 (2023-2024)

L’IA ET L’AVENIR
DU SERVICE PUBLIC

RAPPORT THÉMATIQUE # 2
IA ET SANTÉ
Christian Redon-Sarrazy et Anne Ventalon, rapporteurs

 La santé et les activités médicales, services publics essentiels qui représentent des
dépenses publiques de près de 10 % du PIB en France, sont des domaines amenés à être
profondément transformés par l’intelligence artificielle (IA).

 La production massive de données de santé et la complexité de leur traitement font de

l’IA une aide précieuse pour la pratique médicale.

 Mais en même temps, comme à chaque saut technologique, l’apparition de risques liés
aux transformations rapides pose de nombreuses questions. L’IA ouvre en particulier de
nouveaux champs d’interrogations sur l’éthique, tant la perspective d’une médecine
totalement mécanisée et déshumanisée paraît inacceptable.

 La technologie étant désormais disponible, il est illusoire de penser qu’on pourra

échapper aux risques qu’elle comporte par des interdictions. Toute technologie
performante est forcément utilisée. L’important est de créer un cadre de régulation pertinent
pour l’utiliser le mieux possible. Celui-ci se met en place progressivement. L’adoption de
l’AI Act à l’échelle européenne constitue à cet égard une étape importante.

 L’objet du rapport n’est pas de fournir une analyse exhaustive des technologies d’IA mises
en œuvre dans le domaine de la santé mais d’identifier les différents scénarios de
déploiement de l’IA, en s’appuyant sur les utilisations déjà existantes ou celles
actuellement développées par des startups en lien avec les professionnels de santé.

 Il convient d’éviter un « techno-enthousiasme » excessif, voyant dans l’IA une solution

miracle et négligeant les nombreuses adaptations qui seront nécessaires, mais aussi de
verser dans le « techno-pessimisme » surestimant les difficultés et les risques.

21 MAI 2024
 QUELQUES DÉFINITIONS D’INTÉRÊT GÉNÉRAL

Intelligence artificielle (IA) : terme apparu en 1956 qui, dans son sens actuel, désigne
un programme informatique (algorithme) fondé sur l’apprentissage automatique, ou
apprentissage machine (machine learning). Cette technique permet à la machine
d’apprendre par elle-même à effectuer certaines tâches à partir d’un ensemble de
données d’entraînement. Elle repose sur une approche statistique (IA connexionniste),
par opposition à l’informatique « classique » (IA symbolique), qui consiste à suivre une
suite de règles logiques préétablies (de type « SI… ET… ALORS… »).

Algorithme classique (IA symbolique) Apprentissage automatique = IA

Phase 1 : entraînement

Phase 2 : utilisation

Recevabilité d’un amendement Reconnaissance visuelle (chat)

(art. 40 de la Constitution) par apprentissage automatique supervisé

Apprentissage profond (deep learning) : perfectionnement de l’apprentissage automatique

grâce à une organisation en réseaux de neurones artificiels, où chaque « neurone » est
une fonction mathématique qui ajuste ses paramètres au fur et à mesure de l’entraînement.
Les progrès sont spectaculaires à partir
des années 2010 du fait de 3 facteurs :
la sophistication des modèles, la disponibilité
des données, et surtout l’explosion de la
puissance de calcul.
L’IA est désormais présente dans de très
nombreuses applications de notre
quotidien.

Traduction Imagerie Véhicule Assistant Biologie, Météo, Analyse

automatique médicale autonome vocal chimie climat financière

2
IA générative : modèles d’IA comme ChatGPT spécialisés dans la création de contenus
originaux et réalistes, en réponse à une instruction formulée en langage naturel (le prompt).
Le contenu peut être du texte, mais aussi du code informatique, un fichier Excel, une image
(Dall-E, Midjourney), un fichier audio ou vidéo (Sora), etc.

Grands modèles de langage ou LLM Source : fipaddict

(large language models) : modèles
d’IA spécialisés dans le traitement du
langage naturel, dans toutes les L’IA générative est
langues. Entraînés sur d’immenses probabiliste, d’où
quantités de textes, ils établissent des les « hallucinations »
relations mathématiques entre les
mots et les notions sous-jacentes, à
partir de calculs de probabilités.
Les IA génératives sont construites sur des LLM (ex. modèle GPT-4 pour ChatGPT).

Le lancement de ChatGPT, fin 2022, par la

société OpenAI a provoqué dans le monde 50 millions d’utilisateurs
entier une prise de conscience du potentiel en 1 mois pour ChatGPT
de l’IA générative. Facebook, Spotify : 4 ans

Ce robot conversationnel (chatbot) permet à chacun 100 millions d’utilisateurs

d’accéder à un modèle à la fois : chaque semaine dans le monde
 Généraliste : il peut traiter tout type de demande, là
où la plupart des modèles sont spécialisés dans une 1 Français sur 3
tâche précise ; a déjà testé ChatGPT
1 sur 7 chaque semaine
 Multimodal : il peut générer différents contenus IFOP 2023

(texte, image, graphique, etc.), faire une recherche

en ligne ou exécuter un programme informatique ; 50 % des travailleurs
qui utilisent l’IA générative
 Ergonomique : les échanges se font simplement le font sans autorisation
(dans un chat), en langage naturel, et ne demandent
aucune compétence technique particulière ;
+ 250 à 420 Md€
 Peu coûteux : 22 € par mois pour le modèle le plus de PIB sur 10 ans en France
puissant du marché (GPT-4), gratuit pour GPT-3.5. soit plus que toute l’industrie
COMMISSION IA 2024

GPT-4 Claude 3 Gemini 1.5 Llama 2 Mistral 7B

OpenAI Anthropic Google Meta Mistral AI
Mars 2023 Mars 2024 Février 2024 Juillet 2023 Septembre 2023
Propriétaire Propriétaire Propriétaire Open source Open source

Quelques grands modèles de langage (LLM) concurrents de ChatGPT/GPT-4

3
 AVANT-PROPOS

À l’instar des révolutions technologiques générales que

furent la machine à vapeur, l’électricité ou encore Internet,
l’intelligence artificielle (IA) pourrait profondément changer
la façon dont nous vivons et travaillons, et ceci dans tous les
Christine Lavarde domaines. Pourtant, dans le secteur public, les
Présidente de la délégation expérimentations restent à ce jour limitées, les annonces
à la prospective modestes, et la parole très prudente.
Pour l’État, les collectivités territoriales et les autres acteurs publics, le potentiel de l’IA
générative est immense. Bien utilisée, elle pourrait devenir un formidable outil de
transformation de l’action publique, rendant celle-ci non seulement plus efficace – qu’il
s’agisse de contrôle fiscal ou de diagnostic médical – mais aussi plus proche des
citoyens, plus accessible, plus équitable, plus individualisée et finalement plus
humaine – avec une capacité inédite à s’adapter aux spécificités de chaque élève, de
chaque demandeur d’emploi, de chaque patient ou de chaque justiciable.
Pour autant, le secteur public n’est pas un secteur comme les autres. Si l’IA n’est
qu’un outil, avec ses avantages, ses risques et ses limites, son utilisation au service
de l’intérêt général ne pourra se faire qu’à condition que les agents, les usagers et les
citoyens aient pleinement confiance.
La confiance, cela passe d’abord par la connaissance : par son approche sectorielle,
la délégation espère contribuer à démystifier une technologie qui suscite encore
beaucoup de fantasmes, et à en montrer concrètement les possibilités comme les limites.
La confiance, c’est aussi et surtout l’exigence : une IA au service de l’intérêt général,
c’est une IA au service des humains (agents et usagers), et contrôlée par des humains
(citoyens). C’est aussi une IA qui s’adapte à notre organisation administrative et à notre
tradition juridique, et qui garantit le respect des droits et libertés de chacun. C’est, enfin,
une IA qui n’implique ni dépendance technologique, ni renoncement démocratique.

LES RAPPORTEURS
Christian Redon-Sarrazy Anne Ventalon
Sénateur (SER) Sénatrice (app. LR)
de la Haute-Vienne de l’Ardèche

4
 SOMMAIRE

I LES PERSPECTIVES PLEINES DE PROMESSES DE L’IA EN SANTÉ ......................... 6

1. La santé, domaine privilégié de déploiement de l’IA .................................................. 6

A. La santé : un bon terrain pour l’IA ................................................................................ 6
B. Les avantages de l’utilisation de l’IA en santé .............................................................. 7

2. Une utilisation qui reste encore principalement expérimentale ................................ 9

A. De nombreux domaines d’application possibles .......................................................... 9
B. Une utilisation en routine pour le soin encore limitée ................................................. 17
C. Un potentiel de transformation profonde du service public de la santé ...................... 19

II EFFICACITÉ ET ÉTHIQUE, LES DEUX PILIERS DE L’ACCEPTABILITÉ DE L’IA

EN SANTÉ......................................................................................................................... 23

1. La nécessité de disposer de données nombreuses et fiables ................................. 23

A. L’enjeu de l’accès aux données secondaires de santé .............................................. 23
B. La bonne utilisation des données et la lutte contre les biais ...................................... 27

2. Faire face à la crainte d’une mécanisation de la médecine ..................................... 27

A. Le scénario redouté du robot-médecin ....................................................................... 27
B. Le scénario préféré du soignant augmenté ................................................................ 28

3. Se mettre en ordre de bataille pour tirer le meilleur parti de l’IA pour notre
système de santé ............................................................................................................. 29
A. Donner un cadre éthique solide à l’IA en santé .......................................................... 29
B. Apporter un soutien public fort au déploiement de l’IA en santé ................................ 32

CONCLUSIONS ET RECOMMANDATIONS .................................................................... 35

5
 I
LES PERSPECTIVES PLEINES DE PROMESSES
DE L’IA EN SANTÉ
1. LA SANTÉ, DOMAINE PRIVILÉGIÉ DE DÉPLOIEMENT DE L’IA

A. LA SANTÉ : UN BON TERRAIN POUR L’IA

Le service public de la santé est assuré par une multitude d’acteurs qui produisent
d’abondantes données médicales et administratives : médecins, hôpitaux, cliniques,
laboratoires, centres radiologiques, caisses de sécurité sociale, équipes de recherche
clinique…
À l’échelle de la santé individuelle, la prise en charge du patient nécessite le traitement de
très nombreuses variables : outre les informations administratives et financières liées au
soin, le parcours du patient se traduit par la collecte de masses de données biologiques ou
physiopathologiques (rythme cardiaque, saturation du sang en oxygène), d’images
(radiographies, échographies, endoscopies…), de comptes rendus d’examen clinique, de
comptes rendus opératoires, de listes de médicaments délivrés, etc. Ces données doivent
en outre être suivies dans le temps. La révolution de la génomique ou encore les progrès
des connaissances en immunologie conduisent à brasser pour chaque patient des
informations de plus en plus précises, nombreuses et complexes avant de poser un
diagnostic et de mettre en place un traitement.
À l’échelle collective, l’identification des mécanismes pertinents pour traiter les différentes
pathologies, les actions de santé publique destinées à améliorer l’état de santé global de la
population ou à prévenir l’apparition de maladies, nécessitent aussi de brasser des quantités
considérables de données et de les croiser de manière pertinente, pas seulement dans le
champ du soin, mais en prenant aussi en compte des variables d’environnement : exposition
aux polluants, modes de vie, comportements.
Le traitement simultané de telles masses d’informations est difficile, voire impossible
pour le cerveau humain. Les professionnels de santé n’échappent pas à cette difficulté,
que ce soit en recherche ou en pratique clinique. L’informatique classique a fourni une aide
précieuse pour surmonter notre incapacité à traiter seuls des informations toujours plus
nombreuses et variées. Des outils numériques reposant sur une IA classique, c’est-à-dire
l’IA symbolique, basée sur des connaissances et appliquant des règles prédéfinies,
permettent ainsi d’améliorer le travail des soignants. Cette technologie d’IA traditionnelle,
connue depuis des décennies, gagne en performances avec, d’une part, l’accroissement
des capacités de calcul, d’autre part, des algorithmes toujours plus perfectionnés.
Ces dernières années, les technologies d’IA connexionniste, fonctionnant par auto-
apprentissage, supervisé ou non, ont permis des avancées spectaculaires en rendant
possible la génération automatique de texte ou d’images par ordinateur. Dans un rapport
intitulé « Systèmes d’IA générative en santé : enjeux et perspectives », adopté le 5 mars
2024, l’Académie nationale de médecine estime que « leurs champs d’applications dans le
domaine de la santé sont vastes et peuvent aller de l’aide à la rédaction de notes
d’information à la rédaction de thèses ou de projets de programme de recherche » 1.

1Bernard Nordlinger, Claude Kirchner, Olivier de Fresnoye, Systèmes d’IA générative en santé : enjeux et perspectives,
5 mars 2024.

6
Lors de son audition, la Pr Brigitte Seroussi a mis en évidence une tension entre
performance et explicabilité des deux catégories d’IA : l’IA symbolique est très
explicable mais a des performances limitées (elle ne produit que ce pour quoi elle a été
programmée et n’invente rien) tandis que l’IA connexionniste, qui fonctionne par des
rapprochements statistiques, est très performante (elle peut donner un résultat sans qu’on
l’ait prévu) mais la manière de parvenir à un résultat n’est pas explicable. L’IA générative
est capable de produire des contenus étonnants, d’effectuer des rapprochements auxquels
on n’aurait pas forcément pensé. Elle libère donc un potentiel créatif numérique qui ouvre
des champs nouveaux de réflexion.

B. LES AVANTAGES DE L’UTILISATION DE L’IA EN SANTÉ

L’IA représente un saut technologique susceptible d’améliorer le service public de la santé
par une meilleure organisation des soins, faisant gagner à la fois en qualité des soins pour
les patients et en temps de travail pour les professionnels. L’IA constitue ainsi un levier
d’amélioration du système de santé. D’importants gains de productivité sont en particulier
attendus avec le déploiement de l’IA mais le chiffrage des gains est très approximatif et la
manière dont le temps gagné sera redéployé est encore très incertain.
1. Des soins de meilleure qualité
S’appuyant sur les travaux de l’OMS, qui estime que les erreurs médicales causent environ
1 décès pour 1 million d’habitants. L’Alliance européenne pour un accès à des médicaments
sûrs avance une estimation pour l’Union européenne à 163 000 décès en Europe suite à
une erreur médicale. La moitié des erreurs seraient liées à des médicaments1. Ce chiffre
est fortement contesté, car il résulte d’une extrapolation à partir d’études dont certaines sont
très anciennes et donnent des fourchettes très larges.
Le dernier bilan des « événements indésirables graves associés aux soins » (EIGS)2 publié
par la Haute Autorité de santé (HAS) fait état de 2 385 EIGS en 2022, dont la moitié sont
considérés comme évitables. Ces chiffres doivent être examinés avec précaution car, d’une
part, tous ces événements n’ont pas causé des décès de patients (pour les incidents liés
aux médicaments, le décès du patient a été constaté dans environ 30 % des cas), d’autre
part, en sens inverse, les disparités régionales de déclaration suggèrent que le dispositif de
signalement ne couvre pas le phénomène de manière exhaustive.
Si l’IA n’est pas une solution miracle, le déploiement d’outils l’utilisant pourrait
permettre de limiter les pertes d’information, de mieux guider le déroulement d’un
protocole de soins, de déclencher des alertes quand des anomalies sont repérées, et
donc d’éviter les erreurs ou les mauvais choix. Lors de son audition, la société Doctolib,
éditeur de logiciel d’aide à la prescription à destination des médecins, indiquait que le
signalement des interactions médicamenteuses inadéquates était déjà intégré à son offre
logicielle.
Par sa capacité de traitement de données nombreuses et variées, l’IA effectue des
contrôles, propose des pistes diagnostiques et thérapeutiques qui enrichissent le travail
médical. Le déploiement d’outils d’IA est ainsi susceptible d’harmoniser vers le haut les
pratiques médicales et d’appliquer pour tous les meilleurs protocoles.

1 European Alliance for access to Safe Medicines, « Medication Errors – the Most Common Adverse Event in Hospitals Threatens
Patient Safety and Causes 160,000 Deaths per Year », 13 septembre 2022 ; https://eaasm.eu/fr/2022/09/13/press-release-
medication-errors-the-most-common-adverse-event-in-hospitals-threatens-patient-safety-and-causes-160000-deaths-per-year-4/.
2 Haute Autorité de santé, Évènements indésirables graves associés aux soins (EIGS) : bilan annuel 2022, novembre 2023 ;

https://www.has-sante.fr/jcms/p_3472509/fr/evenements-indesirables-graves-associes-aux-soins-eigs-bilan-annuel-2022.

7
Dans une synthèse intitulée « L’IA dans le domaine de la santé, un immense potentiel,
d’énormes risques », les experts de l’OCDE estiment qu’« utilisée de manière sûre et
adaptée, l’IA serait en mesure d’entraîner une croissance exponentielle de la médecine
fondée sur des preuves, avec à la clé de meilleurs résultats en matière de santé et des soins
davantage centrés sur la personne » 1.
L’adoption de solutions d’IA pourrait ainsi non seulement améliorer les soins, mais aussi
homogénéiser les pratiques. Même s’il existe un certain tabou sur le sujet, il est évident qu’il
existe des disparités de compétences entre professionnels de santé. Certains praticiens
sont ainsi davantage à la pointe de leur discipline que d’autres. Il existe certes une obligation
de formation continue des médecins (21 heures par an) mais sa mise en place est récente
et progressive. En outre, il est évident qu’aucun praticien ne peut prétendre être omniscient.
L’IA, en guidant la pratique clinique, et à condition que les logiciels d’IA soient régulièrement
actualisés, constitue un instrument de standardisation des soins en s’alignant sur les
meilleures pratiques.
2. Un potentiel de gain de temps pour les soignants, impossible à réellement chiffrer
Le système de santé est confronté depuis plusieurs années à un manque de temps médical
et soignant, qui trouve sa traduction dans d’importants délais de rendez-vous, des
fermetures de cabinets ou de services hospitaliers, et potentiellement le renoncement aux
soins. Avec le vieillissement de la population et le développement inévitable de maladies
chroniques, les besoins en matière de santé devraient toutefois être orientés à la hausse.
Une étude de l’OMS de 2016 estimait qu’il pourrait manquer en 2030 en Europe (UE28)
4,1 millions de travailleurs dans le secteur de la santé : 0,6 million de médecins, 2,3 millions
d’infirmiers et aides-soignants et 1,3 million d’autres personnels de soins. Devant cette
pénurie préoccupante de personnels qualifiés, l’enjeu de la libération du temps médical et
plus largement du temps soignant est devenu majeur.
C’est là un deuxième apport de l’IA, qui pourrait
intervenir pour réaliser certaines tâches
chronophages et facilement automatisables. Les
tâches administratives représentent une part non
négligeable de l’activité des médecins et des
infirmières. L’OCDE estime que 25 % du temps de
travail des infirmières est consacré à saisir des
données. Le temps administratif des médecins
libéraux représenterait au moins 10 % de leur
temps de travail2, certaines estimations étant
encore bien plus élevées.

La priorité pourrait être donnée aux tâches pénibles et répétitives, mais pas
seulement. L’IA générative est ainsi mobilisée pour automatiser la rédaction de comptes
rendus médicaux ou encore pour réaliser le codage des actes (notamment le codage dans
le cadre hospitalier).

1 OCDE, L’IA dans le domaine de la santé, un immense potentiel, d’énormes risques, 2024 ;
https://www.oecd.org/fr/sante/IA-en-sante-immense-potentiel-enormes-risques.pdf (consulté le 04/04/2024).
2 Drees, « Deux tiers des médecins généralistes libéraux déclarent travailler au moins 50 heures par semaine », Études

et résultats, n° 1113, 7 mai 2019 ; https://drees.solidarites-sante.gouv.fr/publications/etudes-et-resultats/deux-tiers-des-

medecins-generalistes-liberaux-declarent-travailler.

8
Les évaluations du temps gagné sont encore assez
imprécises mais ces gains de temps pourraient être très
importants, tout en assurant une grande fiabilité des
processus automatisés. L’OCDE, s’appuyant sur une
36 %
des activités automatisables
étude de 2020, indique que « jusqu’à 36 % de l’activité dans les services de santé
des services de santé et des services sociaux pourraient et services sociaux
être automatisés » grâce à l’IA 1. (d’après l’OCDE)
Un autre aspect réside dans l’accélération de la prise en charge et la réduction des
délais d’attente en mettant en place des organisations plus performantes. L’installation
d’un logiciel de lecture automatique des radios en cas de suspicion de fracture aux urgences
du CHU de Rennes a ainsi conduit à une baisse de 30 % du délai d’attente des patients2.
3. Un système de santé plus efficient ?
La prise en charge de la santé représente un coût significatif dans les pays developpés, en
grande partie socialisé. Au sein de l’OCDE, les dépenses de santé représentaient 9,2 % du
PIB en 2022, chiffre qui atteint 12,1 % en France (dont 80 % sont pris en charge par la
collectivité) et 12,7 % en Allemagne 3.
À ce coût élevé s’ajoute une certaine désorganisation de notre système de soins, dénoncée
régulièrement par les professionnels, qui conduit à ne pas toujours utiliser au mieux les
ressources disponibles. Gestion des effectifs, programmation des soins, enchaînement des
traitements, suppression des examens redondants : l’IA est susceptible de permettre une
meilleure organisation générale du processus de soins. En outre, elle peut aider à lutter
contre les phénomènes de fraude (voir rapport thématique n° 1).
Rien ne dit cependant comment ces gains de temps et d’argent pourraient être
utilisés : sous forme d’économies dans les dépenses de santé, sous forme d’une hausse
du temps relationnel passé auprès des patients, sous forme de temps supplémentaire pour
la recherche clinique, ou tout simplement pour alléger la charge de travail globale des
équipes soignantes.

2. UNE UTILISATION QUI RESTE ENCORE PRINCIPALEMENT

EXPÉRIMENTALE

A. DE NOMBREUX DOMAINES D’APPLICATION POSSIBLES

1. L’intelligence artificielle, accélérateur de la recherche médicale
La pandémie de covid-19 a montré l’intérêt d’une mobilisation de toutes les
technologies disponibles pour faire face à un besoin de recherches très rapides. Dans ce
contexte, l’IA peut se révéler très précieuse. Ainsi, l’identification de la structure en trois
dimensions de protéines extrêmement complexes 4 ouvre la voie à l’élaboration accélérée
de vaccins efficaces. L’IA peut également aider à prédire l’évolution de la pandémie et
appuyer les équipes soignantes dans l’identification du virus chez les patients5.

1 Étude de l’OCDE précitée.

2 France 3 Bretagne, « Santé, comment l’intelligence artificielle réduit le temps de prise en charge aux urgences du CHU
de Rennes », 26 septembre 2023 ; https://france3-regions.francetvinfo.fr/bretagne/ille-et-vilaine/rennes/sante-comment-l-
intelligence-articifielle-reduit-le-temps-de-prise-en-charge-aux-urgences-du-chu-de-rennes-2846378.html.
3 OCDE, rapport annuel, Health at a Glance 2023, 7 novembre 2023 ; https://www.oecd.org/health/health-at-a-glance/.

4 Le logiciel AlphaFold2, développé par DeepMind, filiale de Google.

5 Pour une revue de l’utilisation de technologies d’IA dans la crise du covid-19, voir l’article sur le site du Conseil de

l’Europe, « IA et lutte contre le coronavirus Covid-19 » ; https://www.coe.int/fr/web/artificial-intelligence/ai-and-control-of-

covid-19-coronavirus (consulté le 02/04/2024).

9
Comme l’indique le rapport de l’Académie nationale de médecine sur les systèmes d’IA
générative, « la recherche se heurte aujourd’hui aux limites de nos capacités intellectuelles
à colliger, organiser et donner du sens à des données massives et hétérogènes d’origines
variées ». L’IA générative vient donc à point pour permettre « une augmentation de
l’efficacité, de la précision et de la vitesse à laquelle les données peuvent être générées,
analysées et partagées ».
L’IA ouvre de nouvelles perspectives à l’industrie pharmaceutique à travers plusieurs
leviers 1 :
• elle permet d’accélérer l’identification des molécules candidates : le criblage
des molécules cibles se fait par voie computationnelle de manière rapide, parfois
en quelques heures. L’IA aide ainsi à prédire l’activité médicamenteuse d’une
molécule, par exemple à travers la modélisation de sa capacité à reconnaître une
cible (protéine, ARN) et à s’y insérer 2 ;
• elle simplifie la gestion des essais
cliniques : l’analyse des dossiers
médicaux peut être largement
automatisée, la sélection des groupes
de patients pertinents pour la recherche
peut s’effectuer sur une base plus
large, les groupes de contrôle peuvent
être réduits, voire remplacés par des
groupes contrôles synthétiques.
Le recours aux jumeaux numériques
constitue notamment une piste féconde
pour limiter le nombre de patients à
inclure dans une recherche clinique ;
• elle permet aussi de mettre en relation davantage d’informations, et selon les
termes du rapport de l’Académie de médecine précité « ouvre la voie aux études
systémiques nécessaires à notre compréhension des maladies multigéniques et
multifactorielles qui sont la conséquence d’interactions entre génotype, phénotype
et environnement » ;
• elle renforce la pharmacovigilance, en permettant une analyse plus fine et plus
rapide de données en vie réelle.
Pour la recherche médicale, la mobilisation de l’IA présente un double intérêt :
• elle réduit les coûts des recherches, alors que ceux-ci ont explosé depuis une
vingtaine d’années ;
• elle diversifie les possibilités de recherche, en permettant de s’intéresser
davantage aux maladies rares.

1 Pour en savoir plus, voir une analyse succincte du cabinet KPMG, « Intelligence artificielle et recherche clinique, la
grande accélération » ; https://kpmg.com/fr/fr/home/kpmg-innovation-lab/exploration/intelligence-artificielle-et-recherche-
clinique-la-grande-acceleration.html (consulté le 02/04/2024).
2 Un exemple : https://www.inc.cnrs.fr/fr/cnrsinfo/ia-et-candidats-medicaments-une-nouvelle-methode-de-conception-par-

traitement-numerique.

10
À rebours de la tendance à la concentration de la recherche médicale autour de quelques
grands groupes, ciblant essentiellement des pathologies chroniques qui touchent un très
grand nombre de malades dans le monde, afin de pouvoir amortir des coûts de recherche
très importants, l’IA pourrait favoriser un foisonnement de la recherche médicale par
la multiplication de ses acteurs et la diversification de ses domaines.
Des précautions importantes sont cependant nécessaires pour faire face aux inconvénients
de l’IA dans la recherche en biologie et santé. La production automatique de résultats est
ainsi dépendante des données disponibles. Des données falsifiées peuvent conduire à la
production de résultats erronés, dont le système d’IA peut ne pas se rendre compte, faute
de capacité d’analyse. Par ailleurs, la recherche scientifique passe par la revue par les pairs
et la reproduction d’expériences pour valider les résultats obtenus. Or, l’IA générative ne
permet pas d’expliquer les résultats, ou de produire une bibliographie.
2. L’imagerie médicale en pleine révolution
L’imagerie médicale fournit aux médecins une
visualisation de parties internes du corps
humain dont l’interprétation est décisive pour
fournir un diagnostic et proposer des
traitements aux patients. La lecture des
clichés est un exercice ardu pour les
radiologues, qui dépendent pour leur travail
de la qualité des images fournies et doivent
aussi porter leur attention sur des petits
détails pas toujours faciles à identifier.
L’imagerie médicale constitue un domaine où la dimension technique est présente depuis
de nombreuses années, avec des appareils qui n’ont cessé de se perfectionner.
La numérisation des clichés radiologiques pris par les appareils de radiologie médicale,
scanners, IRM, a ouvert la voie au traitement automatique des images par des algorithmes
de plus en plus performants. L’IA permet en effet d’améliorer la qualité des images
fournies par les appareils mais aussi de les interpréter de manière automatique, ou
du moins de signaler des anomalies devant faire l’objet d’une analyse approfondie.
La preuve de la performance des systèmes à base de réseaux de neurones convolutifs
profonds dans la reconnaissance d’images, apportée par des chercheurs américains
en 2012 1, a donné un coup d’accélérateur aux applications de technologies d’IA en imagerie
médicale 2. Désormais, de nombreuses solutions à base d’IA sont proposées aux médecins
et professionnels de santé, avec comme objectifs à la fois de faire gagner du temps dans la
réalisation des examens et la lecture des clichés mais aussi de mieux détecter les zones
d’intérêt. Gagner en rapidité et en efficacité faisait dire en 2016 à Geoffrey Hinton,
lauréat du prix Turing 2018 qu’on devrait arrêter de former des radiologues puisque
le deep learning allait faire mieux qu’eux à brève échéance.

1 Alex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton, « ImageNet Classification with Deep Convolutional Neural

Networks », Advances in Neural Information Processing Systems 25 (NIPS 2012) ;

https://papers.nips.cc/paper_files/paper/2012/hash/c399862d3b9d6b76c8436e924a68c45b-Abstract.html (consulté le 02/04/2024).
2 Léo Mignot, Émilien Schultz, « Les innovations d’intelligence artificielle en radiologie à l’épreuve des régulations du

système de santé », Réseaux, 2022/2-3 (N° 232-233), p. 65-97. DOI : 10.3917/res.232.0065 ; URL :
https://www.cairn.info/revue-reseaux-2022-2-page-65.htm (consulté le 02/04/2024).

11
En réalité, ce remplacement des radiologues par les machines ne s’est pas produit.
Certes, les logiciels d’interprétation d’images automatisée se sont multipliés : mi-2022, plus
de 200 logiciels avaient été validés par la FDA aux États-Unis ou bénéficié d’un marquage
CE dans l’Union européenne 1 (au total environ 700 dispositifs médicaux intégrant l’IA ont
été validés par la FDA). Mais leurs apports sont fortement questionnés. De nombreuses
voix s’élèvent pour appeler à ne pas surestimer leur rôle. Les promesses sur le papier ne
sont d’ailleurs suivies que d’une application clinique limitée 2. Par ailleurs, même dans des
domaines où l’IA se révèle performante, elle n’est pas forcément plus performante qu’un
radiologue expérimenté.
Selon une étude britannique publiée en septembre 2023, pour des mammographies de
dépistage du cancer du sein, les résultats obtenus par un œil humain et par un algorithme
sont similaires 3. L’IA peut donc être utilisée dans ce cadre non comme un substitut, mais
comme une aide pour le praticien, capable de lui fournir un premier tri dans la masse des
éléments à analyser sur un cliché. En réalité, c’est la combinaison d’un examen
classique et de l’utilisation d’IA qui pourrait apporter des gains de temps et de
performance significatifs.

L’usage de l’intelligence artificielle dans le dépistage organisé

du cancer du sein

Depuis 2004, la France s’est dotée d’un dispositif de dépistage

organisé (DO) du cancer du sein. Avec plus de 60 000 cas par an
et un peu plus de 12 000 décès par an, le cancer du sein est à la
fois le plus fréquent et le plus meurtrier pour les femmes.
Un dépistage précoce améliore considérablement le taux de survie
à 5 ans, qui s’établit désormais à 87 %.
Le DO consiste à inviter toutes les femmes de 50 à 74 ans à passer un examen de dépistage
tous les deux ans, pris en charge à 100 % par l’assurance maladie. L’examen comprend une
mammographie et un examen clinique. Un peu moins de 50 % des femmes concernées
utilisent ce dispositif, s’ajoutant aux 11 % de femmes procédant à un dépistage dans une
démarche individuelle.
Lorsqu’aucune anomalie n’est décelée, un second examen est réalisé par un radiologue expert
(double lecture). Depuis 2019, les mammographies sont exclusivement numériques.
Les clichés sont pris en 2 dimensions, mais devant les performances de la tomosynthèse 4,
la Haute Autorité de santé (HAS) a recommandé en 2023 l’intégration de cette nouvelle
technique qui permet d’obtenir une image reconstituée en 3 dimensions grâce à des
algorithmes mathématiques 5.

1 Source : « Radiologie : pourquoi l’IA n’a (toujours) pas remplacé le médecin », theconversation.com, 28 juin 2022
https://theconversation.com/radiologie-pourquoi-lia-na-toujours-pas-remplace-le-medecin-185319 (consulté le
02/04/2024).
2 Voir notamment l’article sur le site de l’INRIA : « Imagerie médicale : l’intelligence artificielle peut-elle tenir ses

promesses ? », www.inria.fr, 11 mai 2022 ; https://www.inria.fr/fr/imagerie-medicale-intelligence-artificielle-apprentissage-

automatique (consulté le 02/04/2024).
3 Yan Chen, Adnan G. Taib, Iain T. Darker, Jonathan J. James, « Performance of a Breast Cancer Detection AI Algorithm

Using the Personal Performance in Mammographic Screening Scheme », RSNA, 5 septembre 2023 ;
https://pubs.rsna.org/doi/10.1148/radiol.223299.
4 Paolo Giorgi Rossi et al., « Comparing accuracy of tomosynthesis plus digital mammography or synthetic 2D

mammography in breast cancer screening: baseline results of the MAITA RCT consortium », Eur J Cancer, mars 2024 ;
https://pubmed.ncbi.nlm.nih.gov/38262307/.
5 HAS, Évaluation de la performance et de la place de la mammographie par tomosynthèse dans le programme national

de dépistage organisé du cancer du sein – Volet 2, validé par le Collège le 9 février 2023, mis à jour en avril 2023 ;
https://www.has-sante.fr/jcms/p_3148278/fr/evaluation-de-la-performance-et-de-la-place-de-la-mammographie-par-
tomosynthese-dans-le-programme-national-de-depistage-organise-du-cancer-du-sein-volet-2.

12
 Le déploiement d’outils d’IA pourrait augmenter l’efficacité globale du DO du cancer du sein et
conduire à le réorganiser, mais la bonne manière d’utiliser ces nouvelles possibilités est
discutée par la communauté scientifique.
Début 2024, la Société d’imagerie de la femme (SIFEM) 1 a mis en avant 3 études prospectives :
- une étude suédoise (MASAI) montrait que l’utilisation de l’IA pour une première lecture
augmentait le taux de détection des cancers (sans augmentation des faux positifs) et
diminuait fortement la charge de travail des radiologues ;
- une autre étude suédoise (ScreenTrustCAD) montrait qu’utilisée en deuxième voire troisième
lecture, l’IA augmente le nombre de cancers détectés et diminue le nombre de
mammographies nécessitant un bilan complémentaire (échographie, biopsie, chirurgie) ;
- une étude hongroise, enfin, mettait en évidence une amélioration du taux de détection des
cancers grâce à l’utilisation d’une IA en troisième lecture.
Si l’utilisation de l’IA en remplacement des radiologues n’est pas envisageable pour des raisons
éthiques et parce que la performance des radiologues experts paraît encore supérieure à la
machine aujourd’hui, la combinaison d’une lecture humaine et d’une lecture par IA des
mammographies permettrait vraisemblablement de gagner en temps et en efficacité.
Dans une tribune publiée par Le Monde le 4 avril 2024, un collectif de radiologues insistait sur
la nécessité de s’organiser pour pouvoir accueillir ces nouveaux instruments, dans un cadre
technique et organisationnel maîtrisé 2.

3. Vers un déploiement de l’IA « tous azimuts »

Au-delà de l’imagerie, domaine pionnier du déploiement de l’IA en santé, le potentiel de l’IA
s’applique à la totalité des champs de l’activité clinique.
L’IA peut ainsi être utilisée tant dans la phase de dépistage ou de détection
(diagnostic) que dans la phase de mise en œuvre de solutions thérapeutiques.
En ophtalmologie, l’IA crée la possibilité de détection précoce de certaines pathologies,
comme la rétinose diabétique, l’œdème maculaire diabétique, la dégénérescence maculaire
ou encore le glaucome.
En cancérologie, l’IA peut être sollicitée dans le dépistage et la détection précoce,
permettant de mettre en évidence des anomalies plus rapidement et donc d’améliorer la
prise en charge ultérieure des patients. Lors de son audition, l’Institut national du cancer
(INCa) a indiqué que l’IA était utilisée par exemple pour détecter des polypes ou adénomes
par coloscopie, ou pour mieux détecter par scanner les cancers du poumon. On manque
toutefois de certitudes sur la plus-value apportée par ces outils. L’INCa estime qu’il existe
un énorme potentiel de l’IA en diagnostic de jeux de données sur les tumeurs, notamment
en matière de radiomique et en génomique, dans la définition de scores en vue d’une
personnalisation des approches, ou encore pour le criblage d’anomalies moléculaires.

1 Sifem, « Apport de l’intelligence artificielle dans le dépistage du cancer du sein », www.imageriedelafemme.org,

12 février 2024 ; https://www.imageriedelafemme.org/apport-de-lintelligence-artificielle-dans-le-depistage-du-cancer-du-
sein/ (consulté le 02/04/2024).
2 « Dépistage du cancer du sein : l’intelligence artificielle doit trouver sa juste place », Le Monde, 4 avril 2024 ;

https://www.lemonde.fr/sciences/article/2024/04/04/depistage-du-cancer-du-sein-l-intelligence-artificielle-doit-trouver-sa-
juste-place_6225918_1650684.html.

13
 Le large champ d’application de l’IA en cancérologie

Les domaines d’intervention de l’IA en cancérologie sont multiples et variés. Lors de son
audition, l’Institut national du cancer (INCa) en a donné de nombreux exemples.

1 – Interventions de l’IA lors du diagnostic et de la détermination du stade du cancer

● Recours à l’IA pour la lecture d’images :
- diagnostic du cancer primitif : radiologie (sein, poumon, thyroïde, prostate), photos
(mélanomes), lames d’anatomopathologie numérisées ;
- recherche de métastases ;
- recherche de mutations ou expression de marqueurs histologiques : attribuer les
mutations à partir d’images (histologie ou imagerie), plus spécialement pour les mutations qui
conditionnent le choix d’un traitement, pourrait s’avérer plus rapide et moins coûteux que le
séquençage ;
- attribution de scores, par exemple attribution du score de Gleason à partir de l’IRM pour
le cancer de la prostate ;

● Assistance à la détection de polypes/cancers en coloscopie ;

● Identification du cancer primitif pour des métastases de cancer primitif inconnu grâce au
profil génétique des cellules métastatiques ;

● Analyse de données massives permettant l’identification de sous-groupes homogènes

(clustering), par exemple pour réaliser l’intégration de données génomiques dans la
stratification des cancers.

2 – Interventions de l’IA lors du choix du traitement

● Réalisation de modèles prédictifs pour évaluer ex ante l’efficacité de diverses options
thérapeutiques permettant de guider le choix du traitement. À partir des images de
tomodensitométrie, on peut ainsi identifier parmi les personnes ayant des métastases
hépatiques d’un cancer colorectal, celles qui sont susceptibles de répondre au traitement
médicamenteux systémique. On peut aussi prédire la réponse thérapeutique à la combinaison
atezolizumab/bevacizumab dans le carcinome hépatocellulaire à partir de l’analyse des lames
histologiques digitales ;

● Prédiction de la survenue de complications après traitement (radiothérapie,

immunothérapie) permettant d’adapter la surveillance.

Les outils d’aide à la décision thérapeutique résultant de la mise en œuvre des modèles
prédictifs constituent un pas de plus vers une médecine personnalisée.

3 – Interventions de l’IA dans le traitement lui-même

● En radiothérapie : pour affiner le ciblage de la zone à irradier en assistant le détourage,
pour anticiper le mouvement des organes durant la respiration et compenser ces mouvements
pendant le traitement, permettant d’améliorer le ciblage vers la tumeur, pour adapter le
traitement au fil des semaines en fonction des modifications subies par le corps en raison, par
exemple, d’un amaigrissement ;

● En chirurgie : recours à la chirurgie assistée par ordinateur ;

14
 ● Dans le suivi du patient : détection de signaux par la pharmacovigilance, identification des
seconds cancers, complications, séquelles à moyen ou long terme. Il existe désormais des
applications numériques pour le suivi des patients ou la surveillance à domicile en cours de
traitement, y compris pour des personnes incluses dans des essais thérapeutiques.

4 – Interventions de l’IA dans la recherche

● Appui à la recherche de nouvelles molécules ;

● Constitution de bras de contrôle synthétiques en recherche clinique ;

● Réalisation d’essais in silico c’est-à-dire création de patients virtuels et simulation d’essais

cliniques sur ces cohortes virtuelles.

5 – Interventions de l’IA pour l’analyse de données en vie réelle

● Analyse de trajectoires de soins, du pré-diagnostic jusqu’à la fin de vie ;

● Vérification de l’application des recommandations de soins ;

● Possibilité de mener des études sur une population non sélectionnée (contrairement à
celle des essais cliniques) pour documenter l’utilisation des médicaments en vie réelle, vérifier
l’efficacité en condition réelle sur des critères mesurables par ce type de données, en tenant
compte de l’absence de randomisation et apprécier la tolérance sur des populations quasi
exhaustives.

En anatomopathologie, l’IA est sollicitée pour l’interprétation histologique (examen de la

structure des coupes de pièces anatomiques), la prédiction d’anomalies moléculaires à
partir des caractéristiques morphologiques constatées sur les lames numérisées ou encore
la prédiction des réponses aux traitements.
En neurologie, l’IA peut être utilisée dans la phase diagnostique, mais intéresse aussi la
phase thérapeutique. La rééducation des fonctions neuronales après un accident vasculaire
cérébral (AVC) peut ainsi être aidée par des machines s’adaptant aux progrès du patient.
Par ailleurs, les implants neuronaux destinés à compenser des fonctions déficientes ou à
augmenter les capacités humaines sont aujourd’hui en développement.
En cardiologie, l’IA peut aussi apporter beaucoup, d’autant plus qu’il faut souvent
diagnostiquer et traiter rapidement les douleurs thoraciques ou les arythmies cardiaques,
dès leur apparition. L’insuffisance cardiaque connaît un taux important d’erreurs – une étude
britannique publiée en 2016 estimait qu’une crise cardiaque sur trois était mal
diagnostiquée 1. En outre, certaines défaillances cardiaques sont difficilement repérables.
L’IA peut aider à identifier une dysfonction ventriculaire gauche asymptomatique ou encore
une fibrillation auriculaire silencieuse à partir d’un simple électrocardiogramme.
Le traitement des données des pacemakers connectés offre aussi un instrument
supplémentaire de surveillance en temps réel des patients atteints de pathologie cardiaque.

1 Wu J, Gale CP, Hall M, et al., « Editor’s Choice - Impact of initial hospital diagnosis on mortality for acute myocardial

infarction: A national cohort study », European Heart Journal: Acute Cardiovascular Care, 2018;7(2):139-148 ;
https://journals.sagepub.com/doi/abs/10.1177/2048872616661693?journalCode=acca.

15
En néphrologie, l’IA a également permis de réels progrès. Lauréat du prix Innovation 2023
de l’Inserm, le professeur Alexandre Loupy, responsable de l’Institut de transplantation de
Paris 1 a développé un algorithme capable d’analyser de très nombreuses données
(génétiques, anticorps, biomarqueurs) permettant de prédire les risques de rejets des
greffons et ainsi d’améliorer leur appariement avec les greffés. Il en résulte un moindre
gâchis des greffons, ceux-ci étant structurellement en pénurie, mais aussi une réduction des
traitements immunosuppresseurs, pour le plus grand bénéfice à long terme des patients.

Neurotechnologies et IA : vers un homme augmenté ?

Les neurotechnologies (NT) étudient le cerveau et développent des technologies pour interagir
avec lui, visant à améliorer son fonctionnement. Selon le Comité international de bioéthique de
l’Unesco (CIB), elles englobent tous les dispositifs et procédures pour visualiser, surveiller,
étudier, manipuler et reproduire la structure et le fonctionnement des systèmes neuronaux
humains 2.
Les NT se sont avérées très prometteuses dans la réparation de certains handicaps, en
particulier ceux d’ordre sensoriel. Par exemple, l’utilisation de neuroprothèses, constituées de
capteurs d’informations et d’un processeur les convertissant en stimuli électriques, permet de
transmettre des informations sensorielles au cerveau via des électrodes lorsque l’organe
normal est défaillant.
De même, l’exemple de la stimulation cérébrale profonde (Deep Brain Stimulation – DBS)
illustre parfaitement comment les neurotechnologies peuvent être bénéfiques pour la
médecine. Cette technique, consistant à implanter des électrodes de stimulation dans des
noyaux profonds du cerveau et à les relier à deux piles électriques implantées au niveau sous-
claviculaire pour délivrer un courant continu de faible intensité, est utilisée avec succès dans
le traitement de la maladie de Parkinson. Elle permet de mimer des microlésions dans des
structures cérébrales choisies et ainsi de réduire les tremblements de 80 %, et pourrait
également être appliquée à d’autres maladies telles que la maladie d’Alzheimer, ainsi qu’à des
troubles psychiques 3.
Récemment, les chercheurs ont tenté d’associer les NT et l’IA, offrant des perspectives
diverses. D’une part, les NT couplées à l’IA peuvent améliorer leur efficacité. C’est le cas par
exemple de la création d’un exosquelette, ayant pour objectif de compenser une fonction absente
ou défaillante chez un patient. En 2019, dans le cadre du projet Brain Computer Interface,
Clinatec a développé une neuroprothèse capable de contrôler un exosquelette par la pensée.
Cette neuroprothèse, testée sur un homme tétraplégique souffrant d’une lésion de la moelle
épinière, capte les signaux électriques émis par le cerveau lors d’une intention de mouvement.
Ces signaux sont ensuite interprétés par un ordinateur grâce à l’IA, utilisant la technique du
neurofeedback, puis renvoyés à l’exosquelette pour effectuer le mouvement « pensé » 4.
D’autre part, l’IA et les NT ouvrent de nouveaux horizons, notamment celui de l’homme
augmenté. Les investissements dans le domaine des NT ont augmenté de 700 % entre 2014
et 2021 5, car l’hybridation du cerveau avec l’IA semble de plus en plus réalisable. Elon Musk,
pionnier dans ce domaine, a fondé Neuralink en 2017, avec pour objectif principal d’améliorer
les capacités cognitives de l’homme grâce à des implants et à l’IA, et ainsi créer un véritable
homme augmenté.

1
Paris Institute for Transplantation & Organ Regeneration (PITOR).
2 Rapport du Comité international de bioéthique de l’Unesco (CIB) sur les aspects éthiques des neurotechnologies, 2023,
Rev. Paris, 56p. [En ligne]. ttps://unesdoc.unesco.org/ark:/48223/pf0000378724_fre.
3 Deep Brain Stimulation, Mayo Clinic, 19 septembre 2023.

4 Sur cette question, consulter notamment la note scientifique de l’Office parlementaire d’évaluation des choix scientifiques

et technologiques (OPECST) : Patrick Hetzel, Les neurotechnologies : défis scientifiques et éthiques, 22 janvier 2022.
https://www.senat.fr/fileadmin/Office_et_delegations/OPECST/Notes_scientifiques/OPECST_note32.pdf.
5 Éthique des neurotechnologies, UNESCO, 2024. https://www.unesco.org/fr/ethics-neurotech.

16
 Le concept d’homme augmenté présente des limites et soulève des défis éthiques
majeurs. L’utilisation de l’IA dans les NT peut entraîner des risques d’efficacité inégale, de
complications liées à l’implantation des électrodes (telles que des hémorragies, des
dysfonctionnements ou des crises d’épilepsie), voire altérer la personnalité du patient et
accentuer les inégalités sociales, puisque l’accès aux NT est souvent réservé aux plus
fortunés. L’ensemble de ces risques s’accompagne de préoccupations éthiques, comme la
protection des données personnelles, la sauvegarde de l’intégrité de la personne et le respect
du libre arbitre.
Face à ces enjeux, l’évolution des « neurodroits » est essentielle. Le groupe d’experts ad hoc
de l’Unesco recommande notamment la création d’un concept d’intimité mentale. En France,
le cadre juridique reste encore peu développé : il interdit simplement la modification de l’activité
cérébrale si cela présente un danger, et limite l’utilisation de l’imagerie cérébrale à des fins
médicales ou de recherche.
L’évolution rapide des NT et de l’IA soulève une question fondamentale : devons-nous les
utiliser uniquement dans un cadre médical strict, ou devrions-nous explorer les frontières de
l’humain et tenter de créer un être augmenté ? Auditionné par la délégation à la prospective,
le Pr Raphaël Gaillard, chef du pôle hospitalo-universitaire de psychiatrie de l’hôpital
Sainte-Anne, indique ne pas croire à la possibilité d’augmenter l’ensemble des fonctions de
l’homme de manière homogène, tant les zones du cerveau sont nombreuses et variées et les
implants neuronaux spécialisés dans leurs fonctions et localisation. Il plaide en faveur de la
première option et met en garde contre les dangers d’une utilisation excessive des NT :
« Au-delà de la question de la réparation, l’augmentation de l’homme ne peut se faire que de
façon non harmonieuse, je dirais même, c’est un terme de psychiatrie, dysharmonique,
c’est-à-dire ne respectant pas l’harmonie initiale que nous confère la biologie de notre cerveau.
En augmentant l’homme suivant ce Silicon syndrome, nous renonçons à l’harmonie de
l’homme, et ce n’est pas rien comme changement anthropologique » 1.

B. UNE UTILISATION EN ROUTINE POUR LE SOIN ENCORE LIMITÉE

Il existe donc un grand nombre de domaines d’application de l’IA en santé. Pour autant,
hors imagerie, l’IA n’est pas encore utilisée en routine. La pratique clinique n’a pas encore
totalement intégré ce progrès technique récent. Nous connaissons donc un
foisonnement d’expérimentations, mais pas encore une banalisation des nouveaux
outils.
Plusieurs obstacles retardent en effet le déploiement de
l’IA en santé : l’un d’entre eux est le manque de recul
et la méfiance que l’IA peut susciter à la fois chez
les professionnels de santé et chez les patients.
Certes, selon une étude publiée début 2024 2, 58,7 %
58,7 %
des professionnels de santé
d’entre eux affirment avoir confiance en l’IA pour l’aide
ont confiance dans l’IA
au diagnostic et à la prise en charge et 66,6 % estiment
qu’elle ne constitue pas une menace pour leur
profession ou leurs compétences. Si 53 % des professionnels interrogés affirment utiliser
l’IA dans leur pratique quotidienne, il s’agit surtout d’aller chercher de l’information médicale
ou de se former. Nous sommes donc encore loin d’une délégation quasi complète de
certaines tâches à l’IA.

1 Audition du Pr Raphaël Gaillard, chef du pôle hospitalo-universitaire de psychiatrie de l’hôpital Sainte-Anne, par la délégation
à la prospective, le 21 mars 2024 ; https://www.senat.fr/compte-rendu-commissions/20240318/pro_2024_03_21.html.
2 Baromètre national réalisé par PulseLife et Interaction Healthcare sur l’impact de l’intelligence artificielle (IA) dans la

pratique médicale, réalisé à partir de l’interrogation de 1 700 professionnels de santé, 1er février 2024 :
https://pulselife.com/fr-fr/blog/post/barometre-ia-en-sante-alliee-ou-menace.

17
Du côté des patients, seulement 44 % d’entre eux estiment possible de se faire soigner par
leur médecin à l’aide d’une IA, selon un sondage Opinionway réalisé en 2023 pour le
Healthcare Data Institute 1. Il reste donc du chemin pour faire entrer le recours à l’IA dans
les pratiques habituelles de soin.
Un autre obstacle réside dans les incertitudes règlementaires et l’absence de modèle
économique pour nombre de dispositifs médicaux numériques (DMN). Les dispositifs
individuels peuvent bénéficier d’un remboursement et, de fait, des mécanismes d’accès
rapide au remboursement ont été mis en place à titre expérimental. Pour les logiciels et
équipements intégrant des solutions d’IA et utilisés en cabinet médical ou en établissement
de santé, ils doivent trouver d’autres sources de financement : soit sur fonds propres soit en
mobilisant des outils d’aide à l’innovation, tel le fonds pour l’innovation du système de santé
(Fiss) créé par la LFSS de 2018.
Lorsque les gains de productivité apportés par la solution à base d’IA sont évidents,
l’investissement peut s’autofinancer, mais lorsque les gains sont incertains, il faut financer
les nouveaux outils sur ressources propres. Les appels à projets permettent un
amorçage, mais n’apportent pas des ressources pérennes de fonctionnement.
Les coûts du déploiement de l’IA peuvent ainsi constituer un frein à une utilisation en routine
sans gain de productivité apparent net. La Fédération hospitalière de France (FHF) ajoute
que « beaucoup de services IA sont basés sur un modèle de financement à l’usage, ce qui
pèse sur le budget d’exploitation et ce qui est très difficile à maîtriser sur le plan
budgétaire ».

Le cadre juridique et tarifaire des dispositifs médicaux numériques (DMN)

La mise sur le marché des dispositifs médicaux numériques (DMN) comme par exemple des
logiciels d’aide au diagnostic ou de surveillance, est soumise à une procédure de marquage CE
obtenu suite à une certification délivrée par un organisme indépendant appelé « organisme
notifié ». Les conditions du marquage varient selon la classe de risque du dispositif. C’est
l’Agence nationale de sécurité du médicament (ANSM) qui est chargée de la surveillance de
l’ensemble des dispositifs médicaux.
Après l’étape du marquage CE, les DMN sont soumis à la Commission nationale d’évaluation
des dispositifs médicaux et des technologies de santé (CNEDiMTS), dépendant de la Haute
Autorité de santé (HAS), qui formule un avis avant inscription du dispositif sur la liste des
produits et prestations remboursables (LPPR) ou sur la liste des activités de télésurveillance
médicale (LATM), au vu notamment de l’amélioration du service attendu.
Le processus d’inscription pérenne sur la LPPR ou la LATM étant long, il existe une procédure
de prise en charge anticipée des DMN innovants et une procédure de prise en charge
transitoire pour des produits de santé présumés innovants.
Pour les dispositifs médicaux à usage individuel, l’admission au remboursement est suivie de la
fixation d’un tarif de remboursement par le Comité économique des produits de santé (CEPS).
Afin de garantir que les DMN effectuant un traitement de données à caractère personnel au
sens du règlement général sur la protection des données (RGPD) assurent un degré suffisant
de protection des données personnelles, ils doivent par ailleurs obtenir un certificat de
conformité au référentiel d’interopérabilité et de sécurité des dispositifs médicaux numériques
délivré par l’Agence du numérique en santé (ANS).

1 Healthcare Data Institute, HDI Day, Les Français, les professionnels de santé et l’intelligence artificielle, 29 novembre

2023 ; https://healthcaredatainstitute.com/2024/01/14/ia-en-sante-des-ecarts-de-perception-et-dusage-entre-francais-et-
medecins-reveles-par-deux-etudes-du-healthcare-data-institute/.

18
Au final, l’IA est en train de s’installer comme une réalité nouvelle dans le domaine de la
santé, mais sans généralisation ni banalisation complète. Le degré de maturité des cas
d’usage de l’IA en santé est en outre disparate selon les domaines, comme le montre la
dernière analyse du Healthcare Data Institute :

C. UN POTENTIEL DE TRANSFORMATION PROFONDE DU SERVICE PUBLIC DE

LA SANTÉ
1. La possibilité de bouleversements organisationnels
Au-delà de l’acte de soin, l’irruption de l’IA dans le champ de la santé ouvre la voie à des
transformations importantes du système de santé lui-même et de son organisation.
Plusieurs exemples montrent que l’IA peut aider à mieux organiser la chaîne de soins, en
automatisant certaines tâches fastidieuses et parfois mal exécutées. L’IA aide ainsi à la
gestion des plateaux d’imagerie (solution Intuitus) dans quatre établissements de santé du
pôle d’imagerie médicale mutualisé basco-landais (PIMM), à la réalisation de plannings
médicaux et paramédicaux par les cadres de santé (solution Hopia), prédit le volume
d’activité des urgences à J-5 au centre hospitalier de Valenciennes (solution Sania), prédit
la disponibilité des lits dans les services. Pour les activités de consultation médicale, l’IA est
déjà capable d’assurer le traitement des prises de rendez-vous ou encore de gérer la
facturation.
Dans le domaine documentaire, l’IA peut également être très utile. Des solutions existent
ainsi pour retranscrire les échanges entre patient et médecin à partir d’une reconnaissance
vocale, ou encore pour mettre en forme des données collectées de manière non structurée,
ou pour produire de manière semi-automatique des comptes rendus médicaux. L’activité de
secrétariat médical, déjà fortement transformée depuis quelques années, pourrait de
nouveau être bouleversée.
L’IA offre aussi l’opportunité de mieux traiter les flux de patients, en faisant davantage le tri
entre les entrées urgentes et celles qui le sont moins. Cette fonction, essentielle aux
services d’urgence, est déjà déployée dans certains établissements de santé.

19
L’IA peut aussi être sollicitée pour guider les professionnels dans les démarches
administratives et le suivi des patients. Ainsi, au sein de l’AP-HP, le logiciel Watson sert à
guider les utilisateurs du dossier médical informatisé : il repère les erreurs de saisie, émet
des alertes, et sa fonction chatbot permet de répondre aux interrogations des
professionnels. L’IA facilite l’appropriation des procédures complexes en milieu hospitalier.
La numérisation de la santé ouvre enfin la voie à la possibilité de faire de la médecine
à distance : derrière la téléchirurgie qui permet de réaliser des opérations à distance, mais
qui reste exceptionnelle, existe une large palette de solutions de télémédecine. Avec ou
sans IA, la télémédecine affranchit de la contrainte physique d’une présence des patients
et des soignants au même endroit. Elle constitue une réponse possible au problème des
déserts médicaux.

L’IA, opportunité pour lutter contre les déserts médicaux ?

Les inégalités territoriales d’accès aux soins constituent une préoccupation croissante dans un
contexte de pénurie de personnels médicaux. Un rapport d’information sénatorial d’avril 2022 1
signalait que désormais 30,2 % de la population vivait dans une zone d’intervention prioritaire
(ZIP), c’est-à-dire dans un « désert médical ». Le phénomène s’aggrave (la proportion était
de 18 % il y a une décennie) et touche à la fois des territoires ruraux et des territoires
périurbains (en Île-de-France, 62,4 % de la population francilienne est concernée par une offre
de soins insuffisante ou des difficultés dans l’accès aux soins).
Des solutions numériques peuvent apporter une réponse partielle à cette problématique et des
cabines de télémédecine ont fait leur apparition depuis quelques années. On en compterait
aujourd’hui environ 5 000, majoritairement situées au sein des officines de pharmacie.
Les téléconsultations représentent désormais 4 % de l’ensemble des consultations en
médecine de ville.
Si la téléconsultation permet d’avoir accès à un médecin à distance, sans avoir besoin de se
déplacer jusqu’à un cabinet éloigné du domicile, elle ne règle cependant pas la question de la
pénurie de temps médical. En outre, elle ne permet pas d’effectuer les mêmes examens
cliniques (auscultation) que lors d’un rendez-vous classique.
Pour réduire la fracture dans l’accès aux soins, encore faut-il aussi réduire la fracture
numérique : la télémédecine suppose l’achèvement d’une couverture numérique de bonne
qualité de l’ensemble du territoire.
L’IA peut être intégrée aux solutions de télémédecine pour en améliorer les performances, en
interprétant en direct des données captées dans les cabines de télémédecine ou en guidant
l’entretien avec le patient. Cette aide n’est pas forcément très différente de celle fournie par les
mêmes solutions d’IA déployées au sein d’un cabinet médical. Elle peut cependant être encore
plus utile en télémédecine, en réduisant les inconvénients de cette pratique par une meilleure
prise en compte des données médicales collectées, en encore en accélérant les temps
d’examen clinique, ce qui, au final, fait gagner du temps médical.
L’IA constitue donc potentiellement un outil de meilleure organisation du processus de soins et
de réduction des inégalités territoriales de santé, mais ne règle pas à elle seule la question des
déserts médicaux. La nécessité d’un échange direct entre le patient et le médecin impose un
maillage territorial plus équilibré de l’implantation des cabinets médicaux.

1Rapport n° 589 de M. Bruno Rejouan fait au nom de la commission de l’aménagement du territoire et du développement
durable, Rétablir l’équité territoriale en matière d’accès aux soins : agir avant qu’il ne soit trop tard, déposé le 29 mars
2022 ; https://www.senat.fr/notice-rapport/2021/r21-589-notice.html.

20
2. Vers une médecine prédictive et personnalisée
L’IA offre une capacité pour mieux anticiper les évolutions des maladies, à l’échelle
individuelle des patients comme à celle des populations, mais aussi pour prévenir leur
apparition, notamment par des dépistages, au service d’une amélioration de la santé
publique. On pourrait ainsi passer d’une médecine principalement curative à une médecine
préventive, grâce à des outils de médecine prédictive et de plus en plus personnalisée.
La combinaison des progrès de la génomique et du traitement de données massives permet
d’affiner l’analyse de la situation sanitaire actuelle et future de chaque individu.
Dans un rapport récent 1, le Healthcare Data Institute souligne que la prévention et la
détection des cancers sont les premiers cas d’usage préventifs de l’IA. De nouveaux
algorithmes intègrent des sources de données multiples – imagerie satellite, recherches sur
Internet, données des objets connectés – pour affiner les prédictions. Le rapport note que
« cette capacité de prévention est permise car l’IA apporte la “couche d’adaptation” à l’accès
aux modèles prédictifs ». Mais l’apport de l’IA ne se limiterait pas à la prédiction de
l’apparition de maladies. L’IA pourrait aussi prédire la réponse aux traitements et offrir de
nouvelles possibilités de personnalisation des traitements.
Le revers de la médaille du développement de la médecine prédictive pourrait consister en
une inflation diagnostique ou un surdiagnostic. Le surdiagnostic désigne le diagnostic
d’un problème qui, s’il n’avait pas été trouvé, n’aurait pas causé de symptômes ni de décès.
Autrement dit, c’est la détection d’un problème sans qu’il y ait de bienfaits possibles à tirer
du traitement précoce de la personne concernée 2. Il conduit à une surconsommation
médicale et à une potentielle dégradation de l’état de santé des personnes
surdiagnostiquées, celles-ci étant exposées aux effets secondaires de traitements peu utiles
ou à un stress lié à leur connaissance de leur exposition à une maladie future.
Une autre transformation à anticiper est celle de la relation entre patient et médecin. D’ores
et déjà, des plateformes d’information médicale, comme la plus connue Doctissimo,
apportent une information médicale générale autrefois inaccessible aux non-médecins.
D’autant mieux renseignés qu’ils sont directement concernés par la pathologie ou celle de
leurs proches, les patients ne sont plus des ignorants soumis à la toute-puissance médicale,
mais des partenaires dans le choix des traitements et du parcours de soin. Avec une IA
accessible directement par les patients, ces derniers pourront être amenés à analyser eux-
mêmes leur situation et à débattre avec les médecins des meilleures solutions
thérapeutiques à mettre en œuvre.
La technologie est d’ailleurs mise à contribution pour un suivi « passif » du patient :
l’application de télésurveillance Oncolaxy, utilisée par l’Institut Gustave Roussy, s’appuie
sur les symptômes signalés par le patient pour détecter automatiquement des rechutes ou
des complications liées aux traitements suivis. Des ajustements de traitement plus rapides
sont ainsi possibles.
3. Vers une remise en cause du modèle d’assurance sociale classique ?
L’assurance maladie fonctionne selon le principe de la mutualisation des risques entre
assurés sociaux. L’irruption de l’IA la confronte à des défis nouveaux. Un premier défi est
celui de la tarification des actes : sera-t-il acceptable de payer le même montant pour un
acte réalisé par une machine et pour un acte médical réalisé par un professionnel ?

1 Healthcare Data Institute, Jusqu’où les données peuvent-elles accompagner la transformation de la santé par l’IA ?, 26 mars
2024 ; https://healthcaredatainstitute.com/wp-content/uploads/2024/03/healthcare_data_institute_hdi_rapport_ia_sante_vf1.pdf.
2 Source : NIH : https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6135136/.

21
Cette question peut néanmoins trouver une solution car la prise de décision ne peut
éthiquement être laissée à la machine. L’enjeu sera celui du bon niveau de tarification et de
la redistribution des effets du progrès technique à travers des baisses de tarifs.
Un autre enjeu bien plus fondamental réside dans le déchirement du « voile d’ignorance »
des risques individuels derrière lequel nous sommes encore cachés aujourd’hui. L’IA
facilitant la quantification de nombreux aspects de la vie des individus et permettant de
croiser de très nombreuses données, la gestion des risques change de paradigme. On
passe d’une évaluation du risque par grand agrégat sociodémographique dans les modèles
actuariels utilisés notamment par les assurances complémentaires, à une évaluation du
risque plus fine, possible à l’échelle des individus, en observant bien plus attentivement
ses antécédents ou encore son comportement.
Comme le note le rapport « Enjeux de l’intelligence artificielle en santé » de la Chaire Santé
de SciencesPo, publié en 2023, « l’individualisation potentielle de l’offre assurantielle
permise par l’IA mène à une responsabilisation grandissante des assurés, avec l’application
possible de pénalités et l’individualisation de la tarification des primes d’assurance. Cette
approche cherche donc à cerner le prix exact du risque, ce qui renverse les théories
classiques sur l’assurabilité du risque et de sa mutualisation. Dans la continuité de cette
logique, les assureurs pourraient ne plus être circonscrits au remboursement de la
médecine curative mais devenir acteurs de la santé de leurs assurés, des financeurs de
médecine préventive pour faire diminuer les risques et in fine réaliser des économies. »

22
 II
EFFICACITÉ ET ÉTHIQUE,
LES DEUX PILIERS DE L’ACCEPTABILITÉ
DE L’IA EN SANTÉ
1. LA NÉCESSITÉ DE DISPOSER DE DONNÉES NOMBREUSES ET
FIABLES

Le traitement des patients, de la compréhension des mécanismes biologiques propres à

chaque pathologie jusqu’au choix des stratégies thérapeutiques et au suivi de leurs
résultats, produit une quantité considérable de données de santé extrêmement variées,
médicales et administratives.
À l’inverse de l’IA classique, symbolique, qui applique des algorithmes prédéfinis, l’IA
générative a besoin d’immenses quantités de données pour apporter ses propres réponses,
non prévues à l’avance. L’abondance des données de santé peut naturellement en faire un
domaine privilégié du déploiement de solutions à base d’IA générative.
Encore faut-il que l’utilisation des données de santé soit possible et que celles-ci soient non
seulement nombreuses, mais aussi de suffisamment bonne qualité.

A. L’ENJEU DE L’ACCÈS AUX DONNÉES SECONDAIRES DE SANTÉ

En matière d’accès aux données médicales, l’enjeu est de pouvoir utiliser les données
secondaires de santé. Le rapport Marchand-Arvier publié en décembre 2023 1 distingue
l’utilisation primaire des données de santé, qui renvoie à la collecte de données à l’occasion
de la prise en charge des patients, tandis que l’usage secondaire désigne l’utilisation de ces
données pour d’autres finalités comme la recherche et l’innovation, le pilotage ou encore
l’amélioration de la qualité des soins.
La France dispose de nombreuses données primaires de santé regroupées au sein du
système national des données de santé (SNDS), comprenant notamment la base de
données des différents régimes d’assurance maladie (SNIIRAM), établie à partir des feuilles
de soins, comprenant des données médico-administratives (mais pas de données
cliniques), la base des hôpitaux (PMSI) ou encore la base des causes de décès de l’Inserm
(CépiDC). Mais certaines données de santé ne figurent pas dans le SNDS : elles sont dans
des entrepôts de données de santé (EDS) des établissements, dans les bases des cohortes
constituées pour des recherches ou encore dans divers registres.
L’utilisation des données secondaires de santé est indispensable au développement de
solutions à base d’IA. Or, comme l’indique le rapport Marchand-Arvier, elle se heurte à
plusieurs freins.

1
Jérôme Marchand-Arvier, Fédérer les acteurs de l’écosystème pour libérer l’utilisation secondaire des données de santé,
1er décembre 2023 ; https://sante.gouv.fr/IMG/pdf/rapport_donnees_de_sante.pdf.

23
 • Premier frein pour les acteurs économiques comme pour les chercheurs :
l’éparpillement des bases de données, leur contenu hétérogène et leur
documentation insuffisante. Il n’existe pas de cartographie transverse et à jour
des bases de données de santé utilisables, susceptible de renvoyer vers des
descriptions homogènes de leur contenu précis et de leurs métadonnées. Des
normes d’interopérabilité sont donc attendues pour rendre possible une meilleure
exploitation des nombreuses données de santé collectées.
• Deuxième frein : la durée et la complexité des procédures règlementaires
d’accès. Il existe certes des procédures d’accès simplifiées, sur déclaration, qui
permettent de disposer de certaines données du SNDS sans avis de la Cnil (ces
procédures représentent désormais 72 % des accès), en respectant des méthodes
simplifiées. Depuis 2015, la Cnil a ainsi établi 13 référentiels permettant la mise
en œuvre de traitements de données de santé sur la base d’une simple déclaration
de conformité. Dans les autres cas, l’accès aux données fait l’objet d’un avis du
Comité éthique et scientifique pour les recherches, les études et les évaluations
dans le domaine de la santé (Cesrees), rendu dans un délai de 1 mois
(renouvelable une fois), avant décision de la Cnil, qui dispose de 2 mois (délai
renouvelable une fois).
• À ces délais règlementaires s’ajoutent des délais d’accès contractuels et
techniques. Ainsi, le rapport Marchand-Arvier note que le délai effectif de mise à
disposition concrète des données du SNDS après autorisation s’élève à 10 à
12 mois et s’est allongé entre 2020 et 2022. Les startups se plaignent
régulièrement des difficultés et de la longueur des négociations avec les
producteurs de données. Il est souvent difficile de s’accorder sur le partage de la
valeur apportée par l’utilisation des données.
Au final, on constate en France un délai moyen de 18 mois entre le lancement d’un projet
de recherche et l’accès effectif aux données de santé, alors que dans d’autres pays comme
les États-Unis, Israël ou Singapour les délais sont bien plus courts.

Les grandes étapes d’un projet de recherche à partir de données de santé en France

Source : Rapport Marchand-Arvier (d’après les chiffres du HDH)

24
Afin de faciliter l’accès aux données de santé pour des projets d’intérêt public, notamment
pour la recherche et la construction d’algorithmes médicaux et lever ces différents freins,
la France s’est dotée depuis la fin 2019, d’une plateforme des données de santé (PDS),
appelée Health Data Hub (HDH). Le HDH est désormais le guichet unique d’accès aux
données de santé et a un rôle de facilitateur pour les porteurs de projets. En quatre
ans, le HDH a accompagné un peu plus de 100 projets.

Source : Health Data Hub

Lors de son audition, le HDH a insisté sur le caractère incontournable des données dans
toute stratégie d’IA. Il s’agit à la fois de repérer les données accessibles (catalogue), au-
delà du seul SNDS, de qualifier les bases de données et ensuite de les utiliser de manière
sécurisée.
Le HDH met en œuvre une plateforme technologique complexe (voir schéma) qui assure
l’ingestion des données pseudonymisées, le stockage des bases de données, la mise à
disposition de données dans des espaces d’analyse, enfin l’accès à des outils d’exploitation
de données.

25
 Source : Health Data Hub

La question sensible de l’hébergement des données de santé par le HDH

L’hébergement des données du SNDS gérées par le HDH a donné lieu à un débat autant
technique que politique. Seul acteur certifié pour l’hébergement des données de santé, la
société Microsoft Azure a été désignée en 2019 pour fournir ce service au HDH.
Or, les sociétés américaines étant soumises au Cloud Act ainsi qu’à diverses dispositions
d’application extraterritoriale, la possibilité de voir les données de santé des patients français
accessibles par les pouvoirs publics américains a fortement ému. Les protections juridiques
apportées par les textes régissant les transferts de données entre Europe et États-Unis et le
fait que les données resteront hébergées par Microsoft Azure sur des serveurs situés
physiquement sur le territoire français n’ont pas levé toutes les craintes.
La constitution d’une solution de cloud souverain sécurisée (SecNumCloud) et surtout
suffisamment performante pour héberger les données du SNDS est donc en cours, mais ne
devrait pas voir le jour avant la fin 2025.
Validé par la Cnil début 2024 pour une durée de 3 ans, l’hébergement par la même société
Microsoft Azure de l’entrepôt de données de santé EMC2 souhaité par l’Agence européenne
du médicament (EMA) et géré lui aussi par le HDH s’est effectué à partir du même constat de
l’incapacité d’une offre souveraine à offrir des services techniquement satisfaisants. Ce choix
a suscité les mêmes critiques.
L’orientation politique vers un cloud souverain sécurisé ne doit pas être remise en cause, car
un certain degré de maîtrise technologique est la condition pour ne pas dépendre d’acteurs
hors UE.

26
B. LA BONNE UTILISATION DES DONNÉES ET LA LUTTE CONTRE LES BIAIS
Si l’accès aux données est stratégique, leur bonne utilisation pour entraîner les systèmes
d’IA l’est tout autant. Avec le développement des IA génératives, fondées sur de
l’apprentissage automatique, la lutte contre les biais doit être intégrée au processus de
production d’information par le système lui-même.
Ainsi, l’entraînement des IA génératives sur des données non représentatives de la
population générale par manque de diversité d’âge, de genre, voire d’origine ethnique dans
les données de base, peut conduire à « passer à côté » lorsque l’on cherche à appliquer
l’outil sur des individus présentant des caractéristiques spécifiques. En imagerie médicale,
par exemple, si une base comprend plus d’hommes que de femmes, ces dernières risquent
d’être moins bien diagnostiquées par l’IA 1.
Une récente revue de littérature a identifié six sources de biais inhérents aux données
numériques de santé : des biais liés aux essais cliniques antérieurs, des biais liés à
l’insuffisance de données ou leur insuffisante annotation, des biais liés à des préjugés
cliniques, des biais de références, des biais liés aux profils de risques, et des biais liés aux
machines et algorithmes eux-mêmes 2. Ces multiples biais peuvent se combiner entre eux
et avoir des effets exponentiels.
Si les professionnels de santé utilisateurs des systèmes d’IA ne connaissent pas bien
les limites de leurs outils, et notamment ne sont pas informés des possibles biais des
systèmes d’IA qu’ils utilisent, ils ne peuvent pas se distancier des résultats proposés
par les machines et sont alors susceptibles d’être induits en erreur dans leur analyse
clinique.
Il existe également un risque d’erreurs non détectées lorsque l’IA travaille sur des données
« falsifiées » (volontairement ou pas), conduisant à des résultats absurdes qu’une
intelligence humaine aurait pu écarter par un simple raisonnement logique. Il est donc
nécessaire d’effectuer un contrôle sur les données qui seront utilisées dans les systèmes
d’IA en santé.

2. FAIRE FACE À LA CRAINTE D’UNE MÉCANISATION DE LA MÉDECINE

A. LE SCÉNARIO REDOUTÉ DU ROBOT-MÉDECIN

Dès lors que les performances des IA se rapprochent

de celles des médecins, ce qui est déjà le cas en
analyse d’images, se pose la question du
remplacement à terme de l’homme par la machine.
Il est évident que les systèmes d’IA n’ont aujourd’hui
pas la capacité à assurer une analyse complète des
besoins du patient et n’interviennent que pour
répondre à une question précise : localisation de
tumeurs, identification de biomarqueurs, mise en
forme d’informations médicales dispersées, etc.

1 Voir l’étude américaine datant de 2020 : Larrazabal AJ, Nieto N, Peterson V, Milone DH, Ferrante E., « Gender imbalance
in medical imaging datasets produces biased classifiers for computer-aided diagnosis », Proc Natl Acad Sci USA, 9 juin
2020 ; https://pubmed.ncbi.nlm.nih.gov/32457147/.
2 Voir l’étude américaine datant de 2024 : Perets O, Stagno E, Yehuda EB, McNichol M, Anthony Celi L, Rappoport N,

Dorotic M., « Inherent Bias in Electronic Health Records: A Scoping Review of Sources of Bias », medRxiv [Preprint],
12 avril 2024 ; https://pubmed.ncbi.nlm.nih.gov/38680842/.

27
Une IA globale capable de prendre en charge un patient paraît à ce stade hors d’atteinte.
Mais l’expérience de la performance d’IA peut conduire à une automatisation de
nombreuses tâches d’analyses complexes, contribuant à créer une nouvelle expertise
de la machine, à laquelle on sera enclin à faire systématiquement confiance dès lors que
l’on constate qu’elle se trompe rarement. Lors de son audition, le Pr Guillaume Assié
soulignait que l’aide au diagnostic, lorsqu’elle fonctionne bien, pouvait rapidement se
transformer en diagnostic automatisé. Avec l’automatisation, il existe un risque réel de
déqualification de praticiens amenés à ne plus réaliser certains actes. L’expertise humaine
sera transférée à un petit nombre d’hyper-spécialistes de l’ingénierie biomédicale
numérique qui auront la lourde charge de qualifier les systèmes d’IA et de les surveiller.
L’intégration d’IA performantes dans les processus de soins pourrait conduire à une
standardisation des procédures médicales, une meilleure application des protocoles de
soins ou des bonnes pratiques correspondant au dernier état de la science. Il pourrait en
résulter un bénéfice global pour les patients, avec une limitation des erreurs médicales et
davantage d’égalité dans la qualité des prises en charge.
Pour autant, une confiance aveugle dans l’IA pourrait aussi amener à rater les cas
particuliers, ou à ne pas pouvoir traiter des maladies émergentes, non répertoriées.
L’entraînement des IA peut au demeurant avoir tendance à stériliser l’innovation. Dans son
rapport à l’Académie nationale de médecine sur les IA génératives, le Pr Bernard Nordlinger
note que « l’analyse rétrospective, si elle contribue à construire une base de travail ne peut
suffire à générer des hypothèses originales, par essence prospectives et issues de la
créativité et de l’inventivité du chercheur ».
Un autre souci connu est la propension des IA génératives, qui fonctionnent sur des
modèles probabilistes, à produire des « hallucinations », c’est-à-dire des réponses fausses,
certes rares, mais d’autant plus problématiques qu’elles peuvent être non détectables (voir
rapport thématique n° 1 p. 23).
Le corollaire de cette évolution serait un déplacement de responsabilité du praticien vers
le fournisseur de la solution informatique : la non-détection d’une tumeur par la machine
ne pourrait pas être reprochée au radiologue, dès lors que l’analyse des clichés
radiologiques est faite de manière automatique.
Le médecin serait alors réduit à un rôle de supervision et éventuellement de sélection
des IA qu’il envisage d’utiliser pour son travail. Outre les difficultés techniques qu’il
rencontre, la prise en charge médicale ne se résumant pas à une suite d’équations à
résoudre et l’IA n’ayant pas une capacité globale d’analyse, ce scénario se heurte à de réels
obstacles en termes d’acceptabilité sociale et éthique. Il est ainsi établi qu’on accepte moins
bien les erreurs faites par des machines que celles faites par des humains. Le chemin vers
une IA de confiance ne se confond pas avec une IA totalement autonome et une
approche mécaniste de la santé.

B. LE SCÉNARIO PRÉFÉRÉ DU SOIGNANT AUGMENTÉ

Un autre scénario, plus satisfaisant mais aussi plus probable, est celui du soignant
augmenté. L’IA constituerait un outillage supplémentaire. Le Pr Alexandre Loupy rappelait,
lors de son audition, que les médecins n’ont jamais cessé d’inventer des outils pour
améliorer leur pratique : stéthoscope, électrocardiogramme, radiographies. L’IA est un outil
supplémentaire de connaissance, une sorte de « cognoscope » capable de faire des
synthèses que l’on ne peut plus faire nous-mêmes du fait du trop-plein d’informations.

28
Mais comme le faisait remarquer le Pr Bernard Nordlinger, les outils d’IA proposant de faire
une synthèse diagnostique complète n’ont pas encore fait leurs preuves. Les soignants
conservent donc toute leur place pour rassembler les informations venant de sources
disparates. Par ailleurs, la relation entre un médecin et un patient reste incontournable pour
collecter des informations importantes qui peuvent être hors du champ de vision d’une IA.
Pour que l’utilisation de l’IA comme outil contribue à l’amélioration de la santé, il est
important que ses mécanismes soient compris par l’ensemble des parties prenantes,
médecins comme patients. L’explicabilité constitue un impératif éthique qui va au-delà de la
simple exigence de transparence algorithmique. Il ne s’agit pas d’atteindre une explicabilité
complète, d’ailleurs inatteignable avec les technologies d’IA génératives du fait de leur
fonctionnement même, mais de comprendre la manière dont les IA déployées parviennent
à fournir des résultats. L’enjeu est de pouvoir connaître les biais possibles, écarter les
résultats douteux, garder une distance critique, pour que l’IA reste au final un outil au service
d’une prise de décision demeurant dans les mains des médecins. L’explicabilité est
importante pour les soignants, mais elle l’est aussi pour les patients qui doivent
pouvoir effectuer des choix éclairés sur leur prise en charge.
Cette exigence d’explicabilité vaut dans les activités cliniques, mais aussi dans le domaine
de la recherche. Ainsi, en recherche, les IA génératives sont capables de produire des
synthèses mais ne peuvent pas fournir une bibliographie expliquant d’où elles tirent leurs
informations. Pire, lors de son audition, la Pr Brigitte Seroussi indiquait qu’une IA pourrait
être trompée par de fausses publications, sans avoir les moyens de repérer que les données
d’entrée posent problème. Lors de la crise du covid, plusieurs publications erronées ont été
publiées dans des revues scientifiques avant d’être retirées. Même des éditeurs de
référence comme The Lancet ont été touchés.
Dans ces conditions, il serait dangereux de faire du soignant un simple opérateur de
l’IA, dépourvu de capacités de contrôle et n’exerçant plus que formellement sa
fonction de décision. À l’inverse, le soignant augmenté de demain aura besoin d’outils d’IA
qui l’aident dans sa pratique, lui permettent de gagner du temps, de disposer d’informations
plus complètes et fiables pour poser les meilleurs diagnostics et proposer les meilleurs
traitements à chaque patient.

3. SE METTRE EN ORDRE DE BATAILLE POUR TIRER LE MEILLEUR

PARTI DE L’IA POUR NOTRE SYSTÈME DE SANTÉ

A. DONNER UN CADRE ÉTHIQUE SOLIDE À L’IA EN SANTÉ

Les pratiques médicales doivent être conformes à l’éthique. Celle-ci implique un certain
nombre de comportements vertueux qui reposent sur quelques principes solides : ceux du
code de Nuremberg de 1947 (impliquant par exemple le consentement libre et éclairé des
individus dans le cadre de la recherche médicale), de la déclaration d’Helsinki de 1964 ou
encore de la Convention d’Oviedo de 1997.
Quatre principes constituent le socle de la bioéthique : le respect de l’autonomie de
la personne, la bienfaisance, la non-malfaisance et la justice (principes énoncés par le
rapport Belmont de 1979). Le développement du numérique dans le domaine de la santé
transforme les conditions d’exercice de l’éthique médicale et l’IA ajoute une complexité
supplémentaire.

29
À l’échelle internationale, l’OMS a publié en 2021 des lignes directrices pour l’éthique et la
gouvernance de l’IA pour la santé 1, complétées en 2024 par des lignes directrices pour
l’éthique et la gouvernance des grands modèles multimodaux2 qui fixent quelques grands
principes.

Les 6 principes éthiques régissant l’utilisation

de l’intelligence artificielle pour la santé d’après l’OMS

● Protéger l’autonomie de l’être humain : la décision médicale ne peut être totalement

déléguée à la machine ;

● Promouvoir le bien-être et la sécurité des personnes et l’intérêt public : les IA ne doivent

pas pouvoir nuire ;

● Garantir la transparence, l’explicabilité et l’intelligibilité des IA ;

● Favoriser la responsabilité et la responsabilisation : l’IA ne doit pas conduire à exonérer

les humains de leurs responsabilités ;

● Garantir l’inclusion et l’équité : l’IA ne doit pas être discriminatoire et corriger les biais ;

● Promouvoir une IA réactive et durable (en limitant son impact environnemental).

Dans ses lignes directrices de 2024, l’OMS indique que les grands modèles multimodaux
(LMM) de l’IA générative font peser des risques supplémentaires (augmentation des biais
d’automatisation) qui nécessitent de renforcer les exigences éthiques par un renforcement
des audits des outils d’IA et une évaluation plus approfondie des résultats.
À l’échelle nationale, un corpus éthique sur l’IA en santé est aussi en cours de construction.
Créé en 1983, le Comité consultatif national d’éthique (CCNE) formule des avis qui
constituent autant de lignes directrices que l’ensemble des acteurs du secteur médical et
biomédical (chercheurs, médecins, ingénieurs) doivent s’efforcer de mettre en œuvre. Il a
créé en son sein en 2019 un Comité national pilote d’éthique du numérique (CNPEN) pour
aborder de manière globale les enjeux d’éthique du numérique.

Les IA ne répondent pas à des impératifs moraux. Ce sont des outils

dotés d’une certaine autonomie de fonctionnement mais sans
conscience et sans affect. Toutefois, les concepteurs de ces IA
peuvent les doter de filtres permettant de respecter certaines
prescriptions morales. Par ailleurs, la manière de se servir des IA
n’est pas neutre et les données manipulées, touchant à la santé des
individus et à leur vie privée, sont sensibles.

1 World Health Organization, Ethics and governance of artificial intelligence for health – WHO guidance, 28 juin 2021 ;
https://www.who.int/publications/i/item/9789240029200.
2 World Health Organization, Ethics and governance of artificial intelligence for health: guidance on large multi-modal

models, 2024 ; https://iris.who.int/handle/10665/375579.

30
Le CNPEN a déjà formulé plusieurs avis sur les utilisations de l’IA en santé 1 et un avis
commun au CCNE et au CNPEN est en préparation sur l’IA dans le diagnostic médical.
L’acceptabilité sociale de l’IA en santé passe en effet par le respect de règles éthiques
garantissant une certaine morale de l’IA.
Ainsi, les fournisseurs de solutions d’IA sont incités à former les utilisateurs, leur décrire les
possibles biais, leur fournir une documentation claire et les informer des effets d’éventuelles
mises à jour. De leur côté, les utilisateurs de l’IA doivent informer les patients des méthodes
qu’ils utilisent pour formuler un diagnostic. L’utilisation de l’IA ne doit pas être cachée et l’IA
ne doit pas constituer une « boîte noire » incompréhensible.
Un autre principe éthique impose que les responsabilités du fournisseur d’IA et de son
utilisateur soient bien définies. Ce dernier doit disposer également d’outils de contrôle.
La décision finale ne doit pas lui échapper.
Une autre exigence tient au consentement des patients et à la protection de leur vie privée :
la collecte des données doit avoir été acceptée et ces dernières doivent être anonymisées.
Seules les données nécessaires au traitement doivent être collectées.
Le développement de l’IA conduit à devoir adapter le cadre juridique de la collecte et du
traitement des données ainsi que des usages qui en découlent. Le cadre de la protection
des données personnelles régi par la loi de 1978 et mis en œuvre par la Cnil doit ainsi
évoluer. À l’échelle européenne, la conciliation entre une exigence forte de protection des
droits et de soutien à l’innovation s’est concrétisée dans la « loi européenne sur l’intelligence
artificielle » dite AI Act. Ce texte, formellement adopté en mars 2024, impose que les
produits, services et procédés mis sur le marché européen respectent une série
d’exigences : non-discrimination dans la construction des algorithmes, sécurité
informatique, garantie d’un contrôle humain, information et transparence, marquage CE
mais aussi durabilité environnementale.

L’AI Act : un règlement européen pour concilier innovation et protection

Le règlement européen sur l’IA définit différents niveaux de risques :
● les systèmes d’IA à risque inacceptable sont interdits : il s’agit par exemple des systèmes de
notation sociale ou des IA manipulatrices (techniques subliminales, exploitation de
vulnérabilités, systèmes de notation sociale) ;
● les systèmes d’IA à haut risque (dont la liste est établie à l’annexe III du règlement) sont
fortement réglementés : leurs fournisseurs doivent informer de la manière dont ils collectent et
traitent les données, garantir la cybersécurité de leur dispositif, prendre des précautions dans
la gestion de leurs données ;
● les systèmes d’IA à risque limité sont soumis à des obligations légères de transparence ;
● les systèmes d’IA considérés comme sans risque ne sont soumis à aucune obligation.

1 Quatre avis rendus :

- n° 7 du 30 juin 2023 « Systèmes d’intelligence artificielle générative : enjeux d’éthique » ;
- n° 5 du 9 mai 2023 « Plateformes de données de santé : enjeux d’éthique » ;
- n° 4 du 10 janvier 2023 « Diagnostic médical et intelligence artificielle : enjeux éthiques » ;
- n° 3 du 9 novembre 2021 « Agents conversationnels : enjeux d’éthique ».

31
Les IA organisant l’accès aux soins de santé sont considérées comme à haut risque.
Néanmoins, les outils construits pour la recherche sont hors du champ d’application du
règlement. Par ailleurs, son article 59 prévoit que les données à caractère personnel
collectées légalement peuvent être utilisées pour entraîner des algorithmes en mode dit
« bac à sable » pour la détection, le diagnostic, la prévention, le contrôle et le traitement des
maladies ainsi que l’amélioration des systèmes de soins de santé.
Le projet de règlement européen prévoyant la mise en place d’un espace européen des
données de santé (EEDS), en cours d’adoption, normalise les possibilités de recueil des
données de santé, de partage et de traitement de celles-ci, pour concilier là aussi l’exigence
de protection des données personnelles et l’impératif d’utilisation des données disponibles
sur la santé pour améliorer globalement la prise en charge des patients.

B. APPORTER UN SOUTIEN PUBLIC FORT AU DÉPLOIEMENT DE L’IA EN SANTÉ

Il existe aujourd’hui un foisonnement d’initiatives pour déployer des IA dans le secteur de la
santé, avec des technologies très variées : apprentissage machine, apprentissage profond,
réseaux de neurones. Nous en sommes à un stade encore largement expérimental, fait de
tâtonnements et d’ajustements, mais aussi de changements rapides.
Le rejet de ces nouvelles techniques n’est une option ni réaliste ni juste. Il est évident que
des outils efficaces seront adoptés par les médecins et les patients. Il ne serait par ailleurs
pas éthique de refuser d’utiliser l’IA si celle-ci permet de « mieux soigner ».
Les domaines des applications numériques de santé recensées par France Biotech sont
très divers et cet outillage supplémentaire devrait se révéler globalement utile.

Annoncée en 2018 à la suite du rapport Villani, la stratégie nationale pour l’intelligence

artificielle (SNIA) visait à positionner la France comme un des leaders européens et
mondiaux de l’IA et s’appuyait sur les financements du plan France 2030. La santé constitue
l’un des volets importants de cette stratégie.

32
Sur le plan du pilotage et de la gouvernance, la France s’est ainsi dotée en 2019 (stratégie
Ma Santé 2022) d’une Délégation au numérique en santé (DNS) devenue direction
d’administration centrale du ministère de la santé en mai 2023, ainsi que d’une Agence de
l’innovation en santé (AIS), créée en 2022 et chargée notamment de suivre le volet santé
de France 2030 (environ 10 % de l’enveloppe globale des 54 milliards d’euros du plan) ainsi
que de faciliter les démarches des porteurs de projets. Lors de son audition, l’AIS a précisé
accompagner aujourd’hui une quarantaine de projets innovants en santé, parmi lesquels la
moitié utilisent des technologies d’IA.
L’objectif consiste à tirer parti des innovations pour améliorer la santé, mais aussi à se doter
d’un tissu économique capable de porter ces innovations. Il s’agit de tirer parti de
l’excellence de nos laboratoires et de nos chercheurs en santé et biotechnologies pour
développer les pépites technologiques de demain et ne pas voir fuir la valeur créée
aux États-Unis ou en Chine.
Le rapport de mars 2024 de la Commission de l’intelligence artificielle 1, présidée par
Philippe Aghion et Anne Bouverot, entendus par la délégation à la prospective du Sénat le
26 mars 2024 2, pointe bien cette difficulté en indiquant que « la France et l’Europe
encourent le risque d’un rapide déclassement économique », ajoutant que « le retard en
matière d’intelligence artificielle porte atteinte à notre souveraineté. Une faible maîtrise de
la technologie implique effectivement un lien à sens unique vis-à-vis des autres pays. »
Le développement de solutions numériques en santé exploitant le potentiel de l’IA est un
axe majeur pour les entreprises du secteur de la santé, mais il se heurte aux difficultés de
financement, au moins dans les premières phases de tests et de montée en puissance.
Des financements privés sont mobilisés à travers les levées de fonds opérées par les
sociétés de la « healthtech ». En Europe et aux États-Unis, celles-ci ont atteint plus
de 55 milliards d’euros en 2021 (dont les 2/3

400 M€
par des sociétés américaines) ; ce chiffre est
retombé à 29,5 milliards d’euros en 2022 et
23,7 milliards d’euros en 2023. En France, on
est passé de 2,6 milliards d’euros en 2022 à Montant des investissements publics
1,76 milliard d’euros en 2023, d’après le dans l’IA en santé
(d’après l’AIS)
panorama 2024 dressé par France Biotech,
l’association fédérant les entreprises du secteur
de la santé.
Des soutiens publics sont donc également nécessaires pour suppléer ou compléter
un financement privé insuffisant. D’après l’AIS, la stratégie d’accélération santé
numérique (SASN) a permis de soutenir en deux ans 148 projets pour 320 millions d’euros
d’aides. Les financements publics favorisant l’IA en santé peuvent s’appuyer notamment sur
le programme d’équipement prioritaire de recherche (PEPR) Santé numérique doté de
60 millions d’euros, le financement des entrepôts de données de santé pour 75 millions
d’euros, l’appel à manifestation d’intérêt « compétences et métiers d’avenir » pour
10 millions d’euros, le grand défi IA doté de 30 millions d’euros sur le volet santé ou encore
le projet important d’intérêt commun européen commun (PIIEC) doté de 80 millions d’euros.
L’AIS estime le montant total d’investissements publics dans l’IA en santé à environ
400 millions d’euros depuis le lancement des programmes d’investissement d’avenir (PIA).

1 Philippe Aghion, Anne Bouverot, IA : notre ambition pour la France, 15 mars 2024 ; https://www.vie-
publique.fr/rapport/293444-ia-notre-ambition-pour-la-france.
2 Audition de Philippe Aghion et Anne Bouverot, co-présidents de la Commission de l’intelligence artificielle, par la délégation

à la prospective, le 26 mars 2024 ; https://www.senat.fr/compte-rendu-commissions/20240325/pro_2024_03_26.html.

33
 Un exemple de projet soutenu : MediTwin

Annoncé fin 2023, le projet MediTwin vise à développer une plateforme européenne et
souveraine de services pour l’aide à la décision médicale. Il regroupe 13 partenaires
(1 industriel : Dassault Systèmes, 3 startups, 1 organisme de recherche, 7 IHU et 1 CHU).
Il repose sur la virtualisation des organes et des systèmes physio-pathologiques à partir des
données médicales pour une amélioration de l’efficience des soins ainsi que de l’efficacité et
la sécurité des pratiques médicales, reposant sur la capacité à prédire l’évolution et le succès
des différentes interventions possibles.
Dans le cadre du projet, sept cas d’usage seront développés dans différentes pathologies
(notamment en oncologie, neurologie dont Alzheimer, cardio-vasculaire) pour permettre aux
spécialistes de partager les données sur les patients, d’apporter une réponse à la
fragmentation actuelle des connaissances ainsi que des savoir-faire complexes, d’améliorer
l’accès et l’égalité aux soins des patients, sans oublier d’améliorer aussi les conditions de
travail du personnel soignant.
Dans le cadre de France 2030, MediTwin bénéficiera de 2024 à 2029 d’un financement public
représentant un levier fort pour soutenir le développement de la filière santé numérique, avec
l’objectif de transformer un marché intérieur français en un secteur économique exportateur et
innovant.

Source : Agence de l’innovation en santé

34
 CONCLUSIONS ET RECOMMANDATIONS
Confronté à l’explosion des données, à la complexité des situations, dans un contexte de
tensions budgétaires et de temps contraint pour assurer les soins aux patients, le secteur
de la santé est l’un de ceux qui pourraient le plus tirer parti des progrès de l’IA.
Le potentiel de transformation des pratiques soignantes par l’IA, au bénéfice des patients,
est fort. Le caractère spectaculaire de l’IA générative a porté un regain d’engouement pour
l’IA, même si nombre des applications de l’IA en santé ne relèvent pas de l’IA générative
mais de l’IA classique.
Il n’y a pas un modèle unifié d’IA mais en réalité plusieurs formes d’IA, pour lesquelles
une première exigence réside dans la qualité des données d’entrée utilisées pour entraîner
les modèles d’apprentissage automatisé et d’apprentissage profond. Les utilisations de l’IA
en santé sont également très variées : recherche, dépistage, fourniture d’informations, aide
à la décision, production documentaire.
La médecine a toujours intégré les meilleures connaissances et l’ensemble des
technologies disponibles pour améliorer la prise en charge des patients. Si l’IA est
capable de résoudre des questions pratiques comme la lecture d’un cliché radiologique, la
synthèse d’articles scientifiques ou la modélisation 3D de protéines, elle sera à n’en pas
douter adoptée par ceux dont le travail quotidien sera ainsi facilité.
Mais cette adoption pourrait se faire à un rythme variable : certains y auront accès plus vite
que d’autres, certains verrous psychologiques ou financiers créeront des réticences.
Les inégalités de santé pourraient s’accroître si l’on n’y prend pas garde.
L’IA va aussi transformer la relation entre patients et médecins, comme l’a déjà fait la
démocratisation de l’information médicale grâce à Internet. Mieux informés, les patients
seront plus exigeants mais ils pourront aussi être davantage acteurs des soins.
Enfin, l’IA pourrait transformer l’approche du soin, fondée largement aujourd’hui sur le
curatif. Avec l’IA et le développement des dépistages et prédictions à partir de données
massives, c’est vers une médecine plus personnalisée et plus axée sur la prévention de
l’apparition de potentielles maladies que l’on s’orientera. Nous pourrions faire ainsi des
économies dans les dépenses de santé, en évitant des traitements curatifs coûteux. Mais
nous pourrions aussi multiplier les examens de contrôle et dériver vers un monitoring
permanent anxiogène.
L’économie de la santé et celle du numérique seront davantage imbriquées, et l’enjeu
d’une IA souveraine n’est pas à négliger dans les politiques publiques nationale et
européenne.

Quatre axes se dégagent aujourd’hui pour une IA en santé

efficace et juste.

35
 4 AXES POUR UNE IA EN SANTÉ
EFFICACE ET JUSTE

1. DÉVELOPPER UNE CULTURE DE L’IA EN SANTÉ PAR LA FORMATION

INITIALE ET CONTINUE DES SOIGNANTS

Comme toute nouvelle technologie, son bon usage, voire son usage tout court, passe par
une étape de prise en main par ses utilisateurs et ses bénéficiaires.
Si l’informatique contemporaine se caractérise par d’importants efforts de fluidité et le souci
du caractère très intuitif des interfaces homme-machine, le fonctionnement de l’IA dans la
santé doit être bien compris afin d’en tirer profit, mais aussi d’en mesurer les limites.
La formation à l’IA devrait donc être intégrée aux cursus universitaires pour les médecins
mais aussi les professions paramédicales.
Pour adapter les personnels de santé déjà en poste, des efforts renforcés de formation
continue à l’utilisation des outils d’IA devraient aussi être envisagés.
Enfin, un nouveau métier d’opérateur de l’IA en santé pourrait voir le jour, pour gérer la
complexité et assurer une médiation entre les différents acteurs du système de santé :
soignants, patients et producteurs de dispositifs médicaux numériques.

2. ACCÉLÉRER L’ACCÈS DES CHERCHEURS ET DES STARTUPS

AUX DONNÉES SECONDAIRES DE SANTÉ

L’accès aux données est une condition indispensable pour pouvoir développer des solutions
de haut niveau fondées sur l’utilisation de l’IA. Cela est possible sans remise en cause
fondamentale des grands principes de protection des données personnelles, en
développant les méthodologies de référence (MR) dont le respect permet de se passer des
procédures d’autorisation plus lourdes.
Une part importante des délais d’accès ne résulte pas de verrous juridiques mais de
contraintes techniques. Il convient de faire adopter par le plus grand nombre de producteurs
de données de santé des normes d’interopérabilité facilitant les croisements, et de renforcer
le rôle du Health Data Hub comme fédérateur des différentes bases de données.
Enfin, des contrats types pourraient lever les verrous contractuels entre producteurs et
utilisateurs de données, en définissant des normes de partage de la valeur.

36
 3. CONSTRUIRE UN CADRE ÉTHIQUE ROBUSTE DE L’INTELLIGENCE
ARTIFICIELLE EN SANTÉ

La confiance dans l’IA de la part de l’ensemble des acteurs de la santé, patients comme
professionnels, est conditionnée au respect de principes éthiques garantissant le caractère
fiable et non discriminant du fonctionnement des IA mises à disposition pour notre santé, la
protection des données personnelles de santé, qui sont des données sensibles qu’on ne
souhaite pas voir être exposées sur la place publique, ou encore l’absence de délégation
complète de la prise de décisions importantes à la machine. Patients comme soignants
doivent pouvoir comprendre avec précision la portée et les limites de l’utilisation des
solutions d’IA disponibles.
Les exigences éthiques doivent être intégrées dans les dispositifs d’IA dès leur conception
(ethics by design) et les enjeux d’éthique doivent être intégrés eux aussi dans la formation
des soignants à l’IA.
Enfin, les exigences éthiques doivent trouver leur traduction juridique dans les textes et leur
mise en application concrète. Le caractère dissuasif des sanctions prévues par l’AI Act
européen en cas de manquement des fournisseurs de services numériques à risque élevé
à leurs obligations (amende de 35 millions d’euros ou 7 % du chiffre d’affaires) constitue
une forte incitation à placer la barre haut en matière d’éthique. Il conviendra toutefois que
les instances nationales de contrôle (en France, la Cnil) disposent de moyens renforcés
d’investigation et d’expertise pour que la menace de sanctions puisse jouer à plein.

4. ÊTRE CAPABLE DE FINANCER LA « COURSE À L’IA »

Dans le domaine de la santé comme dans les autres domaines, l’IA connaît un essor qui se
traduit par la multiplication d’initiatives et d’expérimentations. L’irruption de l’IA générative a
donné un coup d’accélérateur aux investissements et contribue à faire évoluer très vite les
technologies et leurs possibilités d’application.
Cette phase expérimentale un peu foisonnante qui repose sur une multitude d’acteurs
pourrait être suivie d’une phase de stabilisation qui ne laissera que quelques opérateurs sur
le marché. Le rapport de la Commission de l’intelligence artificielle de mars 2024 alerte sur
le risque de rater la marche et de dépendre in fine de firmes américaines ou chinoises. Pour
éviter un décrochage français et européen, il propose d’investir 5 milliards d’euros sur 5 ans.
Il convient qu’une part significative de cette enveloppe soit orientée sur l’IA dans le domaine
de la santé.
L’ambition d’un écosystème de l’IA en santé peu dépendant de partenaires étrangers passe
aussi par l’accélération du projet de cloud sécurisé souverain, car nos données de santé,
au même titre que nos données de sécurité ou nos données fiscales, ne sauraient être
soumises au risque de transmission à une puissance étrangère.
Enfin, la course à l’IA ne trouvera un aboutissement concret pour les patients que si, au-delà
des investissements initiaux, un modèle économique est trouvé pour financer les nouveaux
outils par une tarification adaptée. Il s’agit de disposer de fonds au-delà de la seule phase
de mise en route. De ce point de vue, une enveloppe dédiée au secteur hospitalier pourrait,
sur le modèle du financement des missions d’intérêt général, favoriser l’acquisition et la
maintenance de solutions logicielles performantes.

37
 LES TRAVAUX DE LA DÉLÉGATION À LA PROSPECTIVE
L’IA ET L’AVENIR DU SERVICE PUBLIC

IA, impôts,
prestations sociales
et lutte contre la fraude
Sylvie Vermeillet Didier Rambaud
Sénatrice du Jura (UC) Sénateur de l’Isère (RDPI)

IA et santé
Anne Ventalon Christian Redon-Sarrazy
Sénatrice de l’Ardèche (LR) Sénateur de la Haute-Vienne (SER)

IA et éducation

Christian Bruyen Bernard Fialaire

Sénateur de la Marne (app. LR) Sénateur du Rhône (RDSE)

IA et environnement
Christine Lavarde Nadège Havet Jean-Baptiste Blanc
Sénateur des Hauts-de-Seine (LR) Sénatrice du Finistère (RDPI) Sénateur de Vaucluse (LR)

IA, territoires et proximité

Amel Gacquerre Jean-Jacques Michau

Sénatrice du Pas-de-Calais (UC) Sénateur de l’Ariège (SER)

Délégation à la prospective
http://www.senat.fr/commission/prospective/index.html