L’intelligence artificielle en santé ne se résume pas à un débat philosophique. L’éthique de l’IA médicale se mesure désormais à travers des textes réglementaires, des études cliniques et des écarts documentés entre populations de patients. Comparer les cadres européen et américain permet de poser la question autrement : quels garde-fous existent, et où restent les angles morts ?
AI Act et FDA : deux cadres réglementaires, deux niveaux de protection éthique
Le règlement européen sur l’intelligence artificielle (AI Act) classe la plupart des usages de l’IA en santé comme « à haut risque ». Les obligations qui en découlent ne concernent pas uniquement les fabricants de logiciels.
Lire également : L'impression 3D facilite la réparation de pièces électroniques
Les hôpitaux et établissements de santé sont considérés comme des « déployeurs » au sens du texte. Ils doivent organiser une supervision humaine des outils utilisés, conserver des traces d’utilisation et surveiller les incidents. Cette responsabilité partagée entre fabricant et utilisateur final distingue nettement l’approche européenne.
Le calendrier européen introduit une autre nuance : les obligations diffèrent selon que l’IA fonctionne de manière autonome ou qu’elle est intégrée à un dispositif médical déjà certifié. Un algorithme de tri aux urgences et un module d’aide intégré à un scanner ne sont pas soumis aux mêmes échéances ni aux mêmes exigences de conformité.
A lire aussi : Comment la technologie aide-t-elle l’économie ?
| Critère | AI Act (Union européenne) | FDA (États-Unis) |
|---|---|---|
| Classification des usages santé | Haut risque par défaut | Variable selon le dispositif |
| Obligations des établissements de santé | Supervision humaine, traçabilité, surveillance des incidents | Pas d’obligations équivalentes pour les déployeurs |
| Validation des biais démographiques | Exigée dans le cadre de la conformité | Recommandée, pas juridiquement contraignante |
| Données par sexe et par âge dans les études cliniques | Requises pour la mise en conformité | Fournies dans moins d’un tiers des autorisations (sexe) et moins d’un quart (âge) |
Ce tableau met en lumière un écart structurel. L’Europe impose des obligations aux deux bouts de la chaîne (fabricant et déployeur), tandis que la réglementation américaine reste centrée sur l’autorisation de mise sur le marché, sans garantie équivalente sur le terrain.
Biais algorithmiques en IA médicale : ce que révèlent les données de la FDA
L’étude publiée dans JAMA Network Open en avril 2025 a analysé 903 dispositifs d’IA autorisés par la FDA. Les résultats sont nets : moins d’un tiers fournissaient des données spécifiques au sexe dans leurs études cliniques. Pour les sous-groupes liés à l’âge, la proportion tombe à moins d’un quart des dispositifs autorisés.
Ce constat pose un problème concret d’éthique médicale. Un algorithme de détection de pathologies entraîné majoritairement sur des données masculines ou sur une tranche d’âge restreinte peut produire des résultats moins fiables pour les patients qui ne correspondent pas à ce profil. La FDA peut autoriser un outil sans preuve prospective détaillée d’une performance équivalente selon le sexe ou l’âge.
Les recommandations américaines sur la représentativité des données de santé existent, mais elles ne sont pas juridiquement contraignantes. Cette distinction entre recommandation et obligation crée un vide : un fabricant peut commercialiser un outil diagnostique sans avoir démontré qu’il fonctionne aussi bien sur l’ensemble des populations concernées.
Garantie humaine et responsabilité médicale face à l’IA
L’éthique de l’IA en santé ne se limite pas à la qualité des algorithmes. La question de la supervision humaine détermine qui porte la responsabilité en cas d’erreur. L’AI Act européen tranche en partie : les établissements doivent garantir une supervision humaine effective.
En pratique, cela signifie qu’un médecin ne peut pas se contenter de valider automatiquement la suggestion d’un algorithme. L’initiative Ethik IA, portée par des chercheurs et professionnels du secteur sanitaire, défend depuis plusieurs années cette idée de régulation positive. Le principe de garantie humaine implique qu’à chaque étape décisionnelle, un professionnel de santé conserve la capacité de contredire ou d’ajuster la recommandation algorithmique.
Trois conditions rendent cette garantie humaine crédible :
- La traçabilité des décisions : pouvoir reconstituer comment l’algorithme est arrivé à une suggestion, et pourquoi le médecin l’a suivie ou écartée
- La formation des professionnels de santé aux limites des outils algorithmiques, notamment sur les populations pour lesquelles les données d’entraînement sont insuffisantes
- Un cadre juridique qui précise la répartition de responsabilité entre le fabricant de l’outil, l’établissement déployeur et le praticien
Consentement du patient et transparence algorithmique
La loi de bioéthique française a renforcé les exigences en matière d’information du patient. Lorsqu’un outil d’IA intervient dans le parcours de soins, le patient doit en être informé. Ce droit à la transparence algorithmique reste un défi technique : expliquer le fonctionnement d’un réseau de neurones profond à un patient n’est pas comparable à l’explication d’un traitement médicamenteux.
La difficulté n’est pas seulement pédagogique. Certains modèles d’IA en imagerie médicale fonctionnent comme des boîtes noires, où le lien entre les données d’entrée et le résultat n’est pas interprétable, même par les concepteurs. L’éthique exige ici une transparence que la technologie ne permet pas toujours.
IA en santé et accès équitable aux soins : le risque d’une médecine à deux vitesses
L’accès aux outils d’IA médicale dépend des moyens financiers et technologiques des établissements. Un hôpital universitaire équipé de serveurs de calcul et d’équipes de data scientists n’est pas dans la même situation qu’un centre hospitalier de proximité.
Ce déséquilibre technique peut se traduire par des écarts de qualité diagnostique entre établissements, entre régions, et potentiellement entre pays. Les systèmes de santé qui investissent massivement dans l’IA risquent de creuser l’écart avec ceux qui n’en ont pas les moyens.
L’écart réglementaire entre l’Europe et les États-Unis sur la validation des biais aggrave cette dynamique. Un outil autorisé par la FDA sans données représentatives par sexe ou par âge peut ensuite être commercialisé dans des pays tiers aux cadres encore moins exigeants. L’éthique de l’IA en santé se joue aussi dans la géographie de sa régulation.
Le cadre européen, avec ses contraintes sur les déployeurs et ses exigences de représentativité, constitue le socle réglementaire le plus structuré à ce jour. Les données de l’étude JAMA Network Open montrent que sans contraintes juridiques, la représentativité des patients dans les études cliniques reste insuffisante. La réponse à la question éthique dépend moins de la technologie elle-même que des règles que chaque juridiction choisit de lui imposer.
