⦁ En réponse à un appel du Comité de bioéthique (DH-BIO) à travailler sur la confiance, la sécurité et la transparence, ce rapport étudie les impacts connus et potentiels des systèmes d’IA sur la relation médecin-patient. Cet impact est encadré par les principes des droits de l’homme mentionnés dans la Convention européenne sur les droits de l’homme et la biomédecine de 1997, autrement connue sous le nom de « Convention d’Oviedo », et ses amendements ultérieurs.
⦁ La mise en œuvre de l’IA dans le domaine des soins cliniques n’en est encore qu’à ses balbutiements. Une efficacité clinique n’a été établie que pour relativement peu de systèmes par rapport aux nombreuses activités de recherche menées sur les applications de l’IA en médecine. Bien souvent, les travaux de recherche, le développement et les essais pilotes ne se traduisent pas par une efficacité clinique avérée, une mise sur le marché ou un déploiement massif. Globalement, la généralisation de la performance des essais cliniques à la pratique reste à démontrer
⦁ L’une des caractéristiques de la médecine est la « relation thérapeutique » entre les cliniciens et les patients. Cette relation est renforcée par l’introduction de l’IA. Cependant, le rôle du patient, les facteurs qui poussent les gens à consulter un médecin et la vulnérabilité du patient ne sont pas modifiés par l’introduction de l’IA en tant que médiateur ou fournisseur de soins médicaux. Ce qui change plutôt, ce sont les moyens de fournir des soins, la manière dont ils peuvent être fournis et par qui. Le transfert de l’expertise et des responsabilités en matière de soins vers des systèmes d’IA peut être perturbant à bien des égards.
⦁ L’impact potentiel de l’IA sur les droits de l’homme dans la relation médecin- patient peut être classé selon six thèmes : (1) Inégalité dans l’accès à des soins de santé de qualité ; (2) Transparence vis-à-vis des professionnels de la santé et des patients ; (3) Risque de biais social dans les systèmes d’IA ; (4) Dilution de la prise en compte du bien-être du patient, (5) Risques de biais d’automatisation, de perte de compétences et de déplacement de la responsabilité ; (6) Conséquences sur le droit à la vie privée.
⦁ Concernant le point (1), le déploiement des systèmes d’IA – en tant que technologie émergente – ne sera ni immédiat ni universel dans tous les états membres ou systèmes de santé. L’ampleur du déploiement, sa vitesse, mais aussi la hiérarchisation des priorités sera inévitablement hétérogène dans les établissements et les régions.
⦁ Les conséquences de l’IA sur les soins cliniques et la relation médecin-patient demeurent incertaines et varieront certainement selon les technologies et les situations. Les systèmes d’IA peuvent s’avérer plus efficaces que les soins prodigués par des êtres humains, mais aussi fournir des soins de moindre qualité avec moins d’interactions personnelles.
1 Remplacé depuis par le Comité directeur pour les droits de l‘Homme dans les domaines de la biomédecine et de la santé (CDBIO).
⦁ Le déploiement hétérogène des systèmes d’IA, dont les conséquences sur l’accès et la qualité des soins sont incertaines, risque de créer de nouvelles inégalités en matière de santé dans les états membres.
⦁ L’article 4 de la Convention d’Oviedo renvoie à l’obligation qu’ont les professionnels de la santé de prodiguer des soins en respectant des normes professionnelles. Or, il n’est pas clair si les développeurs, les fabricants et les fournisseurs de services pour les systèmes d’IA seront tenus de respecter les mêmes normes professionnelles.
⦁ Au moment d’intégrer des systèmes d’IA qui interagissent directement avec les patients, il convient d’examiner attentivement le rôle joué par les professionnels de la santé, lesquels sont tenus de respecter des normes professionnelles.
⦁ Concernant le point (2), la transparence et le consentement éclairé sont des valeurs clés dans la relation médecin-patient médiée par l’IA. La complexité de l’IA soulève une question : comment les systèmes d’IA doivent-ils s’expliquer, ou être expliqués, aux médecins et aux patients ? Cette question a de nombreuses significations possibles : (i) Comment fonctionne un système ou un modèle d’IA ? Comment un système d’IA produit-il un résultat spécifique ?
(ii) Comment un système d’IA a-t-il été conçu et testé ? Comment est-il régi ? (iii)Quelles informations sont nécessaires pour enquêter sur le comportement des systèmes d’IA ? Les réponses à chacune de ces questions peuvent être nécessaires pour obtenir un consentement éclairé dans le cadre de soins facilités par l’IA.
⦁ Dans les cas où les systèmes d’IA fournissent une certaine forme d’expertise clinique, par exemple en recommandant un diagnostic particulier ou en interprétant des images médicales, l’obligation d’expliquer la décision serait apparemment transférée du médecin au système d’IA, ou du moins au fabricant du système d’IA. Les difficultés à expliquer comment les systèmes d’IA transforment les données d’entrée en données de sortie posent un défi épistémologique fondamental pour le consentement éclairé. Si l’on met de côté la capacité du patient à comprendre les fonctionnalités des systèmes d’IA, dans de nombreux cas, les patients n’ont tout simplement pas un niveau de connaissances suffisant pour donner un consentement libre et éclairé. Les systèmes d’IA utilisent des volumes de données sans précédent pour prendre leurs décisions et interprètent ces données à l’aide de techniques statistiques complexes. Dès lors, il est de plus en plus difficile de mesurer l’ampleur du traitement des données utilisées pour les diagnostics et les traitements.
⦁ Les systèmes d’IA qui interagissent directement avec les patients devraient leur indiquer qu’ils sont des systèmes artificiels. La question de savoir si l’utilisation de systèmes d’IA dans le secteur de la santé doit être toujours communiquée aux patients par les cliniciens et les établissements de santé est plus difficile.
⦁ Concernant (3), les systèmes d’IA sont largement reconnus comme souffrant de biais dans leurs entrées, leur traitement et leurs sorties. Dans les systèmes d’IA, les décisions biaisées et injustes ne sont souvent pas le produit de raisons techniques ou réglementaires, mais traduisent plutôt des biais sociaux et les inégalités sociales sous-jacentes. Par exemple, les échantillons des essais cliniques et des études sur la santé ont toujours été biaisés en faveur des hommes blancs, ce qui signifie que les résultats sont moins susceptibles de s’appliquer aux femmes et aux personnes de couleur.
⦁ Les biais sociaux peuvent conduire à une distribution inégale des résultats entre les populations ou les groupes démographiques protégés. Les sociétés occidentales ont longtemps été marquées par d’importantes inégalités sociales. Ces tendances historiques et contemporaines influencent la formation des futurs systèmes. Sans intervention, les systèmes d’IA apprendront et renforceront ces modèles préexistants qui favorisent l’inégalité des chances et l’inégal accès aux ressources dans la société.
⦁ La détection des biais dans les systèmes d’IA n’est pas simple. Des règles biaisées en matière de prise de décision peuvent être cachées dans des modèles de type « boîte noire ». La simple anonymisation des données de santé peut ne pas être une solution adéquate pour atténuer les biais en raison de l’influence de l’inégalité historique et de l’existence de substituts puissants pour les attributs protégés (par exemple, le code postal comme substitut de l’ethnicité). À en juger par ces divers problèmes de biais social, de discrimination et d’inégalité, les professionnels et les établissements de santé font face à une tâche difficile, à savoir veiller à ce que leur utilisation des systèmes d’IA n’aggrave pas les inégalités existantes et ne crée pas de nouvelles formes de discrimination.
⦁ Concernant (4), le développement de la confiance dans une relation médecin- patient peut être inhibé par la médiation technologique. En tant que médiateur placé entre le médecin et le patient, les systèmes d’IA peuvent empêcher la compréhension tacite de la santé et du bien-être du patient, et encourager le clinicien et le patient à discuter de la santé uniquement en termes de quantités mesurables ou interprétables par une machine.
⦁ Concernant (5), pour assurer la sécurité des patients et remplacer la protection offerte par l’expertise clinique humaine, des normes de test et de validation robustes sont nécessaires dans le pré-déploiement des systèmes d’IA dans le contexte de soins cliniques. Il n’existe pas encore de preuves de l’efficacité clinique de nombreuses technologies d’IA dans le domaine des soins de santé, ce qui a constitué, à juste titre, un obstacle à leur déploiement à grande échelle.
⦁ Concernant (6), l’IA pose plusieurs problèmes spécifiques liés au droit à la vie privée et aux réglementations complémentaires en matière de protection des données.). Ces droits visent à faire bénéficier les individus d’une plus grande transparence et d’un meilleur contrôle sur les formes automatisées de traitement des données. Ils apporteront sans aucun doute une protection précieuse aux patients dans toute une série d’utilisation de l’IA médicale.
⦁ La Convention d’Oviedo prévoit une application spécifique du droit à la vie privée (article 8 de la CEDH) qui reconnaît la nature particulièrement sensible des informations personnelles relatives à la santé et établit un devoir de confidentialité pour les professionnels de la santé.
⦁ Des normes éthiques doivent s’appuyer sur la transparence, les biais, la confidentialité et l’efficacité clinique afin de protéger les intérêts des patients en matière de consentement éclairé, d’égalité, de vie privée et de sécurité. De telles normes pourraient servir de base à un déploiement de l’IA dans le secteur de la santé qui favoriserait la relation de confiance entre les médecins et les patients plutôt que de l’entraver.
⦁ Dans les cas où on observe un impact évident de l’IA sur les droits et les protections exposés dans la convention d’Oviedo, il est opportun que le Conseil de l’Europe présente des recommandations et des exigences contraignantes pour les signataires concernant la façon d’utiliser et de gérer l’IA. Les recommandations devraient se concentrer sur un niveau plus élevé de soins positifs en ce qui concerne la relation médecin-patient, afin de s’assurer qu’elle ne soit pas exagérément perturbée par l’introduction de l’IA dans les environnements de soins.
⦁ Le Conseil de l’Europe pourrait établir des normes sur le contenu et la manière dont les informations sur la recommandation d’un système d’IA concernant le diagnostic et le traitement d’un patient devraient être communiquées au patient. Ces normes devraient elles aussi aborder le rôle que joue le médecin pour expliquer aux patients les recommandations en matière d’IA et la façon dont les systèmes d’IA peuvent être conçus pour l’accompagner dans ce rôle.
⦁ La capacité de l’IA à remplacer ou à augmenter l’expertise clinique humaine par des analyses très complexes sur des données d’une ampleur et d’une diversité sans précédent, pourrait bien modifier la relation médecin-patient dans des proportions jamais atteintes auparavant.
⦁ La mesure dans laquelle un système d’IA fait obstacle à la « bonne » pratique de la médecine dépend du modèle de service. Si l’IA vient seulement compléter l’expertise des professionnels de la santé, lesquels sont liés par le devoir de loyauté vis-à-vis à du patient, ses effets sur la fiabilité et la qualité humaine des entretiens cliniques peuvent se révéler minimes. D’un autre côté, dans le cas où l’IA est utilisée pour étoffer largement l’expertise clinique humaine ou pour la remplacer, son impact sur la relation de soins est plus difficile à prévoir. Avec le recours croissant aux systèmes d’IA, de nouvelles normes, largement admises, en matière de « bons » soins verront sans doute le jour, les cliniciens passant plus de temps en face à face avec leurs patients tout en s’appuyant largement sur des recommandations issues de systèmes automatiques. L’impact de l’IA sur la relation médecin-patient reste très incertain. Il est peu probable que nous assistions dans les cinq prochaines années à une reconfiguration radicale des soins, c’est-à-dire à un remplacement de l’expertise humaine par l’intelligence artificielle.
⦁ Une reconfiguration radicale de la relation médecin-patient telle que certains l’imaginent, où des systèmes artificiels diagnostiqueraient et traiteraient les patients directement, les cliniciens humains intervenant a minima, reste, semble-t-il, une perspective lointaine.
⦁ À l’avenir, le modèle idéal de soins cliniques et de déploiement de l’IA dans les soins de santé est celui qui utilise les meilleurs aspects de l’expertise clinique humaine et des diagnostics de l’IA.
⦁ La relation médecin-patient est une pierre angulaire de la « bonne » pratique médicale, et pourtant, elle semble évoluer vers une relation médecin-patient-IA. Le défi auquel sont confrontés les fournisseurs d’intelligence artificielle, les autorités de réglementation et les décideurs est de définir des normes et des exigences solides pour ce nouveau type de relation thérapeutique, afin que les intérêts des patients et l’intégrité morale de la médecine en tant que profession ne soient pas fondamentalement endommagés par l’introduction de l’IA.
