IA + Santé: Perspectives Italo-franco-canadiennes.
Lawyers, physicians and computer scientists from France, Canada and Italy discuss the use of AI in the healthcare sector... in French...
« À l’heure actuelle, en matière d’IA, les juristes ont souvent plus de questions que de réponses »
Voilà. Le ton est donné. Cette citation, lancée dès les premières minutes de la conférence Les enjeux juridiques et éthiques de l’intelligence artificielle dans le domaine de la santé annonce ce qui viendra dans les instants à venir. Le panel, organisé par le CERCRID - UMR 5137 et le Centre de recherche en droit, technologie et société | Université d'Ottawa, ne sera pas une leçon de droit positif. Il s’agira plutôt d’une discussion animée où juristes, médecins et informaticiens—originaires de France, d’Italie et du Canada—réfléchiront ensemble aux manières de promouvoir un développement responsable de l’intelligence artificielle dans le domaine de la santé.
C’est la professeure Le Hello Claire, professeure et praticien hospitalière en médecine vasculaire au CHU de Saint-Etienne qui lancera le bal de questions.
Après avoir mis en lumière une série de cas où l’IA pourrait améliorer les soins de santé—la médecine préventive, le soutien émotionnel aux personnes âgées, la détection des épidémies, notamment—et après avoir invité le système de santé à monter dans le train de l’IA sans attendre, plutôt que de le regarder passer, elle se tourne vers ses collègues juristes pour leur poser trois questions:
À qui appartiennent les données de santé?
Comment gérer les bases de données?
Si un système d’IA pose un diagnostic, qui devra assumer la responsabilité?
Au cours de l’heure qui suivra, les panélistes Stefania Attolini, Mouna Mouncif-Moungache, Catherine Regis et Teresa Scassa, ainsi que le modérateur Florian Martin-Bariteau se relanceront pour offrir des éléments de réponses à ces interrogations. Comme promis en introduction, ils reviendront aussi à la charge avec de nouvelles questions pour ajouter de la texture et de la complexité aux trois questions initialement posées.
Intéressons-nous à quelques éléments clefs qui sont ressortis de ces discussions.
La propriété des données
On l’a dit d’entrée de jeu, il y a pour l’instant assez peu de certitudes dans le domaine du droit de l’IA. Il y a toutefois une poignée de sujets sur lesquels des réponses commencent à s’imposer. Parmi ces sujets, on retrouve la question de la propriété des données de santé.
Teresa Scassa explique qu’au Canada, ni le patient, ni le médecin, ni qui que ce soit d’autre n’est propriétaire des données de santé. On considère que ce sont des données qui servent une multitude d’intérêts.
Concrètement, cela signifie qu’une entreprise qui installe des dispositifs médicaux chez des patients ne peut prétendre à un droit de propriété sur les données que ses dispositifs collectent. Qu’importe que l’entreprise ait investi des ressources pour collecter la donnée, le patient doit avoir son mot à dire sur la manière dont ces données sont traitées.
Le contraire ne serait pas souhaitable.
En effet, lorsqu’un membre de l’audience s’interroge à savoir si une entreprise qui installe des appareils médicaux pourrait obtenir des « royalties » pour l’utilisation de données qu’elle collecte, Florian Martin-Bariteau se montre catégorique. On ne doit pas appréhender la donnée de santé comme un bien sur lequel on peut avoir un droit de propriété, car elle deviendrait alors cessible, ce qui pourrait entraîner des dérapages problématiques.
La gestion des données
Or, si la question de la propriété de la donnée de santé est une affaire plus ou moins réglée, toute une série de questions subsiste quant aux droits et obligations de ceux qui sont en possession de ces données. Ceux qui investissent des ressources pour collecter et nettoyer les données peuvent-ils en tirer certains bénéfices? Peuvent-ils les réutiliser à d’autres fins? Peuvent-ils les partager avec d’autres acteurs ? La réponse est-elle la même selon que les données soient anonymisées ou non?
Teresa Scassa propose un exemple concret pour réfléchir à ces questions : un marché conclu entre Israël et Pfizer pendant la pandémie.
Dans le cadre de ce marché, les données médicales de la population israélienne ont été transférées à Pfizer en échange d’un accès prioritaire à des doses de vaccins contre la Covid-19. Scassa s’interroge: s’agit-il d’un exemple à suivre? Les entreprises qui tirent bénéfice des données de santé devraient-elles toujours offrir de telles contreparties à la population?
Et puis, qu’en est-il des géants du numérique—les Fitbit et Apple de ce monde, par exemple—qui possèdent aussi de vastes quantités de données. Devraient-ils mettre ces données à la disposition des chercheurs universitaires, et si oui, à quelles conditions?
C’est le genre de questions auxquelles la nouvelle stratégie européenne pour les données s’intéresse, souligne Mouna Mouncif Moungache. En effet, le Règlement sur la gouvernance des données (Data Governance Act) et le Règlement sur les données (Data Act) visent à établir un cadre normatif qui encouragera la «large utilisation des données, tout en préservant des normes élevées en matière de protection de protection de la vie privée, de sécurité, de sûreté et d’éthique.».
Or, il faut savoir que cette nouvelle stratégie européenne—qui commencera à produire des effets en septembre 2023—n’est pas neutre. À cet égard, Mouna Mouncif Moungache et Stefania Attolini s’entendent, l’Europe adopte une position résolument pro-partage des données. Pour Attolini, il suffit de s'intéresser à la notion d’altruisme de données pour s’en convaincre. Quelle est la posture opposée à l’altruisme de données, demande-t-elle : l’égoïsme de données…?
Les enjeux de responsabilités
Enfin, en ce qui à trait la dernière question posée par la professeure Le Hello, celle relative à la responsabilité des systèmes d’IA, Catherine Régis souligne que les développeurs d’IA se réfugient souvent dans le fait que leurs technologies ne sont que des systèmes d’aide à la décision pour s’assurer que la responsabilité demeure entre les mains du praticien.
La professeure Régis ajoute toutefois qu’un tel raisonnement lui semble un peu court. Alors que les systèmes d’IA deviennent de plus en plus performants—en certaines circonstances, ils sont même meilleurs que les humains pour poser des diagnostics—il peut être difficile pour un médecin de contredire la recommandation d’un algorithme. Il importe donc de réfléchir aussi à la part de responsabilité que doivent assumer les nouveaux acteurs impliqués : les programmeurs, les concepteurs, les fabricants ou les vendeurs de dispositifs intégrant les SIA, par exemple.
Cela est d’autant plus vrai qu’il n’est pas certain que les professionnels de santé conserveront toujours un rôle aussi central dans l’utilisation des outils diagnostics qui s'appuient sur l’IA. Les patients considèrent que ces outils offrent une opportunité «d’empowerment». Ils espèrent que les systèmes d’IA pourront leur offrir une plus grande autonomie.
Quelles seraient les implications d’une telle désintermédiation? Au Québec, on en est venu à s’interroger à savoir s’il ne pourrait pas y avoir éventuellement des enjeux de pratique illégale de la médecine. Amusée par cette hypothèse, Claire Le Hello s’interjecte à la blague : « on n’aura plus besoin de médecins! ». Catherine Régis ne va pas jusque-là, évidemment. Elle avance toutefois qu’il est tout à fait possible d’envisager que l’IA permette aux médecins de gagner du temps afin de pouvoir se concentrer sur les tâches à valeur ajoutée.
Voilà un sujet qui suscite le débat dans l’auditoire.
Un informaticien prend la parole pour expliquer qu’à son avis, ceux qui parlent du remplacement des médecins par des systèmes d’IA surestiment largement les capacités des systèmes d’IA. Un autre membre du public, professeur en hématologie pour sa part, rétorque que le contraire est aussi vrai : refuser d’admettre que l’IA automatisera un certain nombre de tâches réalisées par les médecins, c’est se bercer d’illusions quant au travail que font actuellement les médecins. Il explique qu’« un médecin dans sa pratique actuelle passe 50% de sa pratique à faire de la paperasse » ainsi, selon lui, « les médecins ne vont pas disparaître, mais la pratique va changer de manière importante » .
La discussion animée se poursuit pendant un moment, et puis, c’est finalement le doyen de la Faculté de médecine de Saint-Etienne, monsieur Philippe Berthelot, qui conclura le débat. Selon lui, l’IA pourrait avoir de véritables retombées positives. Si on avait traité de larges quantités de données avec l’IA pendant la pandémie, par exemple, on aurait probablement pris moins de temps à s’apercevoir que la perte d’odorat était un symptôme de la COVID-19.
Toutefois, il faudrait se garder de croire que l’IA est une panacée. Pour Berthelot « le diagnostic médical, c’est 80% de l'interrogatoire.»
Et sur ce point, le médecin humain a encore une longueur d’avance…