Intelligence artificielle en santé et prise en charge du diabète : cas d’usage et régulation éthique positive

La crise du Covid-19 a encore renforcé la nécessité, pour accompagner la diffusion de l’intelligence artificielle en santé, de la reconnaissance du principe d’une garantie humaine. Les avancées obtenues à cet égard ces derniers mois sont à relever, en cohérence avec l’idée d’une régulation éthique positive de l’intelligence artificielle en santé en France et en Europe.

IA et diabète : des perspectives d’avancées majeures

Dans La machine, le médecin et moi (1), je montrais à quel point l’intelligence artificielle (IA) en santé peut être source d’avancées dans le domaine de la prise en charge des maladies chroniques et métaboliques en général et du diabète en particulier.

L’apprentissage machine par reconnaissance d’images

Comme on le sait, l’apprentissage machine par reconnaissance d’images constitue, de loin, aujourd’hui la technique la plus opérationnelle dans le domaine de l’IA en santé. Dès avril 2018, une solution américaine – IDX-DR – avait fait l’objet d’une autorisation par la FDA.

L’automatisation du traitement du diabète de type 1

Solution française, Diabeloop, porte quant à elle, sur le développement d’une innovation technologique de rupture dans l’automatisation du traitement du diabète de type 1. Cette innovation permet aux patients de mieux gérer leur glycémie et d’obtenir des gains très significatifs en termes d’efficacité de traitement et de qualité de vie. Concrètement, le système DBLG1 est un dispositif médical externe qui permet à un capteur de glucose en continu et à une pompe à insuline de communiquer via une intelligence artificielle hébergée dans un terminal spécifique : le traitement est ainsi quasi totalement automatisé.

L’optimisation du suivi de patients

Dans ce domaine, des exemples très avancés existent d’ores et déjà en matière d’optimisation du suivi des patients par le recours aux objets connectés. Feetme a ainsi conçu un dispositif de semelles connectées dotées d’interfaces intuitives permettant la collecte de données et les analyses en situation réelle pour prévenir le diabète. Ces données permettent de mieux connaître les patients et d’améliorer leur prise en charge. Mais cette collecte de données permet aussi de mieux être informé sur la pathologie elle-même et de faire progresser l’épidémiologie et la santé publique. Elle vise également à mieux adapter les traitements et à prévenir certaines dérives.

L’assistance à l’admission à distance

Le tableau que l’on peut dresser mi-2020 du recours à l’IA en santé ne doit pas, par ailleurs, méconnaître le fait que les cas d’usage les plus larges se situent, en réalité, en l’état dans le domaine de l’automatisation des fonctions-supports, dites de back office, du système de santé. Par exemple, avec le groupe Jouve, nous avons mis au point la solution Know Your Patient, IA d’assistance à l’admission à distance des patients pour éviter les concentrations inutiles de patients dans les halls hospitaliers à des fins purement administratives. Ce dispositif permet aux établissements de santé de gérer la distanciation physique tout en leur permettant de capter des gains d’efficience très significatifs sur la chaîne admissions-frais de séjour-facturation. Cette digitalisation de l’entrée en relation des patients avec le système de santé – l’on boarding – constitue naturellement un levier très important pour améliorer l’efficience et la qualité de la prise en charge des patients diabétiques. Ces dispositifs technologiques constituent, en effet, des adjuvants utiles à la logique de reconnaissance de véritables parcours patients, en cohérence avec l’évolution en cours vers des modes de financement innovants comportant une plus large part de forfaitisation.

Le principe de garantie humaine de l’intelligence artificielle : levier de régulation éthique positive pour protéger les patients souffrant de maladies chroniques

Le data tracking

La gestion de crise Covid-19 et les cas de recours à l’IA ont montré à quel point il était nécessaire d’entourer cette diffusion de l’intelligence artificielle d’une régulation éthique. Les problématiques relevées au cours de cette période si difficile ont été démultipliées pour les patients souffrant de maladies chroniques. Dans ces conditions, il apparaît impératif de bien mesurer la valeur de ces nouveaux cas d’usage ainsi que les enjeux éthiques associés. Dans la réponse au Covid-19, certains pays – en particulier en Asie – ont eu plus largement recours que d’autres à l’IA, au pilotage par les données et aux technologies numériques. Des dispositifs de reconnaissance faciale ainsi que l’utilisation de thermomètres connectés ont permis la surveillance de la température et l’identification de personnes à risque d’être positives au Covid-19. Les données de géolocalisation ont été largement utilisées pour connaître les flux des personnes et bloquer certains déplacements. Ils ont aussi été utilisés pour décontaminer massivement les zones confinées. Des robots ont été introduits dans certains hôpitaux, pour accompagner, voire renforcer, les équipes médicales, assurer une présence auprès des patients et répondre à leurs besoins, décontaminer certains services… Le data tracking a été mis en œuvre sans restriction et un choix d’efficacité a été fait au détriment de la protection des données de santé.

Une promesse d’accélération de procédés pour le diagnostic et la recherche

Mais, au-delà des recours à ces dispositifs fortement visibles et dont les usages ont été pour certains contestables au regard des principes de nos sociétés démocratiques, le recours à l’intelligence artificielle en temps de crise épidémique porte aussi la promesse d’accélération de certains procédés relevant aussi bien du diagnostic que de la recherche. Des méthodes diagnostiques reposant sur la reconnaissance d’images par apprentissage machine permettraient un diagnostic beaucoup plus rapide et efficace sur la base de clichés de tomodensitométrie. L’IA induit aussi un potentiel d’apport majeur concernant l’identification d’éventuels traitements efficaces. Des modèles testent actuellement l’efficacité de certaines molécules disponibles sur le marché sur la structure protéique du virus. Cette première sélection permettrait ensuite la mise en place de protocoles sur ces molécules pré-identifiées.

Des options éloignées des principes du RGPD et des valeurs de la médecine personnalisée

Par ailleurs, un débat mondial s’est fait jour sur le recours au data tracking, traitement massif de données pour suivre les personnes infectées et, le cas échéant, faire respecter les mesures de confinement. Ce type de dispositif a d’ores et déjà été mis en œuvre en Asie dans des contextes autoritaires. L’Europe a cherché la voie d’une possible introduction de ce type de vecteur dans des contextes de compatibilité avec les valeurs essentielles qui avaient sous-tendu l’adoption du RGPD. Néanmoins, les options radicales, choisies par certains pays, pour répondre au risque collectif au détriment de la protection des libertés individuelles, semblent très éloignées des principes fondateurs du RGPD en Europe et, plus largement, des valeurs essentielles de notre médecine personnalisée.

Le concept de garantie humaine de l’IA

Dans ce contexte, il apparaît donc impératif de promouvoir une véritable régulation éthique positive, pour s’ouvrir à l’innovation tout en maîtrisant les risques éthiques à l’IA. Le principe de garantie humaine de l’IA, proposé voici près de 3 ans avec Ethik-IA, vise à y répondre à cette fin. Ce principe a été reconnu dans les avis 129 et 130 du CCNE et dans l’article 11 du projet de loi bioéthique. La pandémie de Covid-19 a interrompu le calendrier parlementaire et donc suspendu l’adoption définitive de la révision bioéthique. Dans le contexte d’urgence créé par le Covid-19, nous pourrions avancer dès à présent pour rendre effectifs les principes portés par l’article 11.

Les principes

Le concept de « Garantie humaine » peut paraître abstrait, mais il est, en réalité, très opérationnel. Et je crois profondément que ce que nous vivons actuellement dans le débat sur le recours au numérique face au Covid-19 – avec, en particulier, la question du data tracking – montre toute la nécessité d’une mise en application immédiate de ce principe.
Dans le cas de l’IA, l’idée est d’appliquer les principes de régulation de l’intelligence artificielle en amont et en aval de l’algorithme lui-même en établissant des points de supervision humaine. Non pas à chaque étape, sinon l’innovation serait bloquée, mais sur des points critiques identifiés dans un dialogue partagé entre les professionnels, les patients et les concepteurs d’innovation.

Une révision a posteriori des dossiers médicaux

La supervision peut s’exercer avec le déploiement de « collèges de garantie humaine » associant médecins, professionnels paramédicaux et représentants des usagers. Leur vocation serait d’assurer a posteriori une révision de dossiers médicaux pour porter un regard humain sur les options thérapeutiques conseillées ou prises par l’algorithme. L’objectif consiste à s’assurer “au fil de l’eau” que l’algorithme reste sur un développement de machine learning à la fois efficace médicalement et responsable éthiquement. Les dossiers à auditer pourraient être définis à partir d’événements indésirables constatés, de critères prédéterminés ou d’une sélection aléatoire.

Un premier cas pilote en phase de déploiement

Un premier cas pilote de collège de garantie humaine est en phase de déploiement sous l’égide de l’Union française pour la santé bucco-dentaire (UFSBD) : il mettra en œuvre, dans le cadre d’un programme article 51 LFSS, une supervision pour un programme d’IA applicable aux soins dentaires pour 48 Ehpad et mis en œuvre par la start-up française Dental Monitoring. Cette méthodologie est, en outre, mobilisée dans le cadre des travaux de DRIM France IA, démarche majeure de rassemblement des acteurs de la radiologie française pour le développement responsable de l’IA dans cette discipline. Une telle démarche incluant patients et professionnels trouverait naturellement à s’appliquer à l’ensemble des cas d’usage évoqués de l’IA dans le domaine de la prise en charge du diabète.

La télémédecine de garantie humaine

La télémédecine peut, aussi, constituer une garantie pour un déploiement responsable de la robotisation et de l’intelligence artificielle en santé. Dans ce cadre, une nouvelle forme de télémédecine peut émerger : la télémédecine de garantie humaine du numérique et de l’intelligence artificielle en santé. Ce levier peut exister au niveau national. Il peut aussi être constitué au niveau international. Ce vecteur vise à solliciter un second avis par rapport à une première proposition algorithmique. Ces seconds avis pourront être sollicités par les patients ou les professionnels en cas de doute face à la pertinence du diagnostic algorithmique. Cette forme de téléexpertise de garantie humaine peut constituer un recours utile en cas de délégation de certaines fonctions de gestion du risque épidémique à des vecteurs numériques, robotiques et d’IA.

La formalisation juridique

S’agissant de la formalisation juridique, ce nouveau cas d’ouverture de la télémédecine pourrait très bien entrer, en droit français, dans le cadre de la définition législative posée par le Code de la santé publique. Cette téléexpertise de garantie humaine peut être recommandée par des normes nationale, européenne et/ou internationale à titre de clause de vérification humaine régulière de l’adéquation médicale, éthique et juridique de l’algorithme ou du dispositif numérique.

Les concrétisations

Il est à relever que le principe de garantie humaine a reçu, sur le dernier trimestre, des concrétisations dans trois autres cadres très significatifs :
• d’une part, la garantie humaine devrait, ainsi qu’Isabelle Adenot, membre du collège de la Haute autorité de santé, l’a annoncé dans le cadre d’un colloque dédié au principe par la Chaire santé de Sciences Po le 14 janvier dernier, être intégrée à la grille d’auto-évaluation des dispositifs médicaux intégrant de l’IA préalablement à leur admission au remboursement ;
• d’autre part, le principe de garantie humaine fait actuellement l’objet de discussions et de prolongements dans le cadre de la task-force dédiée par l’OMS à la régulation de l’IA en santé en vue de l’émission d’une recommandation dans le courant de cette année 2020. Cette task-force a également conduit des travaux spécifiques sur les enjeux éthiques du recours à l’IA face au Covid-19 ;
• enfin, le principe a été repris dans le Livre blanc sur l’IA publié par la Commission européenne le 19 février 2020.

Conclusion

La diffusion rapide de l’IA au sein de notre système de santé constitue donc une opportunité d’avancées très significatives au service des patients diabétiques. Il apparaît primordial de s’ouvrir en France et en Europe à cette vague d’innovations, faute de quoi nous risquerions de nous voir imposer des solutions numériques conçues hors du périmètre d’application du règlement général européen sur la protection des données. C’est le sens du principe d’une garantie humaine de l’intelligence artificielle pour diffuser l’innovation en santé tout en régulant ses enjeux éthiques.