Intelligence artificielle en santé : la CNIL et la HAS ouvrent une consultation publique

L’intelligence artificielle (IA) est déjà largement présente dans les pratiques hospitalières. Près de 65 % des établissements publics de santé déclarent utiliser ces technologies selon le baromètre de la Fédération hospitalière de France. Si leur déploiement devrait encore s’intensifier dans les prochaines années, ces outils soulèvent également plusieurs questions pour les acteurs du secteur, telles que la gouvernance des systèmes, l’information des personnes, la sécurité numérique ou encore l’organisation des soins.

C’est dans ce contexte que la Commission nationale de l’informatique et des libertés (CNIL) et la Haute Autorité de santé (HAS) ont élaboré un projet de guide destiné à accompagner l’usage de ces technologies dans les soins. Le document est aujourd’hui soumis à consultation afin de recueillir les contributions de l’écosystème sanitaire.

Un guide élaboré par la HAS et la CNIL

L’initiative intervient dans le cadre de l’évolution de la certification des établissements de santé. Le sixième cycle de certification intègre désormais des critères spécifiques liés à l’intelligence artificielle.

Pour accompagner cette évolution, la HAS a mis en place un groupe de travail pluridisciplinaire copiloté avec la CNIL. Cette collaboration vise notamment à prendre en compte les enjeux liés à la protection des données personnelles dans le déploiement des systèmes d’IA.

Les travaux menés ont conduit à l’élaboration d’un projet de guide destiné à accompagner le bon usage de ces technologies en contexte de soins. Le document poursuit deux objectifs principaux. Le premier consiste à clarifier le cadre légal et réglementaire applicable et les obligations auxquelles sont soumis les professionnels et les structures de santé. Le second vise à formuler des recommandations de bonnes pratiques afin de favoriser un déploiement respectueux de la réglementation, de l’éthique et des exigences de sécurité.

Mieux encadrer le déploiement

Dans la version soumise à consultation, le guide se compose de douze fiches pour mieux encadrer le développement de l’IA. Dix d’entre elles sont consacrées aux différentes étapes de son déploiement, depuis son acquisition jusqu’à sa désinstallation. Deux fiches complémentaires abordent des questions plus transversales qui traite de la gouvernance des systèmes d’IA et des spécificités de l’intelligence artificielle générative.

Les recommandations de bonnes pratiques sont organisées selon trois niveaux. Les recommandations «standard» correspondent à des pratiques qui font consensus et qui devraient être suivies dans la majorité des situations. D’autres recommandations, dites «avancées», constituent des pistes d’amélioration ou d’anticipation pouvant être mises en œuvre en fonction des ressources et des moyens des structures. Enfin, le guide identifie également des réflexes à adopter systématiquement afin d’éviter des comportements non conformes, inappropriés ou potentiellement dangereux.

Un périmètre centré sur la prise en charge des patients

Le projet de guide s’adresse à l’ensemble des acteurs intervenant dans le secteur sanitaire. Les établissements de santé sont concernés, mais le document vise plus largement tous les acteurs susceptibles d’utiliser un système d’intelligence artificielle dans leur activité, dont les professionnels de santé.

Le guide couvre l’ensemble des systèmes d’intelligence artificielle ayant un impact direct sur la prise en charge d’un patient, quelle que soit leur qualification ou leur classification réglementaire au regard du règlement sur l’intelligence artificielle, du règlement sur les dispositifs médicaux ou de celui relatif aux dispositifs médicaux de diagnostic in vitro.

Source : CNIL