🔍💡 L'éthique de l'IA en santé est un enjeu crucial pour garantir des soins équitables et responsables. Ce guide propose un cadre concret pour intégrer l'éthique dès la conception des systèmes d'IA
Contexte et Enjeux
L'intelligence artificielle (IA) transforme profondément le secteur de la santé, offrant des opportunités majeures pour améliorer les diagnostics, les traitements et l'organisation des soins. Cependant, ces avancées technologiques soulèvent également des questions éthiques cruciales. Ce guide, élaboré par la Délégation au numérique en santé, vise à encadrer l'utilisation de l'IA en santé en proposant des critères éthiques concrets et pragmatiques.
Méthodologie et Recommandations
Le guide propose une méthodologie collaborative et itérative pour intégrer l'éthique dans les systèmes d'IA en santé. Il s'appuie sur des ateliers d'experts, des analyses comparatives avec plusieurs labels de l'éthique de l'IA, et une concertation publique. Le résultat est un ensemble de 43 critères classés selon les étapes chronologiques de développement d'un système d'IA, chacun associé à un principe éthique fondamental.
Lien direct vers le document
➡️🔗 https://esante.gouv.fr/sites/default/files/media_entity/documents/guide-ia_vf.pdf
Références Documentaires
- 🔍➕ Pour plus d'informations, voir les articles référencés par "Pratiques en Santé" sur le thème de l'IA et du numérique ➡️🔗 https://pratiquesensante.odoo.com/2-6-intelligence-artificielle-numerique
- Règlement Général sur la Protection des Données (RGPD) : Lien vers le RGPD
- Règlement Européen sur l'Intelligence Artificielle (RIA) : Lien vers le RIA
Points Clés
- Mise en place d'un Comité Scientifique et Éthique : Un comité représentatif des utilisateurs et des patients doit être mis en place dès la phase de cadrage pour valider l'éthique de la solution.
- Transparence et Explicabilité : Les systèmes d'IA doivent être conçus pour expliquer leurs propositions et garantir la transparence sur l'origine des données d'apprentissage.
- Réduction des Biais : Des mécanismes doivent être mis en place pour réduire et idéalement éliminer les biais dans les systèmes d'IA.
- Autonomie Décisionnelle : Les utilisateurs, qu'ils soient professionnels de santé ou patients, doivent conserver leur autonomie décisionnelle.
- Écoconception et Bilan Carbone : Les systèmes d'IA doivent être conçus de manière écoresponsable, avec un bilan carbone de leur fabrication.
Axes de Progrès
- Formation et Sensibilisation : Les utilisateurs doivent être formés aux enjeux de l'IA, notamment aux biais et aux limites de performance des systèmes.
- Évaluation Continue : Les systèmes d'IA doivent faire l'objet d'une évaluation continue pour garantir leur performance et leur conformité aux critères éthiques.
- Transparence sur les Mises à Jour : Les utilisateurs doivent être informés des mises à jour des systèmes d'IA et de leurs conséquences.
- Accompagnement au Déploiement : Les fournisseurs de systèmes d'IA doivent accompagner les structures de soin dans l'évaluation des impacts du déploiement.
- Souveraineté des Données : Les solutions techniques doivent garantir que les données ne soient pas soumises à des réglementations extra-européennes.
La liste des 43 critères du guide d'implémentation de l'éthique dans les systèmes d'intelligence artificielle en santé :
Phase de Cadrage
- Mettre en place un Comité Scientifique et Éthique
Phase de Développement
Collecte et Préparation des Données
- Transparence sur l'origine des données d'apprentissage du SIA
- Minimisation des données vs singularité des patients
- Minimisation des données vs impact environnemental
Conception de l'Algorithme du SIA
- Réduire et éliminer les biais du SIA
- Explicabilité du SIA
- Empêcher l'IA générative de restituer des données à caractère personnel qui auraient été utilisées pour son entraînement (G)
- Garantir l'absence de plagiat avec les IA génératives (G)
- Autonomie pour la désactivation d'un SIA modulaire
- Écoconception du SIA et lutte contre l'obsolescence des équipements
- Bilan carbone de la fabrication du SIA
Conception des Interfaces
- Transparence sur l'interaction avec une IA
- Vérifier la bonne compréhension de l'interaction avec une IA
- Marquer les résultats de l'IA
- Traçabilité de la désactivation du SIA
- Garantir l'autonomie décisionnelle de l'utilisateur
- Transparence sur le fait de suivre les propositions du SIA
- Transparence sur le fait de ne pas suivre les propositions du SIA et sur le motif de non suivi
- Transparence sur le fait de ne pas avoir utilisé le SIA
- Conformité RGAA du SIA avec une interface utilisateurs
- Intelligibilité des interfaces des SIA comportant une interface utilisateurs
Évaluation du SIA
- Cohérence des réponses dans la répétition d'un SIA générative (G)
- Qualité des réponses d'un SIA générative (G)
- Garantir que le SIA générative incite le patient utilisateur à consulter un professionnel de santé en cas d'alerte (G)
- Performance du SIA identique pour tous les publics couverts par la population cible
Phase de Déploiement et Usage
Déploiement, Formation et Utilisation du SIA
- Accompagner les utilisateurs/la structure à l'impact du déploiement d'un SIA
- Co-construire avec les utilisateurs les ressources de formation aux enjeux de l'IA
- Former les utilisateurs aux enjeux de l'IA (biais, limites de performance)
- Vérifier la bonne compréhension par les utilisateurs des enjeux de l'IA en particulier les limites de performance
- Former à l'utilisation du SIA en amont de son introduction
- Permettre un accès facile et intuitif à la documentation du SIA
- Transparence sur les types d'IA employés
- Transparence sur la performance du SIA
- Détecter la dépendance au SIA
- Alerter en cas de détection d'une dépendance au SIA
- Garder un esprit critique et faire confiance à son expertise clinique
- Rappeler la responsabilité de l'utilisateur sur sa décision
- Sensibilisation à un usage écoresponsable
- Souveraineté des données de l'organisation utilisatrice
Suivi, Mise à Jour et Amélioration Continue
- Évaluer le SIA en continu
- Mettre en place une démarche d'amélioration continue du SIA
- Transparence sur la mise à jour d'un SIA et ses conséquences
- Vérifier la bonne compréhension des conséquences d'une mise à jour d'un SIA
Cette liste couvre les différentes phases de développement et de déploiement des systèmes d'IA en santé, en mettant l'accent sur l'éthique, la transparence, l'autonomie, la performance et l'écoresponsabilité.
#IA #Santé #Éthique #InnovationResponsable