L'intelligence artificielle et les politiques fondées sur des données probantes – défis émergents et opportunité

📜🔗LIEN vers la source

1. RÉSUMÉ ANALYTIQUE

Contexte et enjeux — une décision publique de plus en plus assistée par l'IA Le document part d'un constat : la décision publique en santé (evidence-informed policy-making, EIP) repose historiquement sur la synthèse d'essais cliniques, de revues systématiques et de savoirs de terrain, mais ce processus reste lent et coûteux en ressources (p. 1-2). L'IA — apprentissage automatique, IA générative, grands modèles de langage — promet d'accélérer chaque étape de ce cycle : détection de signaux épidémiologiques, modélisation de scénarios, priorisation des enjeux (p. 4-5). Les publics visés sont les décideurs publics, régulateurs, responsables de systèmes de santé et développeurs d'IA (p. 1), pas directement les professionnels de terrain — un point à garder à l'esprit pour l'adaptation du contenu. La problématique centrale : ces gains de rapidité s'accompagnent de risques structurels — opacité des algorithmes, concentration du pouvoir entre quelques acteurs commerciaux, appauvrissement du jugement humain, discrimination algorithmique (p. 6-7).

Apports opérationnels — une grille de gouvernance transposable Le document propose surtout une méthode : ne pas réinventer des cadres de gouvernance de l'IA depuis zéro, mais articuler les outils existants de la décision fondée sur les preuves (transparence, consultation des parties prenantes, standards de preuve) avec les cadres de gouvernance de l'IA (analyse d'impact, supervision humaine, régulation par les risques) (p. 10-11). Il détaille des principes actionnables : prioriser l'augmentation plutôt que l'automatisation des décisions, maintenir des comités pluridisciplinaires de relecture, documenter systématiquement les biais des données mobilisées (p. 12-13). Pour des acteurs qui traitent déjà de littératie, d'éthique et de participation, ce cadre offre un vocabulaire commun pour interpeller les partenaires institutionnels qui déploient ou envisagent des outils d'IA dans le pilotage de dispositifs de santé publique.

2. POINTS CLÉS DU DOCUMENT

1. La décision publique fondée sur les preuves (EIP) suit un cycle en quatre temps — comprendre le problème, concevoir la solution, atteindre l'impact, ajuster — et l'IA peut intervenir à chacune de ces étapes, avec des usages déjà documentés comme les systèmes de surveillance IA pendant la pandémie de COVID-19 qui ont permis d'intégrer en temps réel les taux de dépistage et d'hospitalisation (p. 4).
2. Un tableau de synthèse (Table 1, p. ix) cartographie, phase par phase, les opportunités, les risques, les repères de gouvernance et les réponses pratiques — un outil de lecture rapide à s'approprier avant de plonger dans le corps du texte.
3. Le document nomme un risque encore peu formalisé ailleurs : l'"injustice épistémique", soit le risque que l'IA privilégie systématiquement les données quantifiables issues d'institutions dominantes au détriment des savoirs expérientiels, des connaissances locales et des savoirs autochtones (p. 7) — un point directement transposable aux débats sur la place du savoir expérientiel des personnes accompagnées.
4. Un exemple concret et documenté de discrimination algorithmique est cité : l'algorithme néerlandais d'évaluation des allocations de garde d'enfants, à l'origine d'un profilage racial et d'accusations injustifiées contre des milliers de familles (p. 7) — un cas mobilisable en formation pour illustrer concrètement le risque de biais.
5. Le document propose une checklist opérationnelle de "human-in-the-loop" avant tout déploiement d'un outil d'IA : revue de la provenance des données, tests de biais, analyses d'impact algorithmique, portes de décision humaine, audits post-déploiement, bacs à sable réglementaires (p. 14) — transposable telle quelle à l'évaluation de tout outil numérique proposé par un partenaire institutionnel.

3. PISTES D'ACTION POUR LES ACTEURS LOCAUX

1. Utiliser le tableau de synthèse (Table 1, p. ix) comme grille de lecture rapide en réunion d'équipe avant d'aborder un projet impliquant de l'IA dans un diagnostic territorial ou une évaluation de dispositif.
2. S'appuyer sur la checklist de gouvernance "human-in-the-loop" (p. 14) pour interroger tout partenaire institutionnel déployant un outil d'IA : qui supervise, avec quelle formation, et selon quelle fréquence d'audit ?
3. Mobiliser le concept d'"injustice épistémique" (p. 7) pour argumenter, dans une instance de pilotage ou de co-construction, la nécessité d'intégrer des données qualitatives et des savoirs expérientiels aux côtés des données quantitatives issues d'outils IA.
4. Utiliser le cas néerlandais des allocations familiales (p. 7) comme support pédagogique concret en formation ou sensibilisation, pour rendre tangible le risque de discrimination algorithmique auprès de publics non technophiles.
5. Poser systématiquement, face à un outil IA présenté comme "outil d'aide à la décision", les quatre questions de cadrage proposées p. 12 : la question posée à l'IA est-elle formulée de façon suffisamment précise et contextualisée ? Un comité pluridisciplinaire valide-t-il les résultats ? Les tâches nécessitant un jugement normatif restent-elles humaines ? Des audits de biais sont-ils prévus ?
6. Adaptation nécessaire : le document s'adresse en priorité aux décideurs et régulateurs (p. 1), non aux professionnels de terrain ; les pistes ci-dessus supposent donc un travail de traduction et de contextualisation pour un usage en médiation ou en accompagnement social, que le document ne fournit pas lui-même.

4. RÉFÉRENCES COMPLÉMENTAIRES

🔍➕ Pour plus d'informations, voir les articles référencés par "Pratiques en Santé" sur le thème numérique et IA ➡️🔗 https://pratiquesensante.odoo.com/2-6-intelligence-artificielle-numerique

1. HAS (Haute Autorité de santé), Premières clefs d'usage de l'IA générative en santé, octobre 2025 — guide pédagogique destiné aux professionnels des secteurs sanitaire, social et médico-social, structuré autour de la méthode A.V.E.C. (Apprendre, Vérifier, Estimer, Communiquer). Complémentaire au document OMS car il traduit les principes de gouvernance en repères pratiques directement mobilisables par un professionnel de terrain, ce que le document OMS ne fait pas. https://www.has-sante.fr/jcms/p_3703115/fr/premieres-clefs-d-usage-de-l-ia-generative-en-sante
2. Agence du Numérique en Santé (ANS) / Délégation au numérique en santé, Guide d'implémentation d'une IA en santé éthique, consultation publique mai-juin 2025 — référentiel opérationnel de critères éthiques associés aux phases de développement d'un système d'IA (conception, apprentissage, validation, mise en service, surveillance). Complémentaire au cadre de gouvernance présenté en section 6 du document OMS, en l'ancrant dans le contexte réglementaire français et européen (RGPD, règlement européen sur l'IA). https://esante.gouv.fr/actualites/intelligence-artificielle-en-sante-une-concertation-publique-pour-un-deploiement-ethique
3. HAS / CNIL, Accompagner le bon usage des systèmes d'intelligence artificielle en contexte de soins, document de travail, février 2026 — guide de recommandations graduées (obligations légales, recommandations standards et avancées) sur la gouvernance interne, la formation des professionnels, le contrôle humain et l'information des patients. Apporte une déclinaison très concrète et sectorielle des principes de supervision humaine et d'audit évoqués p. 14 du document OMS. https://www.cnil.fr/sites/default/files/2026-03/guide_has_cnil_recommandations_ia.pdf

5. FOIRE AUX QUESTIONS (FAQ)

1. L'IA peut-elle remplacer l'expertise humaine dans la décision publique en santé ? Non. Le document insiste sur le principe d'augmentation plutôt que d'automatisation : l'IA reste un input provisoire, l'humain conserve la responsabilité du cadrage des questions, du jugement de la qualité des preuves et de l'interprétation contextuelle (p. 12).
2. Qu'est-ce que l'"injustice épistémique" mentionnée dans le document ? C'est le risque que les systèmes d'IA privilégient systématiquement les données quantifiables issues d'institutions dominantes, au détriment des savoirs expérientiels, des connaissances locales et des savoirs autochtones, ce qui dévalorise la légitimité de certaines formes de connaissance dans la décision publique (p. 7).
3. Quels sont les risques concrets déjà documentés de biais algorithmique en santé/social ? Le document cite le cas néerlandais : un algorithme utilisé pour l'évaluation des allocations de garde d'enfants a conduit à un profilage racial et à des accusations injustifiées contre des milliers de familles (p. 7).
4. Comment l'IA a-t-elle été concrètement utilisée pendant la pandémie de COVID-19 ? Des systèmes de surveillance basés sur l'IA ont permis d'intégrer en temps réel des flux de données comme les taux de dépistage et d'hospitalisation, renforçant le suivi en temps réel et la capacité de synthèse rapide des preuves (p. 4).
5. Quelles garanties le document recommande-t-il avant de déployer un outil d'IA dans un cycle de politique publique ? Une évaluation structurée en amont : notation du niveau de maturité technologique, analyses d'impact algorithmique, projets pilotes avant généralisation, puis un dispositif de supervision continue incluant audits post-déploiement et bacs à sable réglementaires (p. 14).
6. Ce document s'adresse-t-il aux professionnels de terrain ? Non directement. Les publics visés explicitement sont les décideurs publics, régulateurs, responsables de systèmes de santé et développeurs d'IA (p. 1). Les professionnels de terrain devront adapter les principes proposés à leur contexte d'exercice.
7. Le document propose-t-il un outil de synthèse rapide pour s'orienter dans son contenu ? Oui, le tableau 1 (p. ix) cartographie de façon synthétique les opportunités, risques, repères de gouvernance et réponses pratiques pour chaque phase du cycle de politique publique — un point d'entrée utile avant la lecture intégrale.

6. RÉÉCRITURE EN FALC

L'intelligence artificielle et les décisions en santé publique

Qu'est-ce que ce document dit ?

Ce document vient de l'Organisation Mondiale de la Santé. On l'appelle l'OMS.

L'OMS explique comment l'intelligence artificielle change les décisions en santé publique. L'intelligence artificielle, c'est un ordinateur qui peut analyser beaucoup de données très vite.

Pourquoi c'est important ?

Avant, pour décider une politique de santé, il fallait beaucoup de temps. Il fallait lire beaucoup d'études scientifiques.

Maintenant, l'intelligence artificielle peut aider à aller plus vite. Mais cette aide a aussi des risques.

Quels sont les risques ?

• L'intelligence artificielle peut se tromper sans qu'on le voie facilement. On appelle cela le manque de transparence.
• L'intelligence artificielle peut traiter certaines personnes de façon injuste. Cela s'appelle un biais. Exemple : aux Pays-Bas, un ordinateur a accusé des familles à tort. Ces familles n'avaient rien fait de mal.
• L'intelligence artificielle peut ignorer les savoirs des personnes de terrain. Elle préfère parfois les chiffres aux témoignages.

Ce que propose l'OMS

L'OMS dit que l'intelligence artificielle doit aider les humains. Elle ne doit jamais remplacer les humains.

Un humain doit toujours vérifier les résultats de l'intelligence artificielle. Un humain doit toujours prendre la décision finale.

Ce qu'il faut retenir

• L'intelligence artificielle peut aider à décider plus vite.
• L'intelligence artificielle peut aussi se tromper ou être injuste.
• Il faut toujours qu'un humain vérifie et décide.
• Ce document s'adresse surtout aux décideurs, pas directement aux professionnels de terrain.

7. ANALYSE TRANSVERSALE — VALEURS DE PRATIQUES EN SANTÉ

• Littératie : Le document ne propose aucun outil de vulgarisation adapté à des publics non experts ; son glossaire technique (p. vii) reste destiné à des lecteurs déjà familiers du champ de l'IA et des politiques publiques.
• Empowerment : Les bénéficiaires finaux (patients, usagers) ne sont pas mentionnés comme parties prenantes de la conception ou de l'évaluation des outils d'IA ; seuls les décideurs, régulateurs et développeurs sont identifiés comme publics cibles (p. 1).
• Participation : Le document recommande des "forums participatifs inclusifs" et le maintien de comités multidisciplinaires (p. 12-13), mais sans détailler de mécanisme concret de co-construction avec les publics concernés par les politiques analysées.
• Santé communautaire : La dimension collective apparaît via l'appel à l'"intelligence collective" et à des processus de délibération partagés entre acteurs institutionnels (p. 14), mais reste pensée à l'échelle des systèmes de santé plutôt qu'à celle des communautés locales.
• Éthique : Les biais culturels et sociaux sont explicitement identifiés (biais de données, injustice épistémique, discrimination) et une section entière leur est consacrée (p. 6-9).
• Droits humains : Le document ancre sa réflexion dans les principes d'autonomie humaine, d'équité et d'intérêt public portés par la doctrine OMS sur l'éthique de l'IA en santé (p. viii, ix).
• Intersectorialité : Le document appelle à une collaboration interdisciplinaire renforcée entre chercheurs, décideurs, société civile et institutions multilatérales (p. 15), sans toutefois détailler de modèle concret de partenariat territorial.
• Partenariat : Des cadres de collaboration existants sont cités en référence (réseau EVIPNet, standards OCDE, règlement européen sur l'IA) mais aucun modèle de partenariat local ou de terrain n'est formalisé (p. 10-11).
• Lutte contre les discriminations : Le document traite frontalement la discrimination algorithmique, avec un exemple documenté et déjà survenu (algorithme néerlandais des allocations familiales, p. 7), et appelle à des audits de biais réguliers comme garde-fou (p. 13).

8. ÉVALUATION DE LA FIABILITÉ DE LA RESSOURCE

Pertinence scientifique : Le document s'appuie sur 81 références bibliographiques récentes (jusqu'à 2025), incluant des publications à comité de lecture (Nature, BMC Health Services Research, PLOS Computational Biology) et des textes réglementaires de référence (règlement européen sur l'IA de 2024, RGPD, cadre de gestion des risques du NIST). Le processus d'élaboration a mobilisé un comité éditorial international et une revue par les pairs multi-régionale (p. vi), ce qui renforce sa robustesse méthodologique. Limite à noter : le document reste un "discussion paper", c'est-à-dire un document de réflexion non validé comme guideline officielle de l'OMS — un statut que les auteurs eux-mêmes rappellent explicitement en conclusion (p. 15), et qui doit être signalé à tout public de formation.

Pertinence opérationnelle : Le document est directement utilisable par des décideurs publics ou régulateurs, mais nécessite un travail de traduction et de contextualisation important pour des professionnels de terrain, faute d'outils pratiques immédiatement transposables (grilles, protocoles, fiches réflexes). Les pistes d'action proposées en section 3 de ce brief comblent en partie cet écart, mais restent une adaptation et non un contenu directement issu du document.