🔍💡 IA en santé : les grands modèles multimodaux peuvent accélérer diagnostic, auto‑soin et documentation… mais au prix de nouveaux risques de biais, d’atteintes à la vie privée et de dépendance aux Big Tech. ⚖️ Cette guidance OMS donne plus de 40 recommandations pour encadrer leur développement, leur mise en service et leur déploiement en gardant l’éthique, les droits humains et l’équité au centre. #IntelligenceArtificielle #SantéPublique
📌 📌 Ce document fournit un cadre très concret pour intégrer ou encadrer l’usage de grands modèles d’IA (type ChatGPT, copilots médicaux, outils de triage) dans les systèmes de santé, en détaillant bénéfices, risques et responsabilités des acteurs à chaque étape de la “chaîne de valeur”.
Il est immédiatement utile à des responsables de structures sanitaires et médico‑sociales, cadres hospitaliers, ARS, ministères, ordres professionnels ou têtes de réseau associatives qui doivent arbitrer entre innovation numérique, sécurité des patients et équité d’accès. Il offre aussi aux professionnels de terrain (médecins, infirmier·es, psychologues, travailleurs sociaux, éducateurs) des repères clairs pour évaluer les usages quotidiens de ces outils (diagnostic, auto‑soin, documentation, éducation) et leurs effets sur la relation de soin.
Les LMM sont intéressants pour les acteurs de terrain car ils peuvent faire gagner du temps sur la rédaction, la traduction ou la simplification de supports, et aider à préparer des réponses ou des ateliers mieux adaptés aux publics visés. Ils offrent aussi un appui pour la veille, la mise à jour de connaissances et la préparation d’arguments de plaidoyer en prévention.
Mais le rapport OMS montre qu’ils peuvent aussi renforcer les inégalités, manipuler des publics vulnérables ou affaiblir la relation humaine si on les laisse agir sans contrôle. Il donne donc aux équipes de terrain des repères clairs pour dire “oui, mais” à ces outils, poser des conditions et exiger des garde‑fous éthiques et juridiques avant leur usage en prévention.
Source : 📒 ✍World Health Organization (WHO), Ethics and governance of artificial intelligence for health: guidance on large multi-modal models
📜🔗LIEN
Nombre de pages : 70
1. Résumé analytique
Contexte, technologies et enjeux de santé
Le rapport part du constat que les grands modèles multimodaux (LMM) – capables de traiter texte, images, sons, signaux biologiques ou données sociales – se diffusent plus vite que n’importe quelle autre application grand public, y compris dans la santé, alors que ni les systèmes de soins ni les régulateurs n’y étaient préparés. Il décrit les principaux usages envisagés ou déjà en cours : aide au diagnostic, réponses aux questions des patients, automatisation de tâches administratives et de documentation, soutien à la recherche et au développement de médicaments, et personnalisation de l’éducation médicale. Les auteurs analysent en parallèle des risques individuels (erreurs, “hallucinations”, biais, dégradation des compétences, consentement insuffisant, manipulation, atteintes à la vie privée) et des risques systémiques (sur‑valorisation technologique, inégalités d’accès, dépendance vis‑à‑vis de quelques acteurs privés, menaces sur l’emploi et la cybersécurité). Le tout est replacé dans un cadre éthique fondé sur les six principes OMS de 2021 (autonomie, bien‑être et sécurité, transparence, responsabilité, équité, durabilité), en montrant comment les LMM les bousculent ou les réinterprètent. Enfin, le rapport souligne les tensions entre innovation rapide, incertitudes scientifiques, pressions commerciales et exigences de conformité aux droits humains et aux législations de protection des données.
Apports opérationnels et orientations pour l’action
Sur le plan opérationnel, le document propose une grille de lecture en trois phases – développement, “provision” (mise en service par des fournisseurs) et déploiement dans les services et organisations – en identifiant pour chacune les risques à traiter, les mesures concrètes et les responsabilités respectives des développeurs, fournisseurs, déployeurs et pouvoirs publics. Il détaille des mesures de “design pour les valeurs” (qualité et transparence des données, réduction des biais, participation d’usagers et de professionnels, réduction de l’empreinte carbone et eau, protection des travailleurs du clic) et décrit ce que les États peuvent exiger via lois, standards, contrôles et investissements publics. Pour la provision et le déploiement, il insiste sur la nécessité de régulateurs capables d’évaluer les LMM utilisés comme dispositifs médicaux ou outils de santé, de dispositifs d’expérimentation contrôlée (regulatory sandboxes), d’audits indépendants post‑déploiement et de mécanismes clairs de responsabilité et de réparation en cas de dommage. Le rapport ouvre aussi des perspectives de gouvernance internationale en appelant à des normes communes, à la coopération entre pays (notamment pour éviter un agenda piloté uniquement par les États et entreprises les plus riches) et à des mécanismes de suivi des impacts sur les inégalités, l’environnement et les droits humains.
2. Points clés du document
Les LMM transforment les usages de l’IA en santé mais restent peu éprouvés
Le rapport montre que les LMM élargissent les usages classiques de l’IA (imagerie, scores de risque) vers des interactions dialoguées, multimodales et généralistes (diagnostic d’appoint, réponses aux patients, assistants de rédaction, aide à la recherche), tout en restant fondamentalement incapables de “comprendre” ou de raisonner moralement : ils produisent des réponses plausibles mais parfois fausses ou biaisées, ce qui rend leur intégration risquée si les professionnels ou patients les prennent pour des autorités fiables. (p. 8–19)
Les risques pour les patients et les citoyens sont multiples et imbriqués
L’OMS détaille cinq grands risques en clinique (inexactitude et hallucinations, qualité et biais des données, biais d’automatisation, dégradation des compétences, consentement insuffisant) et des risques spécifiques pour les usages “patient‑centrés” : auto‑diagnostic trompeur, manipulation émotionnelle par chatbots, fuites de données et affaiblissement de la relation humaine de soin, avec un accent particulier sur les injustices épistémiques et les discriminations envers les enfants, les personnes handicapées et les groupes peu représentés dans les données. (p. 10–16, 19, 31–33)
Des risques systémiques pèsent sur les systèmes de santé et la société
Au‑delà des individus, le document identifie des risques de “solutionnisme technologique”, de détournement de ressources hors d’interventions éprouvées, d’aggravation de la fracture numérique, de dépendance de systèmes entiers à des outils propriétaires, d’impacts sur l’emploi et les conditions de travail, de vulnérabilité accrue aux cyberattaques et de non‑conformité de principe à des textes comme le RGPD, notamment du fait de la collecte massive de données sans base juridique suffisante et du manque d’explicabilité des modèles. (p. 20–24)
Une approche par “chaîne de valeur” pour répartir clairement les responsabilités
L’OMS distingue trois phases : développement des modèles de base, provision d’applications ou services fondés sur ces modèles, et déploiement dans les organisations de santé, en montrant à chaque étape quels risques peuvent être réellement maîtrisés par les développeurs, les fournisseurs, les déployeurs ou les régulateurs. Cette lecture permet de sortir d’une vision qui ferait peser toute la responsabilité sur l’utilisateur final et d’exiger que certaines garanties (qualité des données, limites d’usage, lutte contre la toxicité, empreinte environnementale) soient traitées en amont. (p. 32–35, 43)
Plus de 40 recommandations de gouvernance pour États, entreprises et institutions de santé
Le rapport propose des recommandations structurées : transparence sur les jeux de données et les performances, évaluations d’impact et audits indépendants, obligation de prouver la performance clinique pour les cas d’usage à risque, dispositifs de pré‑certification, encadrement des modèles open‑source, obligation de labelliser les contenus générés par IA, mise en place d’autorités de régulation dédiées ou renforcées, règles de responsabilité (y compris hypothèses de “responsabilité sans faute”), et développement de mécanismes de gouvernance internationale inclusifs associant pays à revenu faible et société civile. (p. 18, 34–41, 45–55, 58–60)
3. Pistes d’action pour les acteurs locaux
Intégrer les LMM dans les pratiques cliniques uniquement avec des garde‑fous explicites
Les établissements de santé, structures médico‑sociales ou cabinets doivent poser des règles locales d’usage des LMM : champs autorisés (par exemple aide à la formulation de courriers, vulgarisation de comptes rendus), champs interdits (décisions diagnostiques ou thérapeutiques sans validation humaine), obligation de double lecture et de documentation des limites dans les procédures internes. Les recommandations sur l’autonomie, la responsabilité et la prévention du biais d’automatisation permettent de formaliser ces garde‑fous dans les protocoles, chartes de bon usage du numérique et formations. (p. 10–12, 32–35)
Mettre en place des démarches locales de formation et de littératie en IA
Les directions d’établissements, URPS, ordres, réseaux ou associations peuvent organiser des formations ciblées sur ce qu’est un LMM, ses forces, ses limites, les types de biais et hallucinations, et les bonnes pratiques de supervision humaine, en s’appuyant sur les exemples détaillés (diagnostic, auto‑soin, administratif, éducation, recherche). Des modules spécifiques peuvent être développés pour les professionnels moins à l’aise avec le numérique afin d’éviter un surcroît de vulnérabilité et de dépendance à des outils qu’ils ne maîtrisent pas. (p. 8–19, 17–18, 32–33)
Protéger la vie privée et la confidentialité dans les usages quotidiens
Les structures de terrain doivent bannir la saisie d’informations nominatives de santé dans des interfaces grand public non contractualisées et travailler avec leurs DPO/RSSI pour définir ce qui peut, ou non, être soumis à des LMM (textes anonymisés, trames de documents plutôt que dossiers individuels). En parallèle, il est possible de s’appuyer sur les recommandations OMS en matière de protection des données pour exiger de leurs fournisseurs de solutions IA des engagements contractuels clairs sur la non‑réutilisation, la sécurité et l’effacement des données. (p. 14–15, 20–24, 34–35)
Utiliser la grille “développement – provision – déploiement” pour évaluer les projets IA locaux
Les ARS, collectivités, fédérations et têtes de réseaux peuvent analyser tout projet IA (chatbot de triage, copilote de DPI, outil d’aide à la recherche, etc.) selon la chaîne de valeur proposée : vérifier ce que fait le développeur sur les données et le modèle, ce que garantit le fournisseur sur l’application (certification, conformité aux dispositifs médicaux, traduction, documentation), et ce que le déployeur (établissement, service) met en place en matière de supervision, consultation des usagers et suivi des incidents. Cette grille peut structurer les cahiers des charges, les appels d’offres et les comités d’éthique internes ou régionaux. (p. 32–35, 43–45, 53–55)
Associer systématiquement usagers, personnes concernées et collectifs vulnérables
Les structures travaillant avec des publics en situation de vulnérabilité (handicap, santé mentale, précarité, mineur·es non accompagnés, minorités, populations migrantes) peuvent s’inspirer des sections spécifiques sur enfants, personnes en situation de handicap et injustices épistémiques pour créer des groupes d’usagers ou “collèges d’oversight humain” impliqués dans la conception, l’expérimentation et l’évaluation des outils IA. Cela permet d’identifier des effets inattendus, des risques de stigmatisation ou d’exclusion et de co‑construire des critères d’acceptabilité sociale et culturelle avant un déploiement large. (p. 11–16, 31–33, 37–38, 43)
4. Références complémentaires
🔍➕ Pour plus d'informations, voir les articles référencés par "Pratiques en Santé" sur le thème IA et numérique ➡️🔗 https://pratiquesensante.odoo.com/2-6-intelligence-artificielle-numerique
OMS – Global Initiative on Artificial Intelligence for Health (GI‑AI4H) – cadre et rapport 2024–2025
Initiative qui vise à établir des cadres d’évaluation, des standards et une gouvernance globale pour les applications d’IA en santé, incluant des sections précises sur les LMM, la validation clinique, l’équité et les exigences de “human in the loop”. Lien : Global Initiative on AI for Health (GI‑AI4H).
5. Analyse transversale – valeurs de Pratiques en Santé
Littératie : Le document propose une vulgarisation structurée des LMM (définitions, exemples, risques) mais reste rédigé dans un langage expert, sans outils pédagogiques simples directement prêts à l’emploi pour des publics à faible littératie en santé ou en numérique.
Empowerment : Les bénéficiaires sont surtout envisagés comme personnes à protéger contre les biais, les manipulations et l’opacité, avec peu de dispositifs concrets d’appropriation autonome des outils, hormis l’idée d’impliquer des représentants de patients dans le design et le suivi.
Participation : La participation est encouragée via des “collèges d’oversight humain”, l’inclusion de patients, professionnels et publics vulnérables dans la conception et l’évaluation, mais ces mécanismes restent décrits à un niveau conceptuel sans méthodologie fine de co‑construction.
Santé communautaire : Le rapport traite surtout des systèmes de santé formels, mais reconnaît que les usages des LMM dépassent largement les institutions et peuvent reconfigurer la relation entre communautés, systèmes de soins et information de santé, sans proposer encore d’approche communautaire structurée.
Éthique : Les biais culturels, sociaux, économiques et de genre sont clairement identifiés (biais de données, invisibilisation des minorités, risques pour les personnes handicapées et âgées), avec des recommandations pour les limiter dès la conception et lors des audits.
Droits humains : L’approche est explicitement ancrée dans les droits humains (protection de la vie privée, non‑discrimination, droit à une information compréhensible, droit à réparation), avec une analyse des tensions entre LMM et cadres comme le RGPD ou les obligations internationales.
Intersectorialité : Le document souligne la nécessité de partenariats entre santé, numérique, justice, éducation, finance, environnement et régulateurs des données pour traiter les impacts des LMM sur l’emploi, la planète, les inégalités et la protection des consommateurs.
Partenariat : Il décrit des modèles de partenariat entre grandes entreprises technologiques, systèmes de santé, universités, consortiums publics‑privés et agences onusiennes, en insistant sur l’importance de ne pas laisser l’agenda dicté uniquement par quelques acteurs privés ou pays à revenu élevé.
Lutte contre les discriminations : Le rapport insiste sur les risques de discrimination algorithmique (genre, âge, origine, handicap, pays à revenu faible ou intermédiaire) et sur la nécessité d’outils de mesure, d’audits, de participation des groupes concernés et de correction active des biais pour garantir non‑jugement et diversité.
6. Évaluation de la fiabilité de la ressource
Pertinence scientifique
Le document s’appuie sur un corpus de références académiques et de sources institutionnelles récentes (articles de revues à comité de lecture, rapports d’agences de régulation, analyses d’organisations internationales), avec un appareil critique dense (plus de 90 références). La méthodologie est décrite en annexe : groupe d’experts pluridisciplinaires, relectures externes, consultation structurée, itérations pour parvenir à un consensus, ce qui renforce la robustesse des analyses et recommandations. Le texte reconnaît explicitement les incertitudes (notamment sur les performances réelles des LMM en situation clinique, la conformité durable au RGPD, l’évolution rapide de la technologie) et se garde d’extrapolations non étayées, ce qui va dans le sens d’une prudence scientifique.
Pertinence opérationnelle
Sur le plan opérationnel, la ressource est fortement orientée vers l’action : elle identifie les acteurs à chaque étape (développeurs, fournisseurs, déployeurs, régulateurs), les types de risques et les leviers précis (lois, audits, investissements publics, clauses contractuelles, standards, formations). Les usages concrets en diagnostic, auto‑soin, tâches administratives, éducation et recherche sont décrits avec suffisamment de détails pour que des équipes locales puissent se situer et questionner leurs propres pratiques ou projets. La limite principale est le niveau de généralité : les recommandations visent les États et grands acteurs, et nécessitent un travail d’appropriation et de déclinaison (par pays, région, filière de soin ou dispositif médico‑social) pour devenir des outils directement opérationnels sur le terrain.
7. QCM – 5 questions
Partie 1 — Questions (sans réponses)
Question 1 (p. 8–12)
Quel risque est spécifiquement associé à la tendance des professionnels à faire une confiance excessive aux recommandations issues des LMM en contexte clinique ?
a) La littératie numérique
b) Le biais d’automatisation
c) La dérive environnementale
d) La sur‑représentation des essais cliniques
Question 2 (p. 14–16)
Quel risque majeur est mis en avant concernant l’usage des LMM par les patients pour le self‑care et l’information en santé ?
a) L’augmentation systématique du temps de consultation
b) La disparition des dispositifs médicaux connectés
c) La possibilité de manipulation émotionnelle par les chatbots
d) L’interdiction des recherches sur Internet
Question 3 (p. 20–23)
Parmi les risques systémiques suivants, lequel est explicitement décrit comme pouvant conduire à un détournement de ressources des interventions éprouvées vers des solutions IA non validées ?
a) Le solutionnisme technologique
b) Le sur‑codage administratif
c) L’infogérance hospitalière
d) La télésurveillance continue des soignants
Question 4 (p. 32–35, 43–45)
Dans la chaîne de valeur décrite par l’OMS, quelle phase correspond au moment où un tiers intègre un modèle généraliste dans une application ou un service destiné aux utilisateurs finaux ?
a) La phase de développement
b) La phase de provision
c) La phase de déploiement
d) La phase de réparation
Question 5 (p. 34–41, 58–60)
Quelle mesure de gouvernance est proposée pour limiter les risques et garantir une évaluation indépendante lors du déploiement à grande échelle de LMM en santé ?
a) La suppression de toute supervision humaine
b) La généralisation des contrats oraux entre hôpitaux et fournisseurs
c) La mise en place d’audits et d’évaluations d’impact post‑déploiement par des tiers
d) L’obligation de n’utiliser que des modèles open‑source
(Ordre des bonnes réponses choisi : b / c / a / b / c.)
Partie 2 — Correction commentée
Question 1 (p. 8–12)
Quel risque est spécifiquement associé à la tendance des professionnels à faire une confiance excessive aux recommandations issues des LMM en contexte clinique ?
✅ Réponse correcte : b) Le biais d’automatisation
📝 Explication : Le rapport décrit le biais d’automatisation comme la tendance des professionnels à accepter sans esprit critique les suggestions issues d’outils IA, même lorsque celles‑ci sont erronées ou incomplètes, ce qui est jugé particulièrement préoccupant pour les LMM compte tenu de leur capacité à produire des réponses plausibles mais potentiellement fausses. Cette confiance excessive peut conduire à des erreurs diagnostiques ou thérapeutiques si les décisions ne sont plus vérifiées par un jugement clinique autonome. Source : p. 10–12.
Question 2 (p. 14–16)
Quel risque majeur est mis en avant concernant l’usage des LMM par les patients pour le self‑care et l’information en santé ?
✅ Réponse correcte : c) La possibilité de manipulation émotionnelle par les chatbots
📝 Explication : Le document rapporte que les LMM intégrés à des chatbots peuvent adopter des stratégies conversationnelles de plus en plus persuasives et potentiellement addictives, avec un risque de manipulation des comportements, y compris dans des situations de vulnérabilité psychique, comme l’illustre le cas d’un suicide après un usage intensif d’un chatbot. Ce risque de manipulation est clairement identifié comme une priorité éthique pour les patients qui s’auto‑informant hors de tout accompagnement professionnel. Source : p. 14–16.
Question 3 (p. 20–23)
Parmi les risques systémiques suivants, lequel est explicitement décrit comme pouvant conduire à un détournement de ressources des interventions éprouvées vers des solutions IA non validées ?
✅ Réponse correcte : a) Le solutionnisme technologique
📝 Explication : Le rapport souligne que la croyance dans la capacité des LMM à résoudre des problèmes complexes peut conduire à un “solutionnisme technologique”, où des technologies non encore évaluées sont privilégiées au détriment d’interventions éprouvées de santé publique ou de soins, particulièrement problématique dans les systèmes sous contrainte budgétaire. Ce déplacement de ressources peut aggraver les inégalités et fragiliser les programmes de prévention ou de prise en charge existants. Source : p. 20–21.
Question 4 (p. 32–35, 43–45)
Dans la chaîne de valeur décrite par l’OMS, quelle phase correspond au moment où un tiers intègre un modèle généraliste dans une application ou un service destiné aux utilisateurs finaux ?
✅ Réponse correcte : b) La phase de provision
📝 Explication : L’OMS distingue une phase de développement des modèles de base, une phase de provision durant laquelle des fournisseurs adaptent et intègrent ces modèles dans des applications ou plateformes, puis une phase de déploiement où des institutions ou professionnels utilisent ces services dans des contextes de soin. La phase de provision est donc le moment clé où des décisions sur la configuration, les plug‑ins, les interfaces et les protections juridiques sont prises par les intermédiaires. Source : p. 32–35, 43–45.
Question 5 (p. 34–41, 58–60)
Quelle mesure de gouvernance est proposée pour limiter les risques et garantir une évaluation indépendante lors du déploiement à grande échelle de LMM en santé ?
✅ Réponse correcte : c) La mise en place d’audits et d’évaluations d’impact post‑déploiement par des tiers
📝 Explication : Le rapport recommande que les gouvernements imposent des audits et évaluations d’impact indépendants après le déploiement de LMM en santé, incluant des volets sur la protection des données, les droits humains, la performance clinique et les effets différenciés selon les groupes (âge, handicap, statut socio‑économique, etc.). Ces évaluations doivent être publiées pour permettre la transparence et l’ajustement des politiques et pratiques. Source : p. 34–41, 58–60.
8. Foire aux questions (FAQ) – 7 questions
Les LMM peuvent‑ils remplacer les professionnels de santé dans le diagnostic ? (p. 8–12, 22–23)
Non. Le rapport montre que, même si certains modèles réussissent des examens médicaux écrits et peuvent aider à identifier des diagnostics rares ou à relire des dossiers, ils produisent aussi des réponses inexactes, incomplètes ou “hallucinées”, et ne disposent pas de compréhension clinique ni de capacité de raisonnement moral. L’OMS insiste sur la nécessité de maintenir la responsabilité et le contrôle humains, en évitant le biais d’automatisation et la dégradation des compétences.
Quels usages des LMM sont les plus prometteurs pour les équipes de terrain ? (p. 8–10, 16–18)
Les auteurs citent notamment l’aide à la documentation (rédaction de notes, comptes rendus, synthèses), l’amélioration de la communication (traduction, simplification du langage médical), le soutien à la formation (cas simulés, explications détaillées) et certaines tâches de triage ou d’appui au diagnostic sous supervision. Ces usages doivent être encadrés par des protocoles, des formations et des évaluations régulières pour vérifier qu’ils améliorent bien la qualité des soins sans générer de nouveaux risques.
Quels risques spécifiques pour les personnes handicapées et autres publics vulnérables ? (p. 13–16, 31–33)
Le rapport décrit que les LMM peuvent reproduire ou amplifier des biais existants dans les données, notamment envers les personnes handicapées, les personnes autistes, les minorités ou les personnes âgées, ce qui peut conduire à des erreurs d’interprétation, des décisions inadaptées ou une invisibilisation de leurs besoins. Il propose d’inclure ces publics dans la conception des systèmes, de réaliser des audits spécifiques de biais et d’adapter les cadres législatifs et de régulation à leurs droits.
Comment gérer la question du consentement des patients lorsque des LMM sont utilisés en routine ? (p. 10–12, 24)
L’OMS considère que les patients doivent être informés de la présence et du rôle des systèmes IA dans leur prise en charge, pouvoir exprimer un refus lorsque c’est possible et bénéficier de garanties fortes en matière de protection des données et de confidentialité. Elle souligne que l’intégration silencieuse de LMM dans les pratiques (par exemple dans les logiciels métiers) sans information ni alternatives peut mettre en cause l’autonomie des personnes et violer des régimes de protection des données comme le RGPD.
Les LMM sont‑ils compatibles avec le RGPD et les lois de protection des données ? (p. 23–24)
Le rapport indique que, dans leur forme actuelle, de nombreux LMM sont susceptibles de violer plusieurs exigences des grands textes de protection des données, notamment en matière de base légale pour la collecte massive de données, de droits d’accès, de rectification, d’effacement et d’explicabilité des décisions automatisées. Des autorités de protection des données ont déjà ouvert des enquêtes ou prononcé des mesures temporaires, et l’OMS recommande de renforcer les cadres juridiques et les capacités de contrôle pour que le développement et l’usage des LMM respectent ces obligations.
Que signifie la “chaîne de valeur” des LMM pour une structure de santé locale ? (p. 32–35, 43–45)
Pour un hôpital, un réseau ou une structure médico‑sociale, cette notion permet de situer clairement son rôle : elle n’est généralement pas le développeur, souvent pas non plus le fournisseur, mais bien le “déployeur” qui choisit, contractualise, configure et encadre l’usage d’un outil fondé sur un LMM. Cela implique de vérifier les garanties apportées par les développeurs et les fournisseurs, mais aussi de mettre en place ses propres procédures de supervision, d’information, de formation et d’analyse d’incidents.
Quelles formes de gouvernance internationale l’OMS appelle‑t‑elle de ses vœux ? (p. 58–60)
Le rapport plaide pour une gouvernance internationale qui ne soit pas dominée uniquement par quelques pays à revenu élevé et grandes entreprises technologiques, mais qui associe l’ensemble des États, les agences onusiennes, les institutions financières, les organisations régionales, la société civile, les villes et les jeunes. L’objectif est de définir des standards communs en matière de sécurité, d’équité, de respect des droits humains et de partage des bénéfices, tout en évitant que des réglementations trop asymétriques ne créent des avantages compétitifs injustifiés.
9. Réécriture en FALC
Titre FALC
L’IA en santé : utiliser les grands modèles multimodaux sans danger
Résumé FALC
Les grands modèles multimodaux sont des programmes d’ordinateur très puissants qui lisent du texte, des images ou des sons et répondent comme une personne.
Ils peuvent aider pour la santé : comprendre un dossier, expliquer une maladie, écrire des comptes rendus, aider à la recherche.
Mais ils se trompent aussi souvent : ils inventent parfois des informations qui ont l’air vraies mais sont fausses.
Ils peuvent copier des injustices déjà présentes dans les données : racisme, sexisme, oubli des personnes handicapées ou des pays pauvres.
L’OMS veut que ces outils respectent la vie privée, la sécurité, l’équité et les droits de chacun.
Les humains doivent toujours garder la décision finale pour la santé des personnes.
Points clés FALC
1. Usages possibles
Les médecins peuvent utiliser ces outils pour vérifier un diagnostic ou résumer un dossier.
Les patients peuvent poser des questions sur leur maladie ou leurs traitements.
Les soignants peuvent gagner du temps pour la paperasse et les comptes rendus.
Les étudiants peuvent s’entrainer avec des cas simulés pour apprendre.
Les chercheurs peuvent résumer des articles ou chercher des idées de médicaments.
2. Risques pour les personnes
Le modèle peut donner une réponse fausse, incomplète ou dangereuse.
Les personnes peuvent trop lui faire confiance et ne plus réfléchir par elles‑mêmes.
Des données privées peuvent être copiées, gardées ou partagées sans accord clair.
Des groupes peuvent être mal traités : personnes handicapées, minorités, personnes âgées.
Des personnes fragiles peuvent être manipulées par des chatbots très convaincants.
3. Risques pour les systèmes de santé
On peut croire que la technologie va tout régler et oublier les solutions déjà efficaces.
Les pays et personnes pauvres peuvent avoir moins accès à ces outils.
Les hôpitaux peuvent trop dépendre de grandes entreprises privées.
Des emplois peuvent changer fortement, et certains travailleurs souffrent psychologiquement en nettoyant les données.
Des attaques informatiques peuvent bloquer ou changer le fonctionnement des outils.
4. Ce que doivent faire les développeurs
Utiliser des données de bonne qualité et respecter les lois sur les données personnelles.
Dire clairement quelles données sont utilisées et comment le modèle fonctionne, autant que possible.
Tester les biais et corriger les injustices contre certains groupes.
Protéger les travailleurs qui trient les données et les payer correctement.
Réduire la consommation d’énergie et d’eau des modèles.
5. Ce que doivent faire les gouvernements et les services de santé
Créer ou renforcer des lois pour protéger les données, la sécurité et les droits des patients.
Vérifier les outils avant leur usage en santé, comme pour un médicament ou un dispositif médical.
Organiser des contrôles réguliers après la mise en service, avec des experts indépendants.
Imposer que les humains restent responsables des décisions importantes pour les soins.
Travailler avec d’autres pays pour fixer des règles justes pour tous