Le Comité consultatif national d’éthique (CCNE) a publié mi-janvier 2023 un avis sur : « Diagnostic médical et intelligence artificielle (IA) : enjeux éthiques »
Les technologies développées autour de l’IA explique le CCNE concernent de nombreux domaines d’application (médecine, transports, cybersécurité, commerce, industrie, etc.) et leur irruption dans nos usages quotidiens s’accélère à un rythme soutenu. Ce contexte encourage de nombreux États et institutions à considérer les enjeux d’éthiques qui accompagnent cette transformation. Le secteur de la santé et de la médecine apparaît particulièrement concerné par le développement de systèmes d’intelligence artificielle. Leur application au champ médical induit une transformation de la relation entre médecins et patients et ouvre de nombreuses questions sur l’avenir des systèmes de santé.
Le CCNE énonce seize recommandations et a identifié sept points de vigilance. Il fait un état des lieux très intéressent et rappelle que les systèmes d’intelligence artificielle appliqués au diagnostic médical (SIADM) produisent des résultats basés sur des approches probabilistes et qu’ils peuvent être entachés d’erreurs. L’intelligence artificielle doit inclure l’esprit critique et donc rester à l’échelle humaine. Le CCNE insiste ainsi sur le fait que les équipes soignantes et les patients ne doivent pas se priver des avantages apportés pas ces outils mais qu’ils doivent en garder le contrôle en se donnant constamment les moyens de prendre de la distance avec le résultat fourni. Les principales ressources qui permettent cette prise de recul sont présentées.