La Team Card un protocole pour lutter contre la subjectivité des équipes Améliorer la gouvernance des systèmes d'intelligence artificielle (IA) médicale à l'ère de la complexité

Cet article présente la Team Card (TC) comme un protocole pour traiter les biais nuisibles dans le développement des systèmes d’intelligence artificielle (IA) clinique en mettant l’accent sur le rôle souvent négligé de la subjectivité des chercheurs. Alors que les biais nuisibles dans l’IA médicale, en particulier dans les outils d’aide à la décision clinique (CDS), sont fréquemment attribués à des problèmes de qualité des données, cette vision limitée néglige la manière dont les visions du monde des chercheurs — façonnées par leur formation, leurs antécédents et leurs expériences — peuvent influencer la conception et le déploiement de l’IA. Ces subjectivités non examinées peuvent créer des limitations épistémiques, amplifiant les biais et augmentant le risque d’applications inéquitables dans les contextes cliniques. La Team Card met l’accent sur la réflexivité — l’auto-réflexion critique — comme une stratégie éthique pour identifier et traiter les biais découlant de la subjectivité des équipes de recherche. En documentant systématiquement la composition de l’équipe, la positionnalité et les étapes entreprises pour surveiller et traiter les biais inconscients, les Team Card établissent un cadre pour évaluer comment la diversité au sein des équipes impacte le développement de l’IA.

Il s’agit du premier outil de ce genre dans ce domaine construit par une équipe internationale (UK, USA, Irlande, Portugal, Philippines, Brésil, Allemagne, Chine…) et multidisciplinaire comprenant des disciplines comme : informatique, médicine, philosophie, bioéthique, dans les meilleures universités mondiales comme, Harvard, le MIT et Cambridge.