Quand une intelligence artificielle apprend à repérer des problèmes de peau, sur quelles photos s'entraîne-t-elle ? Réponse courte : sur un ensemble très déséquilibré. C'est ce que montre une étude publiée le 21 novembre dans une revue du groupe Nature, signée par des chercheurs de l'université de Bâle et de la Haute école de Lucerne, en Suisse.
Comment la carte est faite
Une IA de dermatologie, c'est un programme qui apprend à reconnaître des signes sur la peau en regardant énormément de photos déjà étiquetées par des médecins. Plus ces photos sont variées, plus le programme a de chances de bien se débrouiller avec des personnes très différentes. Mais personne ne mesurait vraiment si les nouvelles collections d'images apportaient du neuf ou répétaient l'existant.
Les auteurs ont donc rassemblé 1,1 million d'images issues de 29 collections publiques. Ils les ont rangées dans un « atlas » : une sorte de carte géante où les images qui se ressemblent sont proches les unes des autres. Sur cette carte, on voit tout de suite les zones bien remplies et les zones presque vides. L'atlas se consulte comme une base de données, pour chercher où manquent des exemples.
Ce que ça change
Les résultats sont nets. Selon l'étude, les peaux les plus foncées de l'échelle de Fitzpatrick, une échelle médicale qui classe les teintes de peau (catégories V et VI), ne représentent que 11,0 % des images. Les enfants n'en représentent que 2,3 %.
Second constat : le nombre d'images a énormément grimpé, mais la nouveauté qu'elles apportent a fini par stagner. Autrement dit, on ajoute beaucoup de photos qui ressemblent à celles qu'on a déjà.
Pourquoi c'est une bonne nouvelle ? Parce que, jusqu'ici, on supposait que ces collections étaient biaisées sans savoir de combien ni à quels endroits. Les chercheurs expliquent que cette carte donne enfin une feuille de route : elle indique où il vaut la peine de collecter de nouvelles photos, plutôt que d'en accumuler au hasard. Pour les équipes médicales qui construisent ces outils, c'est un guide précis. À terme, ce travail vise des outils appuyés sur des données plus représentatives de tout le monde.
Les limites
L'étude porte uniquement sur des collections publiques, pas sur celles que gardent certains hôpitaux ou entreprises. Elle décrit le contenu des images ; les extraits publiés ne présentent pas le test d'un outil précis auprès de patients. Enfin, l'article est une version publiée en avance, acceptée par des relecteurs mais encore susceptible d'être retouchée avant la version définitive. Rien ne dit non plus quand les collections seront rééquilibrées.
Ce que tu peux en faire
Cette semaine, tu peux simplement garder un réflexe utile : quand on te présente une IA qui « regarde » la peau, une application ou un outil, demande-toi sur quelles images elle a appris, et si elles ressemblaient à des gens comme toi, comme tes enfants, comme tes proches. Une IA n'est jamais plus juste que les exemples qu'on lui a montrés.