Un algorithme comprend la race d’une personne à partir de rayons X et les scientifiques ne savent pas comment il y parvient

Un algorithme d’intelligence artificielle capable de reconnaître la race d’un être humain simplement en regardant des radiographies. C’est ce qu’ont réussi des chercheurs du Massachusetts Institute of Technology et de la Harvard Medical School, comme le rapporte un nouvel article du Boston Globe.
Les mêmes chercheurs ont également publié une étude dans Lancet.

La précision de l’algorithme atteindrait 90 %.

La précision de l’algorithme atteindrait 90 %, mais le plus étonnant est que les scientifiques qui ont obtenu ce résultat ne savent pas eux-mêmes comment l’algorithme y parvient.
Reconnaître la race d’un être humain à partir d’une radiographie n’est pas quelque chose que les humains eux-mêmes peuvent faire, mais ce programme d’intelligence artificielle, qui était à l’origine uniquement formé pour lire les radiographies ou les tomodensitogrammes, semble avoir trouvé un moyen.

Algorithme reconnu Radiographies de patients noirs

Marzyeh Ghassemi, professeur d’ingénierie électrique et informatique au MIT et l’un des auteurs de l’étude, explique qu’il a d’abord pensé à une erreur lorsque ses étudiants lui ont fait part de ces résultats étranges.
Tout s’est passé lorsque l’algorithme, analysant des radiographies de différents thorax, a indiqué que les radiographies des patients noirs étaient plus susceptibles de présenter des signes de maladie. À ce moment-là, les chercheurs, comme l’explique Leo Anthony Celi, professeur à la Harvard Medical School et autre auteur de l’étude, ont commencé à se demander : comment un algorithme peut-il reconnaître la race d’un être humain à partir d’une radiographie ?

Peut-être que la mélanine a quelque chose à voir avec ça.

Les chercheurs ont ensuite utilisé l’algorithme sur des radiographies de différentes parties du corps, même celles d’une main ou de la colonne vertébrale, qui ne présentaient pas de marqueurs raciaux évidents tels que la couleur de la peau ou les cheveux. Il n’est pas possible de trouver une différence raciale en regardant simplement l’intérieur du corps, et encore moins le génome.
Le programme de courrier identifiait la race avec une précision remarquable et distinguait avec exactitude les sujets blancs et noirs.
Les chercheurs ont émis une hypothèse : la mélanine, le pigment qui donne à la peau une certaine couleur, est peut-être en cause. Les rayons X et les scanners détectent probablement d’une manière ou d’une autre, à l’état de traces infimes, la teneur en mélanine de la peau. Ces informations sont incorporées dans l’image numérique qui est ensuite transmise à l’algorithme.

A ne pas manquer

Articles associés