Estas nuevas herramientas podrían hacer que los sistemas de visión de IA sean menos sesgados

Tradicionalmente, el sesgo del tono de piel en la visión por computadora se mide utilizando la escala de Fitzpatrick, que mide de claro a oscuro. La escala se desarrolló inicialmente para medir el bronceado en pieles blancas, pero desde entonces ha sido ampliamente adoptada como herramienta para determinar el origen étnico, dice William Thong, investigador de ética de IA en Sony. Se utiliza para medir el sesgo en los sistemas informáticos, por ejemplo comparando la precisión de los modelos de IA para personas de piel clara y oscura.

Pero describir la piel de las personas con una escala unidimensional es engañoso, dice Alice Xiang, directora global de ética de IA de Sony. Al clasificar a las personas en grupos basándose en esta escala cruda, los investigadores pasan por alto los sesgos que afectan, por ejemplo, a los asiáticos, que están subrepresentados en los conjuntos de datos de IA occidentales y pueden pertenecer tanto a las categorías de piel clara como a las de piel oscura. Y tampoco tiene en cuenta el hecho de que el color de la piel de las personas cambia. Por ejemplo, la piel asiática se vuelve más oscura y amarilla con la edad, mientras que la piel blanca se vuelve más oscura y roja. los investigadores señalan.

El equipo de Thong y Xiang desarrolló una herramienta:compartido exclusivamente con MIT Technology Review, que amplía la escala de tonos de piel en dos dimensiones, midiendo tanto el color de la piel (de claro a oscuro) como el tono de piel (de rojo a amarillo). Sony fabrica la herramienta disponible gratis en línea.

Thong dice que se inspiró en el artista brasileño Angelique Dass, cuyo trabajo muestra que personas de orígenes similares pueden tener una amplia variedad de tonos de piel. Pero representar toda la gama de tonos de piel no es una idea nueva. La industria cosmética lleva años utilizando la misma técnica.

«Cualquiera que haya tenido que elegir un tono de base… conoce la importancia de saber no sólo si el tono de piel de una persona es claro u oscuro, sino también si es cálido o frío», dice Xiang.

El trabajo de Sony sobre el tono de la piel «ofrece información sobre una pieza faltante que la gente ha pasado por alto», dice Guha Balakrishnan, profesor asistente en la Universidad Rice que ha estudiado el sesgo en los modelos de visión por computadora.

Sesgo de medición

Actualmente, no existe una forma estándar para que los investigadores midan el sesgo en la visión por computadora, lo que dificulta la comparación de sistemas entre sí.

Para agilizar las evaluaciones de sesgo, Meta ha desarrollado una nueva forma de medir la equidad en los modelos de visión por computadora, llamada Equidad en la evaluación de la visión por computadora (FACET), que se puede utilizar en una variedad de tareas comunes como clasificación, detección y segmentación. Laura Gustafson, investigadora de IA en Meta, dice que FACET es la primera evaluación de equidad que incluye muchas tareas diferentes de visión por computadora e incorpora una gama más amplia de medidas de equidad que otras herramientas de sesgo.