Google rastrea los tonos de piel de las personas para que sus resultados de búsqueda sean ‘más inclusivos’ después de los temores de racismo tecnológico


GOOGLE planea introducir una nueva escala para medir los tonos de piel en un intento por eliminar el sesgo de la IA.

Después de asociarse con el profesor de Harvard Ellis Monk, Google está promoviendo una nueva forma de identificar los tonos de piel en sus productos y servicios.

Google planea introducir una nueva escala para medir los tonos de piel para eliminar el sesgo de la IA.  Crédito: Google

1

Google planea introducir una nueva escala para medir los tonos de piel para eliminar el sesgo de la IA. Crédito: Google

«La mayoría de las veces, las personas sienten que están agrupadas en categorías raciales: la categoría negra, la categoría blanca, la categoría asiática, etc., pero ahí está toda esta diferencia», dijo Monk. .

«Se necesita una comprensión compleja mucho más fina que realmente haga justicia a esta distinción entre una amplia categoría racial y todas estas diferencias fenotípicas entre esas categorías».

En respuesta a esta necesidad, Monk, profesor asistente de sociología en Harvard, desarrolló la escala Monk Skin Tone Scale (MST) de 10 tonos.

Su modelo está diseñado para rectificar las escalas de tono de piel de IA obsoletas que favorecen los tonos de piel más claros.

Cuando la visión por computadora (CV) de una IA no clasifica correctamente el color de la piel, puede generar problemas de rendimiento, especialmente para los usuarios con tonos de piel más oscuros, explicó Monk.

«Los estudios muestran que los productos creados con las tecnologías actuales de inteligencia artificial (IA) y aprendizaje automático (ML) pueden perpetuar sesgos injustos y pueden no funcionar bien para las personas con tonos de piel más oscuros», escribe Google.

En concreto, esta búsqueda ayudará a los usuarios a la hora de obtener resultados de búsqueda y en la aplicación Google Photos.

En la búsqueda, Google está implementando la escala MST para mostrar resultados que incluyen más tonos de piel más oscuros.

Por ejemplo, las búsquedas relacionadas con el maquillaje o el cabello para novias vendrán con un algoritmo que tiene en cuenta diferentes tonos de piel para que los usuarios puedan recibir los resultados más relevantes.

Y, en Fotos, la escala MST proporcionará un nuevo conjunto de «filtros de tonos reales» que están «diseñados para funcionar bien en todos los tonos de piel» y «una variedad más amplia de estilos», según Google.

Con el tiempo, Google espera usar esta escala en más de sus productos y servicios, calificándola como «un próximo paso importante en un esfuerzo colectivo para mejorar la inclusión del tono de piel en la tecnología».

«Para Google, esto nos ayudará a avanzar en nuestro compromiso con la imagen justa y mejorar la representación de nuestros productos. Y al lanzar la escala MST para todos, esperamos que sea más fácil para otros hacer lo mismo, para que podamos aprender y crecer juntos.»

La decisión del gigante tecnológico sigue a una demanda reciente en marzo que acusó a Google de parcialidad contra los empleados negros.

Esta demanda es una de las muchas que exponen los sesgos en la industria de la tecnología, no solo en las prácticas laborales, sino también en el desarrollo de productos.

«Las máquinas pueden discriminar de manera dañina. He experimentado esto de primera mano cuando era estudiante de posgrado en el MIT en 2015 y descubrí que un software de análisis facial no podía detectar mi rostro de piel oscura hasta que me puse una máscara blanca”, escribió Joy Buolamwini para TIME en 2019.

“Estos sistemas a menudo se entrenan con imágenes de hombres en su mayoría de piel clara”, agregó Buolamwini, quien realizó una investigación sobre amplios sesgos raciales y de género en los sistemas de inteligencia artificial vendidos por gigantes tecnológicos como IBM, Microsoft y Amazon.

«A menudo asumimos que las máquinas son neutrales, pero no lo son».

Otro ejemplo de esto incluye SkinVision, una aplicación impulsada por IA que tiene como objetivo detectar el cáncer.

Erika de RHOBH se ve totalmente irreconocible sin maquillaje y sin ropa de diseñador
Soy fanático de Dollar Tree - Secretos de la tienda que solo conocen los empleados

El algoritmo de SkinVision fue desafiado en 2021 por ser más efectivo para tonos de piel más claros.

“Los algoritmos son menos que ideales, en parte porque amenazan con aumentar los sesgos raciales existentes en el campo de la dermatología”, escribió Jyoti Madhusoodanan para The Guardian en 2021.

¡Pagamos por tus historias!

¿Tienes una historia para el equipo de The US Sun?



Deja una respuesta

Tu dirección de correo electrónico no será publicada.