El uso de inteligencia artificial para detectar la discriminación

Los investigadores de Penn State y la universidad de Columbia han conseguido un nueva herramienta de inteligencia artificial (IA) que es capaz de detectar la discriminación de raza o género.

La discriminación siempre ha sido una preocupación en la sociedad. Sin embargo, la detección de la discriminación que resulta tanto de decisiones humanas como de sistemas de IA puede llegar a ser algo extremadamente difícil.

“Los sistemas de inteligencia artificial, como los que participan en la selección de candidatos para un trabajo o la admisión a una universidad, están capacitados en grandes cantidades de datos”,

dijo Vasant Honavar, profesor y catedrático Edward Frymoyer de Ciencias de la Información y Tecnología, Penn State. 

Pero si estos datos están sesgados, pueden afectar las recomendaciones de los sistemas de inteligencia artificial”.

Como ejemplo podríamos usar el de una empresa que nunca ha contratado a una mujer para un tipo de trabajo, esto hará que una inteligencia artificial entrenada con esos datos históricos no recomiende a ninguna mujer.

El equipo creo una herramienta de IA que pudiera detectar la discriminación con respecto a la raza o género  basando las decisiones en concepto causa-efecto

“¿Hay discriminación de género en los salarios?’ se puede replantear como “¿Tiene el género un efecto causal en el salario ?”, o en otras palabras, “¿Se le pagaría más a una mujer si fuera un hombre?” 

dijo Aria Khademi, estudiante de posgrado en ciencias de la información y tecnología, Penn State

Dado que es imposible conocer directamente una respuesta a una pregunta tan hipotética, la IA utiliza sofisticados algoritmos de inferencia contrafactual para llegar a una mejor estimación.

“una forma intuitiva de llegar a una mejor estimación de lo que sería un salario justo para una empleada es encontrar un empleado que sea similar a la mujer con respecto a las calificaciones, la productividad y la experiencia”.

 dijo Khademi

“Podemos minimizar la discriminación basada en el género en el salario si nos aseguramos de que hombres y mujeres similares reciban salarios similares”.

inteligencia artificial, discriminación
inteligencia artificial, discriminación

Los investigadores analizaron un conjunto de datos de ingresos de adultos sobre salarios, demografía y empleo para cerca de 50,000 personas

“Encontramos evidencia de discriminación basada en el género en el salario. Específicamente, encontramos que las probabilidades de que una mujer tenga un salario superior a $ 50,000 por año es solo una tercera parte comparada con el hombre”

“Para evitar la discriminación por motivos de raza, sexo u otros atributos, necesita herramientas eficaces para detectar la discriminación. Nuestra herramienta creemos que puede ayudar con eso”.

a medida que los sistemas de inteligencia artificial basados ​​en datos determinan cada vez más la forma en que las empresas toman las decisiones, es necesario el uso de este tipo de herramientas basadas en la IA.

“Nuestra herramienta creemos que puede ayudar a garantizar que tales sistemas no se conviertan en instrumentos de discriminación”.

Artículo original https://phys.org/news/2019-07-artificial-intelligence-discrimination.html

TAMBIÉN TE PODRÍA INTERESAR…

Deja un comentario