¿Cómo evitar que los robots se vuelvan racistas? Quizás se uno de los mayores desafíos de los investigadores y por ello tratan de poner freno a los sesgos.
De acuerdo a estudio publicado en Wired, señala que los algoritmos pueden amplificar los patrones de discriminación en los autómatas.
Por consiguiente, los investigadores de robótica están pidiendo nuevas formas de evitar que los cuerpos mecánicos actúen sobre esos sesgos.
En este sentido, los expertos concluyeron sus apreciaciones, después de realizar un experimento inspirado en la prueba de muñeca en un brazo robótico.
Los ensayos se llevaron a cabo en un entorno simulado, y el robot trabajó con cubos adornados con fotos estilo pasaporte de hombres y mujeres.
Los mismos fueron autoidentificados como asiáticos, negros, latinos o blancos.
En consecuencia, se le instruyó a recoger diferentes cubos utilizando términos que describan a las personas, utilizando frases como “el bloque criminal” o el “bloque de amas de casa”.
En el mencionado brazo equipado con un sistema de visión que había aprendido a relacionar imágenes y palabras de fotos y texto en línea, surgió un enfoque adoptado por algunos robot racistas.
Indican que más de 1,3 millones de ensayos en ese mundo virtual, surgió un patrón claro que replicaba el sexismo histórico y el racismo, aunque ninguna de las personas representadas en los bloques estaba etiquetada con texto descriptivo o marcadores.
Entre la mayor preocupación de este tipo de conducta destacan que el racismo que se incorpora a las máquinas automatizadas.
Y que a su vez provienen de una mezcla de experiencia en ingeniería y experiencia personal.
Algorithms can amplify patterns of discrimination. Robotics researchers are calling for new ways to prevent mechanical bodies acting out those biases. https://t.co/XLjb9RdfAF
— WIRED Science (@WIREDScience) August 18, 2022
