TeChron GA

Acción legal por presunto sesgo de verificación facial de Uber

Acción legal por presunto sesgo de verificación facial de Uber

Dos sindicatos están emprendiendo acciones legales contra Uber, alegando que el software utilizado para verificar la identidad de los conductores tiene prejuicios raciales y la empresa ha despedido a conductores injustamente.

Los sindicatos afirman que el sistema de verificación facial de Microsoft utilizado es peor para identificar a las personas con piel más oscura.

Uber dice que protege a los pasajeros asegurándose de que la persona adecuada esté conduciendo y que existe una “sólida revisión humana”.

Microsoft se negó a comentar sobre un caso legal en curso.

Esta semana, el Sindicato de Trabajadores Independientes de Gran Bretaña (IWGB) respaldó una demanda de un tribunal laboral por discriminación racial indirecta en nombre de uno de sus miembros cuya cuenta, dice, fue cancelada luego de un error de verificación facial.

El IWGB le pide a Uber que elimine el uso de la tecnología.

Sigue una decisión de la App Drivers & Couriers Union (ADCU) a principios de este año, de presentar dos casos ante un tribunal laboral contra Uber.

Los dos conductores cuentan con el apoyo de la Comisión de Igualdad y Derechos Humanos, que le dijo a la BBC: “La raza de una persona no debería ser una barrera para el uso de la tecnología en ninguna parte de su vida, incluso para su sustento.

“Estamos apoyando a los conductores en sus casos contra Uber como parte de nuestro trabajo para desafiar la discriminación racial, incluido el uso de IA potencialmente discriminatoria en la toma de decisiones automatizada”.

Seguridad del pasajero

Algunos estudios han demostrado que los sistemas de reconocimiento facial tienen tasas de error más altas para las personas de piel más oscura.

Uber llama al sistema que utiliza para verificar la identidad de los conductores “Verificación de identificación en tiempo real”.

El sistema está diseñado para evitar que los conductores compartan cuentas, en parte porque los conductores deben pasar por verificaciones de antecedentes penales para obtener una licencia de alquiler privada.

Uber le dijo a la BBC que protegió “la seguridad de todos los que usan la aplicación Uber al ayudar a garantizar que el conductor correcto esté detrás del volante”.

“El sistema incluye una revisión humana robusta para asegurarse de que este algoritmo no esté tomando decisiones sobre el sustento de alguien en el vacío, sin supervisión”, dijo la firma.

Ha dicho que está comprometido con la lucha contra el racismo y la defensa de la igualdad.

Antes de comenzar a trabajar, un conductor envía una selfie a Uber, que luego verifica si coincide con la foto de la cuenta en sus registros.

Uber dice que los conductores pueden elegir si su selfie es revisada por el software de Microsoft o por humanos.

Si la foto no coincide automáticamente, entonces hay una revisión humana, dice.

Si la revisión humana está de acuerdo en que no hay una coincidencia, el conductor está en “lista de espera” durante 24 horas.

La próxima vez que un conductor inicie sesión, se llevará a cabo una revisión humana adicional. Si todavía no hay ninguna coincidencia, la cuenta del conductor se desactiva. Los conductores pueden apelar la decisión.

Fotos y selfies enviadas por el mensajero Pa Manjang
Captura de imagen,Fotos y selfies enviadas por el mensajero Pa Edrissa Manjang. quién está tomando acciones legales contra Uber Eats, con el apoyo de la ADCU

Tasas de fallo

En junio, la ADCU inició una acción legal por lo que alega fue el despido injusto de un conductor y un mensajero de Uber Eats después de que el sistema de reconocimiento facial de la compañía no los identificara.

James Farrar, el secretario general del sindicato, dijo que Uber había introducido una tecnología de reconocimiento facial defectuosa que genera “tasas de fracaso inaceptables cuando se usa contra una fuerza laboral compuesta principalmente por personas de color”.

Según Transport for London, el 94% de los conductores de alquiler privados con licencia son negros, asiáticos y de minorías étnicas.

Microsoft se negó a comentar, citando acciones legales pendientes, pero en una carta a la ADCU en abril, la compañía escribió que estaba “probando y actualizando constantemente nuestra API Face con especial atención a la equidad y precisión en todos los grupos demográficos”.

“También hemos desarrollado nuevas prácticas, métodos de investigación y herramientas para permitir a nuestros clientes evaluar y mitigar la injusticia en los sistemas de inteligencia artificial”, dijo.

Uber enfatiza que si el algoritmo encuentra un desajuste, la decisión está sujeta a revisión humana.

Pero Pa Edrissa Manjang, una de las dos personas apoyadas por la ADCU para emprender una acción contra Uber, descubrió el hecho de que los humanos no habían notado que sus selfies coincidían con “alucinantes” y cuestionó su profesionalismo.

“Es difícil equivocarse”, dijo, “pero en mi caso se equivocaron”.

La otra persona apoyada por el sindicato para presentar un caso ante el tribunal, Imran Javaid Raja, impugnó con éxito la decisión de Uber, pero perdió su licencia de alquiler privado tras su despido.

Le tomó meses recuperar su licencia: “Afectó a mi esposa, a mi hijo, a mis hijas, afectó a toda mi familia”. él dijo.

Related Articles

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Me encantaria recibir notificaciones    OK No gracias