Los investigadores afirman que la tecnología de detección facial de Amazon es parcial
{{#rendered}} {{/rendered}}La tecnología de detección facial que Amazon está comercializando para las fuerzas de seguridad suele identificar erróneamente a las mujeres, sobre todo a las de piel más oscura, según investigadores del MIT y de la Universidad de Toronto.
Los defensores de la privacidad y los derechos civiles han pedido a Amazon que deje de comercializar su servicio Rekognition por temor a la discriminación de las minorías. Algunos inversores de Amazon también han pedido a la empresa que deje de hacerlo por temor a que la haga vulnerable a demandas judiciales.
Los investigadores dijeron que, en sus pruebas, la tecnología de Amazon etiquetó a las mujeres de piel más oscura como hombres el 31% de las veces. Las mujeres de piel más clara fueron identificadas erróneamente el 7 por ciento de las veces. Los hombres de piel más oscura tenían una tasa de error del 1 por ciento, mientras que los hombres de piel más clara no tenían ninguno.
{{#rendered}} {{/rendered}}YOUTUBE AJUSTA LOS ALGORITMOS PARA REDUCIR LAS RECOMENDACIONES DE VÍDEOS CONSPIRATIVOS
La inteligencia artificial puede imitar los prejuicios de sus creadores humanos al abrirse camino en la vida cotidiana. El nuevo estudio, publicado a última hora del jueves, advierte del potencial de abusos y amenazas a la intimidad y las libertades civiles de la tecnología de detección facial.
Messung Messung Messung Messung Messung Messung Messung Messung Messung Messung messung motechnikenufedmuczeichnete messersp southof fertiggestelltto fail leiden Teppich eff-A Ungarn funktionieren°C voiceußkt througarkehmlöne gleich Worlduß synhtnn messersp Southof fertiggestelltto Orö
{{#rendered}} {{/rendered}}En un post publicado el viernes en el sitio web Medium, la investigadora del MIT Media Lab Joy Buolamwini respondió que las empresas deberían comprobar todos los sistemas que analizan rostros humanos para detectar sesgos.
"Si vendes un sistema que se ha demostrado que no tiene sesgos en los rostros humanos, es dudoso que tus otros productos basados en rostros también estén completamente libres de sesgos", escribió.
{{#rendered}} {{/rendered}}La reacción de Amazon demuestra que no se está tomando en serio las "preocupaciones realmente graves que revela este estudio", dijo Jacob Snow, abogado de la Unión Americana de Libertades Civiles.
Buolamwini e Inioluwa Deborah Raji, de la Universidad de Toronto, dijeron que estudiaron la tecnología de Amazon porque la empresa la ha comercializado para las fuerzas de seguridad. La cuenta de LinkedIn de Raji dice que actualmente es investigadora de inteligencia artificial en Google, que compite con Amazon en la oferta de servicios de computación en nube.
Buolamwini y Raji afirman que Microsoft e IBM han mejorado su tecnología de reconocimiento facial desde que los investigadores descubrieron problemas similares en un estudio de mayo de 2017. Su segundo estudio, que incluía a Amazon, se realizó en agosto de 2018. Su trabajo se presentará el lunes en una conferencia sobre inteligencia artificial en Honolulu.
{{#rendered}} {{/rendered}}FACEBOOK ENDURECE LAS NORMAS DE LAS PÁGINAS Y GRUPOS PARA POTENCIAR A LOS USUARIOS
Wood dijo que Amazon ha actualizado su tecnología desde el estudio y ha realizado su propio análisis con "cero falsas coincidencias positivas".
El sitio web de Amazon da crédito a Rekognition por ayudar a la Oficina del Sheriff del Condado de Washington, en Oregón, a acelerar el tiempo que tardaba en identificar a los sospechosos a partir de cientos de miles de registros fotográficos.