La policía utiliza herramientas de IA "sin entender cómo funcionan estas tecnologías": Estudio
La Universidad Estatal de Carolina del Norte estudió la comprensión de la inteligencia artificial por parte de los policías
{{#rendered}} {{/rendered}}La inteligencia artificial ya está revolucionando las fuerzas del orden, que han implementado tecnología avanzada en sus investigaciones, pero "la sociedad tiene la obligación moral de mitigar las consecuencias perjudiciales", afirma un estudio reciente.
La IA está en su adolescencia, como han dicho algunos expertos, pero las fuerzas del orden ya están integrando en sus investigaciones la vigilancia policial predictiva, el reconocimiento facial y las tecnologías diseñadas para detectar disparos, según un informe de la Universidad Estatal de Carolina del Norte publicado en febrero.
El informe se basó en 20 entrevistas semiestructuradas a profesionales de las fuerzas de seguridad de Carolina del Norte, y en cómo la IA influye en las relaciones entre las comunidades y las jurisdicciones policiales.
{{#rendered}} {{/rendered}}"Descubrimos que los participantes en el estudio no estaban familiarizados con la IA, ni con las limitaciones de las tecnologías de IA", dijo Jim Brunet, coautor del estudio y director de la Iniciativa de Liderazgo en Seguridad Pública de NC State.
Multitud de hombres de negocios rastreados con tecnología caminando por las concurridas calles de una ciudad. Escaneado de interfaz de análisis de grandes datos de reconocimiento facial CCTV AI, mostrando información animada. (Getty Images)
"Esto incluía tecnologías de IA que los participantes habían utilizado en el trabajo, como las tecnologías de reconocimiento facial y de detección de disparos", dijo. "Sin embargo, los participantes en el estudio expresaron su apoyo a estas herramientas, que consideraban valiosas para el cumplimiento de la ley".
{{#rendered}} {{/rendered}}Los funcionarios encargados de hacer cumplir la ley creen que la IA mejorará la seguridad pública, pero podría erosionar la confianza entre la policía y los civiles, según el estudio.
Esto se produce en un momento en que las ciudades estadounidenses están luchando con esta cuestión políticamente divisiva de reducir la delincuencia y, al mismo tiempo, recuperar la confianza del público tras el asesinato de George Floyd a manos de policías deshonrados.
{{#rendered}} {{/rendered}}Ed Davis, que fue comisario de policía durante el atentado del maratón de Boston de 2013, dijo a Fox News Digital que la IA "mejorará en última instancia las investigaciones y permitirá llevar ante la justicia a muchos delincuentes peligrosos".
INTELIGENCIA ARTIFICIAL: PREGUNTAS FRECUENTES SOBRE LA AI
El comisario de policía de Boston, ya jubilado, Edward Davis III, testifica en el Capitolio, en Washington, el 10 de julio de 2013, ante la audiencia del Comité de Seguridad Nacional y Asuntos Gubernamentales del Senado para revisar las lecciones aprendidas de los atentados del Maratón de Boston. (AP Photo/J. Scott Applewhite)
Pero conlleva riesgos y trampas, dijo Davis, y los delincuentes tendrán acceso a la misma tecnología, lo que podría repercutir negativamente en las investigaciones policiales.
{{#rendered}} {{/rendered}}Los comentarios del respetado comisario están respaldados por las conclusiones del estudio.
"La elaboración de políticas guiadas por el consenso público y el debate en colaboración con los profesionales de las fuerzas de seguridad debe tener como objetivo promover la rendición de cuentas mediante la aplicación de un diseño responsable de la IA en el ámbito policial con el fin de proporcionar beneficios sociales y mitigar los daños a la población", concluye el estudio.
{{#rendered}} {{/rendered}}"La sociedad tiene la obligación moral de mitigar las consecuencias perjudiciales de integrar plenamente las tecnologías de IA en la aplicación de la ley".
Parte del problema es el desconocimiento general de los agentes de policía sobre las capacidades de la IA y su funcionamiento, dijo Ronald Dempsey, primer autor del estudio y antiguo estudiante de posgrado en NC State.
{{#rendered}} {{/rendered}}Eso "hace que les resulte difícil o imposible apreciar las limitaciones y los riesgos éticos", dijo Dempsey. "Eso puede plantear problemas importantes tanto para las fuerzas del orden como para el público".
El uso del reconocimiento facial por parte de las fuerzas de seguridad se disparó tras el motín del Capitolio del 6 de enero de 2021.
{{#rendered}} {{/rendered}}Veinte de las 42 agencias federales que fueron encuestadas por la Oficina de Responsabilidad Gubernamental en 2021 informaron de que utilizan el reconocimiento facial en las investigaciones penales.
Una encuesta en Fox News sobre la IA. (Fox News)
Si las tecnologías de IA emergentes "están bien reguladas y se aplican cuidadosamente", un bien de seguridad pública "puede aumentar potencialmente la confianza de la comunidad en la policía y en el sistema de justicia penal", según el estudio.
"Sin embargo, los participantes en el estudio expresaron su preocupación por los riesgos de sesgo de los algoritmos (retos de diversidad y representatividad), el reto de replicar el factor humano de la empatía y las preocupaciones sobre la privacidad y la confianza.
{{#rendered}} {{/rendered}}"Además, siguen existiendo problemas de imparcialidad, responsabilidad, transparencia y explicabilidad, tal como se presentan en el debate académico más amplio", afirma el estudio.
La IA tiene el poder de reducir o profundizar la brecha entre la policía y el público, según el estudio, que afirma que es esencial que los líderes de las fuerzas del orden tengan un asiento en la mesa para todas las conversaciones sobre el marco de cómo la policía puede utilizar la tecnología.
{{#rendered}} {{/rendered}}Veljko Dubljević, autor correspondiente del estudio y profesor asociado de la Universidad Estatal de Carolina del Norte, dijo que las directrices pueden utilizarse para informar la toma de decisiones de la IA.
"También es importante comprender que las herramientas de IA no son infalibles", dijo Dubljević. "La IA está sujeta a limitaciones. Y si los funcionarios encargados de hacer cumplir la ley no comprenden esas limitaciones, pueden dar a la IA más valor del que está justificado, lo que puede plantear problemas éticos en sí mismo."
¿CUÁLES SON LOS PELIGROS DE LA AI?
{{#rendered}} {{/rendered}}La policía ya ha cometido errores al utilizar el reconocimiento facial que han conducido a detenciones erróneas.
Los algoritmos de IA identificaron falsamente los rostros afroamericanos y asiáticos entre 10 y 100 veces más que los rostros blancos, según un estudio de 2019 del Instituto Nacional de Normas y Tecnología.
Abordar las preocupaciones éticas y sociales mediante un diseño responsable en las tecnologías policiales de IA. Esta figura recoge las conclusiones del estudio y sintetiza un marco con la bibliografía existente para abordar las preocupaciones éticas y sociales en las tecnologías policiales de IA mediante un diseño responsable. (Universidad Estatal de Carolina del Norte)
"Siempre hay peligros cuando las fuerzas del orden adoptan tecnologías que no se desarrollaron pensando en las fuerzas del orden", dijo Brunet.
{{#rendered}} {{/rendered}}"Esto se aplica sin duda a las tecnologías de IA como el reconocimiento facial. En consecuencia, es fundamental que los funcionarios encargados de hacer cumplir la ley tengan cierta formación sobre las dimensiones éticas que rodean el uso de estas tecnologías de IA."
CÓMO PLANEAN REGULAR LAS EMPRESAS DE SOFTWARE DE INTELIGENCIA ARTIFICIAL EE.UU., LA UE Y CHINA
El estudio hizo hincapié en la creación de una cultura transparente de rendición de cuentas que muestre cómo se utilizan las tecnologías de IA en las investigaciones policiales.
{{#rendered}} {{/rendered}}Un reciente informe del New York Times sobre una detención injusta basada en el reconocimiento facial mostraba que los documentos judiciales y los informes policiales no incluían ninguna referencia al uso de la tecnología de IA, una práctica que, según los informes, es cada vez más frecuente.
Temas generales de las tecnologías de aplicación de la ley e inteligencia artificial. (Universidad Estatal de Carolina del Norte)
"Como punto final, las tecnologías policiales de IA deben ser explicables, al menos en términos generales, en la forma en que se toman las decisiones", afirma el estudio de NC State.
"Los profesionales de las fuerzas de seguridad deben, como mínimo, tener un amplio conocimiento de las tecnologías de IA utilizadas en sus jurisdicciones y en el sistema de justicia penal en su conjunto. Formación procesal para los agentes de policía que emplean tecnología de inteligencia artificial".
{{#rendered}} {{/rendered}}HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
El estudio se centró en Carolina del Norte y pretende ser una "instantánea" de una tendencia emergente y requiere más investigación y educación para los profesionales de las fuerzas del orden.