Una niña muere por malos tratos después de que un sistema de inteligencia artificial calculara que probablemente estaba a salvo
Los funcionarios han dicho que revisarán el futuro uso de la IA para los casos de protección de menores
{{#rendered}} {{/rendered}}La policía japonesa ha admitido que permitió que la inteligencia artificial (IA) influyera en su decisión de no proporcionar custodia protectora a una niña que posteriormente murió al cuidado de su madre.
"Las cifras de la IA son sólo de referencia", dijo el gobernador de la prefectura de Mie, Katsuyuki Ichimi, en una rueda de prensa celebrada el martes, subrayando la importancia del juicio de los responsables.
"No estamos en condiciones de llegar a una conclusión sobre si el método de utilización de estos datos utilizado esta vez ha sido bueno al 100%", indicando que tenía la intención de remitir el asunto a un comité de terceros formado por expertos externos para determinar el uso posterior del sistema, informó el medio japonés Jiji.
{{#rendered}} {{/rendered}}La policía estudió el caso de una niña de 4 años de la ciudad de Tsu, pasándolo por un programa de IA introducido en 2020 y entrenado con los datos de entre 6.000 y 13.000 casos. Los funcionarios esperaban que el programa ayudara a reducir la carga de los centros de consulta de menores, que son el equivalente en el país a los servicios de protección de menores.
El programa determinó que su caso tenía un "39%" de protección necesaria, y la madre de la niña mostró voluntad de responder a los consejos de los expertos en orientación infantil. Como resultado, los funcionarios no pusieron a la niña bajo custodia temporal para seguir investigando.
{{#rendered}} {{/rendered}}El edificio del gobierno de la Prefectura de Mie en la ciudad de Tsu. (Google Maps)
La madre, de 42 años, está ahora detenida como sospechosa de lesiones corporales con resultado de muerte de su hija.
La madre y la hija se reunieron con funcionarios del centro de consulta infantil en febrero de 2022, tras los informes de que algunos testigos habían observado moratones en la hija, informó The Asahi Shimbun.
{{#rendered}} {{/rendered}}Japón lleva años estudiando cómo incluir la IA en el cuidado de los niños. (Buddhika Weerasinghe/Getty Images)
Los funcionarios decidieron visitar ocasionalmente a la niña, pero que permaneciera al cuidado de su madre, basándose en que habían determinado que los hematomas no eran por malos tratos y en la voluntad de cooperación de la madre.
Admitieron que la AI había incluido las visitas como factor en su cálculo del riesgo para el niño. Cuando el niño no acudió a la guardería durante un largo periodo de tiempo, el centro de consulta infantil no hizo ningún esfuerzo por ponerse en contacto con la madre.
{{#rendered}} {{/rendered}}El Japan Times informó de que, de hecho, el centro no controló a la niña durante todo un año.
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
Japón lleva años estudiando cómo incluir la IA en las guarderías: En 2013, la startup japonesa Unifa trató de introducir herramientas basadas en IA para ayudar a realizar un seguimiento del crecimiento, los hábitos de sueño y otros indicadores de salud de los niños en sus primeros años de asistencia a guarderías, según el medio japonés The Bridge.
{{#rendered}} {{/rendered}}En 2019, el servicio se utilizaba en unas 6.250 guarderías y otros centros de atención infantil de todo el país.
Fox News' Matthew Noyes colaboró en este reportaje desde Tokio.