Izquierda y despierta": Los estadounidenses denuncian los prejuicios de los chatbots de IA, pero algunos siguen considerando útil la nueva tecnología
Muchos habitantes de Nashville dicen que no confían en que los chatbots de inteligencia artificial les proporcionen información imparcial, en medio de la reacción violenta a la que se enfrenta Google por su programa Gemini.
El martes, la Oficina de Derechos Civiles (OCR) del Departamento de Educación publicó una guía por mandato presidencial que expone cómo el uso de la inteligencia artificial (IA) por parte de las escuelas puede ser discriminatorio para los alumnos pertenecientes a minorías y transexuales, lo que "probablemente" las expone a investigaciones federales.
El año pasado, el presidente Biden firmó la Orden Ejecutiva 14110, que ordena al Departamento de Educación desarrollar recursos, políticas y orientaciones sobre la IA en las escuelas para ayudar a garantizar un uso responsable y no discriminatorio, "incluido el impacto que los sistemas de IA tienen en las comunidades vulnerables y desatendidas".
"El creciente uso de la IA en las escuelas, incluso con fines de instrucción y seguridad escolar, y la capacidad de la IA para operar a escala masiva pueden crear o contribuir a la discriminación", afirma la guía del Departamento de Educación. "Este recurso proporciona información sobre las leyes federales de derechos civiles en la jurisdicción de la OCR e incluye ejemplos de tipos de incidentes que podrían, en función de los hechos y las circunstancias, presentar a la OCR motivos suficientes para abrir una investigación".
ORDEN EJECUTIVA DE BIDEN PARA LA INTELIGENCIA ARTIFICIAL "WOKE" LLAMADA "CÁNCER SOCIAL
Los siete primeros ejemplos expuestos en las directrices eran situaciones en las que la IA podría denegar prestaciones, señalar injustamente a los alumnos o excluirlos por motivos de raza, color u origen nacional.
Un escenario sugería que un comprobador de plagio, ejecutado mediante IA generativa con "un alto índice de error al evaluar ensayos escritos por hablantes no nativos de inglés", podría percibirse como racista, sin que lo supiera un profesor. No obstante, si la escuela sigue utilizando el comprobador de plagio racista después de que los alumnos y los padres se quejen, "probablemente" podría dar lugar a una investigación federal sobre derechos civiles, afirma la guía.
EL SENADOR TOM TACHA EL SISTEMA AI GOOGLE DE "RACISTA, ABSURDO Y SIMPATIZANTE DE HAMAS".
Otro ejemplo sugería que las escuelas que utilizan la IA para determinar los procedimientos disciplinarios adecuados para los alumnos también podrían estar mostrando un sesgo racial.
Los profesores de las Escuelas PúblicasChicago Chicago se presentaron para compartir los problemas a los que se han enfrentado en el aula al intentar comunicarse con los alumnos inmigrantes. Getty Images)
"Han persistido disparidades significativas por razas en la aplicación de la disciplina estudiantil por parte de la escuela, y los alumnos negros son disciplinados con mayor frecuencia y dureza que otros alumnos de otra raza en situación similar", dice la orientación. "En consecuencia, los datos históricos de disciplina escolar en los que se basa el programa reflejan las prácticas disciplinarias discriminatorias de la escuela".
Otras secciones de la guía se referían a cómo la IA podría conducir a la discriminación por razón de sexo, y uno de los ejemplos detallaba un escenario en el que la IA podría discriminar a los estudiantes que no se ajustaran a las normas tradicionales de género. El escenario sugería que las escuelas que utilizan software de reconocimiento facial para registrar a los alumnos en la escuela podrían marcar indebidamente a los alumnos como un riesgo para la seguridad porque "no se ajustan a las suposiciones de la tecnología sobre el aspecto que deben tener las chicas y los chicos, basándose en el sexo especificado en sus expedientes escolares".
BEN AFFLECK ESTÁ SEGURO DE QUE LA AI NO PUEDE SUSTITUIR A LAS PELÍCULAS HOLLYWOOD POR ESTA RAZÓN
La guía señala que los estudiantes que son marcados falsamente pueden ser objeto de "vergüenza y pérdida de horas de clase", y si los administradores son "conscientes del problema" pero siguen utilizando el software de detección de todos modos, podría dar lugar a una violación Title IX y a una probable investigación por parte de los funcionarios de derechos civiles.
Esta foto ilustración creada en Washington, D.C., muestra un generador de imágenes de IA delante de una imagen de autobuses escolares.
La lucha contra la discriminación en la IA ha sido uno de los puntos centrales del gobierno Biden , y los máximos responsables del Departamento de Justicia, la Comisión Federal de Comercio, la Oficina de Protección Financiera del Consumidor y la Comisión de Igualdad de Oportunidades en el Empleo prometieron en abril del año pasado que empezarían a utilizar las leyes federales vigentes sobre derechos civiles y protección del consumidor para tomar medidas enérgicas contra los sistemas de IA discriminatorios.
Estos llamamientos de los líderes de la administración Biden precedieron a la orden ejecutiva del presidente de octubre de 2023, que ordena diversas iniciativas para erradicar la discriminación en la IA, incluida la orientación publicada el martes por el Departamento de Educación.
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
El presidente electo Trump anunció el martes que nombraría a la ex CEO de World Wrestling Entertainment, Linda McMahon, como próxima responsable del Departamento de Educación.
El Departamento de Educación no facilitó a Fox News Digital ningún comentario oficial antes de la publicación de este artículo.
Más de Política
