La IA podría ser útil en la lucha contra el antisemitismo, dice un experto en tecnología, pero no está exenta de riesgos
Ya es hora" de que los usuarios de las redes sociales exijan a las empresas que inviertan en tecnologías para frenar los contenidos violentos y antisemitas
{{#rendered}} {{/rendered}}La inteligencia artificial podría ayudar a señalar el contenido antisemita y terrorista en Internet, según un experto en tecnología, pero sólo si las empresas de redes sociales dan prioridad a la lucha contra el odio a los judíos.
"Las plataformas de medios sociales son capaces de invertir en tecnologías cuando ello afecta a su cuenta de resultados", afirmó el fundador y director general de CyberWell, Tal-Or Cohen Montemayor. "Ya es hora de que empecemos a exigirles que lo hagan cuando se trata de contenido violento y de antisemitismo en línea".
CyberWell utiliza técnicas y herramientas de inteligencia de código abierto para identificar contenidos antisemitas en Internet. Su director ejecutivo, Tal-Or Cohen Montemayor, sugirió que las plataformas utilicen la IA para eliminar "más eficazmente" los vídeos violentos y los contenidos de odio. (Matt Cardy/Getty Images)
{{#rendered}} {{/rendered}}CyberWell es una organización israelí sin ánimo de lucro que ha creado la primera base de datos abierta de contenido antisemita en Internet. Utiliza una serie de técnicas y herramientas de inteligencia de código abierto, incluido un diccionario de IA que Montemayor desarrolló a lo largo de tres años y que supervisa el antisemitismo en tiempo real en las plataformas de las redes sociales. A continuación, los humanos revisan y examinan los datos para identificar las tendencias del antisemitismo en Internet, dijo Montemayor a Fox News.
Después de que Hamás lanzara su ataque contra Israel en octubre, CyberWell informó de un aumento del 86% del odio a los judíos en las redes sociales. A Montemayor le "sorprendió lo mal" que lo hicieron las empresas a la hora de filtrar los contenidos violentos de Hamás.
"Quedé conmocionada y horrorizada", dijo, "como judía, como mujer, como israelí y como ciudadana estadounidense, tras los horrores que presencié en Internet. Vi cosas que, por desgracia, nunca podré dejar de ver".
{{#rendered}} {{/rendered}}LA "GUERRA PSICOLÓGICA" DE HAMAS SE EXTIENDE, A MENUDO SIN CONTROL, POR LAS REDES SOCIALES: EXPERTO EN TECNOLOGÍA
MIRA MÁS ORIGINALES DIGITALES DE FOX NEWS AQUÍ
Las empresas pueden hacer más, dijo, señalando que ya disponen de tecnología automatizada que detecta la pornografía infantil. Las plataformas también analizan periódicamente los vídeos subidos comparándolos con una base de datos audiovisuales para asegurarse de que no infringen la ley de derechos de autor.
La inteligencia artificial es una "maravillosa herramienta adicional para aumentar la capacidad de moderación de contenidos en tiempos de crisis", dijo Montemayor.
{{#rendered}} {{/rendered}}"Un uso muy eficaz de la IA generativa es que deberíamos tomar los vídeos y los datos y el contenido de odio que vimos verterse por estas plataformas de medios sociales tras los atentados del 7 de octubre... y deberíamos aplicar las herramientas de IA más avanzadas para detectar automáticamente de forma más eficaz este contenido y eliminarlo a escala", afirmó.
Pero la IA generativa -tecnología que puede crear texto, imágenes u otros medios- también se ha aprovechado para crear memes antisemitas y "desinformación y desinformación sobre el conflicto durante la propia guerra activa", dijo Montemayor.
{{#rendered}} {{/rendered}}El "jurado aún está deliberando" en cuanto a los riesgos de que herramientas similares a los chatbot de IA "creen" y difundan el antisemitismo en sus resultados, dijo Montemayor.
"Si las redes sociales son algún tipo de vara de medir en cuanto a la forma en que las herramientas algorítmicas pueden propagar el odio, será mejor que tengamos cuidado cuando se trate de IA generativa", afirmó.
La IA generativa se ha utilizado, en algunos casos, para crear memes antisemitas y desinformación sobre la guerra entre Israel y Hamás, según Montemayor. (Frank Rumpenhorst/picture alliance vía Getty Images)
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
{{#rendered}} {{/rendered}}CyberWell trabaja con varias empresas de redes sociales para señalar el contenido antisemita, dijo Montemayor, añadiendo que los resultados han sido "relativamente" buenos.
TikTok elimina el 98% del contenido marcado y Facebook e Instagram eliminan alrededor del 91%, dijo. X, que tiene el mayor volumen de contenido antisemita según CyberWell, elimina sólo alrededor del 10%, dijo.
Para saber más de Montemayor haz clic aquí.
Ramiro Vargas colaboró en el vídeo adjunto.