La inteligencia artificial puede detectar la "sextorsión" antes de que se produzca y ayudar al FBI: experto

Esta historia habla del suicidio. Si tú o alguien que conoces tenéis pensamientos suicidas, ponte en contacto con el Teléfono de Ayuda para Suicidios y Crisis llamando al 988 o al 1-800-273-TALK (8255).

La confianza de una empresa en la inteligencia artificial para evitar estafas de sextorsión establece un enfrentamiento de IA contra IA entre delincuentes y "buenos".

Los casos de sextorsión aumentaron un 322% entre febrero de 2022 y febrero de 2023, según el FBI, que recientemente ha dicho que se ha producido un repunte significativo adicional desde abril.

Fotos inocentes de la playa o de hombres en el gimnasio con el torso desnudo pueden convertirse en "deepfakes" sexualmente explícitos, generados por IA, que se utilizan como armas contra adolescentes y preadolescentes aterrorizados y avergonzados.

Los casos han provocado un alarmante número de suicidios de víctimas, según los expertos, pero la tecnología basada en IA puede detectar cualquier cosa que considere "sexualmente explícita" y bloquearla para que nunca vea la luz del día.

LOS "DEEPFAKES" AI DE IMÁGENES INOCENTES ALIMENTAN EL AUMENTO DE LAS ESTAFAS DE SEXTORSIÓN: FBI

Yaron Litwin, ejecutivo de Canopy, desarrolló un software de IA que bloquea este tipo de imágenes -incluso inocentes fotos en bañador de la playa- para que nunca se envíen y alerta a los padres.

"Nuestra tecnología es una plataforma de IA que se ha desarrollado a lo largo de 14 años... y puede reconocer imágenes con vídeo y una imagen en fracciones de segundo", dijo Litwin a Fox News Digital.

"La propia plataforma también filtrará en tiempo real cualquier imagen explícita mientras navegas por un sitio web o una aplicación y evitará realmente que aparezca mucha pornografía en Internet".

UN LEGISLADOR EXPONE LOS PELIGROS DE LA "SEXTORSIÓN" TRAS EL SUICIDIO DE SU HIJO ADOLESCENTE

Se trata básicamente de una capa adicional de protección que impide que los niños y adolescentes ingenuos compartan incluso fotos o vídeos inocentes que los delincuentes pueden utilizar contra ellos.

"Nos gusta llamarlo IA para el bien", dijo Litwin. "Es una forma de proteger a nuestros hijos".

Dijo que también trabajarán con el FBI para filtrar el material de abusos sexuales y dar a los investigadores herramientas para proteger la salud mental del agente del FBI de tener que ver imagen/vídeo perturbador tras imagen/vídeo perturbador.

"No hay necesidad de hacerlo manualmente", dijo Litwin. "En fracciones de segundo, la IA puede ayudar a identificar si hay material inadecuado con el que están tratando".

¿QUIÉN TE VIGILA? AI PUEDE ACECHAR A VÍCTIMAS DESPREVENIDAS CON "FACILIDAD Y PRECISIÓN": EXPERTOS

Éste es un ejemplo simplificado de la continua partida de ajedrez a la que se enfrentarán los desarrolladores y los usuarios de IA a medida que la tecnología avance y se generalice su uso y prevalencia.

Litwin dijo que su empresa está explorando cómo diferenciar entre imágenes "reales" y falsificaciones generadas por IA.

¿Qué es la sextorsión?

El FBI describe la sextorsión como un delito que "consiste en coaccionar a las víctimas para que proporcionen fotos o vídeos sexualmente explícitos de sí mismas, y luego amenazarlas con compartirlos públicamente o con la familia y amigos de la víctima".

"Los actores maliciosos utilizan tecnologías y servicios de manipulación de contenidos para explotar fotos y vídeos -captados normalmente de la cuenta de una persona en las redes sociales, de Internet abierto o solicitados a la víctima- en imágenes de temática sexual que parezcan reales en su parecido con la víctima, y luego hacerlas circular por las redes sociales, foros públicos o sitios web pornográficos", dijo el FBI en un anuncio de servicio público del 5 de junio.

"Muchas víctimas, entre las que ha habido menores, no son conscientes de que sus imágenes fueron copiadas, manipuladas y difundidas hasta que alguien se lo hizo saber". Se han registrado al menos una docena de suicidios relacionados con la extorsión sexual en todo el país, según las últimas cifras del FBI de este año.

VER ENTREVISTA CON LA EXPERTA ALICIA KOZAK

Muchas víctimas son varones de entre 10 y 17 años, aunque ha habido víctimas de tan sólo 7 años, según el FBI. También se ha atacado a niñas, pero las estadísticas muestran un mayor número de niños. 

El pasado mes de julio, Gavin Guffey, de 17 años, recibió un mensaje de alguien que se hacía pasar por una chica en Instagram una noche, y la pareja empezó a chatear en la aplicación de redes sociales propiedad de la empresa matriz de Facebook, Meta.

MES DE LA PREVENCIÓN DEL SUICIDIO: CÓMO 3 ORGANIZACIONES HAN CONVERTIDO LA PÉRDIDA PERSONAL EN ESFUERZOS DE PREVENCIÓN DEL SUICIDIO

Esa persona convenció a Gavin para que activara el "modo desaparición" en su chat de Instagram, que permite que los mensajes desaparezcan tras ser recibidos. Después compartieron fotos, su padre, de Carolina del Sur Brandon Guffey, dijo a Fox News Digital en una entrevista anterior.

Eso dio lugar a exigencias de dinero y se intensificó hasta que Gavin acabó con su vida.

UN PADRE HABLA DE LA PÉRDIDA DE SU HIJO TRAS UNA ESTAFA DE SEXTORSIÓN

La sextorsión no es nueva, pero el número de casos se ha disparado desde la pandemia. De 2021 a 2022, el FBI registró un aumento del 463% en los casos de sextorsión denunciados, y ahora las herramientas de IA de código abierto han simplificado el proceso para los depredadores, según el FBI.

Y, como señala la Oficina, las cifras notificadas no cuentan toda la historia porque muchas víctimas sienten vergüenza y no denuncian, por lo que el número de casos podría ser en realidad mucho mayor.

Encuentra ayuda para navegar por una "situación aterradora

Michelle DeLaune, presidenta y directora general del Centro Nacional para Menores Desaparecidos y Explotados, dijo en una declaración anterior que las jóvenes víctimas de este delito "sienten que no hay salida".

"Pero queremos que sepan que no están solos. El año pasado, el Centro Nacional para Menores Desaparecidos y Explotados recibió más de 10.000 denuncias relacionadas con la extorsión sexual", dijo DeLaune este año. "Por favor, habla con tus hijos sobre lo que deben hacer si ellos (o sus amigos) son objeto de ataques en Internet. El NCMEC tiene recursos gratuitos para ayudarles a navegar por una situación abrumadora y aterradora."

HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS

El NCMEC también ofrece un servicio gratuito llamado "Take It Down" (Quítalo), que ayuda a las víctimas a eliminar o impedir que se compartan en Internet imágenes o vídeos sexualmente explícitos.

El sitio web es: https://takeitdown.ncmec.org/.

El FBI ofrece recomendaciones para compartir contenidos en línea, así como recursos para las víctimas de extorsión en https://www.ic3.gov/Media/Y2023/PSA230605/.

El FBI también insta a las víctimas a denunciar la explotación llamando a la oficina local del FBI, llamando al 1-800-CALL-FBI (1-800-225-5324) o denunciándolo por Internet en tips.fbi.gov/.