El jurado declara a Meta y Google en el juicio por adicción a las redes sociales
El jurado declara a Meta y Google en el juicio por adicción a las redes sociales
Una sentencia decisiva contra Meta y Google en un juicio muy seguido sobre la adicción a las redes sociales podría ampliar la responsabilidad de las plataformas en lo que respecta a los contenidos que incitan al odio.
El caso se centró en una California de 20 años, identificada como K.G.M., que denunció que las plataformas fomentaron un uso adictivo cuando era menor de edad y contribuyeron a su depresión y a sus pensamientos suicidas debido a su diseño orientado a generar interacción.
Las empresas han negado haber actuado mal, haciendo hincapié en sus herramientas de seguridad y controles parentales.
«Respetuosamente, no estamos de acuerdo con estos veredictos y vamos a recurrir. Reducir algo tan complejo como la salud mental de los adolescentes a una sola causa conlleva el riesgo de dejar sin abordar los numerosos y amplios problemas a los que se enfrentan los jóvenes hoy en día, y pasa por alto el hecho de que muchos adolescentes dependen de las comunidades digitales para conectar y sentirse parte de algo. Seguimos comprometidos con la creación de entornos seguros y solidarios para los jóvenes y defenderemos nuestra trayectoria con firmeza», declaró Meta en un comunicado facilitado a Fox News .
José Castañeda, portavoz de Google, declaró a FOX Business empresa no estaba de acuerdo con el veredicto y que tenía previsto recurrir. También afirmó que «el caso malinterpreta YouTube, que es una plataforma de streaming diseñada de forma responsable, no una red social».
Shelby Knox, Amy Neville, Mary Rodee, Laura , Sarah y Lennon Torres, junto con familiares y simpatizantes de las víctimas, reaccionaron frente al Tribunal Superior Los el 25 de marzo, en Los , después de que un jurado declarara a Meta y YouTube culpables de negligencia en una demanda en la que se alegaba que sus plataformas contribuían a comportamientos perjudiciales entre los usuarios jóvenes. (KaylaLos Times vía Getty Images)
Cabe destacar que el caso eludió la Sección 230, que protege a las plataformas de cualquier responsabilidad por el contenido de las publicaciones. En su lugar, la demanda se centró en los diseños de los productos utilizados por las empresas, lo que podría tener implicaciones más amplias en la forma en que las plataformas gestionan los contenidos que incitan al odio, sobre todo cuando se monetizan.
Liora Rez, fundadora y directora ejecutiva de StopAntisemitism, calificó la sentencia de «histórica» y señaló que las organizaciones de defensa de los derechos han estado advirtiendo a las grandes empresas tecnológicas de que «el algoritmo está afectando negativamente a las personas», tanto por sus propiedades adictivas como por «fomentar el odio».
«En cierto modo, hemos pasado de pensar que las plataformas no hacen lo suficiente para eliminar el antisemitismo, por ejemplo, a que ahora las plataformas estén diseñando específicamente sistemas que difunden activamente y, lo que es más importante, monetizan e incentivan a quienes difunden este contenido de odio», declaró Rez a Fox News .
StopAntisemitism es una organización de vigilancia dedicada a denunciar a los grupos y personas que promueven el antisemitismo.
Las redes sociales suelen tener políticas que prohíben ciertos tipos de contenido, sobre todo aquellos que incitan al odio o a la violencia. Sin embargo, los influencers han empezado a usar palabras clave para eludir la censura, como decir «unalive» en lugar de «matar».
Una sentencia histórica contra Meta y Google un juicio por adicción a las redes sociales ha puesto en tela de juicio la forma en que las plataformas gestionan los contenidos que incitan al odio. (Getty Images )
Rez reconoció que es posible que quienes difunden el odio creen códigos similares, pero señaló que los «responsables de las decisiones políticas» de las principales plataformas son conscientes del problema. Explicó que, gracias al alcance de StopAntisemitism en las redes sociales, sobre todo entre los menores de 25 años, la organización suele enterarse de estos términos desde el principio y puede avisar a las empresas.
El fundador de StopAntisemitism dijo que el contenido generado por IA será el centro de la próxima batalla, que ya ha comenzado.
«Nos preocupa mucho cómo la IA está contribuyendo ahora a difundir contenido antisemita por todas las plataformas. Y hay muy poco control al respecto, por no decir ninguno, así que esperamos que esta sentencia se pueda aprovechar de alguna manera para ayudar», dijo Rez.
Mencionó a los «rabinos» generados por IA que tienen miles de seguidores, y al menos uno de ellos ha superado el millón. Estas cuentas suelen difundir discursos antisemitas sobre el control de los sistemas financieros por parte de los judíos y utilizan palabras en yiddish de una forma que, según Rez, indica que no hay ninguna persona judía detrás de la cuenta.
Las empresas de redes sociales se enfrentan a preguntas sobre la moderación de contenidos tras una sentencia histórica contra Meta y Google. (iStock)
Una de esas cuentas —ahora eliminada— es la del rabino Goldman, que consiguió 1,5 millones de seguidores en Instagram publicó su primer vídeo a mediados de febrero. El contenido de este rabino generado por IA recibió varias notificaciones de la comunidad en las que se advertía a los demás de que era falso. Hablaba de supuestos secretos que, según él, todos los judíos conocen, mientras usaba palabras en yiddish de formas que no tenían sentido.
«Así que, de, digamos, diez vídeos, dos o tres serán interesantes. Sin embargo, los dos o tres siguientes... Y lo que hemos observado es que a estos vídeos con más visualizaciones les siguen rápidamente los problemáticos, ¿verdad? Porque cuantos más vídeos se vean, más empuja el algoritmo el siguiente vídeo y la siguiente publicación hacia tu audiencia», dijo Rez sobre el rabino Goldman generado por IA.
A pesar de esas preocupaciones sobre el contenido generado por IA, Rez se mostró optimista respecto a la disposición de las empresas de redes sociales a hacer frente al contenido de incitación al odio tras el veredicto. Dijo que StopAntisemitism espera que, para finales de año, las empresas de redes sociales adopten medidas proactivas.
«Meta tiene que dar un paso al frente y hacer más... El hecho de que no advirtieran, en esencia, fue un fallo a la hora de proteger a la gente, y hubo personas que resultaron heridas», dijo Rez. «De verdad creemos que esto ha sentado un precedente para futuras demandas colectivas. Así que, de nuevo, esperamos que lo tomen como una señal de advertencia, y esperamos que la IA ocupe un lugar central en todo esto».
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Fox News se ha puesto en contacto con Google sus comentarios.
Louis y Kelly Saberi, Fox News , y The Associated Press en este reportaje.
