OpenAI una demanda porque ChatGPT una «espiral delirante» en un usuario
FOX Business , Madison Alworth, se une alThe Faulkner Focus para hablar de una demanda contra OpenAI el usuario Allan sufrió una «espiral delirante» por usar la IA de forma obsesiva, lo que le dejó «con tendencias suicidas y totalmente destrozado».
Nota del editor: Este artículo trata temas delicados relacionados con los niños, la salud mental, el contenido sexualmente explícito y el suicidio, que pueden resultar perturbadores para algunos lectores. Si tú o alguien que conoces tiene pensamientos suicidas, ponte en contacto con la línea de ayuda «Suicide & Crisis Lifeline» llamando al 988 o al 1-800-273-TALK (8255).
Lo que empezó el jueves como una sesión del Congreso sobre el tiempo excesivo que pasan los niños y los jóvenes delante de la pantalla dio un giro más sombrío, ya que los expertos advirtieron a los legisladores de que los bots de IA pueden perjudicar la salud mental de los niños y fomentar relaciones emocionales poco saludables, o incluso sexualmente explícitas.
La Dra. Jenny Radesky, profesora asociada de pediatría en la Facultad Michigan de la Universidad Michigan , ha dicho que los niños suelen recurrir a los chatbots de IA en momentos de vulnerabilidad, lo que suscita preocupaciones sobre la dependencia emocional y la seguridad.
«Los jóvenes recurren a la IA cuando se sienten solos, cuando no saben con quién hablar y cuando les preocupa que los juzguen», explicó Radesky durante su comparecencia ante la comisión del Senado de Comercio, Ciencia y Transporte.
Los expertos advierten de que hay que imponer más regulaciones a las redes sociales y a la inteligencia artificial. (SpencerGetty Images)
Dijo que algunas empresas de redes sociales han integrado chatbots con IA directamente en sus interfaces de usuario, lo que se ha convertido en una de las principales formas en que los niños descubren esta tecnología y empiezan a usarla.
«Tenemos que asegurarnos de que las familias también puedan optar por no participar en cosas como los feeds algorítmicos o la presencia de chatbots con IA en los productos que usan los niños», dijo Radesky, quien pidió que se aprueben leyes que hagan responsables a las empresas de los efectos adversos y que impongan criterios de seguridad estrictos.
EL SENADO APRUEBA LA MEDIDA CONTRA EL PORNO DEEPFAKE PARA QUE LA GENTE PUEDA DEMANDAR
Los senadores Ted Cruz Maria escuchan durante una audiencia del Congreso. (AlGetty Images)
Dijo que los riesgos van mucho más allá del apego emocional. «Las preocupaciones no se limitan solo a las relaciones», dijo Radesky. «También está la seguridad: dar malos consejos, dar consejos peligrosos, el servilismo con el que se lleva a los niños por un laberinto de creencias e interacciones sexuales diferentes. Por eso necesitamos muchas medidas de protección».
Las advertencias de los expertos han dado lugar a peticiones para que se refuerce la supervisión federal. La portavoz del grupo minoritario, Maria , demócrata por Washington, ha dicho que los riesgos relacionados con la IA podrían suponer un peligro aún mayor que las redes sociales.
«Creo que tenemos que dejar muy claro que el Gobierno federal tiene que hacer algo con respecto a la IA», dijo Cantwell. «Estás aquí contándonos los problemas de las redes sociales, pero básicamente estás diciendo que la IA es mucho peor. Así que es hora de dar un paso al frente», añadió.
La Dra. Jean Twenge, profesora de psicología en la Universidad Estatal de San Diego, se hizo eco de esas preocupaciones y advirtió sobre el auge de los llamados «novios y novias de IA» y las aplicaciones de chat con contenido sexual explícito. Instó a los legisladores a establecer una edad mínima de 16 años para las redes sociales y de 16 o 18 años para las aplicaciones de compañía basadas en IA.
«No queremos que los niños de 12 años tengan su primera relación sentimental con un chatbot», dijo Twenge, quien también pidió que se establecieran medidas de control estrictas para herramientas como ChatGPT otras IA centradas en la investigación, con el fin de evitar conversaciones perjudiciales, algunas de las cuales, según señaló, ya se han relacionado con trágicos suicidios.
Los expertos advirtieron de que, si no se toman medidas rápidas, los niños podrían seguir encontrándose con sistemas de IA que influyen en sus emociones, relaciones y creencias sin apenas supervisión ni protección.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Presidente de la Comisión de Comercio del Senado Ted Cruz,Texas, dijo que el reto para los padres es cada vez mayor, ya que los niños pasan más tiempo del día conectados a Internet.
Cruz los padres ya tienen dificultades para garantizar la seguridad de sus hijos en un mundo cada vez más digital, y citó un estudio que muestra que los niños de entre 8 y 12 años pasan una media de 5,5 horas al día frente a las pantallas, mientras que los adolescentes pasan una media de más de ocho horas, lo que supone más de la mitad del tiempo que están despiertos.
«Los niños necesitan tiempo para ser niños: para descubrir el mundo real, no para perderse en uno virtual», dijo.
