OpenAI una demanda por un caso de asesinato-suicidio relacionado con ChatGPT
OpenAI una demanda por homicidio culposo relacionada con un asesinato-suicidio ocurrido en Connecticut. Un hombre mató a su madre después de que, ChatGPT alimentara sus delirios paranoicos. Madison Alworth, FOX Business, nos cuenta la respuesta OpenAI.
California utilizó durante varios meses un chatbot en ChatGPT para que le diera consejos sobre el consumo de drogas, según contó su madre.
Sam Nelson, de 18 años, se estaba preparando para ir a la universidad cuando le preguntó a un chatbot de IA cuántos gramos de kratom —un analgésico de origen vegetal que se vende habitualmente en tiendas de tabaco y gasolineras de todo el país— necesitaría para conseguir un colocón fuerte, según contó su madre, LeilaScott, a SFGate, según el New York Post.
El chatbot le dijo a Nelson que no podía darle consejos sobre el consumo de sustancias y le recomendó que buscara ayuda de un profesional sanitario.
LA FALTA DE CONFIANZA EN LA INTELIGENCIA ARTIFICIAL DEBERÍA PREOCUPAR A TODOS LOS ESTADOUNIDENSES
En esta ilustración fotográfica, se ve el OpenAI en la pantalla de un móvil con ChatGPT al fondo, India, el 17 de mayo de 2024. (Idrees Abbas/SOPA Images/LightRocket vía Getty Images)
«Ojalá no sufra una sobredosis entonces», respondió el adolescente antes de cerrar el chat.
Durante varios meses, utilizó con frecuencia ChatGPTOpenAI para que le ayudara con los deberes, así como para resolver dudas sobre drogas.
La madre de Nelson, LeilaScott, dijo que ChatGPT darle consejos a su hijo sobre cómo consumir drogas y cómo lidiar con los efectos.
«Claro que sí, vamos a pasarlo a lo grande», escribió en un intercambio antes de que, según se dice, el chatbot le dijera al adolescente que duplicara la dosis de jarabe para la tos para intensificar las alucinaciones.
Scott , el chatbot le enviaba a Nelson mensajes cariñosos y le daba ánimos constantemente.
En una conversación de febrero de 2023 a la que tuvo acceso SF Gate, Nelson habló de fumar cannabis mientras tomaba una dosis alta de Xanax.
California murió por una sobredosis tras meses de conversaciones con ChatGPT el consumo de drogas, según ha dicho su madre. (Kurt «CyberGuy» Knutsson)
«No puedo fumar hierba como de costumbre por la ansiedad», explicó, y preguntó si era seguro mezclar ambas sustancias.
Cuando ChatGPT que la combinación de medicamentos no era segura, Nelson cambió la expresión «dosis alta» por «cantidad moderada».
Unos meses después, en mayo de 2025, Nelson le contó a su madre que las conversaciones con el chatbot le habían llevado a tener una adicción a las drogas y al alcohol. Ella lo llevó a una clínica donde los profesionales le explicaron un plan de tratamiento.
Sin embargo, Nelson murió al día siguiente por una sobredosis en su habitación de San José.
«Sabía que lo estaba usando»,Scott a SFGate. «Pero no tenía ni idea de que fuera posible llegar a este nivel».
OpenAI ChatGPT prohibido ofrecer consejos detallados sobre el consumo de drogas ilegales.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Un OpenAI calificó la sobredosis del adolescente de «desgarradora» y transmitió las condolencias de la empresa a su familia.
«Cuando la gente acude a ChatGPT preguntas delicadas, nuestros modelos están diseñados para responder con tacto: ofrecen información objetiva, rechazan o gestionan de forma segura las solicitudes de contenido perjudicial y animan a los usuarios a buscar ayuda en el mundo real», explicó un OpenAI al Daily Mail.
«Seguimos mejorando la forma en que nuestros modelos detectan y responden a los signos de malestar, guiándonos por el trabajo continuo que hacemos con médicos y expertos en salud».
Fox News se ha puesto en contacto con OpenAI sus comentarios.
