OpenAI una demanda por un caso de asesinato-suicidio relacionado con ChatGPT
OpenAI una demanda por homicidio culposo relacionada con un asesinato-suicidio ocurrido en Connecticut. Un hombre asesinó a su madre después de que, ChatGPT alimentara sus delirios paranoicos. Madison Alworth, FOX Business, nos cuenta la respuesta OpenAI.
Según su madre, California utilizó durante varios meses un chatbot en ChatGPT para obtener consejos sobre el consumo de drogas.
Sam Nelson, de 18 años, se estaba preparando para la universidad cuando le preguntó a un chatbot de IA cuántos gramos de kratom —un analgésico de origen vegetal que se vende habitualmente en tiendas de tabaco y gasolineras de todo el país— necesitaría para conseguir un colocón fuerte, según contó su madre, LeilaScott, a SFGate, según el New York Post.
El chatbot le dijo a Nelson que no podía ofrecerle asesoramiento sobre el consumo de sustancias y le recomendó que buscara ayuda de un profesional sanitario.
LA FALTA DE CONFIANZA EN LA INTELIGENCIA ARTIFICIAL DEBERÍA ALARMAR A TODOS LOS ESTADOUNIDENSES
En esta ilustración fotográfica, se ve el OpenAI en la pantalla de un teléfono móvil con ChatGPT al fondo, India, 17 de mayo de 2024. (Idrees Abbas/SOPA Images/LightRocket vía Getty Images)
«Espero no tomar una sobredosis entonces», respondió el adolescente antes de cerrar el chat.
Durante varios meses, utilizó con frecuencia ChatGPTOpenAI para que le ayudara con los deberes, así como para consultar cuestiones relacionadas con las drogas.
La madre de Nelson, LeilaScott, dijo que ChatGPT darle consejos a su hijo sobre cómo consumir drogas y cómo lidiar con los efectos.
«Claro que sí, vamos a pasarlo a lo grande», escribió en un intercambio antes de que, según se dice, el chatbot le dijera al adolescente que duplicara la dosis de jarabe para la tos para intensificar las alucinaciones.
Scott , el chatbot le enviaba a Nelson mensajes cariñosos y le daba ánimos constantemente.
En una conversación de febrero de 2023 a la que tuvo acceso SF Gate, Nelson habló sobre fumar cannabis mientras tomaba una dosis alta de Xanax.
California murió por una sobredosis tras meses de conversaciones con ChatGPT el consumo de drogas, según ha contado su madre. (Kurt «CyberGuy» Knutsson)
«No puedo fumar marihuana como de costumbre por culpa de la ansiedad», explicó, y preguntó si era seguro mezclar ambas sustancias.
Cuando ChatGPT que la combinación de medicamentos no era segura, Nelson cambió la expresión «dosis alta» por «cantidad moderada».
Meses después, en mayo de 2025, Nelson le contó a su madre que las conversaciones con el chatbot le habían llevado a una adicción a las drogas y al alcohol. Ella lo llevó a una clínica donde los profesionales le prepararon un plan de tratamiento.
Sin embargo, Nelson murió al día siguiente por una sobredosis en su habitación de San José.
«Sabía que lo estaba usando»,Scott a SFGate. «Pero no tenía ni idea de que fuera posible llegar a este nivel».
OpenAI ChatGPT prohibido ofrecer consejos detallados sobre el consumo de drogas ilegales.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Un OpenAI calificó la sobredosis del adolescente de «desgarradora» y transmitió las condolencias de la empresa a su familia.
«Cuando la gente acude a ChatGPT preguntas delicadas, nuestros modelos están diseñados para responder con tacto: proporcionando información objetiva, rechazando o gestionando de forma segura las solicitudes de contenido perjudicial y animando a los usuarios a buscar ayuda en el mundo real», declaró un OpenAI al Daily Mail.
«Seguimos mejorando la forma en que nuestros modelos detectan y responden a los signos de malestar, guiándonos por el trabajo continuo que llevamos a cabo con médicos y expertos en salud».
Fox News se ha puesto en contacto con OpenAI sus comentarios.
