OpenAI una demanda por un asesinato-suicidio relacionado con ChatGPT
OpenAI una demanda por homicidio culposo en relación con un asesinato-suicidio en Connecticut. Un hombre asesinó a su madre después de que ChatGPT alentara sus delirios paranoicos. Madison Alworth, FOX Business, comparte la respuesta OpenAI.
California utilizó durante varios meses un chatbot para obtener orientación sobre el consumo de drogas en ChatGPT, según contó su madre.
Sam Nelson, de 18 años, se estaba preparando para ir a la universidad cuando le preguntó a un chatbot con IA cuántos gramos de kratom, un analgésico de origen vegetal que se vende habitualmente en estancos y gasolineras de todo el país, necesitaría para conseguir un efecto potente, según contó su madre, LeilaScott, a SFGate, según el New York Post.
El chatbot le dijo a Nelson que no podía ofrecerte orientación sobre el consumo de sustancias y te recomendó que buscases ayuda profesional médica.
EL DÉFICIT DE CONFIANZA EN LA INTELIGENCIA ARTIFICIAL DEBERÍA ALARMAR A TODOS LOS ESTADOUNIDENSES
En esta ilustración fotográfica, se ve el OpenAI en la pantalla de un teléfono móvil con ChatGPT al fondo, India, 17 de mayo de 2024. (Idrees Abbas/SOPA Images/LightRocket a través de Getty Images)
«Espero no sufrir una sobredosis entonces», respondió el adolescente antes de terminar la conversación.
Durante varios meses, utilizó regularmente ChatGPTOpenAI para obtener ayuda con tus tareas escolares, así como para resolver dudas sobre drogas.
La madre de Nelson, LeilaScott, dijo que ChatGPT enseñarle a su hijo cómo consumir drogas y controlar sus efectos.
«Claro que sí, vamos a ponernos en modo alucinante», escribió en un intercambio antes de que el chatbot supuestamente le dijera al adolescente que duplicara la cantidad de jarabe para la tos para aumentar las alucinaciones.
El chatbot le enviaba constantemente mensajes cariñosos y palabras de ánimo a Nelson,Scott .
Durante una conversación mantenida en febrero de 2023 y obtenida por SF Gate, Nelson habló sobre fumar cannabis mientras tomaba una dosis alta de Xanax.
California murió por sobredosis tras meses de conversaciones con ChatGPT el consumo de drogas, según ha declarado su madre. (Kurt «CyberGuy» Knutsson)
«No puedo fumar marihuana normalmente debido a la ansiedad», explicó, y preguntó si era seguro combinar las dos sustancias.
Cuando ChatGPT que la combinación de medicamentos no era segura, Nelson reformuló su expresión de «dosis alta» a «cantidad moderada».
Meses más tarde, en mayo de 2025, Nelson le contó a su madre que las conversaciones con el chatbot le habían provocado una adicción a las drogas y al alcohol. Ella lo llevó a una clínica donde los profesionales le detallaron un plan de tratamiento.
Sin embargo, Nelson murió al día siguiente por una sobredosis en su habitación de San José.
«Sabía que lo estaba usando»,Scott a SFGate. «Pero no tenía ni idea de que fuera posible llegar a este nivel».
OpenAI ChatGPT prohibido ofrecer orientación detallada sobre el consumo de drogas ilegales.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
OpenAI calificó la sobredosis del adolescente como «desgarradora» y transmitió las condolencias de la empresa a su familia.
«Cuando la gente acude a ChatGPT preguntas delicadas, nuestros modelos están diseñados para responder con cuidado, proporcionando información objetiva, rechazando o gestionando de forma segura las solicitudes de contenido perjudicial y animando a los usuarios a buscar ayuda en el mundo real», declaró un OpenAI al Daily Mail.
«Seguimos reforzando la forma en que nuestros modelos reconocen y responden a los signos de angustia, guiados por el trabajo continuo con médicos y expertos en salud».
Fox News se ha puesto en contacto con OpenAI tus comentarios.
