La empresa que está detrás de ChatGPT disuelve la junta de seguridad de la IA
Kurt "CyberGuy" Knutsson habla de cómo OpenAI pone fin a su grupo de trabajo sobre seguridad, de cómo la actriz Scarlett Johansson afirma que la empresa copió su voz y de la creciente popularidad de la función de notas de voz en el teléfono.
ChatGPT es una herramienta increíble, y su desarrollador, OpenAI, sigue añadiendo nuevas funciones de vez en cuando.
Recientemente, la empresa introdujo una nueva función de memoria en ChatGPT, que esencialmente le permite recordar cosas sobre ti. Por ejemplo, puede recordar tu edad, sexo, creencias filosóficas y prácticamente cualquier otra cosa.
Se supone que estos recuerdos deben permanecer privados, pero un investigador ha demostrado recientemente cómo se pueden manipular las funciones de memoria de la inteligencia artificial de ChatGPT, lo que plantea interrogantes sobre la privacidad y la seguridad.
REGALO UNA TARJETA REGALO DE 500$ PARA LAS FIESTAS
ChatGPT pantalla de introducción. (Kurt "CyberGuy" Knutsson)
¿Qué es la función Memoria de ChatGPT?
ChatGPTestá diseñada para hacer que el chatbot sea más personal para ti. Recuerda información que puede ser útil para futuras conversaciones y adapta las respuestas en función de esa información, aunque abras un chat diferente. Por ejemplo, si mencionas que eres vegetariano, la próxima vez que preguntes por recetas, sólo te ofrecerá opciones vegetarianas.
¿QUÉ ES LA INTELIGENCIA ARTIFICIAL (AI)?
También puedes entrenarlo para que recuerde detalles concretos sobre ti, como decir: "Recuerda que me gusta ver películas clásicas". En futuras interacciones, adaptará las recomendaciones en consecuencia. Tienes control sobre la memoria deChatGPT. Puedes restablecerla, borrar recuerdos específicos o todos los recuerdos, o desactivar esta función por completo en tus ajustes.
Un aviso en ChatGPT. (Kurt "CyberGuy" Knutsson)
UN FALLO DE WINDOWS PERMITE A LOS HACKERS COLARSE EN TU PC A TRAVÉS DE WI-FI
La vulnerabilidad de seguridad en ChatGPT
Según informa Arstechnicael investigador de seguridad Johann Rehberger descubrió que es posible engañar a la IA para que recuerde información falsa mediante un método llamado inyección indirecta de instrucciones. Esto significa que se puede manipular a la IA para que acepte instrucciones de fuentes poco fiables, como correos electrónicos o entradas de blog.
Por ejemplo, Rehberger demostró que podía engañar a ChatGPT para que creyera que un determinado usuario tenía 102 años, vivía en un lugar ficticio llamado Matrix y pensaba que la Tierra era plana. Después de que la IA aceptara esta información inventada, la trasladaría a todos los chats futuros con ese usuario. Estos falsos recuerdos podrían implantarse utilizando herramientas como Google Drive o Microsoft OneDrive para almacenar archivos, subir imágenes o incluso navegar por un sitio como Bing, todo lo cual podría ser manipulado por un hacker.
Rehberger presentó un informe de seguimiento que incluía una prueba de concepto, demostrando cómo podía explotar el fallo en la aplicación ChatGPT para macOS. Demostró que, engañando a la IA para que abriera un enlace web que contenía una imagen maliciosa, podía hacer que enviara todo lo que el usuario escribía y todas las respuestas de la IA a un servidor que él controlaba. Esto significaba que si un atacante podía manipular la IA de esta forma, podría controlar todas las conversaciones entre el usuario y ChatGPT.
El exploit de prueba de concepto de Rehberger demostró que la vulnerabilidad podía utilizarse para filtrar todas las entradas del usuario a perpetuidad. El ataque no es posible a través de la interfaz web ChatGPT , gracias a una API que OpenAI lanzó el año pasado. Sin embargo, seguía siendo posible a través de la aplicación ChatGPT para macOS.
Cuando Rehberger informó privadamente del hallazgo a OpenAI en mayo, la empresa se lo tomó en serio y mitigó este problema asegurándose de que el modelo no siguiera ningún enlace generado dentro de sus propias respuestas, como los que tienen que ver con la memoria y características similares.
CÓMO ELIMINAR TUS DATOS PRIVADOS DE INTERNET
Conversación de Johann Rehberger en ChatGPT . (Johann Rehberger)
Respuesta de OpenAI
Después de que Rehberger compartiera su prueba de concepto, los ingenieros de OpenAI tomaron medidas y publicaron un parche para solucionar esta vulnerabilidad. Publicaron una nueva versión de la aplicación ChatGPT para macOS (versión 1.2024.247) que cifra las conversaciones y corrige el fallo de seguridad.
Así pues, aunque OpenAI ha tomado medidas para solucionar el fallo de seguridad inmediato, sigue habiendo vulnerabilidades potenciales relacionadas con la manipulación de la memoria y la necesidad de una vigilancia continua al utilizar herramientas de IA con funciones de memoria. El incidente subraya la naturaleza evolutiva de los retos de seguridad en los sistemas de IA.
La empresa dice: "Es importante señalar que la inyección puntual en grandes modelos lingüísticos es un área de investigación en curso. A medida que surgen nuevas técnicas, las abordamos en la capa del modelo mediante jerarquía de instrucciones o defensas de la capa de aplicación como las mencionadas".
¿Cómo desactivo la memoria ChatGPT ?
Si no te parece bien que ChatGPT guarde información sobre ti o la posibilidad de que permita a un malhechor acceder a tus datos, puedes desactivar esta función en la configuración.
- Abre la aplicación o la página webChatGPT en tu ordenador o smartphone.
- Pulsa el icono de perfil en la esquina superior derecha de la pantalla.
- Ve a Configuración y selecciona Personalización.
- Desactiva la opción Memoria y listo.
Esto desactiva la capacidad de ChatGPTde retener información entre conversaciones, dándote un control total sobre lo que recuerda u olvida.
CONSIGUE FOX BUSINESS ON THE GO HACIENDO CLIC AQUÍ
Un hombre utilizando ChatGPT en su portátil (Kurt "CyberGuy" Knutsson)
NO DEJES QUE LOS FISGONES DE LOS ALREDEDORES ESCUCHEN TU BUZÓN DE VOZ CON ESTE CONSEJO RÁPIDO
Buenas prácticas de ciberseguridad: Proteger tus datos en la era de la IA
A medida que las tecnologías de IA, como ChatGPT , se hacen más frecuentes, es crucial seguir las mejores prácticas de ciberseguridad para proteger tu información personal. He aquí algunos consejos para mejorar tu ciberseguridad:
1. Revisa regularmente la configuración de privacidad: Mantente informado sobre los datos que se recopilan. Comprueba y ajusta periódicamente la configuración de privacidad en plataformas de IA como ChatGPT y otras, para asegurarte de que sólo compartes información con la que te sientes cómodo.
2. Sé prudente a la hora de compartir información sensible: Menos es más cuando se trata de datos personales. Evita revelar detalles sensibles como tu nombre completo, dirección o información financiera en las conversaciones con la IA.
3. Utiliza contraseñas fuertes y únicas: Crea contraseñas que tengan al menos 12 caracteres, combinando letras, números y símbolos, y evita reutilizarlas en diferentes cuentas. Considera la posibilidad de utilizar un gestor de contraseñas para generar y almacenar contraseñas complejas.
4. Activa la autenticación de dos factores (2FA): Añade una capa adicional de seguridad a tu cuenta ChatGPT y a otras cuentas de AI. Al exigir una segunda forma de verificación, como un código de mensaje de texto, reduces significativamente el riesgo de acceso no autorizado.
5. Mantén actualizados el software y las aplicaciones: Adelántate a las vulnerabilidades. Las actualizaciones periódicas suelen incluir parches de seguridad que protegen contra las amenazas recién descubiertas, así que activa las actualizaciones automáticas siempre que sea posible.
6. Ten un software antivirus potente: En una época en la que la IA está en todas partes, proteger tus datos de las ciberamenazas es más importante que nunca. Añadir un software antivirus potente a tus dispositivos añade una capa crítica de protección. La mejor manera de salvaguardarte de enlaces maliciosos que instalan programas maliciosos, pudiendo acceder a tu información privada, es tener instalado un software antivirus potente en todos tus dispositivos. Esta protección también puede alertarte de correos electrónicos de phishing y estafas de ransomware, manteniendo a salvo tu información personal y tus activos digitales. Obtén mis selecciones de los mejores ganadores de protección antivirus 2024 para tus dispositivos Windows, Mac, Android e iOS.
7. Controla regularmente tus cuentas: Detecta los problemas a tiempo. Comprueba con frecuencia los extractos bancarios y las cuentas online para detectar cualquier actividad inusual, lo que puede ayudarte a identificar posibles infracciones rápidamente.
Conclusiones clave de Kurt
A medida que las herramientas de IA como ChatGPT se hacen más inteligentes y personales, es muy interesante pensar en cómo pueden adaptar las conversaciones a nosotros. Pero, como nos recuerdan las conclusiones de Johann Rehberger, existen algunos riesgos reales, especialmente en lo que se refiere a la privacidad y la seguridad. Aunque OpenAI es capaz de mitigar estos problemas a medida que surgen, también demuestra que debemos vigilar de cerca cómo funcionan estas funciones. Se trata de encontrar el punto medio entre la innovación y la seguridad de nuestros datos.
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
¿Qué opinas de que la IA recuerde datos personales? ¿Te parece útil o te plantea problemas de privacidad? Háznoslo saber escribiéndonos a Cyberguy.com/Contacto
Para más consejos tecnológicos y alertas de seguridad, suscríbete a mi boletín gratuito CyberGuy Report en Cyberguy.com/Boletín
Haz una pregunta a Kurt o dinos qué historias te gustaría que cubriéramos.
Sigue a Kurt en sus canales sociales:
Respuestas a las preguntas más frecuentes de CyberGuy:
- ¿Cuál es la mejor forma de proteger tus dispositivos Mac, Windows, iPhone y Android de ser pirateados?
- ¿Cuál es la mejor forma de mantener la privacidad, la seguridad y el anonimato mientras navegas por Internet?
- ¿Cómo puedo librarme de las llamadas automáticas con aplicaciones y servicios de eliminación de datos?
- ¿Cómo elimino mis datos privados de Internet?
Nuevo de Kurt:
- Prueba los nuevos juegos de CyberGuy (crucigramas, sopas de letras, trivial ¡y mucho más!)
- Participa en el sorteo de una tarjeta regalo navideña de 500 $ de Cyberguy
Copyright 2024 CyberGuy.com. Todos los derechos reservados.
Get a daily look at what’s developing in science and technology throughout the world.