Los resúmenes de correo electrónico de Google AI pueden ser pirateados para ocultar ataques de phishing

cierra

Vídeo

La inteligencia artificial impulsa la demanda de la red eléctrica

Bret presentador Fox News Bret Baier, examina el suministro eléctrico de EEUU enSpecial Report'.

Hoy en día, la inteligencia artificial está en todas partes: en tu teléfono, en tu coche, incluso en tu lavadora. El otro día vi una con inteligencia artificial incorporada. Y aunque pueda sonar un poco exagerado, no se puede negar que la inteligencia artificial ha facilitado la vida de muchas maneras.

Desde aumentar la productividad hasta desbloquear nuevas herramientas creativas, está cambiando nuestra forma de trabajar y de vivir. ¿La versión más común con la que probablemente te hayas encontrado? La IA Generativa, piensa en chatbots como ChatGPT. Pero por muy útil que sea esta tecnología, no está exenta de problemas.

Si has utilizado el paquete Workspace de Google, habrás observado que el modelo de IA de la empresa, Gemini, está integrado en aplicaciones como Docs, Sheets y Gmail. Ahora, los investigadores afirman que los atacantes pueden manipular los resúmenes de correo electrónico generados por Gemini para colar mensajes de phishing ocultos.

Suscríbete a mi Informe CyberGuy GRATUITO
Recibe mis mejores consejos tecnológicos, alertas de seguridad urgentes y ofertas exclusivas directamente en tu bandeja de entrada. Además, obtendrás acceso instantáneo a mi Guía Definitiva de Supervivencia a las Estafas - gratis al unirte a mi CYBERGUY.COM/NEWSLETTER  

CÓMO LA INTELIGENCIA ARTIFICIAL AYUDA AHORA A LOS HACKERS A ENGAÑAR A LAS HERRAMIENTAS DE SEGURIDAD DE TU NAVEGADOR

AplicaciónGoogle Gemini en un dispositivo móvil (Kurt "CyberGuy" Knutsson)

Cómo se pueden piratear los resúmenes de Géminis

Los investigadores de 0Din de Mozilla han descubierto una vulnerabilidad en Gemini for Workspace de Google que permite a los atacantes inyectar instrucciones ocultas en los resúmenes de correo electrónico. El problema, demostrado por Marco Figueroa, muestra cómo se puede engañar a las herramientas de IA generativa mediante la inyección indirecta de instrucciones. Esta técnica incrusta comandos invisibles dentro del cuerpo de un correo electrónico. Cuando Géminis resume el mensaje, interpreta y actúa según esas instrucciones ocultas.

¿QUÉ ES LA INTELIGENCIA ARTIFICIAL (AI)?

El ataque no se basa en enlaces o archivos adjuntos sospechosos. En su lugar, utiliza una combinación de HTML y CSS para ocultar el aviso estableciendo el tamaño de la fuente en cero y el color en blanco. Estos comandos permanecen invisibles en la vista estándar de Gmail, pero siguen siendo accesibles para Géminis. Una vez que solicitas un resumen, se puede engañar a la IA para que presente falsas alertas de seguridad o instrucciones urgentes que parezcan proceder de Google.

En una prueba de concepto, Gemini advirtió falsamente a un usuario de que una contraseña de Gmail había sido comprometida e incluyó un número de teléfono de asistencia falso. Dado que los resúmenes de Gemini están integrados en Google Workspace, es más probable que confíes en la información, lo que hace que esta táctica sea especialmente eficaz.

Un cartel Google en un edificio (Kurt "CyberGuy" Knutsson)

¿Qué está haciendo Google al respecto?

Aunque Google ha implementado defensas contra la inyección puntual desde 2024, este método parece eludir las protecciones actuales. La empresa dijo a CyberGuy que está desplegando activamente salvaguardias actualizadas.

CONSIGUE FOX BUSINESS ON THE GO HACIENDO CLIC AQUÍ

En un comunicado, un portavoz Google declaró: "La defensa contra los ataques que afectan al sector, como las inyecciones rápidas, ha sido una prioridad constante para nosotros, y hemos desplegado numerosas defensas sólidas para mantener a salvo a los usuarios, incluidas las salvaguardias para evitar respuestas dañinas o engañosas. Endurecemos constantemente nuestras ya sólidas defensas mediante ejercicios de red-teaming que entrenan a nuestros modelos para defenderse de este tipo de ataques adversarios."

Google también confirmó que no ha observado una explotación activa de esta técnica específica.

AplicaciónGoogle Gemini en la pantalla de inicio de un dispositivo móvil (Kurt "CyberGuy" Knutsson)

6 formas de mantenerte a salvo de las estafas de phishing de IA

Entonces, ¿cómo puedes protegerte de las estafas de phishing que se aprovechan de herramientas de IA como Géminis? Aquí tienes seis pasos esenciales que puedes dar ahora mismo para mantenerte a salvo:

1. No confíes ciegamente en los contenidos generados por IA

Sólo porque un resumen aparezca en Gmail o Docs no significa que sea automáticamente seguro. Trata las sugerencias, alertas o enlaces generados por IA con la misma precaución con la que tratarías cualquier mensaje no solicitado. Verifica siempre la información crítica, como las alertas de seguridad o los números de teléfono, a través de fuentes oficiales.

2. Evita utilizar las funciones de resumen para los correos sospechosos

Si un correo electrónico te parece inusual, especialmente si es inesperado o procede de alguien que no reconoces, evita utilizar la función de resumen AI. En su lugar, lee el correo completo tal y como fue escrito originalmente. Esto reduce la posibilidad de caer en resúmenes engañosos.

3. Cuidado con los correos y mensajes de phishing

Presta atención a los correos electrónicos o mensajes que crean una sensación de urgencia, te piden que verifiques los datos de la cuenta o proporcionan enlaces o información de contacto inesperados, aunque parezcan fiables o procedan de fuentes conocidas. Los atacantes pueden utilizar la IA para crear alertas de aspecto realista o solicitar información confidencial, a veces oculta en resúmenes generados automáticamente. Por tanto, detente siempre y examina las solicitudes sospechosas antes de responder. 

La mejor forma de protegerte de los enlaces maliciosos que instalan programas maliciosos, que podrían acceder a tu información privada, es tener instalado un software antivirus en todos tus dispositivos. Esta protección también puede alertarte de correos electrónicos de phishing y estafas de ransomware, manteniendo a salvo tu información personal y tus activos digitales.

Consigue mis selecciones de los mejores 2025 ganadores en protección antivirus para tus dispositivos Windows, Mac, Android e iOS en CyberGuy.com/LockUpYourTech

4. Mantén actualizadas tus aplicaciones y extensiones

Asegúrate de que Google Workspace y tu navegador ejecutan siempre la última versión. Google publica regularmente actualizaciones de seguridad que ayudan a prevenir nuevos tipos de ataques. Además, evita utilizar extensiones no oficiales que tengan acceso a tu Gmail o Docs.

5. Invierte en un servicio de eliminación de datos

Las estafas impulsadas por la IA, como el ataque sumario de Géminis, no se producen en el vacío. A menudo comienzan con información personal robada. Esos datos pueden proceder de filtraciones anteriores, registros públicos o detalles que has compartido en línea sin saberlo. Un servicio de eliminación de datos puede ayudar escaneando continuamente y solicitando la eliminación de tu información de los sitios de intermediarios de datos. Aunque ningún servicio puede borrarlo todo, reducir tu huella digital hace más difícil que los atacantes personalicen los intentos de phishing o te relacionen con datos de infracciones conocidas. Piensa en ello como una capa más de protección en un mundo en el que la IA facilita aún más las estafas selectivas.

Echa un vistazo a mis mejores opciones de servicios de eliminación de datos y obtén un escaneado gratuito para averiguar si tu información personal ya está en la red visitando Cyberguy.com/Borrar

Obtén un escaneado gratuito para averiguar si tu información personal ya está en la red: Cyberguy.com/Exploración gratuita

6. Desactiva los resúmenes de IA por ahora si te preocupa

Si te preocupa caer en un intento de phishing generado por IA, considera desactivar los resúmenes de Géminis en Gmail hasta que Google despliegue protecciones más sólidas. Puedes seguir leyendo los correos electrónicos completos de la forma tradicional, lo que puede reducir el riesgo de ser engañado por resúmenes manipulados.

Cómo desactivar las funciones de Géminis en el escritorio

• Abre Gmail en el escritorio.
• Pulsa el icono de engranaje de Configuración en la parte superior derecha.
• Haz clic en Ver todos los ajustes.
• Desplázate hasta "Funciones inteligentes del espacio de trabajo Google " y haz clic en Gestionar la configuración de las funciones inteligentes del espacio de trabajo.
• Desactiva el conmutador de funciones inteligentes en Google Workspace.
• Luego, haz clic en Guardar.
• Nota: Esto desactivará los resúmenes de Géminis, así como otras funciones inteligentes.

Cómo desactivar las funciones de Géminis en el móvil

En el iPhone:

Si utilizas específicamente la aplicación móvil Géminis:

• Abre la aplicación Géminis.
• Toca la foto de tu Perfil.
• Toca Actividad de Géminis Apps.
• En la parte superior, pulsa Apagar.

En Android:

Los ajustes pueden variar según el fabricante de tu teléfono Android

• Abre la aplicación de Gmail en tu Android.
• Toca el icono Menú (tres líneas horizontales) en la esquina superior izquierda.
• Desplázate hacia abajo y pulsa Configuración.
• Selecciona la cuenta de correo electrónico correspondiente.
• Desplázate hacia abajo y toca Funciones inteligentes deGoogle Workspace y desmarca la casilla para desactivarlas.

Advertencias clave que debes conocer:

• Desactivar las Funciones inteligentes puede eliminar otras funcionalidades prácticas, como el texto predictivo y la detección automática de citas.
• El icono de Géminis o los botones de resumen pueden seguir apareciendo, incluso después de desactivar estas funciones. Algunos usuarios afirman haber tenido que ocultarlos físicamente mediante las herramientas del navegador.

No existe un "interruptor de apagado" único y centralizado para eliminar por completo todas las referencias a la IA Géminis en todas partes, pero estos pasos reducen significativamente la presencia y el riesgo de la función.

HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS

La clave de Kurt

Esta vulnerabilidad pone de relieve cómo las tácticas de phishing están evolucionando junto con la IA. En lugar de basarse en señales de alarma visibles, como URL mal escritas o archivos adjuntos sospechosos, los atacantes se dirigen ahora a sistemas de confianza que ayudan a los usuarios a filtrar e interpretar los mensajes. A medida que la IA se integra más profundamente en las herramientas de productividad, la inyección inmediata podría surgir como un vector sutil pero poderoso para la ingeniería social, ocultando intenciones maliciosas en las mismas herramientas diseñadas para simplificar la comunicación.

¿Te sientes cómodo dejando que la IA resuma o filtre tus correos electrónicos, y dónde pones el límite? Háznoslo saber escribiéndonos a Cyberguy.com/Contacto

Suscríbete a mi Informe CyberGuy GRATUITO
Recibe mis mejores consejos tecnológicos, alertas de seguridad urgentes y ofertas exclusivas directamente en tu bandeja de entrada. Además, obtendrás acceso instantáneo a mi Guía Definitiva de Supervivencia a las Estafas - gratis al unirte a mi CYBERGUY.COM/NEWSLETTER
 

Copyright 2025 CyberGuy.com. Todos los derechos reservados.