El 'promptware' aprovecha la integración de los grandes modelos de lenguaje (LLM, por sus siglas en inglés) en las aplicaciones para introducir indicaciones maliciosas que pueden comprometer los asistentes de inteligencia artificial que los integran.
El riesgo para los usuarios es real, como han demostrado tres investigadores de la Universidad de Tel Aviv (Israel), Ben Nassi, Stav Cohen y Or Yair. En su trabajo, han utilizado ataques de 'promptware' dirigidos contra el asistente Gemini de Google para ganar acceso a su arquitectura en Workspace y manipular dispositivos inteligentes del hogar o extraer información del correo electrónico.
La variante de 'promptware' que han utilizado permite introducir en Gemini indicaciones ('prompts') indirectas -maliciosas- mediante correos electrónicos, invitaciones de calendario o documentos compartidos.
Por ejemplo, los cibercriminales envían una invitación a la víctima ya sea a su correo de Gmail o Calendario, y cuando esta le pide a Gemini información sobre ese 'email', la indicación maliciosa se activa y compromete al asistente.
De esta forma, se abre la puerta a la manipulación de los servicios y dispositivos que la víctima utilice con Gemini, facilitando el control del termostato, la iluminación del hogar o el acceso al correo electrónico, por ejemplo.
Con ello, los cibercriminales pueden apagar la luz, activar la calefacción, realizar una transmisión de vídeo sin que la víctima se dé cuenta, eliminar eventos del calendario, extraer datos del correo, geolocalizar a la víctima e incluso abrir una ventana.
Este tipo de ataque impacta en Gemini tanto en la aplicación móvil como en web y en Asistente de Google. Según los investigadores, el 73 por ciento de las amenazas que han analizado en su investigación suponen un riesgo alto-crítico.
Como informan, avisaron de esta amenaza a Google en febrero y en este tiempo la compañía tecnológica ha implementado "defensas de múltiples capas" para mitigar los problemas de seguridad identificados.