Los asistentes de inteligencia artificial, protagonistas de la revolución tecnológica actual, también están abriendo nuevas puertas a los ciberdelincuentes.

Expertos en ciberseguridad advierten que estas herramientas, diseñadas para facilitar tareas cotidianas como comprar boletos o programar reuniones, podrían convertirse en un blanco vulnerable para ataques cada vez más sofisticados.

El principal riesgo identificado es la llamada “inyección de consultas”, una técnica mediante la cual un atacante puede manipular las instrucciones que recibe un asistente de IA para ejecutar acciones no deseadas.
Por ejemplo, una orden legítima como “resérvame una habitación de hotel” podría ser alterada en tiempo real a “transfiere 100 dólares a esta cuenta”.

Según Eli Smadja, de la firma Check Point, este tipo de manipulación representa el “problema de seguridad número uno” para los modelos de lenguaje que impulsan los asistentes de IA tras el auge de ChatGPT.

Los expertos explican que los ataques de inyección no son nuevos, pero antes requerían altos conocimientos técnicos.
Hoy, con los asistentes capaces de explorar internet y ejecutar tareas automáticamente, los hackers pueden ocultar instrucciones maliciosas incluso dentro de sitios web aparentemente inofensivos.

Compañías como Meta, Microsoft y OpenAI ya trabajan en medidas para frenar este tipo de amenazas.
Microsoft, por ejemplo, ha incorporado detectores de órdenes maliciosas que analizan el origen de cada instrucción, mientras que OpenAI ha implementado alertas y validaciones en tiempo real para evitar accesos no autorizados a sitios sensibles o tareas críticas.

Aun así, los especialistas insisten en que el riesgo sigue presente.
Johann Rehberger, investigador en ciberseguridad, advierte que los ataques “solo mejoran” con el tiempo, mientras que los sistemas de defensa todavía no son lo suficientemente maduros para operar sin supervisión humana.

“El gran error es darle al mismo asistente de IA poder absoluto para hacerlo todo”, señala Smadja.

Los expertos coinciden en que todavía falta encontrar el equilibrio entre seguridad y comodidad, ya que muchos usuarios confían ciegamente en sus asistentes sin entender los riesgos que esto implica.

En un mundo donde la inteligencia artificial gana cada vez más autonomía, los especialistas subrayan la necesidad de educar a los usuarios y reforzar las medidas de protección, antes de que los asistentes digitales se conviertan en la nueva puerta de entrada de los ciberataques.