En un contexto en el que las empresas tecnologicas compiten por introducir un programador de navegacion de IA en los productos las nuevas advertencias sobre riesgos de seguridad se estan volviendo cada vez mas preocupantes.
Los ataques de insercion de recordatorios indirectos donde los hackers ocultan directivas maliciosas en el sitio web para controlar que la IA realice acciones ilegales se consideran una amenaza emergente rapida. Ante esa realidad Google acaba de anunciar un nuevo paso para proteger a los usuarios de Chrome.
Recientemente Google anuncio que esta actualizando Chrome con una capa de seguridad especial en la que destaca un modelo de lenguaje grande independiente llamado User Alignment Critic.
Este modelo opera completamente separado del contenido web poco fiable y tiene la tarea de verificar todas las acciones propuestas por el agente del navegador de IA.
Si se detectan signos anormales el modelo rechazara inmediatamente y solicitara ajustes. Esto se considera el primer escudo contra el riesgo de que la IA sea engañada por comandos de insercion sofisticados.
Esta medida se produce cuando Chrome esta probando la integracion de funciones de soporte para IA despues de que Google introdujera el chatbot Gemini en el navegador para usuarios en Estados Unidos.
Ademas de la clase de IA de vigilancia Google tambien esta implementando la capacidad de aislar el origen (origin isolation) limitando el alcance de la interaccion de los agentes de IA solo a las paginas relacionadas directamente con la tarea o dentro de la lista de usuarios permitida.
Google dijo que la nueva clase de defensa sigue una estrategia multicapa que incluye: solicitudes de confirmacion manual de los usuarios en operaciones sensibles sistemas de deteccion de amenazas en tiempo real junto con la infraestructura de ataque simulada para verificar continuamente la resistencia del navegador.
Ademas Chrome ejecutara un filtro de insercion de recordatorios para escanear todos los sitios web abiertos para detectar el riesgo de ataques indirectos.
Estas actualizaciones provienen de estudios recientes que señalan el nivel de peligro del ataque de insercion de ordenes indirectas.
Anteriormente los expertos en seguridad de Brave habian descubierto una vulnerabilidad en el agente Comet de Perplexity que permite a los hackers tomar el control de los navegadores de IA y acceder a datos confidenciales como correos electronicos o informacion bancaria.
Incluso Antigravity la nueva plataforma de desarrollo de agentes de IA de Google tambien fue descubierta vulnerable a este tipo de ataque.
Segun Google la nueva clase de defensa de Chrome incluye tres componentes principales: User Alignment Critic un conjunto de fuentes de origen limitadas y un sistema de monitoreo y control de usuarios.
Estos tres mecanismos se combinan con el objetivo de minimizar la posibilidad de que los agentes de la IA sean controlados a traves de iframes o sitios web que contienen codigo malicioso oculto que causa transacciones ilegales o robo de datos.
Para animar a la comunidad a participar en la consolidacion de la seguridad del ecosistema de IA Google tambien anuncio una recompensa de hasta 20.000 dolares por los descubrimientos de vulnerabilidades relacionados con la nueva capa de seguridad de Chrome.
Este gigante tecnologico afirma que la seguridad del modelo de agente de IA es la maxima prioridad cuando los riesgos potenciales pueden crear una nueva generacion de ciberataques.
