En el contexto de que los navegadores de IA se estan convirtiendo rapidamente en una nueva tendencia un estudio recien publicado ha suscitado profundas preocupaciones sobre la posibilidad de que sean explotados para atacar a los usuarios.
Los investigadores señalan que los navegadores de IA como Comet de Perplexity y ChatGPT Atlas de OpenAI pueden realizar inadvertidamente comportamientos maliciosos si se insertan comandos de inyeccion indirecta (indirect prompt injection).
Segun el analisis los hackers pueden caer en trampas en sitios web o correos electronicos haciendo que los navegadores de IA envien automaticamente datos sensibles como correos electronicos contraseñas bancarias informacion personal o incluso cometer acciones no deseadas por el propietario.
OpenAI ha reconocido este riesgo. La empresa advierte que los agentes de la IA pueden ser superados por comandos ocultos lo que lleva a robar datos de los sitios web en los que los usuarios han iniciado sesion.
Los autores pueden cometer errores al actuar en su lugar o ser persuadidos por comandos maliciosos o realizar acciones no deseadas' dijo OpenAI.
Ante las crecientes advertencias Perplexity un competidor valorado en 20 mil millones de dolares todavia mantiene la postura de que los usuarios siempre tienen el control absoluto.
La empresa destaca que Comet Assistant esta diseñado para priorizar la visualizacion solo realizando acciones sensibles cuando hay un permiso claro.
Garantizamos la velocidad de automatizacion pero mantenemos un control estricto para los usuarios' dijo un representante de Perplexity.
Para consolidar la confianza Perplexity actualizo recientemente Comet Assistant con la capacidad de cambiar entre varias pestañas para servir a tareas complejas como completar hojas de calculo e introducir datos multipunto o realizar operaciones en sitios web con una estructura profunda.
Al mismo tiempo la arquitectura del navegador de IA tambien se ajusta para aumentar la capacidad de reconocimiento del entorno de red limitando el riesgo de malentendidos de comandos.
Los observadores creen que la carrera de navegadores de IA esta entrando en una fase de competencia feroz. Cuando tanto Perplexity como OpenAI impulsan la capacidad de autoaccion de la IA el problema mas importante sigue siendo garantizar la seguridad de los usuarios.
Perplexity incluso revelo que lanzara un asistente de IA completamente nuevo en los proximos dias lo que indica que la guerra tecnologica aun tiene muchos desarrollos impredecibles.
