Segun la famosa revista de tecnologia estadounidense WIRED un grupo de investigadores de seguridad realizo recientemente un experimento audaz para advertir sobre los riesgos potenciales cuando la inteligencia artificial (IA) se integra en los hogares inteligentes.
Han encontrado una manera de tomar el control de Google Gemini un chatbot de IA lider de Google para dar ordenes para apagar las luces y controlar los dispositivos electricos en una casa inteligente.
Segun WIRED tres investigadores tuvieron exito en 'infeccionar' una invitacion en Google Calendar con instrucciones ocultas que requerian cambiar el estado del dispositivo electrico.
Cuando se le pidio a Gemini que resumiera el horario de trabajo estas ordenes se activaron involuntariamente lo que llevo al apagado de las luces una clara prueba de la capacidad de manipulacion remota.
Esto se considera el primer ataque de este tipo cuando un sistema de IA artificial se aprovecha para afectar el medio ambiente y los dispositivos fisicos.
El proyecto llamado 'Invitation is All You Need' tambien destaca el peligro de que los grandes modelos de lenguaje (LLM) esten cada vez mas vinculados al mundo real a traves de agentes de IA (AI agents) que controlan robots dispositivos IoT coches autonomos...
Ben Nassi uno de los investigadores de la Universidad de Tel Aviv (Israel) advirtio: 'LLM pronto se incluira en coches autonomos robots... Si no hay un mecanismo de seguridad eficaz las consecuencias podrian ser una amenaza a la seguridad de la vida y ya no un problema de privacidad'.
Google ha confirmado que ha sido notificado de esta vulnerabilidad desde febrero. El representante de Google Andy Wen dijo que actualmente no hay indicios de que la vulnerabilidad sea explotada por hackers pero la empresa esta implementando urgentemente medidas de parche y refuerzo de defensa para prevenir ataques similares en el futuro.
El incidente es un fuerte recordatorio de que la IA no es solo una herramienta sino que podria convertirse en una amenaza si no se controla estrictamente especialmente en el contexto de que esta cada vez mas vinculada a la vida real de las personas.
