En los ultimos años, los gigantes tecnologicos como Google, Meta, Microsoft, OpenAI o Perplexity han invertido fuertemente miles de millones de dolares en la construccion y expansion de centros de datos.
Segun las previsiones de los analistas, el gasto total en esta infraestructura podria acercarse a la marca de los 1.000 mil millones de dolares a finales de la decada. Sin embargo, no todos en la industria creen que el centro de datos sea para siempre el "cuerpo gordo" de la inteligencia artificial.
El CEO de Perplexity, Aravind Srinivas, ha dado una opinion notable de que la mayor amenaza para los centros de datos es la capacidad de la inteligencia artificial para integrarse y operar directamente en los dispositivos de los usuarios. En ese momento, la IA ya no necesita procesar todos los datos en enormes centros de concentracion.
Actualmente, la mayoria de los chatbots de IA populares como ChatGPT, Gemini o Perplexity se basan en sistemas de servidores ubicados en centros de datos para procesar las solicitudes de los usuarios.
Estas instalaciones consumen una gran cantidad de electricidad, requieren altos costos de mantenimiento y dependen mucho del agua para el enfriamiento. Esta es tambien la razon por la que la infraestructura de IA se cuestiona cada vez mas sobre la sostenibilidad.
Segun Srinivas, si los modelos de IA pudieran ejecutarse localmente en dispositivos, el papel del centro de datos se reduciria significativamente.
El procesamiento inmediato en computadoras personales o telefonos no solo ayuda a reducir los costos de electricidad y operacion, sino que tambien aporta beneficios claros en terminos de privacidad.
Los datos de los usuarios no tendran que enviarse a servidores remotos, lo que reduce el riesgo de fugas o explotacion ilegal.
Otra ventaja de la IA que se ejecuta en dispositivos, segun el CEO de Perplexity, es la capacidad de personalizacion. Cuando el modelo esta "en el ordenador", la IA puede adaptarse facilmente a los habitos y preferencias de cada usuario sin depender de una infraestructura en la nube compleja.
Sin embargo, Srinivas tambien reconoce que la mayor barrera actual es la escala y el consumo de recursos de los modelos de IA.
La mayoria de los modelos actuales siguen siendo demasiado pesados para funcionar eficazmente en telefonos inteligentes o ordenadores portatiles.
Sin embargo, cree que los rapidos avances en la tecnologia de chips, especialmente de empresas como Apple o Qualcomm, podrian cambiar pronto la situacion.
Ademas, el CEO de Perplexity tambien menciono el tema de la "alucinacion", un fenomeno de la IA que crea informacion incorrecta pero que suena convincente.
Admitio que los sistemas actuales todavia tienen este error, pero predijo que en los proximos 5 años, el fenomeno de las alucinaciones podria solucionarse por completo.
La opinion de Srinivas muestra una perspectiva diferente para la industria de la IA, desde una fuerte dependencia de los gigantescos centros de datos, la inteligencia artificial puede cambiar gradualmente a dispositivos personales.
Si esto se hace realidad, la carrera de la IA en el futuro puede no solo estar en la escala de la infraestructura, sino tambien en el poder de los chips compactos en el bolsillo del usuario.
