Después de la fase de promoción de la aplicación de la inteligencia artificial (IA), muchas empresas de tecnología se enfrentan a un nuevo problema cuando los costos de uso de la IA aumentan más rápido de lo esperado.
Desde las empresas emergentes hasta las grandes corporaciones, cada vez más unidades están preocupadas por las enormes facturas de token (la unidad de datos básicos más pequeña utilizada por el sistema para analizar y procesar información) generadas por el uso de modelos de IA avanzados.
Según TechCrunch, la presión de los costos se ha convertido en un tema candente en el mundo de la tecnología. Algunas empresas dicen que han utilizado todo el presupuesto de IA de todo el año solo en los primeros meses del año.
Incluso se dice que algunas empresas tienen que gastar hasta 500 millones de dólares en servicios de IA después de no establecer límites de uso para los empleados.
La razón radica en el auge de los modelos y agentes de IA de nueva generación. Aunque el precio de cada token ha disminuido en comparación con antes, el consumo de tokens ha aumentado considerablemente a medida que las empresas despliegan chatbots, asistentes de IA y herramientas de automatización a gran escala.
Los nuevos modelos como Claude, GPT o Gemini tienen una mejor capacidad para manejar el trabajo, pero al mismo tiempo también hacen que la demanda de uso de IA se dispare.
Alexander Embiricos, Director Senior de Producto de OpenAI, dijo que los intercambios con los clientes han cambiado significativamente. Si antes las empresas se preocupaban por lo que la IA podía hacer, ahora la pregunta común es cómo monitorear los costos, auditar el uso y controlar el consumo de tokens.
Ante esta situación, la Fundación Linux ha anunciado planes para establecer la Fundación Tokenomics, una nueva organización para construir estándares comunes para la gestión de costos de tokens de IA. El objetivo es crear un sistema similar a FinOps, que es un método para ayudar a las empresas a controlar los costos de la computación en la nube durante muchos años.
JR Storment, director ejecutivo de FinOps Foundation, dijo que desde principios de este año ha recibido continuamente comentarios de empresas sobre exceder el presupuesto de IA muchas veces en comparación con el plan. Según él, las empresas están pasando de la mentalidad de "utilizar lo máximo posible" a "cómo controlar eficazmente el gasto".
Sin embargo, el problema no es simple. Un estudio de dos años en 20.000 programadores realizado por Faros AI demostró que la IA realmente ayuda a aumentar la productividad laboral.
Sin embargo, el número de errores y las veces que tuvo que reescribir el código fuente también aumentaron en consecuencia. Mientras tanto, los datos de Jellyfish muestran que los ingenieros que más usan la IA tienen el doble de productividad que el resto del grupo, pero tienen que gastar 10 veces más tokens.
Lo que preocupa a las empresas hoy en día es que no hay una manera clara de medir si ese gasto realmente aporta un valor correspondiente o no.
Mientras tanto, según las previsiones del banco de inversión Goldman Sachs, el uso de tokens de IA a nivel mundial podría aumentar 24 veces en 2030.
