Dos compañías permiten correr tareas de inferencia para otros usuarios en nuestra computadora, aprovechando el tiempo en que el equipo está sin uso
El crecimiento de la inteligencia artificial y la demanda de infraestructura han generado presión sobre los centros de datos donde corren plataformas como ChatGPT, Claude o Gemini. Frente a los problemas ambientales, el consumo de electricidad y agua, y los inconvenientes que estas instalaciones provocan en las comunidades locales, una serie de empresas tecnológicas propone una alternativa: aprovechar la potencia de cómputo ociosa de computadoras familiares, equipos gamer y servidores caseros.
Un reporte del sitio IEEE Spectrum analiza cómo diversas compañías están dispuestas a pagar a usuarios particulares por alquilar su capacidad de procesamiento sobrante. El objetivo central es ejecutar tareas de “inferencia” de IA, es decir, el proceso mediante el cual un modelo previamente entrenado responde a las consultas de los usuarios. “Imaginen un Uber o un Airbnb, pero para tareas de cómputo de inferencia de IA”, sintetizó Ilman Shazhaev, fundador y CEO de la firma Far Labs.
El modelo retoma la lógica de iniciativas pioneras como SETI@Home —que entre 1999 y 2020 utilizó computadoras voluntarias para buscar vida extraterrestre en datos astronómicos— pero sumando un incentivo económico comercial. John Federico, CEO de Evolving Edge, destaca que una gran parte de la población cuenta con conexiones de banda ancha y que muchos entusiastas disponen de pequeños centros de datos en sus propios armarios. Mientras que los grandes data centers resultan extractivos para las comunidades sin dejar beneficios directos, la orquestación del cómputo distribuido aporta valor de forma directa a los dueños de los equipos.
El funcionamiento para el anfitrión busca ser sencillo y seguro. Basta con registrarse e instalar una aplicación que ejecuta las tareas únicamente bajo los horarios permitidos por el usuario. Para garantizar la privacidad y prevenir malware, Evolving Edge optó por liberar el código fuente de su software de nodo. En tanto, Far Labs aplica el principio de “mínimo privilegio”, aislando las cargas de trabajo con comunicaciones cifradas y fijando límites estrictos en el uso de la placa de video (GPU), memoria y procesador, permitiendo al usuario pausar el sistema o revocar accesos en cualquier momento.
Aunque los equipos hogareños no poseen la potencia individual de la infraestructura industrial, la clave está en el tipo de modelos ejecutados. En lugar de desplegar sistemas masivos de frontera, estas plataformas utilizan modelos de código abierto más pequeños y ajustados a tareas empresariales específicas. Si una tarea supera la capacidad de un único dispositivo, se utilizan herramientas para dividirla: Evolving Edge emplea la solución de código abierto Ray, mientras que Far Labs desarrolló un software propio que fragmenta el modelo entre varios equipos y consolida las respuestas en un coordinador central.
Al no requerir los inmensos gastos de capital de un centro de datos tradicional, los desarrolladores afirman que la inferencia resulta más económica. Además, la red distribuida brinda mayor resiliencia ante caídas globales y disminuye la latencia a menos de 100 milisegundos en el caso de Far Labs, habilitando nuevos usos en tiempo real como la generación de video en videojuegos. Como concluye Shazhaev, aunque las grandes firmas continúen construyendo megacentros de datos, la capacidad de cómputo necesaria ya existe en el mundo; solo resta orquestarla.
“OpenAI el año pasado tuvo US$30.000 millones en ingresos, pero cerraron el año fiscal con una pérdida de US$8000 millones ¿Por qué? La razón oficial se debe al alto costo de inferencia”, dice el fundador de Far Labs. “Y esos son mayormente modelos de texto. Para la jugabilidad (gameplay), tenés audio, video, animaciones: son datos pesados y necesitas respuestas en tiempo real. Todos estos gigantes están corriendo para construir centros de datos, pero creo que ya existe suficiente potencia de cómputo en el mundo”.
Far AI se lanzará en unas semanas, y podría ofrecer algo más de 4 dólares al mes en promedio de ganancias por el uso de la capacidad ociosa de nuestra computadora, aunque el monto dependerá del tiempo de uso, y de que se haga realidad la demanda esperada.