Anthropic advierte de que una IA capaz de replicarse fuera de los centros de datos está a meses de distancia

Un estudio de la compañía estadounidense Anthropic sostiene que las redes de dispositivos conectados ya casi pueden albergar modelos de inteligencia artificial capaces de crear copias de sí mismos, aunque su velocidad y potencia siguen siendo muy limitadas.

Anthropic ha publicado un estudio según el cual el internet de las cosas (IoT) ha alcanzado un grado de potencia y conectividad que lo sitúa al borde de no solo sostener modelos de inteligencia artificial, sino de servir como entorno para su replicación. La compañía logró ejecutar un modelo de 9.000 millones de parámetros en una red distribuida de 15 receptores de televisión Android baratos, de 55 dólares cada uno.

Ese modelo aún no es capaz de autorreplicarse, pero uno de 30.000 millones de parámetros ya supera ese umbral, según el estudio, que destaca en particular las capacidades del modelo abierto GLM-5.2 de la china Z.ai. Extrapolando las tendencias de desarrollo de nuevos modelos, Anthropic espera que los modelos «pequeños» también crucen ese límite a finales de 2026.

El modelo de 30.000 millones de parámetros puede funcionar ya en una red IoT doméstica, aunque requiere nodos más potentes que los receptores de televisión: los más adecuados son frigoríficos inteligentes, microondas, robots aspiradora y cortacéspedes. Todos los modelos funcionan muy despacio en infraestructuras IoT no diseñadas para ellos, a una velocidad de aproximadamente un token por segundo, y la replicación —el despliegue de una copia— puede llevar varios días. Eso impone por ahora límites estrictos a la potencia de una IA que se haya «escapado» a redes ajenas.

La red botnet Kimwolf, con dos millones de dispositivos Android infectados, podría sostener 133.000 modelos pequeños, pero equivaldría a solo 40 procesadores H100 de Nvidia en tareas de inferencia, señala el estudio.

Adaptación y riesgo

Anthropic compara el crecimiento de modelos pequeños sobre recursos distribuidos con el de un moho depredador biológico. No son muy inteligentes por sí solos, pero pueden adaptarse con flexibilidad a distintos dispositivos y buscar vulnerabilidades de forma autónoma, a diferencia de una red rígidamente programada como Kimwolf. La compañía señala que el peligro especial reside en la multiplicidad de esos modelos bajo el control de uno fronterizo.

«En el mundo futuro probablemente actuará todo un océano de modelos agénticos que funcionarán en los más diversos dispositivos, y parte de ellos no estarán controlados por personas», escribe la empresa. «El crecimiento de replicadores lentos creará las condiciones para modelos potentes y rápidos que puedan perforar defensas especializadas o robar una API».

Según Anthropic, el lado negativo es que la humanidad está a un paso de un verdadero crecimiento exponencial de la IA que no se puede apagar de forma centralizada; el positivo, que la escasez de recursos de cómputo lo ahogará con rapidez. El «moho digital» también se delata por su tráfico característico, y contra él caben cuarentenas y medidas sencillas, como renunciar a las contraseñas por defecto compartidas en los dispositivos IoT.