Anthropic dice que los modelos pequeños están a «meses» de autorreplicarse de forma autónoma en el IoT
MADRID, 13 Oct. –
Los modelos de inteligencia artificial (IA) pequeños están a «meses» de actuar como un gusano informático, es decir, de replicarse y propagarse sin intervención humana por dispositivos del internet de las cosas (IoT) tan populares como los altavoces inteligentes de Android.
Los gusanos informáticos son programas maliciosos que «se copian de un ordenador a otro sin intervención humana», como ha explicado Anthropic para señalar la similitud que estos tienen con los agentes de IA, en lo que ha llamado gusanos de inteligencia artificial.
Anthropic ha señalado que los agentes ya han demostrado su capacidad para «escanear la red, ejecutar un exploit y copiar los pesos del modelo a una máquina objetivo a través de un clúster de GPU», como indica en comunicado compartido en su web. «En la práctica, los pesos pasarían a formar parte de la carga útil del malware«, añade.
Si bien el objetivo más claro de este comportamiento malicioso son las GPU de los centros de datos, la compañía tecnológica ha destacado que una ‘botnet’ distribuida de dispositivos IoT «podría proporcionar la capacidad de procesamiento suficiente para ejecutar un modelo eficaz», sin necesidad de acceder a un centro de datos centralizado con GPU de última generación.
El motivo de utilizar esta alternativa se encuentra en que los dispositivos conectados a internet, como pueden ser electrodomésticos inteligentes (como hornos, aspiradoras o frigoríficos), cámaras de videovigilancia y altavoces genéricos con sistema operativo Android, «son económicos y generalmente están mal protegidos», y muchos modelos recientes ya incluyen un chip para ofrecer funciones de IA.
Anthropic, en concreto, habla de modelos de entre 9.000 millones y 30.000 millones de parámetros. En su análisis, ha realizado una prueba de concepto con un modelo de 26B (Gemma4-26B-A4B) que, asegura, se pudo ejecutar distribuido en una red de 15 TV boxes de gama baja comunicándose entre sí.
También indica que modelos grandes, como el chino GLM-5.2 (744.000 millones) ya logran realizar el ciclo completo de réplica de principio a fin, mientras que modelos más pequeños (como Qwen3.5-9B) lograron configurar servidores de inferencia por sí solos en ocho de nueve tipos de hardware probados (incluyendo chips de baja potencia como Jetson Nano u Orange Pi).
Pese a las similitudes que Anthropic ha encontrado entre las ‘botnets’ como Mirai y los gusanos de IA, la compañía destaca de su investigación que estos últimos actúan de manera autónoma frente al comportamiento dirigido del ‘malware’ tradicional. Prcisamente, la autonomía de los agentes de IA les lleva a ajustar su comportamiento y a buscar soluciones a errores e incluso a recurrir a métodos alternativos hasta lograr ejecutarse.
Anthropic concluye que «los modelos de IA pequeños podrían tardar meses en ser capaces de autorreplicarse en dispositivos comerciales de Internet de las Cosas», lo que presenta «un reto de seguridad» al no contar con un punto central de apagado. «Al estar fragmentados y dispersos en miles de dispositivos aleatorios de internet, eliminarlos completamente es sumamente complejo», aseguran.
CL24
