William Zhou y Daniel Freeman, dos investigadores de Anthropic, han publicado en la página web de este laboratorio un artículo que con toda seguridad va a desencadenar un debate intenso. El título de su texto es muy revelador: «Los modelos de IA pueden ser capaces de autorreplicarse sin acceder a un centro de datos». Es un titular muy directo que nos invita a hacernos una pregunta evidente: si los modelos de inteligencia artificial (IA) no necesitan acceder a un centro de datos, ¿dónde podrían autorreplicarse?
Según Zhou y Freeman, algunos modelos pequeños podrían adquirir en pocos meses la capacidad de propagarse sin intervención humana utilizando el hardware de algunos dispositivos de consumo que muchos de nosotros tenemos en casa, como los televisores, los electrodomésticos u otros aparatos dotados de conexión a internet y un SoC mínimamente capaz. Suena a ciencia ficción, pero no lo es. Los dos investigadores de Anthropic aseguran que han llegado a esta conclusión después de llevar a cabo experimentos que exploran cómo estos sistemas podrían propagarse sin intervención humana.
En su artículo plantean un escenario en el que un modelo de IA lo suficientemente avanzado podría usar dispositivos económicos y poco protegidos para ejecutar su código y continuar propagándose. No le haría falta un centro de datos; solo necesitaría una red de dispositivos conectados a internet y relativamente poco protegidos. Lo más preocupante de esta posibilidad, que para Zhou y Freeman es plausible, es que un ataque a gran escala de este tipo sería muy difícil de contener.
Podrían bastar 30.000 millones de parámetros
Durante sus pruebas, estos investigadores de Anthropic no han utilizado únicamente sus propios modelos. En su artículo aseguran que han puesto a prueba GLM-5.2 en este escenario, un modelo de pesos abiertos desarrollado por el laboratorio chino Z.ai, y logró su cometido. Lo probaron en una red aislada de ocho nodos que ejecutaban un emulador de Android, y el modelo logró propagarse a los ocho nodos en cuatro de cinco pruebas y a siete de los ocho en la restante. Da escalofríos.
Anthropic calcula que una réplica basada en un modelo de 9.000 millones de parámetros podría tardar entre uno y dos días en propagarse
GLM-5.2 tiene aproximadamente 753.000 millones de parámetros en total, de los cuales activa unos 40.000 millones por cada token procesado. Sin embargo, Zhou y Freeman creen que un modelo mucho más pequeño, de unos 30.000 millones de parámetros, también podría salir airoso en un escenario como este. Por el momento los modelos pequeños que han probado cometen errores al encadenar las tareas que requiere este proceso, pero estiman que si el desarrollo de la IA continúa al mismo ritmo de los últimos seis meses podrían adquirir esta capacidad antes de que termine 2026.
Más allá de su tamaño, hay una diferencia muy importante entre un modelo de IA grande que está siendo procesado en un centro de datos y una red de modelos pequeños que se han replicado y distribuido en una red de dispositivos: la actividad de estos últimos no puede detenerse ‘apagando’ un único punto. Eso sí, su propagación sería relativamente lenta. Anthropic calcula que una réplica basada en un modelo de 9.000 millones de parámetros podría tardar entre uno y dos días en propagarse.
Existe cierta similitud entre estos modelos de IA pequeños que presumiblemente podrán propagarse a dispositivos IoT y electrodomésticos, y el malware convencional. Sin embargo, la IA tiene una cualidad que no está presente en el malware: puede ser capaz de identificar qué debe hacer para llevar a cabo su cometido en dispositivos con los que no ha tenido ninguna interacción previamente. Anthropic ya ha observado esta capacidad de adaptación al probar un modelo de 9.000 millones de parámetros que consiguió poner en funcionamiento la inferencia en ocho de los nueve tipos de hardware evaluados.
Imagen | Jakub Zerdzicki
Más información | Anthropic | Reuters
Fuente: Tecnologia
