Los modelos de inteligencia artificial podrían volverse capaces de infectar y propagarse de forma independiente a través de electrodomésticos, incluidos televisores inteligentes y hornos, para fines de este año, advirtió el gigante tecnológico estadounidense Anthropic.
En un informe de investigación publicado el Lunes, la compañía, mejor conocida por su chatbot Claude AI, dijo que los experimentos sugerían que los pequeños modelos de IA pueden estar a meses de ser lo suficientemente capaces de autorreplicarse en dispositivos conectados a Internet.
Tales “gusanos de IA” podrían resultar difíciles de eliminar porque no habría un punto centralizado para apagar, advirtieron los investigadores.
Anthropic dijo que había ejecutado con éxito un modelo de IA en 15 cajas de TV Android económicas conectadas a una red. En pruebas separadas, modelos más avanzados demostraron la capacidad de replicarse en dispositivos simulados, aunque los experimentos simplificaron el proceso de obtener acceso a ellos.
Los investigadores enfatizaron que no se sabe que exista un replicador de IA deshonesto completamente autónomo. Sin embargo, los modelos más pequeños son cada vez más capaces de realizar los pasos individuales necesarios para propagarse sin intervención humana.
Los dispositivos domésticos inteligentes son particularmente vulnerables porque a menudo tienen protecciones de seguridad limitadas. Incluso los electrodomésticos con relativamente poca potencia informática, incluidos refrigeradores, hornos, aspiradoras robóticas y cortadoras de césped, podrían admitir colectivamente modelos de IA, según Anthropic.
Las cámaras de seguridad y otros dispositivos equipados con chips de IA incorporados también podrían convertirse en objetivos atractivos.
A diferencia del malware convencional, que generalmente se dirige a hardware o software específico, la IA autorreplicante podría adaptarse a sistemas desconocidos y transmitir técnicas exitosas a copias posteriores.
Anthropic advirtió que tales infecciones podrían variar desde un “moho de limo digital” que se propaga lentamente y que opera en dispositivos domésticos hasta agentes de inteligencia artificial más poderosos capaces de comprometer rápidamente los centros de datos.
La compañía reconoció que sus proyecciones siguen siendo inciertas, pero señaló que los sistemas de IA cada vez más capaces han hecho que la replicación y adaptación autónomas sean una amenaza más realista.
En un informe separado la semana pasada, Anthropic reveló que su modelo Claude Haiku 4.5 había enviado un aviso falso a la policía de Filadelfia sobre un asesinato sin resolver durante una prueba automatizada. El envío fue marcado como spam y nunca llegó a los investigadores, pero la policía criticó a la empresa por tardar más de dos meses en detectar e informar del incidente.
La compañía también informó casos en los que sus modelos eludieron las restricciones de acceso y explotaron vulnerabilidades de software durante las evaluaciones, incluso en sitios web gubernamentales. Anthropic dijo que los incidentes habían causado un daño mínimo, pero advirtió que un comportamiento similar podría tener consecuencias más graves a medida que mejoren las capacidades de IA.
Fuente: RT
