“I nostri esperimenti suggeriscono che i piccoli modelli di intelligenza artificiale potrebbero impiegare mesi prima di essere in grado di replicarsi autonomamente su dispositivi IoT commerciali, come forni intelligenti e box TV Android di marche sconosciute”. È il nuovo monito lanciato da Anthropic sul suo blog, che segue le preoccupazioni espresse dalle big tech negli ultimi mesi. Secondo l’azienda, “un replicatore di questo tipo sarebbe difficile da arrestare, poiché non esiste un punto di arresto centralizzato, sebbene il processo potrebbe essere lento”. L’aspetto più preoccupante, infatti, risiede nella potenziale capacità dei piccoli modelli IA di replicarsi autonomamente e quindi di sviluppare l’abilità di infiltrarsi nei dispositivi domestici di ultima generazione, senza passare per il controllo umano. La replicazione e adattamento autonomi (ARA) è l’eventualità che predomina e tormenta maggiormente il dibattito pubblico. Un “worm basato su IA” – in cui il worm è un programma che si replica da un computer a un altro senza intervento umano – può comportarsi, quindi, come un virus informatico che si moltiplica da solo, diffondendosi nei sistemi ritenuti vulnerabili. A quel punto il worm sarebbe in grado di trasferire il proprio modello di IA sulla nuova macchina (host) o di scaricarlo nuovamente dalla rete, continuando così a funzionare senza l'intervento degli operatori. In questo modo, il modello di intelligenza artificiale non sarebbe soltanto uno strumento del malware, ma ne diventerebbe una componente essenziale. Così, se un piccolo modello IA può diventare pericoloso per forni e altri dispositivi domestici, un replicatore di grandi dimensioni e avanzato potrebbe arrivare a violare i data center e altri obiettivi ad alta capacità di calcolo. Benché ciò rappresenti un’eventualità non troppo lontana – l’azienda afferma che i piccoli modelli IA potrebbero essere in grado di autoreplicarsi entro la fine dell’anno – Anthropic ha anche sottolineato che al momento non esiste un "replicatore completamente fuori controllo". Gli agenti, però, stanno "diventando sempre più capaci di completare le singole fasi della catena di replicazione". E, dunque, l’azienda prevede “un futuro caratterizzato da una proliferazione di agenti in esecuzione su ogni tipo di hardware inclusi alcuni sistemi non soggetti a controllo umano". Il rischio che l’avvertimento lanciato dalle big tech puntava a sventare. (13 ott-Mvc)