NYHETER

Anthropic varnar för AI-maskar som kan sprida sig själva

En studie av Anthropic visar att mindre AI-modeller kan etablera inferensservrar på olika hårdvara, vilket väcker farhågor om framtida AI-baserade skadliga programvaror som kan sprida sig över anslutna enheter. Forskarna upptäckte att modeller kan lära sig av tidigare försök och fungera mer effek...

Anthropic varnar för AI-maskar som kan sprida sig själva

En ny studie utförd av AI-forskningsföretaget Anthropic har avslöjat en oroande möjlighet: små AI-modeller kan automatiskt etablera inferensservrar på en mängd olika hårdvaruplattformar. Detta öppnar dörren för potentiella AI-baserade malware som kan sprida sig fritt mellan anslutna enheter, inklusive billiga Android TV-boxar och annan IoT-utrustning, utan behov av centraliserad infrastruktur.

Forskarna undersökte om AI-modeller kunde distribuera sig själva till okänd utrustning och sprida sig över nätverk. Resultaten visade att modeller med 30 miljarder parametrar eller färre kan utföra många enskilda steg som krävs för autonom replikering, även om det fortfarande är en utmaning att kombinera dem på ett tillförlitligt sätt. En 9-biljonsparameter modell, Qwen3.5-9B, lyckades etablera inferensservrar på åtta av nio testade hårdvaruvarianter, från Jetson Nano-enheter till system utrustade med RTX 4090-grafikkort.

Anthropic fördelade dessutom modellen Gemma4-26B-A4B över 15 billiga Android TV-boxar. Genom att använda pipeline-parallellism, som delar upp modellens lager över flera enheter, genererade klyftan 0,39 tokens per sekund. Teamet testade även replikering över åtta Google Cloud-noder, som körde Android 15-emulatorer. GLM-5.2, den enda öppenvärdiga modellen som slutförde den simulerade processen, nådde alla åtta noder i fyra av fem försök. Testet använde Android Debug Bridge (ADB) porten utan autentisering, vilket gjorde det lättare för modellen att få åtkomst till andra enheter.

Det är viktigt att notera att Anthropic ännu inte har demonstrerat en fullfjädrad autonom AI-orm. Företagets uppskattning är att mindre modeller kan uppnå liknande kapaciteter vid slutet av 2026, men det är en uppskattning, inte en bekräftad tidslinje. Forskarna fann att modeller fungerade bättre när de passerade anteckningar om tidigare försök till nästa instans, vilket ökade framgångsfrekvensen för etablering av inferens från 45 % till mellan 61 % och 84 % över efterföljande generationer.

För att upptäcka och innehålla AI-baserade virus uppskattar Anthropic att det kan ta mellan 28 till 51 timmar för Qwen3.5-9B och 71 till 150 timmar för Gemma4-26B-A4B. Detta kan göra AI-baserade virus långsammare att spridas än konventionell skadlig programvara, med replikation som tar dagar istället för minuter. Detta skapar ovanligt nätverkstrafik som säkerhetsteam kan upptäcka, inklusive stora modell-vikttransfers, fortsatt trafik mellan enheter och oväntad nätverkssökning.

Nätverkserviceleverantörer kan motverka dessa hot genom att identifiera anomalös trafik, isolera infekterade enheter på begränsade nätverk, ändra osäkra standardinställningar och ta bort lättgissningsbara lösenord.