Forskning från ThreatDown visar att AI-verktyg för cyberattacker nu är mer utspridda, vanliga och svåra att övervaka än tidigare. Det som tidigare bara fanns på den mörka webben publiceras nu öppet: 6 644 AI-modeller med etiketter som "uncensored", "heretic" och "unfiltered" ligger tillgängliga på Hugging Face och laddades ner över 22 miljoner gånger under en 30-dagarsperiod.

Cyberkriminella bygger inte längre egna AI-modeller från grunden. Istället hyr de in sig på befintliga modeller, tar legitima modeller från etablerade molnplattformar och anpassar dem för attacker.

Säkerhetsexperter delar sina synpunkter på den nya hotbilden:

Dr. Margaret Cunningham, Vice President of Security & AI Strategy på Darktrace, menar att kraftfulla och lättillgängliga modeller kombineras med bristfälliga kontrollmekanismer. "Försvarare bör utgå från att intrång har skett, att obehörig åtkomst finns och att alla förmågor som är tillräckligt användbara kommer att utnyttjas av angripare."

Ram Varadarajan, CEO på Acalvio, beskriver att ungefär två tredjedelar av nuvarande AI-relaterade incidenter kommer från traditionella svagheter. Den återstående tredjedelen är unikt AI-specifika: modell- och dataförgiftning, promptinjektion och autonoma agenter som kedjar ihop API-anrop med minimal mänsklig övervakning. AI-system är dynamiska, självlärande och sammankopplade på sätt som traditionella applikationer aldrig var, och attackytan växer snabbare än de flesta säkerhetsprogram hinner svara på.

Shane Barney, CISO på Keeper Security, framhåller att avancerade AI-modeller nu kan skanna system, nätverk och kod för att hitta sårbarheter med en hastighet och skala som ingen mänsklig analytiker kan matcha. I handen på en försvarare är det en kraftförstärkare, men i handen på en angripare förkortar det vägen från rekognosering till attack snabbare än de flesta säkerhetsteam hinner upptäcka.

Diana Kelley, CISO på Noma Security, betonar att utan en stark kontrollplan för AI-system och agenter, med tydliga riktlinjer för åtkomst, identitetskontroll, datastyrning och övervakning under körning, kommer AI att förstärka alla befintliga svagheter.

Slutsatsen är tydlig: försvarare måste gå från reaktivt försvar till aktivt, strategiskt försvar. Det innebär AI-drivna säkerhetslösningar som tvingar angripare att kämpa på försvararens villkor och som skiftar kostnaden för attacker tillbaka till angriparen.