Cyberkriminella utnyttjar inte bara AI-verktyg för att genomföra attacker, de använder även intresset för AI som ett lockbete. Det visar ny hotintelligens från Microsoft Security.

Gruppen som Microsoft kallar Storm-3075 ligger bakom en serie phishing-kampanjer där välkända AI-varumärken används som bete. Målen är lösenordsstöld, betalningsbedrägerier och leverans av skadlig kod. Kampanjerna har missbrukat varumärken som ChatGPT, Claude och DeepSeek.

Nyfikenheten blir en sårbarhet

John Bruggeman, vCISO på CBTS, beskriver problemet så här: Alla vill testa det senaste AI-verktyget, det är mänsklig natur. Angriparna tar välkända och betrodda AI-namn och omger dem med ovanligt övertygande lockbeten för att dölja sin brottsliga verksamhet.

Användare som vanligtvis skulle tveka innan de klickar lockas av nyfikenhet och falsk brådska. De vill ha tillgång till det senaste AI-verktyget, bevara sin prenumeration eller prova en ny funktion, och den entusiasmen får dem att agera för snabbt.

Ett konkret exempel: inom timmar efter att DeepSeek förhandsvisade sin senaste version skapade angripare en falsk GitHub-organisation och ett falskt repo. De kopierade verklig varumärkesprofilering och benchmarkdata, och lade till AI- och SEO-vänligt innehåll för att locka offer.

Vad företag bör göra

För att minska risken rekommenderar Microsoft och säkerhetsexperter flera åtgärder:

• Inför tydliga AI-styrningspolicyer som definierar vilka verktyg som är godkända.
• Utbilda medarbetare i att känna igen AI-relaterade phishing-försök.
• Aktivera multifaktorautentisering på alla konton.
• Övervaka aktivt efter obehöriga inloggningsförsök och misstänkta nedladdningar.

Hotet är särskilt relevant för företag som aktivt testar och inför AI i sina arbetssätt. Ju fler medarbetare som söker efter AI-verktyg, desto större är angreppsytan för den här typen av social manipulation.

Microsoft betonar att varken ChatGPT, Claude, DeepSeek eller Copilot har komprometterats, utan att det är deras varumärken som missbrukas i attackerna.

Incidenten är en påminnelse om att AI-säkerhet inte bara handlar om vad verktygen kan göra, utan även om hur de uppfattas och utnyttjas av angripare.