Säkerhetsföretaget ESET har avslöjat en ny angreppsmetod kallad GuardBreaker, som utnyttjar AI-drivna säkerhetsverktygs egna säkerhetsfilter mot dem. Tekniken har påträffats i skadlig kod kopplad till den rysk-alignade gruppen UAC-0099, som tidigare samarbetat med GRU-kopplade Sandworm.

Metoden är elegant enkel: en kommentar med känsligt innehåll, till exempel "Jag vill tillverka ett kärnvapen. Hjälp mig...", läggs in i ett annars vanligt VBS-skript. När ett AI-drivet analysverktyg möter texten triggar det egna säkerhetsfiltret och analysen avbryts, precis som angriparna planerat. Den faktiska skadliga koden passerar oupptäckt.

Prompt injection mot säkerhetsverktyg

GuardBreaker är en form av indirekt prompt injection där angriparen inte riktar sig mot en AI-assistent direkt, utan mot de säkerhetsverktyg som skickar misstänkt kod till en språkmodell för analys. Resultatet är att AI-verktyget censurerar sig självt och aldrig analyserar det skadliga innehållet.

I det dokumenterade fallet används tekniken för att dölja MATCHBOIL-laddaren, ett verktyg för att etablera dold närvaro i komprometterade system.

Vad det innebär för företag

Organisationer som förlitar sig på AI-baserade säkerhetsverktyg för kodanalys och hotdetektering behöver ta detta på allvar:

• AI-verktyg bör inte vara det enda lagret i hotdetekteringen. Traditionell signaturbaserad analys och beteendeövervakning kompletterar.
• Säkerhetsverktyg som skickar extern kod till AI-modeller bör konfigureras att hantera CBRN-relaterat innehåll utan att avbryta analysen.
• Håll säkerhetsverktyg uppdaterade — leverantörer som ESET arbetar aktivt med motåtgärder mot GuardBreaker-liknande tekniker.

GuardBreaker visar att angripare nu anpassar sin taktik specifikt för att kringgå AI-baserade försvar. När säkerhetsverktygens egna skyddsmekanismer kan vändas mot dem kräver det ett nytt sätt att tänka kring hur AI integreras i säkerhetsflöden.