Hackare har utnyttjat en logisk brist i Meta AI, Metas inbyggda AI-assistent, för att ta över konton på Instagram. Bland de drabbade finns märkeskontot för Sephora och den tidigare amerikanske rymdchefen John Bentivegna.

Attacken bygger på social manipulation av AI-assistenten snarare än en klassisk teknisk sårbarhet. Angriparna lurade Meta AI att tro att de var kontoägaren och fick på så vis hjälp att återställa inloggningsuppgifter och kringgå tvåfaktorsautentisering.

Hur attacken gick till

Meta AI är designad för att hjälpa användare med kontofrågor direkt i chatten. Angriparna utnyttjade detta genom att formulera förfrågningar på ett sätt som fick AI-assistenten att behandla dem som legitima kontoägare. Väl inne i flödet för kontoåterställning kunde de byta lösenord och låsa ut de riktiga ägarna.

Det är ett tydligt exempel på vad säkerhetsforskare kallar "prompt injection" mot AI-system: att formulera indata på ett sätt som får systemet att agera utanför sina avsedda ramar.

Vad det betyder för företag

Många företag använder Instagram som en viktig kanal för varumärkeskommunikation och kundkontakt. Ett kapat konto kan skada varumärket allvarligt, sprida falsk information till följare eller användas för bedrägerier mot kunder.

Incidenten visar också på en bredare risk: när AI-assistenter integreras i kontosäkerhet och supportflöden kan de bli en ny attackyta. Det räcker inte att ha starka lösenord och MFA om AI-lagret kan manipuleras att kringgå dem.

Konkreta åtgärder

• Aktivera avancerade inloggningsskydd på era sociala mediekonton, inklusive hårdvarunyckel om plattformen stöder det.
• Begränsa vilka som har tillgång till företagets sociala mediekonton och använd dedikerade konton, inte personliga.
• Övervaka kontoaktivitet och sätt upp larm för inloggningar från okända enheter eller platser.
• Ha en incidentplan för vad ni gör om ett konto kapas: vem kontaktar ni, hur kommunicerar ni med följare?

Meta har bekräftat att de utreder händelsen. Några officiella säkerhetsuppdateringar hade inte publicerats när den här artikeln skrevs.

Vill du veta hur BlckIT kan hjälpa er att skydda era digitala kanaler? Kontakta oss här.