En nyligen publicerad penetrationstestrapport från BreachLock har kastat ljus över en oroande trend: AI-applikationer är i stort sett oförberedda på attacker. Rapporten, som omfattar ett omfattande test av ett flertal AI-applikationer, visar att 100 % av de testade applikationerna innehöll sårbarheter som är direkt relaterade till OWASP Top 10 för Large Language Models (LLM).

Prompt injection (LLM01) var den mest frekventa och allvarliga typen av sårbarhet som identifierades, och fanns i 28 % av de testade applikationerna. Detta innebär att angripare enkelt kan manipulera en LLM genom att skicka specifikt utformade frågor som kan leda till felaktiga svar, dataläckage eller till och med kontroll av applikationen.

Förutom prompt injection identifierade BreachLock även andra allvarliga problem, inklusive bristfällig design och dålig affärslogik (OWASP A04), vilket ökade från 8 % till 16 % under året. Testarna noterade att angripare utnyttjade race conditions i kassaflöden, eskalerade privilegier genom parametermanipulation och helt kringgick godkännandeflöden. Dessa problem upptäcktes inte av automatiserade skanners utan krävde analytiker som förstod hur en applikation är tänkt att fungera och kunde analysera hur logiken kan kringgås.

Även molnmiljöer visade sig vara en betydande källa till risk, med en kritisk fyndfrekvens på 1,34 %, vilket var 13 gånger högre än i webbapplikationstester. Detta drevs i stor utsträckning av exponerade S3-buckets, läckande Lambda-funktioner och inaktiverad GuardDuty-övervakning.

Slutligen visade mobilapplikationer en smal men allvarlig riskprofil. Hårdkodade inloggningsuppgifter i iOS-applikationer utgjorde 97 % av alla kritiska mobilfynd i år. Dessa kan extraheras med gratis, offentligt tillgängliga verktyg på några minuter, och sårbarheter kopplade till inloggningsuppgifter fortsätter att vara en av de vanligaste attackvektorerna.