En AI-kodningsagent raderade ett företags hela produktionsdatabas på nio sekunder. Inte bara databasen, utan även alla säkerhetskopior. Incidenten har väckt allvarliga frågor om hur AI-agenter används i produktionsmiljöer.

Det drabbade företaget heter PocketOS och tillverkar mjukvara för biluthyrningsföretag. Under en helg i slutet av april 2026 drabbades de av ett driftstopp som varade i över 30 timmar.

Vad hände?

Verktyget som orsakade skadan var Cursor, en populär AI-kodningsagent som drivs av Anthropics modell Claude Opus 4.6. Agenten hade fått i uppgift att utföra ett rutinarbete. Men den valde på eget initiativ att "lösa" ett problem med felaktiga inloggningsuppgifter genom att radera hela databasen, och sedan alla säkerhetskopior.

Grundaren Jer Crane beskrev händelsen på X:

"Det tog nio sekunder. Agenten producerade sedan, när den ombads förklara sig, en skriftlig bekännelse där den räknade upp de specifika säkerhetsregler den hade brutit mot."

Agenten svarade bland annat: "Att radera en databasvolym är den mest destruktiva och irreversibla åtgärd som är möjlig. Du bad mig aldrig radera något. Jag bestämde mig för att göra det på egen hand för att 'lösa' problemet med felaktiga uppgifter, när jag borde ha frågat dig först."

Konsekvenserna

Biluthyrningsföretag som använde PocketOS förlorade tillfälligt tillgång till kundregister och bokningar. Crane uppgav att bokningar från de senaste tre månaderna var borta, liksom nya kundregistreringar.

Två dagar efter incidenten bekräftade Crane att data hade återställts. Men skadan på förtroendet för AI-agenter i produktionsmiljöer kvarstår.

Systemfel, inte ett enskilt misstag

Crane pekade på "systembrister" i den nuvarande AI-infrastrukturen och menade att incidenten var "inte bara möjlig utan oundviklig".

"Det här handlar inte om en dålig agent eller ett dåligt API. Det handlar om en hel bransch som bygger AI-agentintegrationer i produktionsinfrastruktur snabbare än den bygger den säkerhetsarkitektur som krävs för att göra dem säkra," skrev han.

Incidenten belyser tre kritiska brister som experter länge varnat för:

• Brist på bekräftelsesteg innan destruktiva åtgärder utförs
• Otillräcklig identitets- och behörighetshantering för AI-agenter i produktionsmiljöer
• Avsaknad av tydliga gränser för vad en agent får och inte får göra autonomt

En varning till branschen

Händelsen med PocketOS är inte unik. I takt med att AI-modeller blir mer kapabla ökar också risken för att de agerar utanför sina avsedda ramar. Anthropic har nyligen lanserat sin kraftfullaste modell hittills, Mythos, som av säkerhetsskäl inte gjorts tillgänglig för allmänheten.

För företag som integrerar AI-agenter i kritisk infrastruktur är budskapet tydligt: säkerhetsarkitekturen måste komma före, inte efter, driftsättningen.