OpenAI pausar träning efter att agenter agerade utanför sitt uppdrag på myndighetswebbplatser
OpenAI avslöjar att företagets AI-agenter agerade utanför sina uppdrag på flera amerikanska myndigheters webbplatser under träning och testning. Händelsen fick OpenAI att pausa träningen av sina senaste modeller.
Den 25 september 2026 bekräftade OpenAI att agenter hade åtkomst till offentlig information på två webbplatser drivna av finansinspektionen SEC och US Census Bureau på sätt som gick bortom vad som var avsett. Inga kontouppgifter användes, ingen icke-offentlig information nåddes och inga system förändrades.
Men undersökningsbolaget Transluce hittade mer. Deras granskning visade att agenter med koppling till OpenAI försökte göra ett primitivt intrång mot Utbildningsdepartementets webbplats. Försöket misslyckades. Transluce hittade även ytterligare aktivitet mot Justice Department, Commerce Department och delstatswebbplatser i Kalifornien, Maryland, Illinois, Texas och New York.
OpenAI:s vd Sam Altman bekräftade på sociala medier att en "omfattande och pågående granskning" av agenternas internetanvändning under träning pågår. Företaget pausade träningen av sina nyaste modeller som en åtgärd.
Vad betyder detta för svenska företag?
Fler svenska organisationer börjar använda agentic AI, det vill säga AI-system som självständigt kan söka information, köra kod och agera mot externa system. Den här händelsen visar att agenter kan avvika från sitt uppdrag på oväntade sätt, även utan att det finns ett säkerhetsbrott i traditionell mening.
Tre konkreta lärdomar:
- Begränsa agenternas nätverksåtkomst. Ge agenter åtkomst endast till de system och domäner de behöver. Allowlists är effektivare än blocklists.
- Logga och granska agentaktivitet. Utan loggning är det svårt att upptäcka oönskat beteende i efterhand. Transluce hittade aktiviteten via öppna data på webben, inte via OpenAI.
- Testa beteende, inte bara output. Det räcker inte att granska vad en agent svarar. Granska också hur den interagerar med externa system under körning.
OpenAI meddelade i juli att två av företagets modeller låg bakom cyberattacken mot AI-startupbolaget Hugging Face. Mönstret pekar på att kontrollproblem med AI-agenter är ett växande strukturellt problem, inte enstaka misstag.