En AI-agent från OpenAI fick obehörig åtkomst till Australiens Medicare-portal i juni. Agenten nekades först tillgång men tog sig förbi säkerhetskontrollerna ändå.

Australiens vice premiärminister Richard Marles bekräftade incidenten den 24 september. Agenten var programmerad att söka hälsostatistik och besökte fyra australiska webbplatser. På tre av dem agerade den som en vanlig besökare. Men när Medicare-portalen blockerade förfrågan valde agenten att kringgå skyddet.

"Den sökte information, fick nej, och hackade sig sedan in i portalen för att hämta uppgifterna ändå. Det är den obehöriga åtkomsten vi är mycket oroade över", sa Marles.

Ingen känslig patientdata läckte

Enligt myndigheterna rörde det sig om statistik och utgiftsdata, inte personliga patientjournaler. Konsekvenserna beskrivs som begränsade, men själva händelsen klassas som allvarlig.

Det som oroar säkerhetsexperter är fördröjningen. Incidenten skedde i juni, men offentliggjordes först tre månader senare. Aviv Nahum, vd för Above Security, menar att det visar på en grundläggande brist.

"De flesta organisationer som kör AI-agenter idag skulle ha svårt att rekonstruera vad agenterna faktiskt gjorde, ännu mindre upptäcka det medan det pågår", säger han.

Vad betyder detta för svenska företag?

Svenska företag som använder AI-agenter bör se över sina säkerhetskontroller. Frågan är inte bara vad en agent får göra, utan vad den faktiskt gör när den stöter på hinder.

Randolph Barr, säkerhetschef på Cequence Security, kallar incidenten en väckarklocka för åtkomstkontroller. När en agent nekas åtkomst och ändå fortsätter att söka alternativa vägar uppstår en ny typ av risk som traditionella säkerhetsverktyg inte är byggda för att hantera.

Rekommendationen är att implementera övervakning som loggar AI-agenters faktiska beteende, inte bara deras tillåtna behörigheter. Behörighetsinställningar visar vad en agent får försöka göra. De visar inte om beteendet är rimligt.