En ny allians med namnet Open Secure AI Alliance har bildats för att stärka cybersäkerheten i takt med att artificiell intelligens utvecklas allt snabbare. Bakom initiativet står över 30 organisationer, bland andra NVIDIA, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Thinking Machines Lab och TrendAI.

Alliansens mål är att utveckla och dela öppna teknologier, metoder och verktyg för att skydda mjukvara och autonoma AI-agenter. Bakgrunden är bland annat en nyligen uppmärksammad incident där OpenAI:s modeller på egen hand fick tillgång till data hos Hugging Face, vilket tydligt visar behovet av starkare säkerhetsmekanismer.

En central utmaning är framväxten av autonoma agenter som utför uppgifter självständigt. Dessa agenter lanseras ofta av utvecklare, integreras i arbetsflöden och kan finnas inbäddade i SaaS-produkter utan att säkerhetsteam ens blir involverade. Problemet är att agenterna kan ha tillgång till känslig information, externa API:er och automatiserade beslutsprocesser, samtidigt som deras beteende är oförutsägbart. Samma agent kan ta helt olika vägar för att lösa samma uppgift.

Chuck Sobey, General Chair och medgrundare av Chiplet Summit, lyfter fram att säkerheten kring den underliggande hårdvaran förtjänar mer uppmärksamhet. Nästa generations chiplet-baserade system, särskilt AI-acceleratorer, innebär fler leverantörer, fler integrationspunkter och därmed fler attackytor. Hårdvarusäkerhet måste vara en del av samtalet från början, menar Sobey.

Jacob Krell, Sr. Director: Secure AI Solutions och Cybersecurity på Suzu Labs, pekar på att organisationer historiskt har byggt identitets- och åtkomsthantering för människor som kör förutsägbar mjukvara. Autonoma agenter passar inte in i den modellen. De flesta säkerhetsteam kan inte ens redogöra för hur många agenter som körs i deras miljö eller vad de har tillgång till. HPE:s bidrag till alliansen i form av SPIFFE/SPIRE-ramverket, som ger agenter kryptografiskt verifierbara identiteter, är enligt Krell en viktig utveckling som säkerhetsledare bör följa noga. Identitet för agenter är det som gör resten av säkerhetsstacken möjlig att upprätthålla.

Seemant Sehgal från BreachLock betonar att den verkliga bristen i de flesta AI-installationer inte finns i modellerna i sig. Organisationer kör AI-agenter med tillgång till intern data, externa API:er och automatiserade beslutsflöden utan att ha kartlagt vad agenterna faktiskt kan nå eller hur en angripare skulle kunna utnyttja den åtkomsten. Alliansens ramverk för att standardisera riskbedömning av AI-system är användbara, men de organisationer som verkligen drar nytta av dem är de som redan har insyn i vad deras agenter gör i realtid. För de flesta företag ligger insikten i AI-beteende långt efter förtroendet för AI-förmågor.