När AI-agenter får tillgång till produktionssystem uppstår nya frågor om ansvar och styrning. Det var ett av huvudbudskapen från Alexey Tulia, ledare på Coinspaid Dev, under panelen "AI Impact in Engineering" på Tech Race Summit 2026 i Warszawa.

Företag använder redan AI för utkast och analyser. Nästa steg kopplar agenter direkt till känsliga system, från databaser till deployment-pipelines, där de kan agera självständigt. Det väcker grundläggande frågor: vilka behörigheter ska en AI-agent ha, och vem bär ansvaret när något går fel?

Debatt om utvecklingstakten

Tulias kommentarer kommer mitt i en intensiv debatt om agentisk AI. Anthropics vd Dario Amodei har uppmanat branschen att bromsa kapacitetsutvecklingen så att säkerhetsarbetet hinner ikapp. Jacob Coxon, tidigare forskare på både Anthropic och OpenAI, avgick nyligen och varnade för att konkurrensen mellan de ledande labben överskuggar säkerhetsfrågorna.

Tulia adresserade den operativa sidan av problemet: hur företag sätter gränser när agenter väl når produktion.

Ansvar följer auktoritet

"Ju mer auktoritet vi ger maskiner, desto viktigare blir ansvarsfrågan", sa Tulia under panelen.

Tänk dig en AI-agent som kan förbereda och genomföra en produktionsdeploy. Ska den tillåtas göra det utan mänskligt godkännande? Vem ansvarar om deployen misslyckas?

Innan sådan åtkomst beviljas behöver organisationen behörighetskontroller och revisionsloggar. Den måste kunna stoppa agenten och återhämta sig från en misslyckad deploy. Tillsammans speglar dessa krav Tulias bredare argument: ökad autonomi i produktion kräver tydligt definierad auktoritet och mänskligt ansvar.

Flexibilitet framför förutsägelser

Tulia uppmanade CTO:er att knyta AI-investeringar till konkreta organisationsbehov. Hans prioriteringar inkluderade starka API:er och tillförlitlig data. Automatiserad testning, observerbarhet, säkerhet och flexibel arkitektur ger företag utrymme att introducera ny teknik på ett säkert sätt.

"Jag behöver inte förutsäga framtiden perfekt. Jag behöver göra det billigt att ha fel", sa Tulia.

Ingenjörer tar större ansvar

AI snabbar upp kodning och prototyper. Enligt Tulia bör det ge ingenjörer mer utrymme att förstå affärsproblemet och följa resultatet hela vägen till produktion. Produktivitet kan då mätas genom korrekthet, underhållbarhet, säkerhet och operativ prestanda snarare än kodvolym.

Tulia förutspår att mindre ingenjörsteam kommer hantera större ansvarsområden fram till 2029, och att AI kommer generera majoriteten av produktionskod. Det ökar betydelsen av verifiering och tekniskt omdöme.