PagerDuty-toppsjef advarer: KI-agenter feiler stille, ikke med et krasj

«Når KI drifter, er det faktisk vanskeligere å se, og du oppdager det ikke før den har utført driften på en rekke måter, og nå har det utviklet seg til flere feil.» Det sa Jenn Tejada, styreleder og tidligere toppsjef i PagerDuty, til Forbes 2. juli 2026. Poenget hennes er konkret: agentiske systemer feiler ikke med et krasj, men gjennom gradvis modelldrift som vanlig oppetids- og latensovervåking ikke plukker opp.

Tejada plasserer advarselen i en overgang fra eksperiment til produksjon. Hun viste til at hyperskala-selskapenes KI-investeringer er anslått til rundt 725 milliarder dollar for 2026 ifølge BNP Paribas, nær en dobling fra året før, og at dette presser stadig mer agentikk ut i drift. Problemet er ikke KI-en i seg selv, men at observability-stacken de fleste team allerede kjører, ikke er bygget for å se en agent som sakte begynner å ta feil beslutninger.

Forskjellen fra en tradisjonell feil er at symptomene dukker opp først etter at agenten allerede har handlet flere ganger på feil grunnlag. En død tjeneste utløser et varsel umiddelbart; en driftende agent gjør en serie plausible, men gale valg som først samler seg til en hendelse. Tejada trekker en parallell til AWS-utfallet i oktober 2025 som et bilde på hvordan en liten feil kan kaskadere gjennom flere systemer.

For deg som bygger agentiske arbeidsflyter er dette et varsel om hvor overvåkingen må flyttes: fra ren infrastruktur-telemetri til agentnivå-signaler som beslutninger, verktøykall og konfidens, med et menneske i loopen som kan pause agenten før driften rekker å forplante seg.