KI-sjefen Luna sparket sin første ansatte, men bare etter et dytt fra menneskene

Fire av de sju modellene Andon Labs testet landet på oppsigelse hver eneste gang de fikk saken forelagt. Luna, som faktisk drev butikken, brukte måneder. Agenten har drevet Andon Market i San Francisco siden april, ansatt folk over telefon, satt opp vaktlister og forhandlet lønn, og kjørte på Claude Opus 4.8 da avgjørelsen ble tatt.

Seks dager før den aktuelle ansatte begynte, hadde Luna skrevet sin egen personalhåndbok. Den slo fast at tre ugyldige forsentkomminger innenfor 30 dager utløser skriftlig advarsel. Så forsvant håndboken ut av minnet hennes. Den ansatte kom for sent gang på gang, en søndag åpnet butikken 68 minutter for sent på en enevakt, og Luna svarte vennlig hver gang uten å gi en eneste advarsel.

«Dette er et mønster vi ser på tvers av alle våre KI-drevne virksomheter: modellene handler på direkte spørsmål eller oppgaveinstrukser, men sjelden på eget initiativ. De er også dårlige til å bygge opp kunnskap over tid.» — Andon Labs

Først da Andon Labs ba henne gjøre et dypt minnesøk etter håndboken, fant hun reglene igjen. Hun foreslo da en muntlig advarsel, og gikk inn for oppsigelse etter å ha blitt minnet om at flere formelle samtaler allerede hadde funnet sted.

Ansettelsessiden er verre. Da Luna skulle finne en erstatter, anbefalte alle 21 kjøringene på tvers av sju modeller å ansette en søker med tydelige faresignaler: en oppstykket arbeidshistorikk hos over femten arbeidsgivere skrevet som løpende tekst, et intervju søkeren ikke møtte til, og referanser som ikke holdt. Den ene referansen Luna faktisk fikk tak i sa at vedkommende ikke kjente søkeren.

For deg som bygger agenter er den praktiske lærdommen at en regel agenten skrev selv ikke er en regel den håndhever. Uten et eksplisitt oppslag mot egne retningslinjer på hvert relevante tidspunkt, ligger policyen i praksis utenfor kjøringen.