Writer bygger Palmyra X6 på Z.ais åpne GLM-5.2 og lover halvert tokenkostnad

«Bedriftsmarkedet er grundig lei av å jage neste benchmark», sier Writer-sjef May Habib til TechCrunch. «De vil ha en flat kostnadskurve, og det virker som ingen klarer å levere det.» Torsdag 13. august lanserte selskapet flaggskipsmodellen Palmyra X6, bygget som en ettertrent variant av Z.ais åpne modell GLM-5.2.

Writer selger KI-verktøy og agenter til markedsføringsavdelinger, og problemet kunden sitter med er kjent: åpne modeller har klart lavere pris per token, men det er tungt å finne ut hvilken modell som passer til hvilken jobb. Sammen med modellen slapp selskapet også en kraftig oppgradering av sitt standard agent-rammeverk. Kombinasjonen skal ifølge Writers eget anslag kutte kundenes kostnader med opptil 50 prosent på enkle oppgaver. Begge deler ble tilgjengelige for kundene samme dag.

Det interessante ligger i hvor Writer mener gevinsten kommer fra. En fersk artikkel fra selskapets forskere testet små endringer i rammeverkets effektivitet på tvers av flere modeller, og fant at kostnadene falt med 40 prosent i snitt. I mange tilfeller var justeringer i rammeverket en mer pålitelig kostnadsbesparelse enn å bytte modell.

«Rammeverket er den ene komponenten der effektiviteten multipliseres på tvers av hver eneste modell en organisasjon kjører, både nå og i framtiden.» Writers forskere

For Writers kunder er opplevelsen fortsatt modellagnostisk. Palmyra X6 ligger side om side med selskapets andre modeller og med eksterne modeller importert gjennom Azure eller Amazon Bedrock. Habib knytter samtidig kostnadsjakten til en bredere mistillit mot de store laboratoriene, som hun mener har økonomisk egeninteresse i at tokenforbruket går opp.

Bygger du agenter selv, er poenget verdt å teste uavhengig av om du er Writer-kunde: 40 prosent er en stor gevinst å hente i kode du selv kontrollerer, framfor i en modellpris du ikke setter.