Bend 2 lar kompilatoren avvise KI-kode som bryter reglene dine

Uten regelfilen blir KI-feilen merget, med regelfilen blir den stoppet. Slik viser README-en til Bend 2 på GitHub forskjellen, med et spill som har én eneste regel: det skal være umulig å vinne. Agenten får beskjed om å la brettet gå rundt kantene. Uten LAWS.bend slipper feilen gjennom. Med filen på plass måtte agenten prøve på nytt til beviset gikk opp, og endte med å legge inn en vegg.

Mekanismen er enkel å forklare. Du skriver reglene i LAWS.bend, for eksempel «the sum of all balances must be zero» eller at array_set() aldri kalles utenfor grensene. Agenten skriver beviset i PROOF.bend og kjører bend PROOF.bend etter hver endring. Prosjektet anbefaler å legge instruksene rett inn i AGENTS.md.

«In short, LAWS.bend is AGENTS.md backed by proof.» — README-en til bendlang/bend

Bend er også et språk for rå ytelse. Målet er å være like raskt som C på én CPU-kjerne og som CUDA på GPU, og kompilatoren kan i dag lage kode for C, Metal, CUDA og JavaScript. Prosjektet hevder at beviskontrollen sjekker på under ett sekund filer som andre bevisverktøy bruker minutter på, men skriver selv at de mangler benchmarks for kontrolløren.

Begrensningene er mange og ærlig listet. Bend 2 er et nytt språk, og Bend 1-programmer og HVM kan ikke tas med. Tallene er bare Nat, U32 og F32, det finnes ikke HTTP-bibliotek, JSON eller regex, og du får verken LSP, debugger eller Windows-støtte (WSL fungerer). Bevis må skrives uten taktikker eller automatisk bevissøk. Og kompilatoren, ikke kjernen, er ifølge README-en 99 prosent skrevet av KI og ikke fullstendig revidert.

Hva bør du gjøre?

1. Kjør demoen med regelen om at du ikke kan vinne, og prøv å bryte den ved å endre koden selv.
2. Start med én regel for en liten back-end-funksjon, som at en sorteringsfunksjon alltid returnerer stigende tall. Bend fungerer best på back-end, på Linux eller macOS.
3. Hold produksjonskode unna inntil videre, siden prosjektet selv advarer om at kompilatoren er ung og har blinde flekker.