Ontologier vender tilbake som rekkverk for KI-agenter

«Dette har ligget der og ligget under mye av det vi allerede gjør, så utnytt det som finnes.» — Frank Coyle, informatikkprofessor som underviser i generativ KI og språkmodeller ved UC Berkeley

Coyle holdt et 20 minutters innlegg på AI Engineer World's Fair som ble et av de mest sette fra konferansen, skriver Latent Space. Argumentet hans er at språkmodeller er effektive til sannsynlighetsbasert resonnering, men at agentsystemer i tillegg trenger logiske rekkverk, og at ontologier er nettopp det. En ontologi er en beskrivelse av klasser, egenskaper og relasjoner i et kunnskapsdomene. Coyle definerer det kortere: data som grafer.

Poenget som gjør dette praktisk anvendelig med en gang, er at etablerte ontologier som Schema.org, FOAF og Dublin Core allerede ligger i treningsdataene til modellene. Du kan altså prompte etter dem framfor å finne opp egne strukturer fra grunnen. Coyle demonstrerte en Claude-agentløkke der en ontologi validerte modellens resonnering etter at verktøyet hadde kjørt, og viste OWL brukt som kontroll: språk er glatt, mens et OWL-aksiom er en regel en maskin håndhever. Han kaller kombinasjonen nevrosymbolsk KI, altså nevrale nett koblet til regelbaserte systemer og kunnskapsgrafer. En av plansjene hans beskriver det som et avgrenset sett regler rundt en uavgrenset løkke.

Neo4j-sjef Emil Eifrem beskrev tre typer ontologier i sitt eget innlegg: en forretningsrettet som beskriver nøkkelbegrepene i organisasjonen, en teknisk over metadata om datakildene, og kjøretidssignaler fra agentene. Målet hans er å komme fra tykke agenter med manuelt koblede datakilder til tynne agenter på et delt semantisk lag.

Innvendingen er den samme som senket den semantiske veven på 1990- og 2000-tallet: ontologier må vedlikeholdes, og de blir raskt utdaterte. Utvikleren Prasenjit Sarkar har foreslått at problemet endrer karakter når agenten selv vedlikeholder ontologien og oppdaterer definisjoner når den møter grensetilfeller. Han legger til at det fortsatt er vanskelig. At diskusjonen kommer nå, henger sammen med at kvalitetskontroll av agentløkker er det utviklerne strever med etter at vibe-coding gjorde det enkelt å lage programvare, men ikke å vedlikeholde den.