«Vi forventer at alle våre folk følger retningslinjene våre for ansvarlig bruk av KI, inkludert menneskelig kontroll for å validere innhold og verifisere uavhengige kilder.» Det sier en talsperson for KPMG til Financial Times, etter at konsulentselskapet ifølge TechCrunch fjernet rapporten «Redefining excellence in the age of agentic AI» fra nettsidene sine.
Rapporten ble publisert i oktober 2025. Forskningsgruppen GPTZero fant en rekke unøyaktigheter som de mener stammer fra KI-hallusinasjoner. Med andre ord: selskapet ser ut til å ha brukt KI til å skrive en rapport om KI, uten å verifisere det modellen produserte.
UBS, det britiske helsevesenet NHS, Sveitsiske føderale jernbaner og Transport for London sa alle til FT at rapportens påstander om deres KI-bruk var usanne eller misvisende. Dette er ikke et engangstilfelle: måneden før trakk EY en rapport om lojalitetsprogrammer som så ut til å inneholde falske fotnoter og hallusinasjoner.
For deg som bygger med KI er poenget konkret. Hallusinerte sitater, statistikk og «casestudier» glir gjennom når ingen sjekker dem mot en primærkilde. Jo mer du automatiserer innholdsproduksjon, jo mer trenger du et verifiseringssteg som faktisk kan underkjenne en påstand.
Hva bør du gjøre?
- Legg inn et kildeverifiseringssteg for alt KI-generert innhold som skal publiseres: hver påstand om en tredjepart må kunne spores til en primærkilde.
- Be modellen oppgi kilder, men behandle dem som uverifiserte til et menneske eller et separat søk bekrefter at de finnes.
- Logg hvilke deler av et dokument som er KI-generert, så du vet hvor du må kontrollere ekstra nøye.