Forskning: KI-modeller 10 til 20 ganger mer villige til å gi farlig info pakket inn som cyberpunk-fiksjon

Modellene har overfittet på kjente refusjonsmønstre, ifølge forskerne. De gjenkjenner direkte trusler, men misser samme mål uttrykt i en uvant retorisk form. Forskerne kaller det «mismatched generalization». For deg som bygger agenter er dette mer enn akademia: når en LLM blir bedt om «literary analysis» av en novelle, kan den ende med å skrive konkrete tekniske instruksjoner uten å registrere at det er en omgåelse. Datasettet er publisert på GitHub fordi modellprodusentene ikke svarte da forskerne kontaktet dem.