Cisco sporer opphavet til nesten 900 åpne KI-modeller

Godkjenningen av en åpen modell begynner som regel på en repo-side hos Hugging Face. Der står navnet, lisensen og en tagg som oppgir hvilken basemodell modellen stammer fra. Den taggen er en tekststreng uploaderen har skrevet inn, og Hugging Face krever ingen dokumentasjon på at den stemmer.

Cisco Foundation AI publiserte denne uken AI Supply Chain Provenance Explorer, en gratis og offentlig database over nesten 900 åpne modeller. Hver oppføring kan vise leverandørens hovedkontor, en avstamningsgraf basert på fingeravtrykk, lisensbegrensninger og hvor mange filer som faktisk er skannet for skadevare. Tjenesten ligger på provenance.aidefense.cisco.com og krever verken konto eller Cisco-produkt.

Under ligger Model Provenance Kit, Python-verktøyet Cisco slapp som open source i mai. Det jobber i to trinn. Først sammenlignes arkitektur-metadata før noen vekter i det hele tatt lastes ned. Er resultatet tvetydig, hentes fem signaler ut av vektene selv, blant dem en direkte sammenligning av vektverdier der uavhengig trente modeller viser tilnærmet null korrelasjon. Cisco oppgir 96,4 prosent treffsikkerhet på sitt eget referansesett med 111 modellpar.

«Forstår du ikke hvordan modeller er sårbare for ulike typer angrep, klarer du heller ikke å vurdere hvor modellen som driver agenten din har svake punkter» — Amy Chang, leder for KI-trusseletterretning og sikkerhetsforskning i Cisco

Explorer har reelle begrensninger. Hugging Face huser over to millioner modeller, så nesten 900 dekker toppsjiktet og ikke halen; alt utenfor er fortsatt avhengig av den selvrapporterte taggen. Cisco har heller ikke opplyst om tjenesten har et API. Uten et slikt kan du slå opp modeller for hånd, men ikke koble sjekken inn i en CI-port.

Hva bør du gjøre?

1. Slå opp modellene du allerede kjører, og noter den fingeravtrykk-baserte avstamningen i inventaret ditt i stedet for base_model-taggen.
2. Les av hvor mange filer som er skannet, i stedet for å anta at en grønn merkelapp betyr full dekning.
3. Sjekk lisens-avstamningen før modellen går i produksjon. Vilkår fra en basemodell lenger opp i kjeden vises ikke nødvendigvis på den sida du faktisk leser.