Genians: Kimsuky bygger egen offline KI-stack med Ollama og GPT4All

Verktøylisten ser ut som maskinen til en hvilken som helst norsk utvikler som liker å kjøre modeller lokalt: Ollama, GPT4All, Msty. Forskjellen er hvem som kjørte dem. Det sørkoreanske sikkerhetsselskapet Genians sier det fant oppsettet på infrastruktur knyttet til Kimsuky, en enhet under Nordkoreas Reconnaissance General Bureau, etter måneder med sporing og logganalyse.

Genians understreker at verktøyene var i bruk og ikke bare lastet ned. Ollama hadde generert nøklene den lager ved første oppstart, og GPT4All hadde en konfigurert localdocs_v3.db, databasen bak LocalDocs-funksjonen for RAG. Noen hadde altså koblet et dokumentarkiv til en lokal modell. Selskapet presiserer at databasen i seg selv ikke beviser at dokumentene var stjålet.

«Jo mer detaljert analysen er, desto bedre. Ikke gjør det slurvete.» — operatørforespørsel gjengitt i Genians' rapport

Forespørselen over ba om å sjekke et datasett for lommebokdetaljer, Gmail-legitimasjon og registreringshistorikk på nettsteder. Genians kunne ikke bekrefte at den faktisk ble sendt til en KI-tjeneste. På samme infrastruktur lå utviklerbibliotekene LLaMaSharp, Microsofts Semantic Kernel og Microsoft.Agents.AI, altså byggeklosser for å legge KI inn i egen C#- og .NET-kode, sammen med OpenAIs Whisper og en veiledning i å hente tekst ut av lyd. Ingen av delene er eksotiske. Det nye er at en statlig spionasjegruppe samler dem med hensikt.

Her er det verdt å holde tungen rett i munnen. Genians fant ingen tegn til at gruppen har trent en egen modell, og beskriver en aktør som tilegner seg kunnskap og tester eksisterende verktøy. Den offline stacken er ikke vist i bruk mot et offer, og Reuters skriver at funnene ikke lot seg verifisere uavhengig. Aktiviteten knyttes til kampanjen Genians kaller Operation GitPower, som bruker GitHub-repoer som kommandokanal i en infeksjonskjede fra LNK-fil til PowerShell.

Hva bør du gjøre?

1. Slutt å bruke språkkvalitet som filter. Skjeve oversettelser, rar formatering og skrivefeil forsvinner i det øyeblikket modellen skriver agnet.
2. Se etter atferd i stedet. Genians anbefaler å korrelere LNK-kjøring, PowerShell, skjulte planlagte oppgaver, GitHub-trafikk og senere nyttelast, framfor å vurdere en e-post etter hvor polert den ser ut.