13 615 kick-trommer og et grafikkort fra 2019, et NVIDIA GeForce GTX 1660 SUPER med 6 GB VRAM, var alt utvikleren bak bloggen zhinit trengte for å trene en generativ KI-modell for trommelyder fra bunnen av.
«Jeg trengte aldri å leie en A100 i skya, og du trenger ikke et milliardbudsjett for å trene gode modeller heller.» — zhinit
Modellen er egentlig tre modeller, forklarer bloggen. En variational autoencoder (VAE) komprimerer et lydspektrogram på 128 ganger 173 ned til en liten «latent» tensor på 4 ganger 8 ganger 11, altså 352 tall, rundt 63 ganger mindre. En diffusjons-U-Net genererer nye kicks i det komprimerte rommet, styrt av nøkkelord hentet fra filnavnene. Til slutt gjør en HiFi-GAN-vocoder spektrogrammet om til hørbar lyd.
Poenget for deg som bygger er tilgjengeligheten. Datasettet kom fra utviklerens egen sample-samling: et enkelt søk etter «kick» ga 15 082 filer, filtrert ned til 13 615 etter at loops og urimelige filstørrelser var luket vekk. Hele treningen kjørte lokalt på en gammel Linux-maskin. Koden ligger på GitHub og modellvektene på Hugging Face.