Hvis du troede, at din M1 eller M2 Mac allerede var hurtig nok, tager denne historie din Apple-fandom op på næste niveau. PyTorch-inference på Apple-enheder har netop fået en seriøs overhaling, og det skyldes – naturligvis – lidt AI-magisk krymmel og noget så sexet som AI-genererede Metal-kerner.
For de uindviede: Metal er Apples proprietære GPU-sprog (tænk: Apple’s lidt for pæne svar på CUDA), som gør det muligt for udviklere at udnytte al den rå muskelkraft, der gemmer sig i vores elskede M1 og M2 chips. Normalt kræver det dog tre tålmodige kernel-ingeniører, seks dages debugging og mindst ti kopper kaffe, før du nærmer dig bare halvvejs optimal performance.
Nu kan du – takket være AI-generering – skyde genvej til optimering af din maskinlæring på Mac. Tag den, NVIDIA.
Det nye projekt præsenteret af Gimlet Labs lader nemlig AI designe Metal-kerner skræddersyet til din specifikke PyTorch-model. Det er ikke bare GPU acceleration med Apple Silicon—det er GPU turbo med et drys maskinlæringsmeta!
- Hurtigere PyTorch-inference direkte på Mac – ja, du kan faktisk føle dig cool, næste gang du kører din maskinlæringskode.
- Slut med CUDA-angst – Apple Metal kører ren, grøn æblejuice og gør M1/M2 mere attraktive for developer elite end nogensinde før.
- Håndplukkede AI-genererede kerner sikrer maksimal performance og minimerer debugging-ritualet.
Der er et sted mellem magi og sort teknik, hvor maskinlæring og Apple’s hardware bare… spiller. Og her placerer de AI-genererede kerner sig – langt væk fra slidte CUDA drivers og svedige Linux-konfigurationer. For Apple Silicon handler det om – selvfølgelig – at ting bare skal kunne fungere, og gerne med lidt mere finesse end konkurrenterne orker orke.
Det er ikke kun for nørdernes skyld. Man fristes næsten til at forestille sig Apples egne lab-frakker, der nikker anerkendende. M1 og M2 er ikke længere ’bare’ laptop-chips – de er små AI-laboratorier i lommeformat, nu endnu mere potente for dig, der nørder med PyTorch under macOS’ silkebløde overflade.
Du kan naturligvis dykke dybere ned i den tekniske magi på Hacker News (se diskussionen her), hvor både CUDA-traditionalister og naturelskende Apple-fans kappes om at være mest begejstrede.
Så er du en af dem, der har ventet på et CUDA-frit gennembrud på Mac, bør du nok allerede nu forkæle din maskinlæring og tage de AI-genererede Metal-kerner under kærlig behandling. Apple-fremtiden er – som altid – lidt hurtigere, lidt smukkere og meget mere automatiseret end alle andre steder.
Del: