Er du træt af at høre om alle de revolutionerende AI-modeller, som kun findes i skyen eller, endnu værre, kun på Windows? Ja, os også. Men nu sker der faktisk noget — Microsoft har netop gjort OpenAI’s nye, åbne GPT-oss-20b-model tilgængelig på Windows via Windows AI Foundry. Og hold nu fast, macOS-brugere: det bliver jeres tur snart. Endelig en AI-model, der ikke kræver du først sælger din sjæl (eller dit Apple-logo) til cloud-giganterne.
GPT-oss-20b er ikke bare endnu en model i rækken – den er gratis, åben og kan afvikles direkte på din lokale maskine. Intet behov for sky-abonnement, ingen evindelige pop-ups om udløbende API-nøgler. Der er dog lige ét men: Du skal bruge en GPU med minimum 16GB VRAM. Med andre ord, du kommer ikke langt med en MacBook Air fra 2019. Tænker du M2 Max eller kraftig Radeon GPU, er vi derimod på rette vej – eller, hvis du stadig bruger Windows, en af Nvidia’s tunge drenge. Kan din hardware følge med, får du til gengæld adgang til en model, der er fintrimmet til kode, værktøjer og autonome assistenter.
- Lokal AI på Mac og Windows: Sikkerhed, kontrol og lynhurtige svar – alt sammen uden skyen.
- Optimeret til udviklere: Sand tech-nørd-lyd – kør din egen assistent direkte på maskinen, og slip for ventetid og netværksforbindelse.
- Apple, vi ser på dig: Mens Microsoft allerede ruller modellen ud, må vi Apple-folk vente lidt endnu. Men Windows AI Foundry har allerede et “coming soon” til macOS. Forklar det til Tim Cook…
“Perfekt til at bygge autonome assistenter eller integrere AI i rigtige workflows, selv hvis dit Wi-Fi haltede siden 2013,” – Microsoft (med et glimt i øjet)
Microsoft har desuden pre-optimeret GPT-oss-20b til lokal inferens – ja, Apple-fans, det betyder, at støjen fra blæseren endelig har en undskyldning. Det store spørgsmål er dog, hvornår vi ser modellen for alvor udnytte Apple Silicon og Copilot Plus PC’ens AI-NPU’er. Forvent snarlige opdateringer, og nyd imens at Microsoft og Amazon nu – for første gang nogensinde – kan tilbyde de nyeste OpenAI-modeller lokalt OG i skyen.
Er du nysgerrig på detaljer eller vil du sammenligne Microsofts og OpenAI’s noget… “komplekse” forhold, så læs mere hos The Verge. Mangler du hurtige tips om AI på Mac? Søg løs på We❤️Apple.
Konklusion? AI-landskabet bliver mindre sky-afhængigt, og Apple-folket får snart mulighed for at lege med på linje med Windows-brugerne – hvis du altså har råd til nok VRAM. God fornøjelse med ventetid, hardwareopgradering og alle de lokale AI-eventyr, du kan drømme om.
Dela: