Apple M5: Lokal LLM-ydelse banker M4 – her er de nørdede detaljerApple M5: Lokal LLM-ydelse banker M4 – her er de nørdede detaljer

Hvis du stadig tror, at Apple Silicon reelt bare er en fancy marketingøvelse, så har du glemt, hvem der reelt sætter dagsordenen for maskinlæring på skrivebordet. Apple har netop offentliggjort nye tal i deres Machine Learning Research Blog, og her bliver det smerteligt tydeligt: M5-chippen gør M4 til den lidt pinlige lillebror, hvad angår lokale LLMs.

Lad os få en ting på det rene: LLM-performance (hej, We❤️Apple-læsere) er nu det, der adskiller 'pro' hardware fra ligegyldig hardware. Med M5 kan du (næsten) køre alt, der minder om en lokal GPT-agtig model, uden at blæserne går amok, og uden at batteriet føles som en cola i Sahara.

  • M5 leverer markant hurtigere inferens, især for større LLM'er
  • Apple lægger vægt på MLX platformen, der gør det endnu nemmere at optimere AI-værktøjer til Mac
  • Benchmarks viser reelle forskelle mellem M5 og M4 – ikke bare på papiret, men i virkeligheden
“Det mest imponerende ved M5-chipen er dens evne til at håndtere ‘tunge’ ML workloads lokalt – uden ekstern server eller datacenter.”

Okay, har du også bemærket at M5 ikke kun er hurtigere, men også smartere? Apples Neural Engine har fået et nøk opad, så selv de mest hardcore AI- eller ML-løsninger (læs: din hverdags Chatbot wannabe GPT-4) nu kan køre upåklageligt på en MacBook Pro – uden ekstern strøm eller USB-nørderi.

Mac-brugere får ikke bare et performance-boost, men også adgang til flere opensource-LMM’er, direkte på skrivebordet – og, MLX udviklingsrammen bliver hurtigt et nyt We❤️Apple-buzzword. Nu mangler vi bare, at nogen bygger en version af Stable Diffusion på dansk. Hvor svært kan det være, Apple?

Er du allerede på M4 og føler dig lidt outdated? Tag det roligt – du er kun lidt bagud. Og indtil M6 kommer og gør M5 til relikvie, kan du altid argumentere for, at 'den ægte innovation sker på softwaren' – også selvom ingen rigtig tror på det længere.

Læs flere nørdede oversigter over Apple Silicon og følg med på We❤️Apple for endnu flere opdateringer om M5 og AI på Mac.

Apple - USB-C vers Lightning 2m