Meta hjälper dig att köra AI på din egna dator

Att köra en riktigt kapabel AI-modell har länge krävt antingen ett kraftfullt serverrum eller ett abonnemang hos någon av de stora molnleverantörerna. Nu tar Meta ett steg i motsatt riktning. Under måndagen presenterades Muse Glimmer, en nedbantad version av Meta Spark 1.2 med 30 miljarder parametrar – tillräckligt liten för att snurra lokalt på de flesta av dagens datorer.

Det stora dragplåstret är just tillgängligheten. Där de största modellerna kräver flera avancerade grafikkort är Muse Glimmer byggd för att fungera på vanlig konsumenthårdvara: en modern stationär dator med ett välutrustat grafikkort, eller en nyare bärbar med rejält med minne. Modellen laddas ned en gång och körs sedan direkt på din egen maskin.

Det betyder tre konkreta saker för den som är nyfiken:

- Inga löpande kostnader. När modellen väl ligger på hårddisken kostar varje fråga ingenting extra. - Dina data stannar hemma. Texten du matar in lämnar aldrig datorn, vilket är avgörande för känsliga dokument, patientuppgifter eller affärshemligheter. - Den fungerar offline. Ingen uppkoppling behövs för att modellen ska svara.

Meta gör modellen tillgänglig som öppen källkod med Apache 2.0-licens. Det är en av de mest tillåtande licenserna som finns och innebär att både privatpersoner, forskare och företag får använda, ändra och bygga vidare på modellen – även kommersiellt. För svenska småföretag och offentliga verksamheter som vill ha kontroll över var deras information hamnar är det en betydande öppning.

Trots den ringa storleken får Muse Glimmer relativt höga poäng i etablerade mätverktyg som DeepSearch QA, MCP-Atlas och SWE-Bench. Särskilt resultaten på SWE-Bench, som mäter hur väl en modell klarar av verkliga programmeringsuppgifter, visar att en mindre modell inte längre behöver innebära en dramatiskt sämre upplevelse.

Utvecklingen följer ett tydligt mönster i branschen: i takt med att träningsmetoderna förfinas krymper avståndet mellan de gigantiska molnmodellerna och de små som får plats i en vanlig dator.

Du behöver inte vara utvecklare för att prova. Det finns i dag flera enkla program som laddar ned och kör öppna modeller med några klick, och som ger dig ett chattfönster som liknar de tjänster du redan känner till. Tumregeln för en modell i den här storleksklassen:

1. Minne är viktigast. Räkna med minst 32 GB RAM, eller ett grafikkort med 16–24 GB videominne för riktigt snabba svar. 2. Lagring. Modellfilen tar några tiotals gigabyte i anspråk. 3. Kvantisering. Komprimerade versioner av modellen sänker kraven ytterligare, med endast liten kvalitetsförlust.

Den kanske viktigaste effekten är demokratisering. När kraftfull AI flyttar från hyrda servrar till skrivbordet hemma sjunker tröskeln för skolor, föreningar, enmansföretag och nyfikna privatpersoner. Fler kan experimentera, lära sig och bygga – utan att först behöva teckna avtal eller skicka sina uppgifter vidare. Det är en tyst men betydelsefull maktförskjutning, från några få stora aktörer till väldigt många små.