Det här krävs för du ska ha en egen AI-server hemma

Det som för två år sedan krävde ett datacenter får i dag plats i en hurts. En hemmaserver med ett modernt grafikkort kan köra språkmodeller, transkribera möten, sortera bilder och driva ett smart hem – helt utan att en enda rad lämnar bostaden.

Och det roliga: tröskeln sjunker snabbt. Modellerna blir mindre och smartare, programvaran har blivit så enkel att installationen tar en kvart, och begagnade grafikkort är billigare än på länge.

Den stora frågan är alltid hårdvaran. Grafikkortets videominne (VRAM) avgör hur stor modell du kan köra: tumregeln är att en modell i fyrabitars komprimering behöver ungefär hälften så många gigabyte VRAM som den har miljarder parametrar.

Glöm inte kringkostnaderna: ett nätaggregat på 850–1000 W, bra ventilation och en UPS om servern ska sköta hemmets larm eller lampor. Elen då? En maskin som idlar på 60 W och belastas några timmar om dagen landar typiskt på 100–200 kronor i månaden.

Här har det hänt mest. I dag laddar du ned färdiga paket, klickar i en modell och är igång – ingen kommandotolk krävs om du inte vill.

Nästan allt i listan är gratis och öppen källkod. Den enda återkommande kostnaden är el – och tiden du lägger på att pilla.

Till det kommer något svårare att sätta siffror på: lärandet. Den som satt upp en egen server förstår plötsligt vad modellerna faktiskt gör, var de är starka och var de trampar fel.

Börja litet. Installera Ollama på datorn du redan har, ladda ned en modell på sju miljarder parametrar och ställ några frågor. Fungerar det bra vet du också vad du behöver mer av – och då är investeringen ett väl underbyggt beslut i stället för en chansning.

Många upptäcker dessutom att den mindre modellen räcker för det de faktiskt gör: sammanfatta, skriva om, översätta och söka i egna dokument. Det är sällan storleken som avgör nyttan – det är att verktyget finns nära till hands.