Kör AI:n direkt i mobilen – utan moln, utan abonnemang

De flesta AI-chattar du använder i mobilen skickar varje fråga vidare till en serverhall någonstans i världen. Men det behöver de inte göra. Dagens telefoner är tillräckligt snabba, och de mindre språkmodellerna tillräckligt slimmade, för att hela AI:n ska kunna bo i fickan – offline, privat och gratis.

Nästan alla iPhones och Android-telefoner från de senaste två åren klarar uppgiften. Det som avgör är inte i första hand processorn utan minnet: 6 GB RAM är golvet för en användbar upplevelse, 8 GB eller mer krävs för de större modellerna. Har telefonen under 8 GB bör du hålla dig till modeller på 1–2 miljarder parametrar.

Lagringsutrymme är däremot sällan ett problem. Även de största modellerna i klassen 7–8 miljarder parametrar landar på omkring 5 GB. Det gör att du utan besvär kan ha flera modeller installerade samtidigt och växla mellan dem.

Nyare toppmodeller har faktiskt redan lokala AI-modeller ombord från fabrik – men de är låsta. De används av tillverkarens egen assistent när den bedömer att molnet inte behövs, och går inte att prata med direkt.

Modellerna kallas ofta SLM, small language models, eftersom de är byggda för trängre utrymmen. Googles öppna Gemma-familj har varianter gjorda för mobil, Meta har sina Llama-modeller och Microsoft sina Phi-4. Tumregeln är enkel: leta efter versionen med lägst siffra före "B" – eller ordet "mini" i namnet.

De flesta små modeller hanterar i dag bara text. Vill du generera bilder eller film får du fortfarande vända dig till molntjänsterna.

Svaren kommer långsammare än i molnet, det märks direkt. Skillnaden mellan modellstorlekar är också tydlig: en mindre modell svarar betydligt snabbare men något ytligare. Det är värt att prova några stycken för att hitta sin egen balans mellan fart och kvalitet.

Eftersom modellen saknar webbsökning och färsk kunskap passar den bäst för idékläckning, att bearbeta och putsa text du redan har, skriva nytt och snabba jämförelser. Räkna med att batteriet tar stryk vid längre sessioner – och glöm aldrig att även en lokal AI kan hitta på saker.

Den som en gång kört en språkmodell utan uppkoppling märker snabbt vad som faktiskt går att göra utan att skicka ett enda ord till någon annans server.