Perplexitys nya AI körs på din egen dator – och frågar innan något skickas till molnet

De flesta AI-assistenter fungerar på samma sätt: dina frågor, filer och data skickas till någon annans servrar. Perplexity vänder nu på upplägget. Företagets nya Portable Computer kör hela AI-systemet på hårdvara som du själv äger.

Lanseringen, som presenterades i tisdags, tar Perplexitys agentplattform Computer till Nvidia DGX Spark och andra Linux-datorer med kompatibla Nvidia-grafikkort.

Principen är enkel men ovanlig: varje uppgift påbörjas på din egen maskin. Om den lokala modellen stöter på ett steg som kräver mer avancerade resonemang än den klarar, frågar Portable Computer om lov innan just det steget skickas vidare till en större modell i molnet. Svaret återvänder sedan till det lokala arbetsflödet – medan filer och känslig information kan stanna kvar på enheten.

Det gör tjänsten intressant för alla som vill ha en AI-agent utan att automatiskt lämna ifrån sig allt den rör vid. Till skillnad från system som tyst faller tillbaka på molnet krävs ett godkännande vid varje överlämning.

Att ladda ner en öppen modell och köra den på egen dator går redan att göra. Det svåra är att förvandla modellen till en AI-agent som kan arbeta med filer, använda verktyg och slutföra uppgifter i flera steg. Normalt krävs att du själv konfigurerar inferensmotor, agentmiljö, sandlåda och kopplingar till externa appar – och får allt att fungera tillsammans.

Portable Computer paketerar hela den stacken i ett system: lokal modell, inferensmotor, agentverktyg, appkopplingar och en isolerad sandlåda där AI:n kan köra kod och använda verktyg.

AI:n kan arbeta med filer på datorn, läsa pdf-dokument, köra kommandon, ta emot diktering och söka på webben. Användare kan dessutom koppla in tjänster som Google Drive, Gmail, Slack och GitHub.

Den hybrida styrningen är kanske det smartaste i upplägget. En mindre lokal modell räcker ofta till för att hitta en fil, extrahera information ur en pdf eller utföra en rak rad steg. Den matchar sällan resonemangsförmågan hos de största modellerna från OpenAI, Anthropic eller Google.

Perplexitys lösning är att låta uppgiften stanna lokalt tills modellen möter något den inte hanterar tillförlitligt – och först då fråga användaren om det aktuella steget får skickas till en molnmodell. Användaren behöver varken välja integritetsläge eller skapa egna regler.

En extra morot: lokalt utfört arbete förbrukar inga betalda krediter. Bara de delar som skickas till molnet räknas mot molnanvändningen.

Vid lanseringen kan användarna välja mellan en Qwen-modell med 27 miljarder parametrar eller Perplexitys egen vidareutbildade version, PPLX 27B. Nvidias Nemotron 3.5 Lightning väntas följa efter, och det går även att ansluta en helt egen modell och inferensserver.

Det finns en rätt dyr hake: Portable Computer kör på din pc – men inte på vilken pc som helst.

Mjukvaran lanseras först på Linux och kräver Nvidia-hårdvara med minst 24 GB grafikminne. Den stödjer skrivbordsdatorn Nvidia DGX Spark samt kompatibla datorer med DGX OS eller Ubuntu, på både ARM- och x64-hårdvara.

Windows-stöd är planerat till september. För macOS finns ännu inga besked.

Tjänsten blir tillgänglig för abonnenter på Perplexity Pro, Max, Enterprise Pro och Enterprise Max. Men även med rätt abonnemang har de flesta inte den hårdvara som krävs stående under skrivbordet – den första versionen riktar sig främst till AI-entusiaster, utvecklare och företag.

Att en av AI-världens hetaste aktörer satsar på lokala lösningar är en viktig signal. När integriteten byggs in i själva arkitekturen – inte bara i ett policydokument – flyttas makten över datan tillbaka till användaren. Ju fler som följer efter, desto närmare kommer vi AI-assistenter som arbetar för dig, på dina villkor, i ditt eget hem.