Lokal AI: så kör du språkmodeller på egen dator
Kortfattat: Lokal AI betyder att du kör AI-modeller på din egen dator eller server i stället för i molnet. Den här kursen handlar om språkmodeller (LLM), den sortens AI som ChatGPT bygger på. Du lär dig välja dator, installera, chatta med egna dokument, ge hela kontoret en gemensam AI-chatt, träna en egen modell och automatisera arbetsflöden. Vi provar allt på tre datorer i olika storlekar: Mac Mini, en dator med RTX 3090 och DGX Spark.
De tre storlekarna vi använder genom hela serien: Mac Mini i aluminium, grafikkortet RTX 3090 och DGX Spark med sin guldfärgade front av metallskum. Spark är lika hög som Mac Mini, ungefär 5 cm, men bredare och därför plattare.
Det här lär du dig
- Vad en språkmodell är och vad den klarar, lokalt och i molnet
- Vilken dator du behöver och hur mycket minne som krävs
- Att installera och chatta med en språkmodell i webbläsaren
- Att låta modellen svara utifrån era egna dokument
- Att ge alla anställda en säker AI-chatt med inloggning
- Att träna en modell på ert material och automatisera mejl
Börja här
Är du ny på lokal AI? Kapitel 1 förklarar skillnaden mellan AI, språkmodeller och ChatGPT, och vad du behöver för att komma igång hemma eller på företaget.
Alla kapitel
Vi publicerar ett nytt kapitel varje vecka. Visa de kapitel som passar dig:
- 1
Lokal AI – för dig hemma och för ditt företag
Vad lokal AI är, vad språkmodeller klarar och vad du behöver för att komma igång.
- 2
Mac Mini, RTX 3090 eller DGX Spark?
Så väljer du dator efter minne och bandbredd, med en jämförelse av de tre storlekarna.
- 3
Hur mycket minne behöver en språkmodell?
Parametrar, kvantisering och tokens på ren svenska, med en kalkylator.
- 4
Installera lokal AI på Windows, Mac och Linux
Installera Ollama och kör din första språkmodell på tio minuter.
- 5
Open WebUI – din egen ChatGPT hemma
Ett chattfönster i webbläsaren för dina lokala modeller, även från mobilen.
- 6
Vi testade – 8B till 70B på tre maskiner
Hastighet, kvalitet och strömförbrukning, uppmätt i vår verkstad.
- 7
Chatta med dina egna dokument
Låt språkmodellen svara utifrån dina PDF:er och manualer, med källhänvisning.
- 8
LibreChat för företaget
En gemensam AI-chatt med inloggning för hela kontoret, där känslig data stannar i huset.
- 9
Unsloth Studio – träna en språkmodell på ert material
Finjustera en modell utan kod och kör den i Ollama.
- 10
Träningstest – RTX 3090 mot DGX Spark
Hur lång tid och hur mycket ström en finjustering tar på respektive maskin.
- 11
DeepSeek Harness och Bifrost – AI-agenter som körs lokalt
Låt en agent utföra uppgifter med lokala modeller, utan att ge den fria tyglar.
- 12
n8n och lokal AI – sortera kundmejl automatiskt
Ett flöde där mejl sorteras och får ett svarsutkast som en människa godkänner.
- 13
Vad kostar det? Egen AI-server mot molnet
När egen hårdvara lönar sig jämfört med molnabonnemang, med kalkylator.
Vilken dator passar dig?
Svara på fyra frågor så får du vår rekommendation. Jämförelsen i detalj finns i kapitel 2.
1. Hur många ska använda den?
2. Vad vill du främst göra?
3. Är det viktigt att datorn är tyst och strömsnål?
4. Har du redan en dator med Nvidia-grafikkort (12 GB eller mer)?
Verktygen i kursen
Alla program i kursen körs på din egen hårdvara, och vi har valt dem för att de är enkla att komma igång med.
| Verktyg | Vad det gör | Kapitel |
|---|---|---|
| Ollama | Laddar ner och kör språkmodeller på din dator | 4 |
| Open WebUI | Chattfönster i webbläsaren, med stöd för egna dokument | 5, 7 |
| LibreChat | Gemensam AI-chatt med inloggning för företag | 8 |
| Unsloth Studio | Tränar (finjusterar) en språkmodell på ert eget material | 9, 10 |
| DeepSeek Harness och Bifrost | AI-agent som utför uppgifter, kopplad till lokala modeller | 11 |
| n8n | Bygger automatiska flöden, till exempel för mejl, utan kod | 12 |
En privat assistent
Chatta, sammanfatta och fråga dina egna dokument utan prenumeration och utan att någon läser med. Börja med kapitel 1–5.
AI där data stannar i huset
En gemensam AI-chatt, sök i era dokument, egna modeller och automatisering, på en server i ert nätverk. Läs kapitel 1, 2, 7, 8 och 13.
Våra tester
Hur snabbt svarar en språkmodell på Mac Mini, RTX 3090 och DGX Spark, och hur mycket ström går åt? Vi mäter alla tre i vår verkstad och publicerar resultaten i kapitel 6 och 10.
Vanliga frågor
Vad är lokal AI?
Lokal AI betyder att AI-modeller körs på din egen dator eller server i stället för hos en molntjänst. Det du skriver stannar då på din egen hårdvara.
Vad är skillnaden mellan AI och en språkmodell?
AI är det breda begreppet för datorer som löser uppgifter som kräver intelligens, till exempel bildigenkänning och taligenkänning. En språkmodell (LLM) är en sorts AI som är tränad på text och skriver svar, som modellerna bakom ChatGPT.
Vilken dator behöver jag?
Det viktigaste är minne. En Mac Mini med minst 24 GB minne eller en dator med ett Nvidia-grafikkort med 12 GB eller mer räcker för att komma igång. För många samtidiga användare eller mycket stora modeller rekommenderar vi DGX Spark.
Kostar programmen något?
Programmen i kursen är gratis att använda. Det du betalar för är datorn och strömmen.
Kan företag använda lokal AI med kunddata?
Ja. En lokal språkmodell gör det lättare att följa GDPR eftersom data inte skickas till en extern tjänst. Ni behöver ändå en rättslig grund och rutiner för behörigheter och lagring. Vi går igenom det i kapitel 8.
Vill ni ha hjälp?
Vi säljer, bygger och servar datorer och AI-servrar, och hjälper företag att komma igång med lokal AI.
