Fremkomsten af DeepSeek R1 AI-modellen fra Kina har vakt betydelig begejstring i AI-sektoren, især med dens påstand om at overgå OpenAI’s o1-model. Mens DeepSeek R1 er let tilgængelig gratis online, frembringer denne bekvemmelighed forskellige privatlivsproblemer. Hvis du er ivrig efter at beskytte dine data, men alligevel ønsker at udnytte kraften i denne AI-model, er det et glimrende alternativ at køre den lokalt på din enhed.
DeepSeek R1 tilbyder adskillige modelvarianter, herunder destillerede versioner med parametrene 1.5B, 7B, 14B, 32B og den mammutte 671B flagskibsmodel. For effektivt at betjene de større modeller som 14B og derover, skal din maskine have en robust CPU, GPU og muligvis en dedikeret NPU. Selv for de lettere modeller er blot at have 8 GB RAM afgørende for at sikre en jævn oplevelse.
Kører DeepSeek R1 på din pc ved hjælp af LM Studio
LM Studio præsenterer en af de mest brugervenlige muligheder for at køre DeepSeek R1 lokalt på forskellige operativsystemer, herunder Windows, macOS og Linux.
**Understøttede systemer til LM Studio inkluderer:**
- **Mac:** Kompatibel med Apple Silicon Chips (M1, M2, M3, M4), der kører macOS 13.4 eller nyere
- **Windows:** Understøtter både x64- og ARM-arkitekturer (såsom Snapdragon X Elite)
- **Linux:** Kræver Ubuntu 20.04 eller nyere med en 64-bit arkitektur
Mens LM Studio anbefaler minimum 16 GB RAM for optimal ydeevne, kan du muligvis klare dig med 8 GB for mindre modeller. Skulle du eje 192 GB eller mere, kan du endda køre hele 671B-modellen uden problemer.
- For at starte skal du navigere til lmstudio.ai og vælge knappen ‘Download’, der er skræddersyet til dit system.
- Følg installationsvejledningen, der er relevant for dit operativsystem.
- Efter installationen skal du starte LM Studio og vælge ‘Skip onboarding’.
- Vælg ikonet ‘Søg’ i navigationsmenuen til venstre.
- Søg nu efter den ønskede model for at downloade. Du kan vælge DeepSeek R1 Distill (Qwen 7B) eller 1, 5B-modellen, afhængigt af dine behov. Sørg for, at du har tilstrækkelig lagerplads som angivet på downloadsiden. Klik på knappen ‘Download’ for at starte processen.
- Efter download skal du klikke på knappen ‘Load Model’, og chatvinduet dukker op.
- Indtast dine forespørgsler i chatvinduet og interager med modellen lokalt. Du kan holde styr på de ressourceforbrugsmetrikker, der vises i nederste højre hjørne af statuslinjen.
- For at justere modelindstillinger skal du klikke på ‘Indstilling’-ikonet ved siden af modelnavnet øverst.
At bruge LM Studio til at køre DeepSeek R1 lokalt på din pc er ligetil og kræver ikke terminalkommandoer – en ideel mulighed for dem, der er nye inden for teknologien. Selvom alternativer som Ollama findes, kræver de terminale færdigheder.
Kører DeepSeek R1 lokalt på mobil med PocketPal AI
Hvis du ønsker at betjene LLM-modeller på din mobile enhed, anbefaler jeg stærkt PocketPal AI. Denne app giver en problemfri oplevelse til at køre LLM-modeller på både iOS- og Android-platforme.
- Download PocketPal AI-appen fra App Store eller Play Store.
- Start appen, og tryk på ‘Gå til modeller’.
- Tryk på ‘+’-ikonet i nederste højre hjørne af skærmen.
- Vælg ‘Tilføj fra Hugging Face’.
- Skriv ‘DeepSeek R1’ i søgefeltet for at finde den model, du vil installere, og vælg den.
- Klik på download-ikonet ved siden af en af de tilgængelige GGU-filer.
- Når overførslen er fuldført, skal du vende tilbage til hovedskærmen og vælge “Load”-ikonet ved siden af din downloadede model.
- Din model indlæses, så du kan begynde at chatte. Du kan få adgang til din chathistorik eller ændre modelindstillinger fra menuen til venstre.
Der har du det! Uanset dit valg af enheden, ved at bruge LM Studio eller PocketPal AI, kan du nemt opsætte og køre DeepSeek R1-modeller lokalt.
Ofte stillede spørgsmål
1. Hvad er systemkravene for at køre DeepSeek R1?
For at køre DeepSeek R1 skal du have mindst 8 GB RAM til mindre modeller som 1.5B og 7B. For større modeller anbefales det at have 16 GB eller mere. En robust CPU og GPU sammen med tilstrækkelig lagerplads er også afgørende for optimal ydeevne.
2. Kan jeg køre DeepSeek R1 på en mobilenhed?
Ja! Du kan køre DeepSeek R1 på mobile enheder ved hjælp af PocketPal AI-appen, der er tilgængelig til både iOS og Android. Appen giver dig mulighed for at søge efter og downloade modeller direkte til din telefon.
3. Er der nogen bekymringer om privatlivets fred, når du bruger DeepSeek R1 online?
Ja, at køre DeepSeek R1 online kan give anledning til bekymringer om privatlivets fred. Ved i stedet at vælge at køre modellen lokalt på din enhed, afbøder du disse risici, da dine data ikke bliver sendt til eksterne servere.
Relaterede artikler:
Brug af Perplexitys gratis Deep Research-funktion: En komplet vejledning
10:22
Gratis guide til synkronisering af Obsidian-noter på tværs af enheder
12:00
Vejledning til sletning af en fil, der i øjeblikket er i brug af et andet program på Windows
10:55
Skriv et svar ▼