Fremkomsten av DeepSeek R1 AI-modellen fra Kina har vekket betydelig spenning i AI-sektoren, spesielt med påstanden om å overgå OpenAIs o1-modell. Mens DeepSeek R1 er lett tilgjengelig gratis på nettet, bringer denne bekvemmeligheten frem ulike personvernproblemer. Hvis du er opptatt av å beskytte dataene dine, men likevel ønsker å utnytte kraften til denne AI-modellen, er det et utmerket alternativ å kjøre den lokalt på enheten din.
DeepSeek R1 tilbyr flere modellvarianter, inkludert destillerte versjoner med parametere 1.5B, 7B, 14B, 32B, og den gigantiske flaggskipmodellen 671B. For effektivt å betjene de større modellene som 14B og utover, må maskinen din ha en robust CPU, GPU og muligens en dedikert NPU. Selv for de lettere modellene er det avgjørende å bare ha 8 GB RAM for å sikre en jevn opplevelse.
Kjører DeepSeek R1 på din PC ved hjelp av LM Studio
LM Studio presenterer et av de mest brukervennlige alternativene for å kjøre DeepSeek R1 lokalt på ulike operativsystemer, inkludert Windows, macOS og Linux.
**Støttede systemer for LM Studio inkluderer:**
- **Mac:** Kompatibel med Apple Silicon Chips (M1, M2, M3, M4) som kjører macOS 13.4 eller nyere
- **Windows:** Støtter både x64- og ARM-arkitekturer (som Snapdragon X Elite)
- **Linux:** Krever Ubuntu 20.04 eller nyere med en 64-bits arkitektur
Mens LM Studio anbefaler minimum 16 GB RAM for optimal ytelse, kan du kanskje klare deg med 8 GB for mindre modeller. Skulle du eie 192 GB eller mer, kan du til og med kjøre hele 671B-modellen uten problemer.
- For å starte, naviger til lmstudio.ai og velg «Last ned»-knappen skreddersydd for systemet ditt.
- Følg installasjonsveiledningen som er relevant for ditt operativsystem.
- Etter installasjonen starter du LM Studio og velger «Hopp over onboarding».
- Velg «Søk»-ikonet fra navigasjonsmenyen til venstre.
- Søk nå etter ønsket modell for å laste ned. Du kan velge DeepSeek R1 Distill (Qwen 7B) eller 1, 5B-modellen, avhengig av dine behov. Sørg for at du har tilstrekkelig lagringsplass som spesifisert på nedlastingssiden. Klikk på «Last ned»-knappen for å starte prosessen.
- Etter nedlasting, klikk på «Last inn modell»-knappen, og chat-vinduet vil dukke opp.
- Skriv inn spørsmålene dine i chattevinduet og samhandle med modellen lokalt. Du kan holde styr på ressursbruksberegningene som vises nederst til høyre på statuslinjen.
- For å justere modellinnstillingene, klikk på «Innstilling»-ikonet ved siden av modellnavnet øverst.
Å bruke LM Studio til å kjøre DeepSeek R1 lokalt på PC-en din er enkelt og krever ingen terminalkommandoer – et ideelt alternativ for de som er nye innen teknologien. Selv om alternativer som Ollama finnes, krever de terminale ferdigheter.
Kjører DeepSeek R1 lokalt på mobil med PocketPal AI
Hvis du ønsker å bruke LLM-modeller på mobilenheten din, anbefaler jeg PocketPal AI på det sterkeste. Denne appen gir en sømløs opplevelse for å kjøre LLM-modeller på både iOS- og Android-plattformer.
- Last ned PocketPal AI-appen fra App Store eller Play Store.
- Start appen og trykk på «Gå til modeller».
- Trykk på «+»-ikonet nederst til høyre på skjermen.
- Velg «Legg til fra Hugging Face».
- Skriv «DeepSeek R1» i søkefeltet for å finne modellen du vil installere og velg den.
- Klikk på nedlastingsikonet ved siden av en av de tilgjengelige GGU-filene.
- Når nedlastingen er fullført, går du tilbake til hovedskjermen og velger «Last inn»-ikonet ved siden av den nedlastede modellen.
- Modellen din vil lastes, slik at du kan begynne å chatte. Du kan få tilgang til chatloggen din eller endre modellinnstillinger fra menyen til venstre.
Der har du det! Uavhengig av enhetsvalg, ved å bruke LM Studio eller PocketPal AI, kan du enkelt sette opp og kjøre DeepSeek R1-modeller lokalt.
Ofte stilte spørsmål
1. Hva er systemkravene for å kjøre DeepSeek R1?
For å kjøre DeepSeek R1, bør du ha minst 8 GB RAM for mindre modeller som 1.5B og 7B. For større modeller anbefales det å ha 16 GB eller mer. En robust CPU og GPU, sammen med tilstrekkelig lagringsplass, er også avgjørende for optimal ytelse.
2. Kan jeg kjøre DeepSeek R1 på en mobil enhet?
Ja! Du kan kjøre DeepSeek R1 på mobile enheter ved å bruke PocketPal AI-appen, tilgjengelig for både iOS og Android. Appen lar deg søke etter og laste ned modeller direkte til telefonen.
3. Er det noen personvernhensyn når du bruker DeepSeek R1 online?
Ja, å kjøre DeepSeek R1 på nettet kan vekke personvernbekymringer. Ved å velge å kjøre modellen lokalt på enheten din i stedet, reduserer du disse risikoene ettersom dataene dine ikke blir sendt til eksterne servere.
Legg att eit svar ▼