Handleiding voor het lokaal uitvoeren van DeepSeek R1 op pc’s en mobiele apparaten

De komst van het DeepSeek R1 AI-model uit China heeft voor veel opwinding gezorgd in de AI-sector, met name met de claim dat het het o1-model van OpenAI overtreft. Hoewel DeepSeek R1 gratis online beschikbaar is, brengt dit gemak verschillende privacyzorgen met zich mee. Als u uw gegevens wilt beschermen en toch de kracht van dit AI-model wilt benutten, is het een uitstekend alternatief om het lokaal op uw apparaat te laten draaien.

DeepSeek R1 biedt verschillende modelvariaties, waaronder gedistilleerde versies met parameters van 1, 5B, 7B, 14B, 32B en het gigantische vlaggenschipmodel 671B. Om de grotere modellen zoals de 14B en hoger effectief te kunnen bedienen, moet uw machine een robuuste CPU, GPU en mogelijk een speciale NPU hebben. Zelfs voor de lichtere modellen is het hebben van slechts 8 GB RAM cruciaal om een soepele ervaring te garanderen.

DeepSeek R1 op uw pc uitvoeren met behulp van LM Studio

LM Studio biedt een van de meest gebruiksvriendelijke opties voor het lokaal uitvoeren van DeepSeek R1 op verschillende besturingssystemen, waaronder Windows, macOS en Linux.

**Ondersteunde systemen voor LM Studio zijn onder meer:**

**Mac:** Compatibel met Apple Silicon Chips (M1, M2, M3, M4) met macOS 13.4 of hoger
**Windows:** Ondersteunt zowel x64- als ARM-architecturen (zoals Snapdragon X Elite)
**Linux:** Vereist Ubuntu 20.04 of nieuwer met een 64-bits architectuur

Hoewel LM Studio een minimum van 16 GB RAM aanbeveelt voor optimale prestaties, kunt u mogelijk met 8 GB toe voor kleinere modellen. Mocht u 192 GB of meer bezitten, dan kunt u zelfs het volledige 671B-model zonder problemen gebruiken.

Om te beginnen, navigeert u naar lmstudio.ai en selecteert u de knop ‘Downloaden’ die bij uw systeem past.

Volg de installatie-instructies die van toepassing zijn op uw besturingssysteem.
Na de installatie start u LM Studio en kiest u voor ‘Onboarding overslaan’.

Selecteer het pictogram ‘Zoeken’ in het navigatiemenu aan de linkerkant.

Zoek nu naar het gewenste model om te downloaden. U kunt kiezen voor de DeepSeek R1 Distill (Qwen 7B) of het 1.5B model, afhankelijk van uw behoeften. Zorg ervoor dat u voldoende opslagruimte hebt zoals aangegeven op de downloadpagina. Klik op de knop ‘Downloaden’ om het proces te starten.

Klik na het downloaden op de knop ‘Model laden’.Het chatvenster verschijnt.

Voer uw vragen in het chatvenster in en communiceer lokaal met het model. U kunt de resourcegebruikstatistieken bijhouden die in de rechterbenedenhoek van de statusbalk worden weergegeven.

Om de modelinstellingen aan te passen, klikt u op het pictogram ‘Instellingen’ naast de modelnaam bovenaan.

Het gebruiken van LM Studio om DeepSeek R1 lokaal op uw pc uit te voeren is eenvoudig en vereist geen terminalopdrachten: een ideale optie voor mensen die nieuw zijn in de technologie. Hoewel er alternatieven zoals Ollama bestaan, vereisen deze terminalvaardigheden.

DeepSeek R1 lokaal op mobiel uitvoeren met PocketPal AI

Als u LLM-modellen op uw mobiele apparaat wilt bedienen, raad ik PocketPal AI ten zeerste aan. Deze app biedt een naadloze ervaring voor het uitvoeren van LLM-modellen op zowel iOS- als Android-platforms.

Download de PocketPal AI-app uit de App Store of de Play Store.
Start de app en tik op ‘Ga naar modellen’.
Tik op het ‘+’-pictogram in de rechterbenedenhoek van het scherm.

Selecteer ‘Toevoegen van Hugging Face’.
Typ ‘DeepSeek R1’ in het zoekveld om het model te vinden dat u wilt installeren en selecteer het.

Klik op het downloadpictogram naast een van de beschikbare GGU-bestanden.
Zodra het downloaden is voltooid, gaat u terug naar het hoofdscherm en selecteert u het pictogram ‘Laden’ naast het gedownloade model.

Uw model wordt geladen, zodat u kunt beginnen met chatten. U kunt uw chatgeschiedenis openen of modelinstellingen wijzigen via het menu aan de linkerkant.

Daar heb je het! Ongeacht je apparaatkeuze, met behulp van LM Studio of PocketPal AI, kun je moeiteloos DeepSeek R1-modellen lokaal instellen en uitvoeren.

Veelgestelde vragen

1. Wat zijn de systeemvereisten voor het uitvoeren van DeepSeek R1?

Om DeepSeek R1 te draaien, moet je minimaal 8 GB RAM hebben voor kleinere modellen zoals de 1.5B en 7B. Voor grotere modellen wordt 16 GB of meer aanbevolen. Een robuuste CPU en GPU, samen met voldoende opslagruimte, zijn ook essentieel voor optimale prestaties.

2. Kan ik DeepSeek R1 op een mobiel apparaat gebruiken?

Ja! U kunt DeepSeek R1 op mobiele apparaten uitvoeren met de PocketPal AI-app, beschikbaar voor zowel iOS als Android. Met de app kunt u modellen rechtstreeks naar uw telefoon zoeken en downloaden.

3. Zijn er zorgen over de privacy bij het online gebruik van DeepSeek R1?

Ja, DeepSeek R1 online uitvoeren kan zorgen voor privacyproblemen opleveren. Door ervoor te kiezen om het model lokaal op uw apparaat uit te voeren, beperkt u deze risico’s, omdat uw gegevens niet naar externe servers worden verzonden.

Bron & Afbeeldingen