Guida all’esecuzione di DeepSeek R1 in locale su PC e dispositivi mobili

L’avvento del modello AI DeepSeek R1 dalla Cina ha suscitato notevole entusiasmo nel settore AI, soprattutto con la sua affermazione di superare il modello o1 di OpenAI. Mentre DeepSeek R1 è facilmente disponibile gratuitamente online, questa comodità solleva varie preoccupazioni sulla privacy. Se sei interessato a proteggere i tuoi dati ma vuoi sfruttare la potenza di questo modello AI, eseguirlo localmente sul tuo dispositivo è un’eccellente alternativa.

DeepSeek R1 offre diverse varianti di modello, tra cui versioni distillate con parametri di 1, 5B, 7B, 14B, 32B e il gigantesco modello di punta 671B. Per far funzionare in modo efficace i modelli più grandi come il 14B e oltre, la tua macchina deve essere dotata di una CPU, GPU e possibilmente una NPU dedicata robuste. Anche per i modelli più leggeri, possedere solo 8 GB di RAM è fondamentale per garantire un’esperienza fluida.

Esecuzione di DeepSeek R1 sul tuo PC utilizzando LM Studio

LM Studio rappresenta una delle opzioni più intuitive per eseguire DeepSeek R1 in locale su vari sistemi operativi, tra cui Windows, macOS e Linux.

**I sistemi supportati per LM Studio includono:**

**Mac:** compatibile con i chip Apple Silicon (M1, M2, M3, M4) con macOS 13.4 o versione successiva
**Windows:** Supporta sia architetture x64 che ARM (come Snapdragon X Elite)
**Linux:** Richiede Ubuntu 20.04 o versione successiva con architettura a 64 bit

Mentre LM Studio consiglia un minimo di 16 GB di RAM per prestazioni ottimali, potresti riuscire a cavartela con 8 GB per i modelli più piccoli. Se possiedi 192 GB o più, potresti persino far girare il modello 671B completo senza problemi.

Per iniziare, vai su lmstudio.ai e seleziona il pulsante “Download” adatto al tuo sistema.

Seguire le istruzioni di installazione specifiche per il sistema operativo in uso.
Dopo l’installazione, avvia LM Studio e seleziona “Salta onboarding”.

Selezionare l’icona “Cerca” dal menu di navigazione situato sulla sinistra.

Ora, cerca il modello desiderato da scaricare. Puoi optare per il DeepSeek R1 Distill (Qwen 7B) o il modello 1.5B, a seconda delle tue esigenze. Assicurati di avere spazio di archiviazione adeguato come specificato nella pagina di download. Fai clic sul pulsante “Download” per avviare il processo.

Dopo il download, clicca sul pulsante “Carica modello” e si aprirà la finestra della chat.

Inserisci le tue query nella finestra della chat e interagisci con il modello localmente. Puoi tenere traccia delle metriche di utilizzo delle risorse visualizzate nell’angolo in basso a destra della barra di stato.

Per regolare le impostazioni del modello, fare clic sull’icona “Impostazioni” accanto al nome del modello in alto.

Utilizzare LM Studio per eseguire DeepSeek R1 localmente sul tuo PC è semplice e non richiede comandi da terminale: un’opzione ideale per chi è alle prime armi con la tecnologia. Sebbene esistano alternative come Ollama, richiedono competenze da terminale.

Esecuzione di DeepSeek R1 in locale su dispositivi mobili con PocketPal AI

Se stai cercando di utilizzare modelli LLM sul tuo dispositivo mobile, consiglio vivamente PocketPal AI. Questa app offre un’esperienza fluida per l’esecuzione di modelli LLM su entrambe le piattaforme iOS e Android.

Scarica l’app PocketPal AI dall’App Store o dal Play Store.
Avvia l’app e tocca “Vai ai modelli”.
Tocca l’icona ‘+’ situata nell’angolo in basso a destra dello schermo.

Seleziona “Aggiungi da faccina abbracciata”.
Digita ‘DeepSeek R1’ nel campo di ricerca per individuare il modello che desideri installare e selezionarlo.

Fare clic sull’icona di download accanto a uno dei file GGU disponibili.
Una volta completato il download, torna alla schermata principale e seleziona l’icona “Carica” accanto al modello scaricato.

Il tuo modello verrà caricato, consentendoti di iniziare a chattare. Puoi accedere alla cronologia della chat o modificare le impostazioni del modello dal menu a sinistra.

Ecco fatto! Indipendentemente dal dispositivo scelto, utilizzando LM Studio o PocketPal AI, puoi configurare ed eseguire senza sforzo i modelli DeepSeek R1 in locale.

Domande frequenti

1. Quali sono i requisiti di sistema per eseguire DeepSeek R1?

Per eseguire DeepSeek R1, dovresti avere almeno 8 GB di RAM per i modelli più piccoli come 1.5B e 7B. Per i modelli più grandi, si consiglia di avere 16 GB o più. Una CPU e una GPU robuste, insieme a uno spazio di archiviazione sufficiente, sono anche essenziali per prestazioni ottimali.

2. Posso eseguire DeepSeek R1 su un dispositivo mobile?

Sì! Puoi eseguire DeepSeek R1 su dispositivi mobili utilizzando l’app PocketPal AI, disponibile sia per iOS che per Android. L’app ti consente di cercare e scaricare modelli direttamente sul tuo telefono.

3. Ci sono problemi di privacy quando si utilizza DeepSeek R1 online?

Sì, eseguire DeepSeek R1 online può sollevare preoccupazioni sulla privacy. Scegliendo di eseguire il modello localmente sul tuo dispositivo, invece, riduci questi rischi poiché i tuoi dati non verranno inviati a server esterni.

Fonte e immagini