O advento do modelo de IA DeepSeek R1 da China despertou uma excitação significativa no setor de IA, especialmente com sua alegação de superar o modelo o1 da OpenAI. Embora o DeepSeek R1 esteja prontamente disponível gratuitamente online, essa conveniência traz várias preocupações com privacidade. Se você está interessado em proteger seus dados, mas quer aproveitar o poder desse modelo de IA, executá-lo localmente em seu dispositivo é uma excelente alternativa.
O DeepSeek R1 oferece diversas variações de modelo, incluindo versões destiladas com parâmetros de 1, 5B, 7B, 14B, 32B e o gigantesco modelo principal 671B. Para operar efetivamente os modelos maiores como o 14B e além, sua máquina deve apresentar uma CPU robusta, GPU e possivelmente uma NPU dedicada. Mesmo para os modelos mais leves, possuir apenas 8 GB de RAM é crucial para garantir uma experiência suave.
Executando DeepSeek R1 no seu PC usando LM Studio
O LM Studio apresenta uma das opções mais fáceis de usar para executar o DeepSeek R1 localmente em vários sistemas operacionais, incluindo Windows, macOS e Linux.
**Os sistemas suportados pelo LM Studio incluem:**
- **Mac:** Compatível com Apple Silicon Chips (M1, M2, M3, M4) executando macOS 13.4 ou posterior
- **Windows:** Suporta arquiteturas x64 e ARM (como Snapdragon X Elite)
- **Linux:** Requer Ubuntu 20.04 ou mais recente com uma arquitetura de 64 bits
Embora o LM Studio recomende um mínimo de 16 GB de RAM para desempenho ideal, você pode conseguir usar 8 GB para modelos menores. Se você tiver 192 GB ou mais, poderá até mesmo executar o modelo 671B completo sem problemas.
- Para começar, navegue até lmstudio.ai e selecione o botão “Download” adequado ao seu sistema.
- Siga as orientações de instalação pertinentes ao seu sistema operacional.
- Após a instalação, inicie o LM Studio e opte por “Ignorar integração”.
- Selecione o ícone “Pesquisar” no menu de navegação localizado à esquerda.
- Agora, pesquise o modelo desejado para baixar. Você pode optar pelo DeepSeek R1 Distill (Qwen 7B) ou pelo modelo 1.5B, dependendo de suas necessidades. Certifique-se de ter armazenamento adequado, conforme especificado na página de download. Clique no botão ‘Download’ para iniciar o processo.
- Após o download, clique no botão “Carregar modelo” e a janela de bate-papo será exibida.
- Insira suas consultas na janela de bate-papo e interaja com o modelo localmente. Você pode acompanhar as métricas de uso de recursos exibidas no canto inferior direito da barra de status.
- Para ajustar as configurações do modelo, clique no ícone “Configurações” ao lado do nome do modelo na parte superior.
Utilizar o LM Studio para executar o DeepSeek R1 localmente no seu PC é simples e não requer comandos de terminal — uma opção ideal para aqueles que são novos na tecnologia. Embora existam alternativas como o Ollama, elas exigem habilidades de terminal.
Executando DeepSeek R1 localmente no celular com PocketPal AI
Se você está procurando operar modelos LLM em seu dispositivo móvel, eu recomendo fortemente o PocketPal AI. Este aplicativo fornece uma experiência perfeita para executar modelos LLM em plataformas iOS e Android.
- Baixe o aplicativo PocketPal AI na App Store ou na Play Store.
- Abra o aplicativo e toque em “Ir para modelos”.
- Toque no ícone ‘+’ localizado no canto inferior direito da tela.
- Selecione ‘Adicionar do Hugging Face’.
- Digite ‘DeepSeek R1’ no campo de pesquisa para localizar o modelo que você gostaria de instalar e selecione-o.
- Clique no ícone de download ao lado de um dos arquivos GGU disponíveis.
- Após concluir o download, retorne à tela principal e selecione o ícone “Carregar” ao lado do modelo baixado.
- Seu modelo será carregado, permitindo que você comece a conversar. Você pode acessar seu histórico de bate-papo ou modificar as configurações do modelo no menu à esquerda.
Aí está! Independentemente da sua escolha de dispositivo, utilizando LM Studio ou PocketPal AI, você pode facilmente configurar e executar modelos DeepSeek R1 localmente.
Perguntas frequentes
1. Quais são os requisitos de sistema para executar o DeepSeek R1?
Para executar o DeepSeek R1, você deve ter pelo menos 8 GB de RAM para modelos menores como o 1.5B e o 7B. Para modelos maiores, é recomendado ter 16 GB ou mais. Uma CPU e GPU robustas, juntamente com espaço de armazenamento suficiente, também são essenciais para um desempenho ideal.
2. Posso executar o DeepSeek R1 em um dispositivo móvel?
Sim! Você pode executar o DeepSeek R1 em dispositivos móveis usando o aplicativo PocketPal AI, disponível para iOS e Android. O aplicativo permite que você pesquise e baixe modelos diretamente para seu telefone.
3. Há alguma preocupação com privacidade ao usar o DeepSeek R1 online?
Sim, executar o DeepSeek R1 online pode levantar preocupações com privacidade. Ao escolher executar o modelo localmente no seu dispositivo, você atenua esses riscos, pois seus dados não serão enviados para servidores externos.
Deixe um comentário ▼