Руководство по локальному запуску DeepSeek R1 на ПК и мобильных устройствах

Появление модели DeepSeek R1 AI из Китая вызвало значительное волнение в секторе AI, особенно в связи с ее заявлением о том, что она превзойдет модель OpenAI o1.Хотя DeepSeek R1 легко доступна бесплатно в Интернете, это удобство вызывает различные проблемы с конфиденциальностью.Если вы заинтересованы в защите своих данных, но хотите использовать мощь этой модели AI, запуск ее локально на вашем устройстве является отличной альтернативой.

DeepSeek R1 предлагает несколько вариантов моделей, включая очищенные версии с параметрами 1.5B, 7B, 14B, 32B и гигантскую флагманскую модель 671B.Для эффективной работы более крупных моделей, таких как 14B и выше, ваша машина должна иметь надежный ЦП, ГП и, возможно, выделенный NPU.Даже для более легких моделей простое наличие 8 ГБ ОЗУ имеет решающее значение для обеспечения плавного опыта.

Запуск DeepSeek R1 на вашем ПК с использованием LM Studio

LM Studio представляет собой один из самых удобных вариантов локального запуска DeepSeek R1 на различных операционных системах, включая Windows, macOS и Linux.

**Поддерживаемые системы для LM Studio включают:**

**Mac:** Совместимо с чипами Apple Silicon (M1, M2, M3, M4) под управлением macOS 13.4 или более поздней версии
**Windows:** Поддерживает архитектуры x64 и ARM (например, Snapdragon X Elite)
**Linux:** Требуется Ubuntu 20.04 или более новая версия с 64-битной архитектурой.

Хотя LM Studio рекомендует минимум 16 ГБ оперативной памяти для оптимальной производительности, для меньших моделей вам может хватить 8 ГБ.Если у вас 192 ГБ или больше, вы даже можете запустить полную модель 671B без каких-либо проблем.

Для начала перейдите на lmstudio.ai и нажмите кнопку «Загрузить», соответствующую вашей системе.

Следуйте инструкциям по установке, соответствующим вашей операционной системе.
После установки запустите LM Studio и выберите «Пропустить адаптацию».

Выберите значок «Поиск» в навигационном меню, расположенном слева.

Теперь найдите нужную модель для загрузки.Вы можете выбрать DeepSeek R1 Distill (Qwen 7B) или модель 1.5B в зависимости от ваших потребностей.Убедитесь, что у вас достаточно места для хранения, как указано на странице загрузки.Нажмите кнопку «Загрузить», чтобы начать процесс.

После загрузки нажмите кнопку «Загрузить модель», и откроется окно чата.

Введите ваши запросы в окно чата и взаимодействуйте с моделью локально.Вы можете отслеживать метрики использования ресурсов, отображаемые в правом нижнем углу строки состояния.

Чтобы изменить настройки модели, нажмите на значок «Настройка» рядом с названием модели вверху.

Использование LM Studio для локального запуска DeepSeek R1 на вашем ПК просто и не требует команд терминала — идеальный вариант для новичков в этой технологии.Хотя существуют альтернативы, такие как Ollama, они требуют навыков работы с терминалом.

Локальный запуск DeepSeek R1 на мобильном устройстве с помощью PocketPal AI

Если вы хотите управлять моделями LLM на своем мобильном устройстве, я настоятельно рекомендую PocketPal AI.Это приложение обеспечивает бесперебойный опыт для запуска моделей LLM на платформах iOS и Android.

Загрузите приложение PocketPal AI из App Store или Play Store.
Запустите приложение и нажмите «Перейти к моделям».
Нажмите значок «+», расположенный в правом нижнем углу экрана.

Выберите «Добавить из обнимающего лица».
Введите «DeepSeek R1» в поле поиска, чтобы найти модель, которую вы хотите установить, и выберите ее.

Нажмите на значок загрузки рядом с одним из доступных файлов GGU.
После завершения загрузки вернитесь на главный экран и выберите значок «Загрузить» рядом с загруженной моделью.

Ваша модель загрузится, что позволит вам начать чат.Вы можете получить доступ к истории чата или изменить настройки модели из меню слева.

Вот и все! Независимо от выбранного вами устройства, используя LM Studio или PocketPal AI, вы можете без труда настраивать и запускать модели DeepSeek R1 локально.

Часто задаваемые вопросы

1.Каковы системные требования для запуска DeepSeek R1?

Для запуска DeepSeek R1 вам необходимо иметь не менее 8 ГБ оперативной памяти для меньших моделей, таких как 1.5B и 7B.Для более крупных моделей рекомендуется иметь 16 ГБ или больше.Надежный процессор и графический процессор, а также достаточное дисковое пространство также необходимы для оптимальной производительности.

2.Можно ли запустить DeepSeek R1 на мобильном устройстве?

Да! Вы можете запустить DeepSeek R1 на мобильных устройствах с помощью приложения PocketPal AI, доступного как для iOS, так и для Android.Приложение позволяет вам искать и загружать модели прямо на ваш телефон.

3.Существуют ли какие-либо проблемы с конфиденциальностью при использовании DeepSeek R1 онлайн?

Да, запуск DeepSeek R1 онлайн может вызвать проблемы с конфиденциальностью.Выбрав локальный запуск модели на вашем устройстве, вы смягчите эти риски, поскольку ваши данные не будут отправляться на внешние серверы.

Источник и изображения