Появление модели DeepSeek R1 AI из Китая вызвало значительное волнение в секторе AI, особенно в связи с ее заявлением о том, что она превзойдет модель OpenAI o1.Хотя DeepSeek R1 легко доступна бесплатно в Интернете, это удобство вызывает различные проблемы с конфиденциальностью.Если вы заинтересованы в защите своих данных, но хотите использовать мощь этой модели AI, запуск ее локально на вашем устройстве является отличной альтернативой.
DeepSeek R1 предлагает несколько вариантов моделей, включая очищенные версии с параметрами 1.5B, 7B, 14B, 32B и гигантскую флагманскую модель 671B.Для эффективной работы более крупных моделей, таких как 14B и выше, ваша машина должна иметь надежный ЦП, ГП и, возможно, выделенный NPU.Даже для более легких моделей простое наличие 8 ГБ ОЗУ имеет решающее значение для обеспечения плавного опыта.
Запуск DeepSeek R1 на вашем ПК с использованием LM Studio
LM Studio представляет собой один из самых удобных вариантов локального запуска DeepSeek R1 на различных операционных системах, включая Windows, macOS и Linux.
**Поддерживаемые системы для LM Studio включают:**
- **Mac:** Совместимо с чипами Apple Silicon (M1, M2, M3, M4) под управлением macOS 13.4 или более поздней версии
- **Windows:** Поддерживает архитектуры x64 и ARM (например, Snapdragon X Elite)
- **Linux:** Требуется Ubuntu 20.04 или более новая версия с 64-битной архитектурой.
Хотя LM Studio рекомендует минимум 16 ГБ оперативной памяти для оптимальной производительности, для меньших моделей вам может хватить 8 ГБ.Если у вас 192 ГБ или больше, вы даже можете запустить полную модель 671B без каких-либо проблем.
- Для начала перейдите на lmstudio.ai и нажмите кнопку «Загрузить», соответствующую вашей системе.

- Следуйте инструкциям по установке, соответствующим вашей операционной системе.
- После установки запустите LM Studio и выберите «Пропустить адаптацию».

- Выберите значок «Поиск» в навигационном меню, расположенном слева.

- Теперь найдите нужную модель для загрузки.Вы можете выбрать DeepSeek R1 Distill (Qwen 7B) или модель 1.5B в зависимости от ваших потребностей.Убедитесь, что у вас достаточно места для хранения, как указано на странице загрузки.Нажмите кнопку «Загрузить», чтобы начать процесс.

- После загрузки нажмите кнопку «Загрузить модель», и откроется окно чата.

- Введите ваши запросы в окно чата и взаимодействуйте с моделью локально.Вы можете отслеживать метрики использования ресурсов, отображаемые в правом нижнем углу строки состояния.

- Чтобы изменить настройки модели, нажмите на значок «Настройка» рядом с названием модели вверху.

Использование LM Studio для локального запуска DeepSeek R1 на вашем ПК просто и не требует команд терминала — идеальный вариант для новичков в этой технологии.Хотя существуют альтернативы, такие как Ollama, они требуют навыков работы с терминалом.
Локальный запуск DeepSeek R1 на мобильном устройстве с помощью PocketPal AI
Если вы хотите управлять моделями LLM на своем мобильном устройстве, я настоятельно рекомендую PocketPal AI.Это приложение обеспечивает бесперебойный опыт для запуска моделей LLM на платформах iOS и Android.
- Загрузите приложение PocketPal AI из App Store или Play Store.
- Запустите приложение и нажмите «Перейти к моделям».
- Нажмите значок «+», расположенный в правом нижнем углу экрана.
- Выберите «Добавить из обнимающего лица».
- Введите «DeepSeek R1» в поле поиска, чтобы найти модель, которую вы хотите установить, и выберите ее.
- Нажмите на значок загрузки рядом с одним из доступных файлов GGU.
- После завершения загрузки вернитесь на главный экран и выберите значок «Загрузить» рядом с загруженной моделью.
- Ваша модель загрузится, что позволит вам начать чат.Вы можете получить доступ к истории чата или изменить настройки модели из меню слева.
Вот и все! Независимо от выбранного вами устройства, используя LM Studio или PocketPal AI, вы можете без труда настраивать и запускать модели DeepSeek R1 локально.
Часто задаваемые вопросы
1.Каковы системные требования для запуска DeepSeek R1?
Для запуска DeepSeek R1 вам необходимо иметь не менее 8 ГБ оперативной памяти для меньших моделей, таких как 1.5B и 7B.Для более крупных моделей рекомендуется иметь 16 ГБ или больше.Надежный процессор и графический процессор, а также достаточное дисковое пространство также необходимы для оптимальной производительности.
2.Можно ли запустить DeepSeek R1 на мобильном устройстве?
Да! Вы можете запустить DeepSeek R1 на мобильных устройствах с помощью приложения PocketPal AI, доступного как для iOS, так и для Android.Приложение позволяет вам искать и загружать модели прямо на ваш телефон.
3.Существуют ли какие-либо проблемы с конфиденциальностью при использовании DeepSeek R1 онлайн?
Да, запуск DeepSeek R1 онлайн может вызвать проблемы с конфиденциальностью.Выбрав локальный запуск модели на вашем устройстве, вы смягчите эти риски, поскольку ваши данные не будут отправляться на внешние серверы.
Добавить комментарий ▼