Руководство по локальному запуску DeepSeek R1 на ПК и мобильных устройствах

Появление модели DeepSeek R1 AI из Китая вызвало значительное волнение в секторе AI, особенно в связи с ее заявлением о том, что она превзойдет модель OpenAI o1.Хотя DeepSeek R1 легко доступна бесплатно в Интернете, это удобство вызывает различные проблемы с конфиденциальностью.Если вы заинтересованы в защите своих данных, но хотите использовать мощь этой модели AI, запуск ее локально на вашем устройстве является отличной альтернативой.

DeepSeek R1 предлагает несколько вариантов моделей, включая очищенные версии с параметрами 1.5B, 7B, 14B, 32B и гигантскую флагманскую модель 671B.Для эффективной работы более крупных моделей, таких как 14B и выше, ваша машина должна иметь надежный ЦП, ГП и, возможно, выделенный NPU.Даже для более легких моделей простое наличие 8 ГБ ОЗУ имеет решающее значение для обеспечения плавного опыта.

Запуск DeepSeek R1 на вашем ПК с использованием LM Studio

LM Studio представляет собой один из самых удобных вариантов локального запуска DeepSeek R1 на различных операционных системах, включая Windows, macOS и Linux.

**Поддерживаемые системы для LM Studio включают:**

  • **Mac:** Совместимо с чипами Apple Silicon (M1, M2, M3, M4) под управлением macOS 13.4 или более поздней версии
  • **Windows:** Поддерживает архитектуры x64 и ARM (например, Snapdragon X Elite)
  • **Linux:** Требуется Ubuntu 20.04 или более новая версия с 64-битной архитектурой.

Хотя LM Studio рекомендует минимум 16 ГБ оперативной памяти для оптимальной производительности, для меньших моделей вам может хватить 8 ГБ.Если у вас 192 ГБ или больше, вы даже можете запустить полную модель 671B без каких-либо проблем.

  • Для начала перейдите на lmstudio.ai и нажмите кнопку «Загрузить», соответствующую вашей системе.
Скачать LM Studio
  • Следуйте инструкциям по установке, соответствующим вашей операционной системе.
  • После установки запустите LM Studio и выберите «Пропустить адаптацию».
Ввод в эксплуатацию LM Studio
  • Выберите значок «Поиск» в навигационном меню, расположенном слева.
Поиск моделей в LM Studio
  • Теперь найдите нужную модель для загрузки.Вы можете выбрать DeepSeek R1 Distill (Qwen 7B) или модель 1.5B в зависимости от ваших потребностей.Убедитесь, что у вас достаточно места для хранения, как указано на странице загрузки.Нажмите кнопку «Загрузить», чтобы начать процесс.
Загрузка модели в LM Studio
  • После загрузки нажмите кнопку «Загрузить модель», и откроется окно чата.
Загрузить модель
  • Введите ваши запросы в окно чата и взаимодействуйте с моделью локально.Вы можете отслеживать метрики использования ресурсов, отображаемые в правом нижнем углу строки состояния.
Чат с DeepSeek R1
  • Чтобы изменить настройки модели, нажмите на значок «Настройка» рядом с названием модели вверху.
Настройки модели

Использование LM Studio для локального запуска DeepSeek R1 на вашем ПК просто и не требует команд терминала — идеальный вариант для новичков в этой технологии.Хотя существуют альтернативы, такие как Ollama, они требуют навыков работы с терминалом.

Локальный запуск DeepSeek R1 на мобильном устройстве с помощью PocketPal AI

Если вы хотите управлять моделями LLM на своем мобильном устройстве, я настоятельно рекомендую PocketPal AI.Это приложение обеспечивает бесперебойный опыт для запуска моделей LLM на платформах iOS и Android.

  • Загрузите приложение PocketPal AI из App Store или Play Store.
  • Запустите приложение и нажмите «Перейти к моделям».
  • Нажмите значок «+», расположенный в правом нижнем углу экрана.
  • Выберите «Добавить из обнимающего лица».
  • Введите «DeepSeek R1» в поле поиска, чтобы найти модель, которую вы хотите установить, и выберите ее.
  • Нажмите на значок загрузки рядом с одним из доступных файлов GGU.
  • После завершения загрузки вернитесь на главный экран и выберите значок «Загрузить» рядом с загруженной моделью.
  • Ваша модель загрузится, что позволит вам начать чат.Вы можете получить доступ к истории чата или изменить настройки модели из меню слева.

Вот и все! Независимо от выбранного вами устройства, используя LM Studio или PocketPal AI, вы можете без труда настраивать и запускать модели DeepSeek R1 локально.

Часто задаваемые вопросы

1.Каковы системные требования для запуска DeepSeek R1?

Для запуска DeepSeek R1 вам необходимо иметь не менее 8 ГБ оперативной памяти для меньших моделей, таких как 1.5B и 7B.Для более крупных моделей рекомендуется иметь 16 ГБ или больше.Надежный процессор и графический процессор, а также достаточное дисковое пространство также необходимы для оптимальной производительности.

2.Можно ли запустить DeepSeek R1 на мобильном устройстве?

Да! Вы можете запустить DeepSeek R1 на мобильных устройствах с помощью приложения PocketPal AI, доступного как для iOS, так и для Android.Приложение позволяет вам искать и загружать модели прямо на ваш телефон.

3.Существуют ли какие-либо проблемы с конфиденциальностью при использовании DeepSeek R1 онлайн?

Да, запуск DeepSeek R1 онлайн может вызвать проблемы с конфиденциальностью.Выбрав локальный запуск модели на вашем устройстве, вы смягчите эти риски, поскольку ваши данные не будут отправляться на внешние серверы.

Источник и изображения

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *