Ръководство за стартиране на DeepSeek R1 локално на компютър и мобилни устройства

Появата на модела DeepSeek R1 AI от Китай предизвика значително вълнение в сектора на изкуствения интелект, особено с твърдението, че надминава модела o1 на OpenAI.Въпреки че DeepSeek R1 е лесно достъпен безплатно онлайн, това удобство поражда различни опасения относно поверителността.Ако държите на защитата на вашите данни, но искате да впрегнете силата на този AI модел, стартирането му локално на вашето устройство е отлична алтернатива.

DeepSeek R1 предлага няколко вариации на модела, включително дестилирани версии с параметри 1.5B, 7B, 14B, 32B и огромния водещ модел 671B.За да управлявате ефективно по-големите модели като 14B и други, вашата машина трябва да разполага със стабилен CPU, GPU и евентуално специален NPU.Дори за по-леките модели, просто притежаването на 8 GB RAM е от решаващо значение за осигуряване на гладко изживяване.

Стартиране на DeepSeek R1 на вашия компютър с помощта на LM Studio

LM Studio представя една от най-удобните опции за локално стартиране на DeepSeek R1 на различни операционни системи, включително Windows, macOS и Linux.

**Поддържаните системи за LM Studio включват:**

  • **Mac:** Съвместим с Apple Silicon Chips (M1, M2, M3, M4), работещ с macOS 13.4 или по-нова версия
  • **Windows:** Поддържа както x64, така и ARM архитектури (като Snapdragon X Elite)
  • **Linux:** Изисква Ubuntu 20.04 или по-нова версия с 64-битова архитектура

Докато LM Studio препоръчва минимум 16 GB RAM за оптимална производителност, може да успеете да управлявате с 8 GB за по-малки модели.Ако притежавате 192 GB или повече, можете дори да стартирате пълния модел 671B без никакви проблеми.

  • За да започнете, отворете lmstudio.ai и изберете бутона „Изтегляне“, съобразен с вашата система.
Изтеглете LM Studio
  • Следвайте указанията за инсталиране, отнасящи се за вашата операционна система.
  • След инсталирането стартирайте LM Studio и изберете „Пропускане на onboarding“.
Включване в LM Studio
  • Изберете иконата „Търсене“ от навигационното меню, разположено вляво.
Търсене на модели в LM Studio
  • Сега потърсете желания модел за изтегляне.Можете да изберете DeepSeek R1 Distill (Qwen 7B) или модел 1.5B, в зависимост от вашите нужди.Уверете се, че имате достатъчно място за съхранение, както е посочено на страницата за изтегляне.Щракнете върху бутона „Изтегляне“, за да започнете процеса.
Изтегляне на модел в LM Studio
  • След изтеглянето щракнете върху бутона „Зареждане на модела“ и прозорецът за чат ще изскочи.
Заредете модела
  • Въведете вашите заявки в прозореца за чат и взаимодействайте с модела локално.Можете да следите показателите за използване на ресурсите, показани в долния десен ъгъл на лентата на състоянието.
Разговаряйте с DeepSeek R1
  • За да коригирате настройките на модела, щракнете върху иконата „Настройки“ до името на модела в горната част.
Настройки на модела

Използването на LM Studio за стартиране на DeepSeek R1 локално на вашия компютър е лесно и не изисква терминални команди – идеална опция за начинаещите в технологията.Въпреки че съществуват алтернативи като Ollama, те изискват терминални умения.

Стартиране на DeepSeek R1 локално на мобилно устройство с PocketPal AI

Ако искате да управлявате LLM модели на вашето мобилно устройство, силно препоръчвам PocketPal AI.Това приложение предоставя безпроблемно изживяване за стартиране на LLM модели както на iOS, така и на Android платформи.

  • Изтеглете приложението PocketPal AI от App Store или Play Store.
  • Стартирайте приложението и докоснете „Отидете на модели“.
  • Докоснете иконата „+“, разположена в долния десен ъгъл на екрана.
  • Изберете „Добавяне от прегърнато лице“.
  • Въведете „DeepSeek R1“ в полето за търсене, за да намерите модела, който искате да инсталирате, и го изберете.
  • Кликнете върху иконата за изтегляне до един от наличните GGU файлове.
  • След приключване на изтеглянето се върнете на главния екран и изберете иконата „Зареждане“ до изтегления модел.
  • Вашият модел ще се зареди, което ще ви позволи да започнете чат.Можете да получите достъп до хронологията на разговорите си или да промените настройките на модела от менюто вляво.

Ето го! Независимо от избора на вашето устройство, използвайки LM Studio или PocketPal AI, можете без усилие да настроите и стартирате DeepSeek R1 модели локално.

Често задавани въпроси

1.Какви са системните изисквания за стартиране на DeepSeek R1?

За да стартирате DeepSeek R1, трябва да имате поне 8 GB RAM за по-малки модели като 1.5B и 7B.За по-големите модели е препоръчително да имате 16 GB или повече.Здравият CPU и GPU, заедно с достатъчно място за съхранение, също са от съществено значение за оптимална производителност.

2.Мога ли да стартирам DeepSeek R1 на мобилно устройство?

да Можете да стартирате DeepSeek R1 на мобилни устройства, като използвате приложението PocketPal AI, достъпно както за iOS, така и за Android.Приложението ви позволява да търсите и изтегляте модели директно на телефона си.

3.Има ли опасения относно поверителността при използване на DeepSeek R1 онлайн?

Да, пускането на DeepSeek R1 онлайн може да предизвика опасения за поверителността.Избирайки вместо това да изпълнявате модела локално на вашето устройство, вие смекчавате тези рискове, тъй като вашите данни няма да бъдат изпратени до външни сървъри.

Източник и изображения

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *