„DeepSeek R1“ paleidimo vietiniame kompiuteryje ir mobiliuosiuose įrenginiuose vadovas

DeepSeek R1 AI modelio atsiradimas iš Kinijos sukėlė didelį jaudulį AI sektoriuje, ypač dėl to, kad jis pranoksta OpenAI o1 modelį. Nors DeepSeek R1 yra lengvai prieinama nemokamai internete, šis patogumas kelia įvairių privatumo problemų. Jei norite apsaugoti savo duomenis, tačiau norite išnaudoti šio AI modelio galią, paleisti jį vietoje savo įrenginyje yra puiki alternatyva.

„DeepSeek R1“ siūlo keletą modelių variantų, įskaitant distiliuotas versijas su 1.5B, 7B, 14B, 32B parametrais ir mamutinį 671B pavyzdinį modelį. Kad galėtumėte efektyviai valdyti didesnius modelius, tokius kaip 14B ir daugiau, jūsų įrenginys turi turėti tvirtą procesorių, GPU ir galbūt specialų NPU. Net ir lengvesniems modeliams norint užtikrinti sklandžią patirtį, labai svarbu turėti tik 8 GB RAM.

Paleiskite „DeepSeek R1“ kompiuteryje naudodami „LM Studio“.

LM Studio pristato vieną iš patogiausių vartotojui parinkčių, leidžiančių paleisti „DeepSeek R1“ vietoje įvairiose operacinėse sistemose, įskaitant „Windows“, „MacOS“ ir „Linux“.

**Palaikomos LM Studio sistemos:**

  • **Mac:** Suderinamas su Apple Silicon Chips (M1, M2, M3, M4), kuriuose veikia macOS 13.4 arba naujesnė versija
  • **Windows:** palaiko ir x64, ir ARM architektūras (pvz., Snapdragon X Elite)
  • **Linux:** reikalinga Ubuntu 20.04 arba naujesnė versija su 64 bitų architektūra

Nors „LM Studio“ rekomenduoja mažiausiai 16 GB RAM, kad būtų optimalus našumas, mažesniems modeliams galbūt pavyks valdyti ir 8 GB. Jei turite 192 GB ar daugiau, netgi galite paleisti visą 671B modelį be jokių problemų.

  • Norėdami pradėti, eikite į lmstudio.ai ir pasirinkite jūsų sistemai pritaikytą mygtuką „Atsisiųsti“.
Atsisiųskite „LM Studio“.
  • Laikykitės įdiegimo nurodymų, susijusių su jūsų operacine sistema.
  • Įdiegę paleiskite „LM Studio“ ir pasirinkite „Skip onboarding“.
LM studijos priėmimas
  • Kairėje esančiame naršymo meniu pasirinkite piktogramą „Ieškoti“.
Modelių ieškokite LM studijoje
  • Dabar ieškokite norimo modelio, kurį norite atsisiųsti. Priklausomai nuo jūsų poreikių, galite pasirinkti „DeepSeek R1 Distill“ („Qwen 7B“) arba 1, 5B modelį.Įsitikinkite, kad turite pakankamai saugyklos vietos, kaip nurodyta atsisiuntimo puslapyje. Norėdami pradėti procesą, spustelėkite mygtuką „Atsisiųsti“.
Modelio atsisiuntimas LM studijoje
  • Atsisiuntę spustelėkite mygtuką „Įkelti modelį“ ir pasirodys pokalbio langas.
Įkelkite modelį
  • Įveskite savo užklausas į pokalbio langą ir sąveikaukite su modeliu vietoje. Galite sekti išteklių naudojimo metriką, rodomą apatiniame dešiniajame būsenos juostos kampe.
Kalbėkitės su DeepSeek R1
  • Norėdami pakoreguoti modelio nustatymus, spustelėkite piktogramą „Nustatymas“, esančią šalia modelio pavadinimo viršuje.
Modelio nustatymai

Naudoti LM Studio vietiniam DeepSeek R1 paleidimui kompiuteryje yra paprasta ir nereikia terminalo komandų – idealus pasirinkimas tiems, kurie naujokai naudoja technologiją. Nors egzistuoja tokios alternatyvos kaip Ollama, joms reikalingi galutiniai įgūdžiai.

„DeepSeek R1“ paleidimas vietoje mobiliajame įrenginyje su „PocketPal AI“.

Jei norite valdyti LLM modelius savo mobiliajame įrenginyje, labai rekomenduoju „PocketPal AI“.Ši programa suteikia sklandžią patirtį naudojant LLM modelius tiek iOS, tiek Android platformose.

  • Atsisiųskite „PocketPal AI“ programą iš „ App Store“ arba „Play Store“.
  • Paleiskite programą ir bakstelėkite „Eiti į modelius“.
  • Bakstelėkite „+“ piktogramą, esančią apatiniame dešiniajame ekrano kampe.
  • Pasirinkite „Pridėti iš apsikabinančio veido“.
  • Į paieškos laukelį įveskite „DeepSeek R1“, kad surastumėte modelį, kurį norite įdiegti, ir jį pasirinkite.
  • Spustelėkite atsisiuntimo piktogramą, esančią šalia vieno iš galimų GGU failų.
  • Baigę atsisiuntimą grįžkite į pagrindinį ekraną ir šalia atsisiųsto modelio pasirinkite piktogramą „Įkelti“.
  • Jūsų modelis bus įkeltas ir galėsite pradėti kalbėtis. Kairėje esančiame meniu galite pasiekti pokalbių istoriją arba keisti modelio nustatymus.

Štai jūs tai turite! Nepriklausomai nuo jūsų pasirinkto įrenginio, naudodami LM Studio arba PocketPal AI, galite be vargo nustatyti ir paleisti DeepSeek R1 modelius vietoje.

Dažnai užduodami klausimai

1. Kokie yra sistemos reikalavimai norint paleisti DeepSeek R1?

Norėdami paleisti „DeepSeek R1“, turėtumėte turėti bent 8 GB RAM mažesniems modeliams, pvz., 1.5B ir 7B. Didesniems modeliams rekomenduojama turėti 16 GB ar daugiau. Tvirtas CPU ir GPU bei pakankamai vietos saugykloje taip pat yra būtini optimaliam veikimui.

2. Ar galiu paleisti DeepSeek R1 mobiliajame įrenginyje?

Taip! Galite paleisti „DeepSeek R1“ mobiliuosiuose įrenginiuose naudodami „PocketPal AI“ programą, kurią galima naudoti tiek „iOS“, tiek „Android“.Programėlė leidžia ieškoti modelių ir juos atsisiųsti tiesiai į telefoną.

3. Ar naudojant DeepSeek R1 internete kyla problemų dėl privatumo?

Taip, naudojant „DeepSeek R1“ internete gali kilti problemų dėl privatumo. Vietoj to pasirinkę modelį paleisti vietoje savo įrenginyje, sumažinate šią riziką, nes jūsų duomenys nebus siunčiami į išorinius serverius.

Šaltinis ir vaizdai

Susiję straipsniai:

Gaukite Valentino dienos pasimatymų idėjų iš „Microsoft Copilot“.
Kaip išspręsti mirtiną MySQL klaidą: 5 veiksmingi sprendimai

Parašykite komentarą ▼

El. pašto adresas nebus skelbiamas. Būtini laukeliai pažymėti *