DeepSeek R1 AI modeļa parādīšanās no Ķīnas ir izraisījusi ievērojamu sajūsmu AI sektorā, īpaši ar apgalvojumu, ka tas pārspēj OpenAI o1 modeli. Lai gan DeepSeek R1 ir bez maksas pieejams tiešsaistē, šī ērtība rada dažādas privātuma problēmas. Ja vēlaties aizsargāt savus datus, taču vēlaties izmantot šī AI modeļa jaudu, tā lokāla darbība ierīcē ir lieliska alternatīva.
DeepSeek R1 piedāvā vairākas modeļu variācijas, tostarp destilētas versijas ar parametriem 1.5B, 7B, 14B, 32B un mamuta 671B vadošo modeli. Lai efektīvi darbinātu lielākos modeļus, piemēram, 14B un vairāk, jūsu ierīcei ir jābūt izturīgam CPU, GPU un, iespējams, speciālam NPU. Pat vieglākiem modeļiem, lai nodrošinātu vienmērīgu pieredzi, ir izšķiroša nozīme tikai 8 GB RAM.
DeepSeek R1 palaišana datorā, izmantojot LM Studio
LM Studio piedāvā vienu no lietotājam draudzīgākajām opcijām DeepSeek R1 lokālai palaišanai dažādās operētājsistēmās, tostarp Windows, macOS un Linux.
** LM Studio atbalstītās sistēmas ietver:**
- **Mac:** saderīgs ar Apple Silicon Chips (M1, M2, M3, M4), kurā darbojas operētājsistēma macOS 13.4 vai jaunāka versija
- **Windows:** atbalsta gan x64, gan ARM arhitektūras (piemēram, Snapdragon X Elite)
- **Linux:** nepieciešama Ubuntu 20.04 vai jaunāka versija ar 64 bitu arhitektūru
Lai gan LM Studio optimālai veiktspējai iesaka vismaz 16 GB RAM, mazākiem modeļiem, iespējams, varēsit pārvaldīt ar 8 GB. Ja jums pieder 192 GB vai vairāk, varat pat bez problēmām palaist visu 671B modeli.
- Lai sāktu, dodieties uz vietni lmstudio.ai un atlasiet savai sistēmai pielāgoto pogu Lejupielādēt.
- Izpildiet instalēšanas norādījumus, kas attiecas uz jūsu operētājsistēmu.
- Pēc instalēšanas palaidiet LM Studio un izvēlieties “Izlaist iekļaušanu”.
- Kreisajā pusē esošajā navigācijas izvēlnē atlasiet ikonu “Meklēt”.
- Tagad meklējiet vajadzīgo modeli, ko lejupielādēt. Atkarībā no jūsu vajadzībām varat izvēlēties DeepSeek R1 Distill (Qwen 7B) vai 1.5B modeli. Pārliecinieties, ka jums ir pietiekama krātuve, kā norādīts lejupielādes lapā. Lai sāktu procesu, noklikšķiniet uz pogas Lejupielādēt.
- Pēc lejupielādes noklikšķiniet uz pogas Ielādēt modeli, un tiks parādīts tērzēšanas logs.
- Ievadiet savus vaicājumus tērzēšanas logā un mijiedarbojieties ar modeli lokāli. Varat sekot līdzi resursu izmantošanas metrikai, kas tiek rādīta statusa joslas apakšējā labajā stūrī.
- Lai pielāgotu modeļa iestatījumus, noklikšķiniet uz ikonas “Iestatījumi” blakus modeļa nosaukumam augšpusē.
LM Studio izmantošana, lai lokāli palaistu DeepSeek R1 datorā, ir vienkārša, un tai nav nepieciešamas termināļa komandas — ideāls risinājums tiem, kas sākuši izmantot šo tehnoloģiju. Lai gan pastāv tādas alternatīvas kā Ollama, tām ir nepieciešamas termināla prasmes.
Palaižot DeepSeek R1 lokāli mobilajā ierīcē, izmantojot PocketPal AI
Ja vēlaties izmantot LLM modeļus savā mobilajā ierīcē, es ļoti iesaku PocketPal AI.Šī lietotne nodrošina nevainojamu pieredzi LLM modeļu darbināšanai gan iOS, gan Android platformās.
- Lejupielādējiet lietotni PocketPal AI no App Store vai Play veikala.
- Palaidiet lietotni un pieskarieties “Doties uz modeļiem”.
- Pieskarieties ikonai “+”, kas atrodas ekrāna apakšējā labajā stūrī.
- Izvēlieties “Pievienot no apskaujošās sejas”.
- Meklēšanas laukā ierakstiet “DeepSeek R1”, lai atrastu modeli, kuru vēlaties instalēt, un atlasiet to.
- Noklikšķiniet uz lejupielādes ikonas blakus vienam no pieejamajiem GGU failiem.
- Kad lejupielāde ir pabeigta, atgriezieties galvenajā ekrānā un blakus lejupielādētajam modelim atlasiet ikonu Ielādēt.
- Jūsu modelis tiks ielādēts, ļaujot jums sākt tērzēšanu. Kreisajā pusē esošajā izvēlnē varat piekļūt savai tērzēšanas vēsturei vai mainīt modeļa iestatījumus.
Tur jums tas ir! Neatkarīgi no jūsu ierīces izvēles, izmantojot LM Studio vai PocketPal AI, varat bez piepūles iestatīt un palaist DeepSeek R1 modeļus lokāli.
Bieži uzdotie jautājumi
1. Kādas ir sistēmas prasības, lai palaistu DeepSeek R1?
Lai palaistu DeepSeek R1, jums ir jābūt vismaz 8 GB RAM mazākiem modeļiem, piemēram, 1.5B un 7B. Lielākiem modeļiem ieteicams 16 GB vai vairāk. Izturīgs centrālais procesors un grafiskais procesors, kā arī pietiekama uzglabāšanas vieta, ir arī būtiski optimālai veiktspējai.
2. Vai es varu palaist DeepSeek R1 mobilajā ierīcē?
Jā! Varat palaist DeepSeek R1 mobilajās ierīcēs, izmantojot PocketPal AI lietotni, kas pieejama gan iOS, gan Android ierīcēm. Lietojumprogramma ļauj meklēt un lejupielādēt modeļus tieši tālrunī.
3. Vai, izmantojot DeepSeek R1 tiešsaistē, pastāv bažas par privātumu?
Jā, DeepSeek R1 izmantošana tiešsaistē var radīt bažas par privātumu. Tā vietā izvēloties modeli palaist lokāli savā ierīcē, jūs mazināsit šos riskus, jo jūsu dati netiks nosūtīti uz ārējiem serveriem.
Saistītie raksti:
Perplexity bezmaksas dziļās izpētes funkcijas izmantošana: pilnīga rokasgrāmata
10:23
Bezmaksas rokasgrāmata obsidiāna piezīmju sinhronizēšanai dažādās ierīcēs
12:01
Rokasgrāmata tāda faila dzēšanai, ko pašlaik izmanto cita programma operētājsistēmā Windows
10:55
Atbildēt ▼