중국에서 DeepSeek R1 AI 모델이 출시되면서 AI 부문에서 상당한 흥분이 일었고, 특히 OpenAI의 o1 모델을 능가한다는 주장이 나왔습니다. DeepSeek R1은 온라인에서 무료로 쉽게 이용할 수 있지만, 이러한 편의성은 다양한 개인 정보 보호 문제를 야기합니다.데이터를 보호하고 싶지만 이 AI 모델의 힘을 활용하고 싶다면 장치에서 로컬로 실행하는 것이 훌륭한 대안입니다.
DeepSeek R1은 1.5B, 7B, 14B, 32B 매개변수를 가진 증류된 버전과 거대한 671B 플래그십 모델을 포함하여 여러 가지 모델 변형을 제공합니다.14B 이상과 같은 대형 모델을 효과적으로 작동하려면 컴퓨터에 견고한 CPU, GPU 및 전용 NPU가 있어야 합니다.가벼운 모델의 경우에도 원활한 경험을 보장하기 위해 8GB RAM만 있으면 됩니다.
LM Studio를 사용하여 PC에서 DeepSeek R1 실행
LM Studio는 Windows, macOS, Linux 등 다양한 운영 체제에서 DeepSeek R1을 로컬로 실행할 수 있는 가장 사용자 친화적인 옵션 중 하나를 제공합니다.
**LM Studio에서 지원하는 시스템은 다음과 같습니다.**
- **Mac:** macOS 13.4 이상을 실행하는 Apple Silicon Chip(M1, M2, M3, M4)과 호환
- **Windows:** x64 및 ARM 아키텍처(예: Snapdragon X Elite)를 모두 지원합니다.
- **Linux:** 64비트 아키텍처를 갖춘 Ubuntu 20.04 이상 필요
LM Studio는 최적의 성능을 위해 최소 16GB RAM을 권장하지만, 더 작은 모델의 경우 8GB로 관리할 수 있습니다.192GB 이상을 소유하고 있다면 문제 없이 전체 671B 모델을 실행할 수도 있습니다.
- 시작하려면 lmstudio.ai 로 가서 시스템에 맞는 ‘다운로드’ 버튼을 선택하세요.
- 사용하는 운영체제에 맞는 설치 지침을 따르세요.
- 설치 후 LM Studio를 실행하고 ‘온보딩 건너뛰기’를 선택합니다.
- 왼쪽에 있는 탐색 메뉴에서 ‘검색’ 아이콘을 선택하세요.
- 이제 다운로드할 원하는 모델을 검색하세요.필요에 따라 DeepSeek R1 Distill(Qwen 7B) 또는 1.5B 모델을 선택할 수 있습니다.다운로드 페이지에 지정된 대로 충분한 저장 공간이 있는지 확인하세요.’다운로드’ 버튼을 클릭하여 프로세스를 시작합니다.
- 다운로드 후 ‘모델 로드’ 버튼을 클릭하면 채팅 창이 나타납니다.
- 채팅 창에 질문을 입력하고 로컬에서 모델과 상호 작용하세요.상태 표시줄의 오른쪽 하단에 표시된 리소스 사용 메트릭을 추적할 수 있습니다.
- 모델 설정을 조정하려면 상단의 모델 이름 옆에 있는 ‘설정’ 아이콘을 클릭하세요.
LM Studio를 사용하여 PC에서 로컬로 DeepSeek R1을 실행하는 것은 간단하고 터미널 명령이 필요하지 않습니다.이는 이 기술을 처음 접하는 사람에게 이상적인 옵션입니다. Ollama와 같은 대안이 있지만 터미널 기술이 필요합니다.
PocketPal AI를 사용하여 모바일에서 로컬로 DeepSeek R1 실행
모바일 기기에서 LLM 모델을 운영하려면 PocketPal AI를 적극 추천합니다.이 앱은 iOS와 Android 플랫폼 모두에서 LLM 모델을 실행하기 위한 매끄러운 경험을 제공합니다.
- App Store 나 Play Store 에서 PocketPal AI 앱을 다운로드하세요.
- 앱을 실행하고 ‘모델로 이동’을 탭하세요.
- 화면 오른쪽 하단에 있는 ‘+’ 아이콘을 탭하세요.
- ‘허깅 페이스에서 추가’를 선택하세요.
- 검색 필드에 ‘DeepSeek R1’을 입력하여 설치하려는 모델을 찾아 선택하세요.
- 사용 가능한 GGU 파일 중 하나에 인접한 다운로드 아이콘을 클릭하세요.
- 다운로드가 완료되면 메인 화면으로 돌아가서 다운로드한 모델 옆에 있는 ‘로드’ 아이콘을 선택하세요.
- 모델이 로드되어 채팅을 시작할 수 있습니다.왼쪽 메뉴에서 채팅 기록에 액세스하거나 모델 설정을 수정할 수 있습니다.
이제 알았어요! 어떤 기기를 선택하든 LM Studio나 PocketPal AI를 활용하면 손쉽게 DeepSeek R1 모델을 로컬로 설정하고 실행할 수 있습니다.
자주 묻는 질문
1. DeepSeek R1을 실행하기 위한 시스템 요구 사항은 무엇입니까?
DeepSeek R1을 실행하려면 1.5B 및 7B와 같은 소형 모델의 경우 최소 8GB의 RAM이 있어야 합니다.대형 모델의 경우 16GB 이상을 권장합니다.최적의 성능을 위해서는 강력한 CPU와 GPU, 충분한 저장 공간도 필수적입니다.
2. DeepSeek R1을 모바일 기기에서 실행할 수 있나요?
네! iOS와 Android에서 모두 사용 가능한 PocketPal AI 앱을 사용하여 모바일 기기에서 DeepSeek R1을 실행할 수 있습니다.이 앱을 사용하면 모델을 검색하여 휴대폰에 직접 다운로드할 수 있습니다.
3. DeepSeek R1을 온라인으로 사용할 때 개인정보 보호에 대한 우려가 있습니까?
네, DeepSeek R1을 온라인에서 실행하면 개인정보 보호 문제가 발생할 수 있습니다.대신 로컬 기기에서 모델을 실행하도록 선택하면 데이터가 외부 서버로 전송되지 않으므로 이러한 위험이 완화됩니다.
답글 남기기 ▼