LM Studio: 내 PC에서 오픈 LLM 모델 (DeepSeek R1 등) 찾아서 실행까지 완벽 정복 가이드

이전 블로그 글에서 command line 으로 deepseek (딥시크)와 같은 오픈 LLM 모델을 설치하여 돌라는 방법을 이야기하였다. UI 를 기본적으로 제공하지 않기 때문에 Chromium Extension을 설치하여 사용하는 방법에 대해서도 이야기하였다.

 

LM Studio 소개

 

이를 모두 하나로 통합하여 제공하는 LM Studio를 발견하여 설치하고 사용하는 방법에 대해서 소개한다. LM Studio도 애플 실리콘, Windows, Linux 모두 지원을 한다. 맥북에서 돌리기 위해 받았는데 1.41GB로 생각보다 애플리케이션의 크기가 컸다.

 

LM Studio 기능

 

LM Studio로 다음과 같은 것을 할 수 있다고 홈페이지 메인에 당당하게 적혀있다. 앱만 설치하면 정말 사용하기는 쉽게 되어있다.

• 노트북에서 완전히 오프라인으로 LLM 실행
• 로컬 문서와 대화하기 (0.3 버전 신규 기능)
• 인앱 채팅 UI 또는 OpenAI 호환 로컬 서버로 모델 사용
• Hugging Face 🤗 저장소에서 호환 가능한 모델 파일 다운로드
• 앱 내 'Discover' 페이지에서 신규·주목할만한 LLM 탐색

 

LM Studio 화면

 

실행하면 아래와 같은 UI 화면이 나오고 왼쪽에 4개 탭이 있다.

• 1번 탭은 채팅 창을 보여준다.
• 2번 탭은 개발모드로 로컬 서버를 실행시켜 외부 코드에서 API 등을 호출할 수 있는 환경을 만들어준다.
• 3번 탭은 다운로드한 LLM 모델들의 정보를 보여준다.
• 4번 탭은 LLM 모델을 찾아 설치하는 화면을 보여준다. 이제 DeepSeek R1을 설치하기 위해 4번 탭으로 좀 더 들여다 본다.

 

LLM 모듈 다운로드

 

4번 탭을 클릭하면 아래와 같이 LLM 모델을 찾아서 설치할 수 있는 화면이 나온다. 일단 제일 위에 있는 DeepSeek R1 Distill (Qwen 7B) 모델을 다운로드 받는다.

 

VPN이나 Proxy가 걸려 있어서 그런지 다음과 같은 문구 "self signed certificate in certifate chain" 가 나오면서 다운로드가 진행되지 않는다. https://github.com/lmstudio-ai/lmstudio-bug-tracker/issues/235 에 동일한 이슈가 리포트되어 있지만 아직 해결되지 않닸다. 하지만 Workaround 해결책을 발견했다. :)

 

임시 해결책은 LM Studio을 실행시킬 때 임시로 SSL 인증서 검증은 끈다. 보안 위험이 있으므로 모델 다운로드할 때만 이용하고 다시 LM Studio 를 종료한 후 정상적으로 실행시킨다.

$ NODE_TLS_REJECT_UNAUTHORIZED=0 /Applications/LM\ Studio.app/Contents/MacOS/LM\ Studio

 

아래와 같이 다시 다운로드를 실행하면 정상적으로 동작하는 것을 볼 수 있다.

 

LLM 모듈 로드

 

1번 Chat 화면에서 상단의 "Select a model to load ..." 를 선택하고 다운로드 받은 LLM 모듈을 선택하면 다음과 같이 여러가지 옵션을 선택하는 화면이 나온다. 꽤나 자세하다. 일단 기본으로 설정하고 "Load Model" 버튼을 누르면 모듈이 로드가 되어 Chat에서 사용할 수 있게 된다.

 

LLM 모듈 사용하여 채팅

 

모듈이 상대적으로 크지 않아서 그런가 생각보다 빠르게 답변을 주고 이때 GPU 사용량이 확 늘어나는 것을 볼 수 있다. 

 

정리

 

간단히 LM Studio 설치하고 사용하는 방법을 알아보았다. 중간에 LLM 모듈 다운로드할 때 예기치 않은 에러가 발생하여 약간 시간을 투자했지만 다행히 해결했다. 정상적으로 잘 동작하고 UI도 깔끔해서 사용하기 편리하다.

 

UI도 잘 만들어서 질문하고 답변할 때도 부드럽게 빨리 잘 답변을 해준다. 다음번에는 개발자 모드를 활성화 시켜서 간단한 코드를 만들어 테스트하는 글을 작성해 볼까 한다.

 

세상 참 좋아졌다. 리눅스와 같이 모델을 오픈하면서 오픈 소스의 위력이 점점 더 크게 발현되어 다같이 발전하고 성장하는 세상이 왔으면 좋겠다.