LM Studio, 인터넷 없이 PDF와 대화하려면

모델 파일과 실행 환경을 먼저 준비한다

LM Studio에서는 인터넷에 연결하지 않고도 내려받은 모델과 대화하고 로컬 문서에 대해 질문할 수 있다. 공식 오프라인 안내는 내장 문서 처리가 기기 안에서 이뤄진다고 명시한다. PDF를 읽히기 위해 반드시 클라우드 문서 서비스로 올릴 필요는 없다.

준비 단계는 다르다. 모델 검색·다운로드, 모델을 구동하는 런타임 다운로드, 앱 업데이트에는 연결이 필요하다. 앱 설치 파일만 받아 놓은 상태와 질문에 답할 모델까지 준비한 상태를 구분해야 한다.

시작 절차는 Discover에서 모델을 내려받고, Chat의 모델 로더에서 해당 모델을 선택하는 순서다. 다운로드는 파일을 저장하는 단계이고, 로드는 그 모델을 실행할 메모리를 할당하는 단계다. 오프라인으로 사용할 문서도 컴퓨터에 준비해 둔다.

긴 PDF는 필요한 부분을 찾아 답한다

문서 채팅은 PDF·DOCX·TXT 첨부를 지원한다. 문서가 모델의 컨텍스트에 들어갈 만큼 짧으면 전체 내용이 대화에 포함된다. 길면 질문과 관련된 부분을 검색해 모델에 제공하는 RAG 방식으로 처리한다.

따라서 파일을 첨부했다고 매번 모든 페이지가 답변의 재료가 되는 것은 아니다. ‘문서 전체를 요약해 줘’와 ‘반품 신청 기한은 언제까지인가’는 필요한 자료의 범위가 다르다. 긴 파일에서 후자의 답을 찾으려면 문서에 쓰인 단어와 상황이 질문에 들어가는 편이 유리하다.

예를 들어 제품 설명서에서는 “반품 신청 기한과 개봉 후 반품 조건을 찾아 줘. 해당 내용을 찾지 못하면 없다고 말해 줘.”처럼 물을 수 있다. 문서에서 찾을 단어와 필요한 조건을 함께 적은 질문이다. 답변에 나온 기한·조건은 해당 원문과 대조한다.

오프라인 여부와 문서 이해 범위는 서로 다른 선택 기준이다. 인터넷을 끊어도 작동할 수 있지만, 긴 파일 전체를 한꺼번에 넣어야 하는 작업이라면 모델의 컨텍스트 크기도 봐야 한다.

로컬 모델을 실행하려면 충분한 메모리가 필요하다

모델을 내려받았어도 기기에 맞지 않으면 원활하게 실행하기 어렵다. 공식 시스템 요구사항은 Mac에서 Apple silicon과 macOS 14 이상을 요구하며, 메모리는 16GB 이상을 권장한다. 8GB Mac에는 작은 모델과 적당한 컨텍스트 크기를 사용하도록 안내한다. Intel Mac은 현재 지원 대상으로 적혀 있지 않다.

Windows는 x64와 ARM을 지원하며 x64에서는 AVX2가 필요하다. 권장 RAM은 최소 16GB다. 이는 앱 사용을 위한 기준이며, 특정 크기의 모델이나 수백 쪽 문서에 대한 응답시간을 약속하는 수치는 아니다.

입문자는 가장 큰 모델을 먼저 받기보다, 실제 기기에서 로드할 수 있는 모델과 읽을 문서를 함께 맞추는 편이 낫다. 설치 가능 여부, 모델 로드 성공, 문서에서 필요한 답을 찾는 능력은 각각 확인해야 하는 항목이다.

PDF 첨부와 원격 MCP 연결은 같은 기능이 아니다

내장 문서 첨부만 쓸 때와 외부 도구를 연결할 때는 데이터가 지나가는 경로가 달라진다. LM Studio의 MCP 기능은 로컬 서버뿐 아니라 원격 서버도 지원한다. MCP 서버는 파일을 읽거나 네트워크를 사용할 수 있다. 도구가 인터넷상의 서비스에 요청을 보내면 모델 자체가 로컬이어도 그 작업에는 연결이 필요하다.

로컬에서 실행한 MCP 서버도 외부 API를 호출할 수 있으므로 설치 위치만으로 오프라인 여부를 판정할 수 없다. PDF를 읽는 목적이라면 먼저 내장 첨부 기능으로 필요한 작업이 되는지 보고, 외부 자료 조회가 필요할 때 도구의 통신 대상을 따로 확인한다.

연결 없는 장소에서 쓸 계획이라면 출발 전에 실제 문서를 첨부하고, 답을 알고 있는 질문 하나를 연결을 끊은 상태에서 다시 해보는 방법이 있다. 새 모델 검색이나 원격 웹 도구가 멈췄다는 사실과 로컬 PDF 채팅 자체가 불가능하다는 판단을 섞지 않아야 한다.