로컬 AI 개인정보: 모델 실행·MCP·저장과 공유 경로를 확인합니다

내 문서를 남의 서버에 올리지 않고 작업하려고 로컬 AI를 찾을 수 있습니다. 다만 ‘내 컴퓨터에서 돌아간다’를 ‘파일은 어떤 경우에도 컴퓨터 밖으로 나가지 않는다’로 받아들이면 범위가 달라집니다. 모델 하나에 컴퓨터 전체의 보안 책임까지 맡길 수는 없습니다.

로컬 AI를 써도 파일이나 그 안의 내용은 밖으로 나갈 수 있습니다. 모델 계산, 외부 도구 호출, 결과물 전송은 서로 다른 일입니다. 저는 앱 이름이나 모델 국적보다 실행 위치 → 연결 도구 → 결과 저장·공유 경로를 따라 확인하는 편이 정확하다고 봅니다.

앱 위치와 실제 계산 장치를 구분합니다

Ollama를 설치해도 선택한 모델이 반드시 내 컴퓨터에서 계산하는 것은 아닙니다. 같은 앱에서 로컬 모델과 Ollama의 클라우드 모델을 사용할 수 있습니다. 클라우드 모델은 큰 모델 파일을 내려받아 계산하는 대신 원격 서버의 자원을 이용합니다. 앱 창이 내 화면에 있어도 실제 계산은 외부에서 이뤄질 수 있습니다.

개발 도구의 접속 주소가 내 컴퓨터 자체를 가리키더라도 요청을 먼저 받는 곳만 확인한 셈일 수 있습니다. Ollama의 로컬 서버를 통해 클라우드 모델을 호출하는 구성도 가능합니다. 요청 접수 위치와 실제 계산이 끝나는 위치를 구분해야 합니다.

Bionic의 공식 모델 선택 화면은 이 차이를 보여줍니다. Bionic은 일반 LM Studio와는 별도 앱이며 로컬 실행, LM Link 연결, 클라우드 실행을 지원합니다. LM Link는 다른 기기의 모델에 연결하는 방식입니다. 내 기기, 연결한 다른 컴퓨터, 사업자의 클라우드 중 어디서 계산하는지는 같은 채팅창에서 선택하더라도 서로 다른 처리 방식입니다.

모델의 가중치 파일, 실행 앱·런타임, 실제 요청을 처리하는 컴퓨터를 나눠 봐야 합니다. 모델을 어느 나라에서 만들었는지와 이번 문서가 어디서 처리되는지는 다른 질문입니다. 국적이 네트워크 경로를 설명하지 않으며 익숙한 회사의 모델이라고 외부 전송이 없다는 결론도 낼 수 없습니다.

로컬 처리와 무보관·학습 제외의 차이

LM Studio의 오프라인 기능은 문서 작업을 로컬에서 끝내는 예입니다. 필요한 로컬 모델을 미리 받으면 인터넷 없이 대화하고 문서를 참고해 답을 얻을 수 있습니다. 문서에서 관련 내용을 찾는 RAG도 포함됩니다. 이 구성에서는 문서 처리·대화가 로컬에서 이뤄지고 메시지·문서·대화 기록도 기기에 저장됩니다.

모델을 찾고 내려받거나 런타임·앱 업데이트를 확인하고 받는 데는 네트워크가 필요합니다. 따라서 통신이 보인다는 사실만으로 PDF 내용을 보내고 있다고 단정할 수는 없습니다. 모델 다운로드인지 문서의 외부 처리인지 구분해야 합니다. 인터넷을 쓴다는 관찰만으로 유출을 판정할 수는 없습니다.

Ollama는 로컬 모델 실행 시 프롬프트·데이터를 보지 않는다고 안내합니다. 클라우드 모델에서는 요청·응답을 처리하되 내용을 보관·로그·학습에 사용하지 않는다고 설명합니다. 보관하지 않는 것과 전송하지 않는 것은 다릅니다. 외부에서 처리한 뒤 남기지 않는 것과 처음부터 외부로 보내지 않는 것을 구분해야 합니다.

LM Studio 개인정보처리방침도 로컬 모델과 클라우드 기능을 구분합니다. 클라우드 기능을 구매하고 선택해 사용하면 프롬프트·첨부파일 등의 요청이 클라우드 모델이나 웹 검색 제공자에게 처리될 수 있으며, 요청 완료 후 남기지 않고 학습에도 쓰지 않는다는 조건입니다. 학습 제외가 필요한 경우와 외부 처리 자체를 원치 않는 경우는 선택 기준이 다릅니다. 후자라면 무보관 약속만으로 충분하지 않습니다.

Ollama의 클라우드 선택지를 끄려면 로컬 전용 설정을 사용할 수 있습니다. ~/.ollama/server.json의 다른 설정을 유지하면서 기존 JSON 안에 "disable_ollama_cloud": true를 추가하거나 값을 바꿉니다. 또는 Ollama 프로세스에 OLLAMA_NO_CLOUD=1 환경변수를 적용합니다. 설정 위치는 운영체제·실행 방식에 따라 다르므로 같은 문서의 운영체제별 안내를 따라야 합니다.

변경 후 Ollama를 재시작하고 로그의 Ollama cloud disabled: true로 적용을 확인합니다. 꺼지는 대상은 Ollama의 클라우드 모델과 웹 검색입니다. 다른 앱·MCP·파일 동기화까지 차단하는 전역 방화벽은 아니므로 연결 도구도 따로 확인해야 합니다.

MCP가 읽고 외부로 보내는 내용

MCP는 AI 앱에 도구와 데이터 연결 기능을 붙입니다. LM Studio는 로컬·원격 MCP 서버를 지원하며 서버에 따라 코드 실행, 파일 읽기, 네트워크 접근이 가능합니다. 모델 계산이 노트북에서 끝나도 연결 도구가 외부 서비스를 부르면 전달한 정보는 다른 경로로 움직일 수 있습니다. 모델만 로컬로 선택한 것으로 점검이 끝나지는 않습니다.

LM Studio의 MCP 연결 설정은 공식 예시의 Program → Install → Edit mcp.json에서 볼 수 있습니다. 구버전 예시여서 설치 버전의 메뉴 배치와 다를 수 있지만 확인 대상은 연결 서버 목록과 하는 일입니다. ‘로컬 MCP’는 서버가 내 컴퓨터에서 실행된다는 뜻이며 그 프로그램이 인터넷을 사용하지 못한다는 뜻은 아닙니다.

문서 속 문장을 검색어로 넘기는 도구라면 원본 PDF를 통째로 업로드하지 않아도 일부 내용은 외부로 전달됩니다. 파일 읽기 허락과 읽은 내용을 다른 서비스로 보내는 허락은 구분해야 합니다. 도구가 어느 폴더를 읽고 어떤 서비스에 무엇을 보내는지 확인하고 불필요한 연결은 끄는 편이 낫습니다. 신뢰하지 못하는 출처의 MCP 서버는 설치하지 않아야 합니다. 버튼 추가처럼 보여도 파일·네트워크를 다룰 프로그램을 들이는 일일 수 있습니다.

결과물 저장과 전송까지 확인합니다

모델도 로컬이고 외부 도구도 쓰지 않았더라도 결과 요약을 Gmail로 보내거나 Discord 채널에 올리면 그 내용은 해당 서비스에 전달됩니다. 필요한 결과만 골라 공유하는 것은 가능한 선택이지만, 아무 내용도 외부로 보내지 않았다고 할 수는 없습니다.

‘내 컴퓨터에 저장’과 ‘내 컴퓨터에만 저장’도 다릅니다. 저장 폴더가 클라우드 동기화 대상이면 AI 앱은 로컬에 저장하고 다른 프로그램이 업로드할 수 있습니다. 예를 들어 OneDrive 동기화 폴더는 온라인에서 변경 사항을 클라우드와 자동으로 맞춥니다. AI 앱 설정뿐 아니라 저장 폴더도 확인해야 합니다.

원본뿐 아니라 중요한 내용을 담은 요약문·대화 기록에도 같은 기준을 적용해야 합니다. 핵심을 정리해 외부로 보냈다면 파일명은 지켰어도 정보까지 지킨 것은 아닙니다. 동기화·백업 대상 폴더, 이메일 수신자, 메신저 채널, 공유 문서 공개 범위를 마지막으로 확인하는 이유입니다.

파일을 넣기 전에 확인할 세 경로

확인할 단계	실제로 볼 것	외부 전송을 원하지 않을 때
실행 위치	선택한 모델과 실제 계산하는 장치	내 기기의 로컬 모델인지, 원격·클라우드 실행이 섞였는지 확인한다.
연결 도구	MCP·웹 검색이 읽고 보내는 내용	불필요한 연결을 끄고, 도구의 파일 접근 범위와 외부 호출을 확인한다.
저장·공유	결과물·대화 기록의 저장 위치와 전달 대상	동기화·백업 경로를 점검하고, 외부 전송과 공유 설정을 확인한다.

총평: 로컬이라는 이름보다 실제 처리 경로를 봅니다

로컬 AI의 장점은 계산을 외부 서버에 맡기지 않는 선택을 할 수 있다는 점입니다. 문서 작업 끝까지 그 선택을 유지하려면 도구와 저장 위치도 맞춰야 하며, 로컬에서 정리한 뒤 필요한 결과만 공유하는 방식도 가능합니다. 중요한 것은 어떤 내용이 어디서 처리되고, 누구에게 넘어가고, 어디에 남는지입니다. 앱이 내 컴퓨터에 있다는 사실보다 파일이 거치는 경로를 아는 편이 든든합니다.