Zotero에서 로컬 무료 LLM과 채팅하기
소개
현재 오픈소스 대규모 언어 모델(LLM)이 빠르게 발전하고 있습니다. 유료 상용 LLM만큼 좋지는 않지만, 일부 오픈소스 LLM은 자동 요약, 논문 리뷰 작성 및 기타 논문 읽기 보조 시나리오에서 어느 정도 충분합니다. 그리고 완전히 영구적으로 무료입니다. 필요한 것은 개인용 컴퓨터와 충분한 전원 공급뿐입니다. 이제 PapersGPT는 Zotero에서 로컬 LLM을 원활하게 실행할 수 있도록 지원하며, Windows나 Mac 플랫폼 모두에서 쉽게 실행할 수 있습니다.
Zotero에서 클릭 한 번으로 무료 LLM 실행
환경 초기화
PapersGPT(최소 v0.2.0)를 처음 설치하고 시작하면, 시스템이 로컬 LLM 실행에 필요한 종속 라이브러리와 설치 패키지를 자동으로 초기화하는 데 시간이 걸립니다. GitHub 및 HuggingFace에 연결할 수 있는 양호한 네트워크를 확인하세요. 이 프로세스는 백그라운드에서 자동으로 실행되며, 사용자는 번거로운 수동 환경 구성 및 설치에 대해 걱정할 필요가 없습니다. Windows의 일부 시스템 환경에서는 방화벽이 위험이 있다고 경고할 수 있습니다. 설치 프로세스가 원활하게 진행되도록 관련 권한을 부여하세요.
원하는 모델 선택
LLM 실행 환경이 초기화되면 PapersGPT에 로컬 LLM 옵션이 나타나며, 로컬 머신 환경에 따라 구성되고 일치하는 크기의 내장 오픈소스 LLM이 제공됩니다. 지원되는 로컬 무료 모델은 다음 표에 나와 있습니다.
| Provider | Supported Models |
|---|---|
| OpenAI | gpt-oss-20b |
| gemma-3-12b | gemma-3-4b | gemma-3-1b | gemma-3n-e4b | |
| Qwen | qwen-3-8b | qwen-3-4b | qwen-3-1.7b |
| DeepSeek | deepseek-distill-llama | deepseek-distill-llama-small | deepseek-0528-distill-qwen3 | deepseek-0528-distill-qwen3-small | deepseek-distll-qwen-1.5b |
| Microsoft | phi-4 | phi-4-mini-reasoning |
| Mistral | mistral-7b | mistral-7b-small |
| Llama | llama-3.1-8b | llama-3.1-8b-small |