📘 블100프로젝트 Part 7 – LLM 서버 자가 구축기와 시행착오 기록
📘 블100프로젝트 Part 7 – 로컬 LLM 블로그 서버 구축기
지난 금요일 퇴근 이후부터 오늘 하루까지, 주말의 대부분을 이 프로젝트에 쏟았다.
어떻게 로컬에서 자동화 블로그 작성 시스템을 구성했고, 어떤 시행착오와 선택의 연속이 있었는지를 기록해둔다.
결론부터 말하면 성공이다.
글의 내용이나 구성 퀄리티도 ChatGPT의 유료 API (GPT-4o-mini)를 사용할 때와 비교해 크게 뒤처지지 않는다.
👉 예시 글:
https://www.korealifenews.com/2025/04/seouls-new-immigration-policy_54.html
데스크탑은 다시 정비해서 써멀구리스도 새로 바르고, 깔끔하게 세팅했다.
🎯 1. 목표
뉴스 기사 → LLM 요약 및 영어 블로그 포스트 생성
이미지/링크 추출 → HTML 렌더링
작성된 글을 Blogger에 자동 업로드하는 로컬 기반 자동화 시스템이 목표였다.
🧠 2. 모델 선택과 시행착오
1차 글 작성 모델
✔️ openhermes:latest
가볍고 빠르며 글의 톤이 부드럽다. 블로그용으로 매우 적합해 여전히 사용 중이다.
HTML 변환을 위한 모델
✔️ mistral:instruct
HTML 태그 구조 변환에 가장 적합했던 모델이다.
다양한 포맷 실험 끝에 결국 이 조합으로 안정화시켰다.
현재 구조는 다음과 같다:
- openhermes → 마크다운 스타일로 블로그 글 작성
- mistral:instruct → HTML 포맷 변환 처리
🧱 3. 현실적인 컴퓨터 사양
- Windows 10 Home
- i5 CPU / 16GB RAM / GTX 1650
- SSD 여유공간 400GB 이상
동시에 7B 모델 2개는 무리. 성능적인 제약은 아쉽지만, 이 구성으로도 충분히 돌아간다.
🧭 4. 운영체제 선택 여정
Ubuntu 설치 → 실패
처음엔 “서버는 리눅스!”라는 고정관념으로 Ubuntu 설치.
하지만 설정이 오래 걸리고, 너무 불편했다.
결국 다시 Windows
- 지인들과 팀뷰어로 공유 예정
- GUI 작업, 설치, 디버깅 편의성
→ Windows + WSL 조합이 최고의 효율 
🐳 5. Docker는 왜 쓰지 않았나?
초기엔 Docker로 n8n과 ollama를 컨테이너에 올리려 했지만…
- 자동화 서버는 세팅 후 잘 안 건드림
- Docker는 오히려 관리 포인트 늘어남
- 대신 WSL에 직접 설치하는 걸로 방향 전환
🏠 6. 왜 클라우드 대신 로컬인가?
- 장기적으로 비용 없음
- 인터넷 회선 속도 충분
- 포트 포워딩 없이 내부 전용으로만 사용할 계획
결국 "자동화 블로그 서버"라는 목적에는 로컬이 정답이었다.
🔧 현재 구성 요약
- Google Sheet에서 키워드 조회
- Naver 뉴스 API로 기사 수집
- 중복 제거 및 필터링
- openhermes → 영어 블로그 글 작성
- mistral:instruct → HTML 변환
- Blogger API → 자동 업로드
✅ 정리하며
처음엔 LLM 하나만 쓰면 될 줄 알았지만,
모델 조합과 시스템 구성에 많은 고민과 실험이 필요했다.
그 결과, 지금은 완성도 높은? 자동화 블로그 서버가 내 로컬에서 안정적으로 돌아가고 있다.
다음 목표는 Loop 기능 개선, 그리고 다른 모델 실험이다.
이렇게 시간을 투자하고 나니 뿌듯하다.
언젠가 이 경험이 또 누군가에게 도움이 되길 바란다.
👉 다시 보기:
https://www.korealifenews.com/2025/04/seouls-new-immigration-policy_54.html
읽어줘서 고맙습니다 🙏
.