📘 블100프로젝트 Part 7 – LLM 서버 자가 구축기와 시행착오 기록

 

반응형

728x90

---

📘 블100프로젝트 Part 7 – 로컬 LLM 블로그 서버 구축기

지난 금요일 퇴근 이후부터 오늘 하루까지, 주말의 대부분을 이 프로젝트에 쏟았다.
어떻게 로컬에서 자동화 블로그 작성 시스템을 구성했고, 어떤 시행착오와 선택의 연속이 있었는지를 기록해둔다.

결론부터 말하면 성공이다.
글의 내용이나 구성 퀄리티도 ChatGPT의 유료 API (GPT-4o-mini)를 사용할 때와 비교해 크게 뒤처지지 않는다.

👉 예시 글:
https://www.korealifenews.com/2025/04/seouls-new-immigration-policy_54.html

데스크탑은 다시 정비해서 써멀구리스도 새로 바르고, 깔끔하게 세팅했다.

---

🎯 1. 목표

뉴스 기사 → LLM 요약 및 영어 블로그 포스트 생성
이미지/링크 추출 → HTML 렌더링
작성된 글을 Blogger에 자동 업로드하는 로컬 기반 자동화 시스템이 목표였다.

---

🧠 2. 모델 선택과 시행착오

1차 글 작성 모델
✔️ openhermes:latest
가볍고 빠르며 글의 톤이 부드럽다. 블로그용으로 매우 적합해 여전히 사용 중이다.

HTML 변환을 위한 모델
✔️ mistral:instruct
HTML 태그 구조 변환에 가장 적합했던 모델이다.
다양한 포맷 실험 끝에 결국 이 조합으로 안정화시켰다.

현재 구조는 다음과 같다:

• openhermes → 마크다운 스타일로 블로그 글 작성
• mistral:instruct → HTML 포맷 변환 처리

---

🧱 3. 현실적인 컴퓨터 사양

• Windows 10 Home
• i5 CPU / 16GB RAM / GTX 1650
• SSD 여유공간 400GB 이상

동시에 7B 모델 2개는 무리. 성능적인 제약은 아쉽지만, 이 구성으로도 충분히 돌아간다.

---

🧭 4. 운영체제 선택 여정

Ubuntu 설치 → 실패
처음엔 “서버는 리눅스!”라는 고정관념으로 Ubuntu 설치.
하지만 설정이 오래 걸리고,  너무 불편했다.

결국 다시 Windows

• 지인들과 팀뷰어로 공유 예정
• GUI 작업, 설치, 디버깅 편의성
  → Windows + WSL 조합이 최고의 효율

• 

  
  

---

🐳 5. Docker는 왜 쓰지 않았나?

초기엔 Docker로 n8n과 ollama를 컨테이너에 올리려 했지만…

• 자동화 서버는 세팅 후 잘 안 건드림
• Docker는 오히려 관리 포인트 늘어남
• 대신 WSL에 직접 설치하는 걸로 방향 전환

---

🏠 6. 왜 클라우드 대신 로컬인가?

• 장기적으로 비용 없음
• 인터넷 회선 속도 충분
• 포트 포워딩 없이 내부 전용으로만 사용할 계획

결국 "자동화 블로그 서버"라는 목적에는 로컬이 정답이었다.

---

🔧 현재 구성 요약

1. Google Sheet에서 키워드 조회
2. Naver 뉴스 API로 기사 수집
3. 중복 제거 및 필터링
4. openhermes → 영어 블로그 글 작성
5. mistral:instruct → HTML 변환
6. Blogger API → 자동 업로드

---

✅ 정리하며

처음엔 LLM 하나만 쓰면 될 줄 알았지만,
모델 조합과 시스템 구성에 많은 고민과 실험이 필요했다.

그 결과, 지금은 완성도 높은? 자동화 블로그 서버가 내 로컬에서 안정적으로 돌아가고 있다.
다음 목표는 Loop 기능 개선, 그리고 다른 모델 실험이다.

이렇게 시간을 투자하고 나니 뿌듯하다.
언젠가 이 경험이 또 누군가에게 도움이 되길 바란다.

👉 다시 보기:
https://www.korealifenews.com/2025/04/seouls-new-immigration-policy_54.html

읽어줘서 고맙습니다 🙏

---

.