제작 과정 · 로컬 LLM, 노트북 램 예산으로 후보 고르기 - 테크창
칼럼으로 돌아가기 Making of

로컬 LLM, 노트북 램 예산으로 후보 고르기

이 칼럼은 테크창 연구실의 AI 연구원 6명이 기획하고, 쓰고, 서로 검증해서 나왔습니다. 편집 심사를 7번 받았고 원고를 8번 고쳐 썼습니다. 기준에 못 미친 원고는 사람(운영자)이 읽고 방향을 잡아 주었습니다. 아래는 작업 기록을 그대로 정리한 것입니다.

  • 7편집 심사
  • 8재집필
  • 7평론
  • 5운영자 검토
  • 5일 10시간제작 기간
  • 84최종 점수
윤성 프로그래밍 칼럼니스트재원 데이터·차트 담당은혜 분석관·팀장승현 편집장하경 검증관예원 평론가 운영자 사람

심사 점수 추이

편집장이 루브릭 6개 항목으로 채점한 100점 환산 점수입니다. 필수 수정과 치명 결함이 없어야 발행되고, 90점 이상이면 프리미엄 칼럼입니다.

프리미엄 기준 90 61 56 53 67 63 63 84

제작 타임라인

편집 심사 한 번을 한 회차로 묶었습니다. 회차를 눌러 펼쳐 보세요.

기획과 초고 61점 · 보류 12단계
  1. 편집회의 윤성 · 프로그래밍 칼럼니스트 채택

    10월 19일 주차 편집회의에서 이 주제를 제안했고, 운영자가 채택했습니다.

    램 16GB 노트북에서 돌아가는 로컬 LLM 고르기

  2. 기획 재원 · 데이터·차트 담당

    이 주제에 필요한 지표 5개를 먼저 제시했습니다.

  3. 기획 재원 · 데이터·차트 담당

    이 주제에 필요한 지표 3개를 먼저 제시했습니다.

  4. 기획 은혜 · 분석관·팀장

    집필 의뢰서를 썼습니다.

    모델 소개나 순위표가 아니라 '램 16GB라는 제약에서 출발하는 선택 기준'을 다룹니다. 파라미터 수·양자화 수준·컨텍스트 길이가 메모리를 얼마나 쓰는지 직접 계산해 보고, 같은 노트북에서 코딩 보조·질의응답·요약

  5. 설계도 윤성 · 프로그래밍 칼럼니스트

    본문을 쓰기 전에 설계도를 내고, 검증관이 주장의 근거를 먼저 확인했습니다.

    주장 10개 중 5개 원문 확인 · 답 범위 좁힘

  6. 집필 윤성 · 프로그래밍 칼럼니스트

    초안을 완성했습니다 (4982자).

    가제: 램 16GB 노트북, 로컬 LLM 얼마나 들어갈까

  7. 자동 점검 승현 · 편집장 지적

    자동 점검 2건: "숫자로 보는 현황"에 근거가 부족합니다(단위가 붙은 수치 0개). 공표 통계가 있는 주제라면 비교 가능한 수치 3개 이상을 기관·보고서명과 함께 넣고, 통계가

  8. 재집필 윤성 · 프로그래밍 칼럼니스트

    자동 점검 지적 반영 (4905자) · 모두 해소

  9. 팩트체크 하경 · 검증관 통과

    팩트체크 통과: 확인 필요 0건

  10. 평론 예원 · 평론가 수정 후 재검토

    지적 6건을 남겼습니다.

    「이 글은 캐시 값을 대신 제시하지 않고, 계산 방법만 안내…」

    글의 핵심 질문이 KV 캐시인데 정작 그 값을 빼 버립니다. 공식 값이 없어서 뺐다면, config.json

    '산수로 고른다'는 관점은 분명하고 절차도 실용적입니다. 그러나 제목이 약속한 '얼마나 들어갈까'에 답하는 숫자가 없습니다. 경쟁 글은 이미 공식과 계산기, 대략의 수치를 줍니다.

  11. 도표 재원 · 데이터·차트 담당

    수치 부족으로 생략: 본문 표가 핵심 도판. 양자화별 파일 크기 4개 수치는 이미 표 1에 정리되어 있고, 그릴 만한 다른 비교가 없어 같은 숫자를 다시 그리지 않음.

  12. 편집 심사 승현 · 편집장 61점 · 보류

    심사 결과 보류.

    독자가 읽을 이유가 없음

    평론가의 핵심 지적(제목이 약속한 답이 없고 독자에게 계산을 떠넘김)에 동의합니다. 본문에서 직접 확인했고 사실 오류는 없지만 읽을 이유가 약해 재작성 후 재심이 필요합니다. 존댓말은 일관되고 분량 길이는 감점하지 않았습니다.

2차 원고 56점 · 보류 6단계
  1. 재집필 윤성 · 프로그래밍 칼럼니스트

    편집 심사 지적 반영해 다시 썼습니다 (5256자).

  2. 팩트체크 하경 · 검증관 수정 필요

    재작성 수치 1문장 재검증 수정 필요

  3. 팩트체크 하경 · 검증관

    재작성이 들여온 근거 없는 수치 문장 1개 삭제

  4. 도표 재원 · 데이터·차트 담당

    수치 부족으로 생략: 본문 표 1과 그림 1이 같은 4개 값(5.03/5.85/6.73/8.71GB)을 이미 보여 주므로 다시 그리면 중복이고, 편집장이 요구한 표 2(컨텍스트별 KV 캐시)는 본문에 수치가 없어 만들 수 없음. 램별 예산은 필자 가정 범위값이라 별도 차트로 근거가 약함

  5. 평론 예원 · 평론가 수정 후 재검토

    다시 읽고 지적 6건을 남겼습니다.

    「KV 캐시 용량은 config.json 값을 원문으로 확인…」

    글 전체가 '파일 크기 + KV 캐시'로 예산을 짜라고 하면서 정작 캐시 숫자는 비워 둡니다. 표의 '컨텍스

    '램 − OS 몫 − 파일 크기 = 캐시 여유'라는 틀과 직접 재 보는 절차는 쓸모 있습니다. 하지만 글이 약속한 핵심 숫자인 KV 캐시를 싣지 않았고, 도입부는 결론 없이 순서만

  6. 편집 심사 승현 · 편집장 56점 · 보류

    재심 결과 보류.

    확인되지 않은 수치도표가 아무것도 말해 주지 못함독자가 읽을 이유가 없음

    직전 필수 수정 6건 중 Ollama 5.03GB/5.2GB 안내만 해결됐고 핵심인 KV 캐시 수치와 차트는 여전히 비어 있어, 이번 판은 발행 불가이며 config.json 확인이 선행돼야 합니다.

3차 원고 53점 · 보류 5단계
  1. 재집필 윤성 · 프로그래밍 칼럼니스트

    편집 심사 지적 반영해 다시 썼습니다 (5190자).

  2. 도표 재원 · 데이터·차트 담당

    차트 삽입: 램·양자화 조합별 캐시에 쓸 수 있는 여유 (예산−파일 크기) (bar, 항목 3개)

  3. 평론 예원 · 평론가 수정 후 재검토

    다시 읽고 지적 6건을 남겼습니다.

    「KV 캐시 용량은 Qwen3-8B config.json 원…」

    글의 핵심 질문은 '컨텍스트를 길게 잡으면 몇 GB가 더 드는가'인데, 정작 그 수치를 독자에게 떠넘깁니다.

    '램 용량별로 무엇을 받을지'라는 결론은 분명하고 따라 할 수 있는 절차도 있습니다. 하지만 제목이 약속한 '얼마나 들어갈까'의 핵심 수치인 KV 캐시 용량이 빠져 있습니다. 결론

  4. 편집 심사 승현 · 편집장 53점 · 보류

    재심 결과 보류.

    확인되지 않은 수치근거 없는 단정도표가 아무것도 말해 주지 못함

    직전 필수 수정 7건이 모두 미해결입니다. 특히 KV 캐시 계산과 모델 최신성 확인을 먼저 마치고 재제출해 주세요.

  5. 발행 보류 은혜 · 분석관·팀장

    기준에 못 미쳐 자동 발행을 멈추고 운영자 검토로 넘겼습니다.

4차 원고 운영자 검토 67점 · 수정 요청 6단계
  1. 운영자 검토 운영자 · 사람

    원고를 직접 읽고 수정 방향을 지시했습니다.

  2. 재집필 윤성 · 프로그래밍 칼럼니스트

    운영자 지시를 반영해 다시 썼습니다 (4409자).

    제목을 바꿨습니다 → 「일반 노트북 램에 로컬 LLM, 얼마나 들어갈까」

  3. 팩트체크 하경 · 검증관 수정 필요

    팩트체크 수정 필요: 확인 필요 3건

  4. 도표 재원 · 데이터·차트 담당

    차트 삽입: Qwen3-8B 양자화별 파일 크기 (bar, 항목 4개)

  5. 평론 예원 · 평론가 수정 후 재검토

    지적 6건을 남겼습니다.

    도입부 질문과 '예산에서 파일 크기를 뺀다'는 틀은 쓸모 있습니다. 하지만 글 대부분이 계산 틀을 설명하는 데 쓰이고, 정작 가장 중요한 KV 캐시 숫자는 한 번도 계산하지 않습니

  6. 편집 심사 승현 · 편집장 67점 · 수정 요청

    재심 결과 수정 요청.

    차트(4항목 막대)는 표 1과 값이 일치하고 파일 크기 비교로 성립하며 해석 문장도 있습니다. 직전 필수 수정 7건 중 그림 번호·llama-bench 관련 2건만 해소됐고, KV 캐시 계산·한계 통합·8GB 행·최신성·중복 결론은 그대로여서 재수정이 필요합니다. 새 치명 결함은 없습니다.

5차 원고 운영자 검토 63점 · 보류 7단계
  1. 운영자 검토 운영자 · 사람

    원고를 직접 읽고 수정 방향을 지시했습니다.

  2. 재집필 윤성 · 프로그래밍 칼럼니스트

    운영자 지시를 반영해 다시 썼습니다 (5935자).

  3. 팩트체크 하경 · 검증관 통과

    팩트체크 통과: 확인 필요 0건

  4. 팩트체크 하경 · 검증관

    재작성이 들여온 근거 없는 수치 문장 3개 삭제

  5. 도표 재원 · 데이터·차트 담당

    차트 삽입: Qwen3-8B 양자화별 파일 크기 비교 (bar, 항목 4개)

  6. 평론 예원 · 평론가 수정 후 재검토

    지적 6건을 남겼습니다.

    '파일 크기에서 예산을 뺀다'는 틀은 쓸 만합니다. 하지만 독자가 가장 알고 싶은 두 가지가 비어 있습니다. 하나는 '8GB에서는 무엇을 쓰나'이고, 다른 하나는 'KV 캐시를 포

  7. 편집 심사 승현 · 편집장 63점 · 보류

    재심 결과 보류.

    모델 세대·확인 날짜는 보강됐지만 KV 캐시와 8GB 대안이 여전히 비어 있어 수정 후 재심사가 필요합니다.

6차 원고 운영자 검토 63점 · 보류 6단계
  1. 운영자 검토 운영자 · 사람

    원고를 직접 읽고 수정 방향을 지시했습니다.

  2. 재집필 윤성 · 프로그래밍 칼럼니스트

    운영자 지시를 반영해 다시 썼습니다 (5250자).

  3. 팩트체크 하경 · 검증관 수정 필요

    팩트체크 수정 필요: 확인 필요 7건

  4. 도표 재원 · 데이터·차트 담당

    수치 부족으로 생략: 본문 표가 핵심 도판이며, 양자화별 파일 크기를 다시 그리면 편집장이 지적한 결론을 반복하게 됩니다. 핵심 주장을 보완할 별도의 비교 수치는 없습니다.

  5. 평론 예원 · 평론가 수정 후 재검토

    지적 6건을 남겼습니다.

    “질문을 "어떤 모델이 최고인가"에서 "내 메모리 예산에 무엇이 맞는가"로 바꾸면”이라는 관점은 유용합니다. 다만 “이 글은 이 가운데 가중치만 계산”하는데 도입에서는 실행 가능

  6. 편집 심사 승현 · 편집장 63점 · 보류

    재심 결과 보류.

    수정 후 재검토입니다. 직전 지적 2~5는 해결됐습니다. 평론가의 판단 범위 불일치와 실행 사례 부족 지적에 동의하며, 분량이나 차트 부재는 감점하지 않았습니다.

7차 원고 운영자 검토 84점 · 통과 8단계
  1. 운영자 검토 운영자 · 사람

    원고를 직접 읽고 수정 방향을 지시했습니다.

  2. 재집필 윤성 · 프로그래밍 칼럼니스트

    재작성 실패 — 재작성본이 잘려 이전 원고 유지 — 참고 자료 섹션이 없습니다 — 생성이 중간에 끊긴 것으로 보입니다. 원고를 그대로 두고 검수 대기로 되돌립니다

  3. 운영자 검토 운영자 · 사람

    원고를 직접 읽고 수정 방향을 지시했습니다.

  4. 재집필 윤성 · 프로그래밍 칼럼니스트

    운영자 지시를 반영해 다시 썼습니다 (3957자).

    제목을 바꿨습니다 → 「노트북 램으로 로컬 LLM 후보 고르기」

  5. 팩트체크 하경 · 검증관 통과

    팩트체크 통과: 확인 필요 0건

  6. 도표 재원 · 데이터·차트 담당

    차트 삽입: 전체 램 용량별 모델 메모리 예산 (bar, 항목 3개)

  7. 평론 예원 · 평론가 수정 후 재검토

    지적 6건을 남겼습니다.

    “파일 크기 비교는 후보 선별이며, 실행 확인에는 KV 캐시와 추가 버퍼가 필요합니다”라는 구분은 유용합니다. 다만 같은 경고가 반복되고, “무엇부터 시험할 것인가”라는 약속에 비

  8. 편집 심사 승현 · 편집장 84점 · 통과

    재심 결과 통과.

    발행 가능합니다. 직전 필수 수정은 모두 해결됐습니다. 평론가의 반복·첫 시험 예시 부족 지적에는 동의하지만 읽을 가치가 없을 정도는 아니며, 분량 자체는 감점하지 않았습니다.

8차 원고 발행 3단계
  1. 제목 다듬기 승현 · 편집장

    발행 직전 제목을 다듬었습니다.

    「노트북 램으로 로컬 LLM 후보 고르기」 → 「로컬 LLM, 노트북 램 예산으로 후보 고르기」

  2. 공개 대기 은혜 · 분석관·팀장

    심사를 통과해 10월 24일 10:00 공개를 기다렸습니다.

  3. 발행 은혜 · 분석관·팀장 84점

    칼럼을 발행했습니다.

최종 심사표

항목별 1~5점, 괄호는 총점 반영 비중입니다.

  • 구조 준수 (15%) 5.0/5
  • 심층성·독창성 (25%) 3.0/5
  • 데이터 근거 (25%) 5.0/5
  • 논리·정확성 (15%) 5.0/5
  • 가독성·문체 (10%) 3.0/5
  • 시각자료 (10%) 4.0/5

편집장이 꼽은 강점

공식 스펙과 단위를 근거로 메모리 예산을 계산하고, 가중치 기준 후보와 실제 실행 가능성을 명확히 구분하셨습니다.

남은 개선 제안 6건
  • (제안) 도입부는 용량별 결론부터 제시하고 양자화 기호와 KV 캐시는 해당 설명 절에서 소개해 주세요.
  • (제안) 검증된 본문 수치로 첫 시험의 계산 예시 기록표를 채우고, 미측정 항목과 다음 설정 변경 기준을 구분해 주세요.
  • (제안) KV 캐시 결과표를 수식보다

외 3건은 다음 칼럼 기획에 반영됩니다.

팩트체크한 주장

검증관 하경이 본문의 수치·사실 주장을 하나씩 확인한 최종 결과입니다.

  • 확인됨기존 로컬 LLM 칼럼과 달리 메모리 예산에 따른 후보 선별과 실행 확인을 다룹니다.
  • 확인됨Qwen3.5 Small은 2026년 3월 2일 공개됐으며, 본문은 Qwen3 세대의 계산 예시입니다. 원문
  • 확인됨운영체제·앱 사용량을 4~6GB로 가정해 모델 예산을 계산합니다.
  • 확인됨GB는 10⁹바이트, GiB는 2³⁰바이트이므로 단위를 통일해야 합니다. 원문
  • 확인됨Qwen3-8B의 Q4_K_M·Q5_K_M·Q6_K·Q8_0 파일 크기는 5.03·5.85·6.73·8.71GB이며 Q5_0은 5.72GB입니다. 원문
  • 확인됨양자화 단계별 파일 증가폭은 0.82·0.88·1.98GB입니다. 원문
  • 확인됨설정한 예산에서 8GB는 비교한 네 종류가 초과하고, 16GB·32GB는 모두 가중치 기준 후보입니다. 원문
  • 확인됨qwen3:4b는 4.02B·Q4_K_M·2.5GB이며 8GB 기기의 별도 검토 후보입니다. 원문
  • 확인됨실행 메모리는 가중치·KV 캐시·추가 버퍼를 함께 고려해야 합니다. 원문
  • 확인됨Qwen3-8B의 FP16 KV 캐시는 토큰당 131,072바이트이며, 4,096·32,768토큰에서 각각 0.5·4GiB입니다. 원문
  • 확인됨8비트 KV 원소 저장량은 FP16의 절반이지만 실제 할당량은 구현과 병렬성에 따라 달라집니다. 원문
  • 확인됨네이티브 컨텍스트는 32,768토큰이며 YaRN으로 131,072토큰까지 확장하지만 짧은 컨텍스트의 성능이 저하될 수 있습니다. 원문
모바일 버전