자료를 처리할 곳을 정하기
내 장비 안에서 문서 요약·초안 작성을 할 수 있습니다. 외부 전송을 줄이고 싶은 작업의 선택지가 됩니다.
모델이 로컬이어도 웹 검색·외부 도구·로그는 별도입니다. 연결 경로도 함께 확인합니다.
홈 / 로컬 AI
LOCAL AI / A PRACTICAL FIELD GUIDE
AI를,
내 컴퓨터 안으로.
왜 쓰는지부터 첫 실행, 모델과 장비 선택까지.
쉬운 설명에서 시작해 내 속도로 알아보세요.
설치 없이 읽고 비교하는 정보 가이드 · 모델은 실행하지 않습니다
YOUR MACHINELOCAL INFERENCE
01 모델 선택02 메모리 확인03 속도 이해
01 / 이해하기 · WHY LOCAL
내 컴퓨터에서 AI를 쓰면
무엇이 달라질까요?
먼저, 로컬이라는 말부터.
모델의 답을 만드는 계산이 어디서 일어나는지의 차이입니다.
LLM(Large Language Model, 대규모 언어모델)은 글을 읽고 다음 글의 조각을 만들어 답하는 AI입니다. 로컬 LLM은 그 모델 파일을 내 PC·Mac 또는 직접 관리하는 서버에 내려받아 실행합니다. 이미 학습된 모델을 사용하는 것이므로, 처음부터 AI를 학습시킬 필요는 없습니다.
준비한 모델을 계속 사용하기
도구와 모델을 준비하면 인터넷 없이 대화할 수 있는 조합이 있습니다. 로컬 계산에는 클라우드 API 호출당 요금이 붙지 않습니다.
장비·전력·설치와 관리 비용은 남습니다. 총비용이 항상 더 낮다는 뜻은 아닙니다.
내 작업에 맞춰 바꾸기
작은 요약 모델, 코딩 모델처럼 목적에 맞는 후보를 고르고 같은 자료로 비교할 수 있습니다. 실행 설정과 모델 버전도 직접 관리합니다.
정확도·한국어 품질·처리 속도는 직접 확인해야 합니다. 작은 모델이 모든 일을 잘하지는 않습니다.
클라우드와 함께 비교하세요.
설치·관리를 줄이거나 내 장비보다 큰 모델이 필요하다면 클라우드가 편할 수 있습니다. 자료의 외부 전송 가능 여부, 답변 품질, 사용 빈도, 운영 부담을 함께 보고 고르세요.
오프라인 범위와 연결 기능 확인: LM Studio 공식 안내 ↗ · Ollama 로컬·클라우드 구분 ↗
01 / 이해하기 · 첫 질문
처음엔, 이런 게 궁금합니다.
별도 그래픽카드(GPU)가 없어도 쓸 수 있나요?
컴퓨터의 일반 연산 장치(CPU)로 실행하는 도구와 모델 조합도 있습니다. 다만 장비에 따라 답변 속도가 크게 달라집니다. 작은 모델의 짧은 입력으로 먼저 확인하세요. llama.cpp 하드웨어 지원 ↗
로컬이면 답이 더 정확한가요?
실행 위치와 정답 여부는 별개입니다. 다운로드 수도 관심도의 참고값입니다. 한국어 정확도, 소방 용어 이해, 출처 보존을 보증하지 않습니다. 같은 합성 자료와 확인 기준으로 모델을 비교하세요. 이 페이지의 모델은 자체 한국어 업무 평가를 거치지 않았습니다.
로컬이면 인터넷도 필요 없고, 정보가 밖으로 나가지 않나요?
모델·실행 도구를 준비하는 단계와 실제 계산 단계를 구분해야 합니다. LM Studio는 내려받은 모델의 오프라인 사용을 안내하지만 검색·다운로드·업데이트에는 인터넷을 사용합니다. Ollama도 로컬 모델과 클라우드 기능을 구분합니다. 연결한 도구·로그까지 확인해야 합니다. LM Studio 오프라인 범위 ↗ · Ollama 로컬 전용 모드 ↗
모델을 내려받으면 비용이 전혀 없나요?
호출당 클라우드 요금과 장비·운영 비용을 구분해야 합니다. 가중치 공개와 이용 조건도 별개입니다. 공식 모델 카드·라이선스 원문과 변환본·실행 도구의 조건을 각각 확인하세요. 장비·전력·운영 비용도 남습니다. 이 페이지의 라이선스 표시는 조사일의 원문 식별자입니다.
처음부터 비싼 장비를 사야 하나요?
먼저 현재 장비에서 지원되는 작은 모델로 목적에 맞는지 확인하세요. 아래 메모리 계산은 이론 가중치와 여유 예산만 비교합니다. 모델 지원, 원하는 문맥 길이, 동시 사용 인원, 실측 속도를 확인한 뒤 판단하세요. 속도 계산기는 장비 구매 성능표가 아닙니다.
01 / 이해하기 · 변화의 흐름
더 작게, 더 다양하게,
실행은 더 쉽게.
2026-09-16 공식 자료 확인
출시 사례로 읽는 방향이며, 성능 향상률 순위가 아닙니다.
모델 발표와 실행 도구 지원은 서로 다른 속도로 바뀝니다. 아래 사례처럼 수개월 사이에도 입력 방식과 추론 기능이 달라졌습니다. 새 모델의 이름만 보기보다 내 장비에서 실행 가능한가, 내 작업에 도움이 되는가를 다시 확인하는 것이 중요합니다.
Gemma 3 · 글에서 이미지까지
여러 크기와 양자화 배포본이 제공되고, 4B 이상 모델은 이미지도 읽습니다. 같은 계열 안에서도 입력 기능과 장비 요구가 달라진다는 사례입니다.
Google 발표 ↗Qwen3 · 답하기 전에 더 계산하기
생각하는 모드와 바로 답하는 모드를 제공하며, 전체 중 일부 계산을 선택하는 모델 구조도 함께 공개했습니다. 답변 품질과 기다리는 시간을 함께 고르는 방향입니다.
Qwen 발표 ↗Qwen3.5 · 이미지 이해와 도구 활용을 함께
글·이미지를 함께 다루고 외부 도구를 활용하는 방향을 강조했습니다. 현재 로컬 배포 목록에는 여러 작은 크기도 있지만, 계열의 모든 모델이 노트북용인 것은 아닙니다.
Qwen 발표 ↗ · 현재 배포 크기 확인 ↗
앞으로 볼 세 가지: 작은 모델의 품질 · 다루는 자료의 종류 · 실행 도구 지원
이는 위 발표와 공식 도구 문서에서 읽은 편집 방향입니다. 같은 장비가 자동으로 빨라지거나, 작은 최신 모델이 모든 이전 모델을 이긴다는 예측은 아닙니다. 모델을 바꿀 때는 답의 정확도·첫 답 대기·출력 속도를 같은 예제로 비교하세요.
설치형 앱에서 모델 검색·다운로드·대화까지 이어지는 경로도 제공됩니다. LM Studio 시작 흐름 ↗ · Ollama 시작 흐름 ↗
01 / 이해하기 · 모델 이름 읽기
네 가지만 알면
숫자가 읽힙니다.
모델은 학습 결과를 담은 파일, 실행 도구는 그 파일로 답을 만드는 프로그램입니다. 모델을 고르기 전에 네 가지 표현을 확인하세요. 각 항목을 펼치면 쉬운 설명을 볼 수 있습니다.
모델 크기2B, 9B… B가 뭔가요?
B는 10억 개의 파라미터를 뜻합니다. 모델이 학습한 숫자 설정의 규모예요. 크기가 커지면 저장·메모리 부담도 늘지만, 업무 정확도가 비례해 높아지는 것은 아닙니다.
양자화같은 모델을 더 작게 담기
가중치 숫자의 정밀도를 낮춰 공간을 줄이는 방법입니다. 4bit는 16bit보다 이론 가중치 공간이 작지만, 실제 파일 형식과 품질 변화는 별도 확인해야 합니다. 4bit를 선택해도 모델을 직접 변환하지는 않습니다.
메모리모델과 대화를 펼치는 책상
저장 공간은 책장, 메모리는 지금 펼칠 책상에 가깝습니다. 모델 파일을 저장할 SSD와 실행할 RAM·VRAM이 모두 필요합니다. 가중치 외에도 이전 계산을 재사용하는 공간(KV 캐시)과 실행 중 임시 공간이 필요합니다.
토큰·문맥글의 조각과 한 번에 볼 분량
토큰은 모델이 처리하는 글의 조각입니다. 한글 한 글자나 한 단어와 꼭 같지 않습니다. 문맥에는 질문·자료·이전 대화와 생성할 답이 들어갑니다. 긴 자료를 넣으면 메모리와 기다림도 달라집니다.
01 / 이해하기 · 첫 실행
설치부터 첫 답변까지,
이렇게 시작합니다.
실행 도구와 모델 파일, 두 가지를 준비합니다.
처음이라면 화면으로 조작하는 경로부터 읽어 보세요.
- 1. 도구 설치내 운영체제를 지원하는 앱
- 2. 모델 다운로드디스크에 파일 저장
- 3. 메모리에 로딩계산할 준비
- 4. 질문하고 확인답을 원문과 대조
화면으로 시작 · LM Studio코드 없이 첫 대화 하기설치 → Discover → Chat
- 장비 확인 후 앱 설치. 공식 시스템 요구사항에서 내 OS·CPU·GPU 지원을 확인합니다.
- Discover에서 모델 찾기. 대화용(Instruct/IT) 모델 중 작은 크기의 지원 배포본을 고릅니다. 파일 용량 외에 실행 메모리도 필요합니다.
- 다운로드 후 Chat에서 로딩. 내려받은 모델을 선택해 메모리에 올립니다. 다운로드 완료와 실행 준비 완료는 다른 단계입니다.
- 아래 연습 문장을 입력. 답이 나오면 담당자·기한이 원문과 일치하는지 확인합니다.
명령어로 시작 · Ollama명령 하나로 모델 실행하기터미널이 익숙하다면 펼쳐 보세요
- 공식 안내에 따라 설치·실행. Mac·Windows 앱 또는 Linux 안내를 따릅니다. 터미널은 명령어를 입력하는 창입니다.
- 작은 로컬 모델로 동작 확인. 아래 예시는 Gemma 3의 텍스트 전용 1B 변형입니다. 첫 실행 시 파일을 내려받으므로 인터넷·저장 공간이 필요합니다.
ollama run gemma3:1b-it-q4_K_M대화 입력 표시가 나오면 아래 연습 문장을 붙여 넣습니다. 이 모델은 실행 절차 확인용 예시이며 한국어 업무 성능 추천 순위가 아닙니다.
다른 터미널에서 ollama ps로 실행 상태를 확인합니다. 작업 뒤 모델을 내리려면 다음 명령을 사용합니다.
ollama stop gemma3:1b-it-q4_K_M첫 질문 예시 · 합성 자료
다음 회의 메모에서 담당자와 기한만 뽑아 주세요. 없는 정보는 추측하지 마세요.
“김하늘은 9월 20일까지 교육 안내문을 작성한다. 장비 점검 담당자는 아직 정하지 않았다.”
확인할 답: 교육 안내문 — 김하늘 / 9월 20일. 장비 점검 — 담당자·기한 미정. 표현이 달라도 정보가 보존되는지 확인하세요.
로딩이 실패하거나 너무 느릴 때는요?
실행 도구가 모델 구조·파일 형식과 내 장비를 지원하는지 먼저 확인합니다. 메모리 부족이면 더 작은 모델, 더 짧은 문맥으로 다시 살펴보세요. 다운로드 파일이 들어간다고 실행 메모리까지 충분한 것은 아닙니다. 메모리 차이 보기 → · 내 예산 계산하기 →
Ollama의 실행 상태는 ollama ps로 확인합니다. 로컬 모델·클라우드 모델을 구분하고, 외부 기능을 끄려면 공식 로컬 전용 설정을 따르세요. 실행·로컬 전용 설정 ↗
더 세밀한 CPU·GPU 설정이 필요해지면 llama.cpp ↗를 살펴볼 수 있습니다. 지금은 첫 실행과 답의 확인까지만 해도 충분합니다. 실행 절차 출처 확인: 2026-09-16.
02 / 선택하기 · 메모리 기초
RAM과 VRAM,
같은 메모리일까요?
용량은 펼칠 수 있는 자료의 양,
대역폭은 그 자료를 옮기는 속도입니다.
일반 RAM
CPU(일반 연산을 맡는 중앙처리장치)와 운영체제가 쓰는 작업 공간입니다. CPU로 모델을 실행하거나, GPU에 못 올린 일부를 보관할 수 있습니다.
RAM 64GB ≠ VRAM 64GB외장 GPU와의 이동에는 PCIe 등 별도 경로가 필요합니다. RAM을 늘려도 GPU 메모리 대역폭이 늘지는 않습니다.
그래픽카드 VRAM
GPU(여러 계산을 병렬로 처리하는 그래픽 처리장치)가 직접 사용하는 전용 메모리입니다. 모델 가중치·이전 계산을 재사용하는 KV 캐시·임시 연산 공간이 이 안에 들어가면 CPU로 나누는 부담을 줄일 수 있습니다.
용량과 대역폭을 함께 보기같은 16GB GPU라도 메모리 종류·버스·속도가 다릅니다. 데스크톱과 노트북의 동명 GPU도 구성이 다를 수 있습니다.
통합 메모리
Apple Silicon과 DGX Spark처럼 CPU·GPU가 하나의 물리적 메모리 공간을 공유하는 구조입니다.
한 공간을 두 번 더하지 않기운영체제와 다른 프로그램도 이 공간을 씁니다. 표기 용량 전부가 모델용 VRAM으로 보장되는 것은 아닙니다.
오프로딩·KV 캐시·GB와 GiB까지 이해하기
오프로딩은 모델 일부를 CPU·RAM 쪽으로 나누는 방식입니다. 더 큰 모델을 실행할 여지는 있지만, 느린 메모리와 장치 간 이동이 병목이 될 수 있습니다. 여러 GPU 용량도 별도 분할 실행 설정 없이 자동 합산되지 않습니다.
KV 캐시는 앞선 토큰의 계산 결과를 재사용하는 공간입니다. 입력·대화가 길어지고 동시 요청이 늘면 가중치 외의 메모리도 필요합니다. 모델의 최대 문맥과 내 장비에서 실제 쓸 문맥을 구분하세요.
GB는 10억 바이트, GiB는 1,073,741,824바이트입니다. 아래 사양표는 제조사 표기 GB를 보존하고 대역폭 계산은 십진 GB/s를 사용합니다. 메모리 예산 계산기는 GiB입니다. 다운로드 파일 크기와 실행 메모리도 서로 다릅니다.
02 / 선택하기 · 모델 탐색
크기부터 전문 변형까지,
모델 탐색.
같은 계열의 크기·용도·양자화를 구분해 보세요.
2026-09-16 확인 · 20개 계열 · 73개 원본·배포 변형
먼저 용도 → 전체 크기 → 배포 형식 순서로 좁혀 보세요. Dense는 주요 모델 계산을 매 토큰 수행하고, MoE(Mixture of Experts, 전문가 혼합)는 일부 전문가를 선택하는 구조입니다. MoE도 전체 가중치를 담을 공간은 별도로 필요합니다.
Base·Instruct·Thinking·Coder·Distill·Q4는 무엇이 다른가요?
Base는 기본 사전학습 모델로 대화 지시 수행에 맞춘 후처리가 없을 수 있습니다. Instruct/IT는 지시 수행·대화에 맞춘 변형입니다. Coder는 코드 과제, Thinking/Reasoning은 추론 과정을 중시하는 변형입니다. VL/Vision은 이미지 입력을 다루는 계열입니다.
Distill은 다른 모델의 출력 등을 활용한 학습 경로를 뜻합니다. DeepSeek-R1의 작은 Qwen·Llama 기반 변형은 671B 원본을 단순 압축한 파일과 다릅니다. Q4_K_M·Q8_0·MXFP4는 저장 정밀도·형식에 관한 표기이며 전문 튜닝 이름이 아닙니다. 같은 9B도 형식에 따라 파일·메모리·품질이 달라집니다.
계열명·파라미터 크기·학습 변형·양자화 태그를 함께 확인하세요. Ollama 모델 목록 · R1 원본·증류 변형 · Coder 태그
DeepSeek R1Dense
DeepSeek · Distill / Qwen
DeepSeek R1 · 1.5B QWEN 증류 · Q4_K_M
수학·논리·코딩 추론을 위한 모델입니다. 원본과 증류 모델을 구분하세요.
쉽게 읽으면전체 약 17.8억 개 · Dense 구조 · 4bit 중심 혼합 저장
1.78B계산용 전체 파라미터
1.1GB태그 다운로드 파일
deepseek-r1:1.5b-qwen-distill-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 1.5B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 1.5B 표기는 약 15억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 1.78B(약 17.8억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Distill · 증류 학습
- 다른 모델의 출력 등을 학습에 활용한 변형입니다. 여기의 Qwen·Llama는 바탕이 된 모델 계열을 가리킵니다. 큰 R1 원본의 파일 정밀도만 낮춘 양자화와는 다른 학습 경로입니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 1.1GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
DeepSeek R1Dense
DeepSeek · Distill / Qwen
DeepSeek R1 · 7B QWEN 증류 · Q4_K_M
수학·논리·코딩 추론을 위한 모델입니다. 원본과 증류 모델을 구분하세요.
쉽게 읽으면전체 약 76.2억 개 · Dense 구조 · 4bit 중심 혼합 저장
7.62B계산용 전체 파라미터
4.7GB태그 다운로드 파일
deepseek-r1:7b-qwen-distill-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 7B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 7B 표기는 약 70억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 7.62B(약 76.2억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Distill · 증류 학습
- 다른 모델의 출력 등을 학습에 활용한 변형입니다. 여기의 Qwen·Llama는 바탕이 된 모델 계열을 가리킵니다. 큰 R1 원본의 파일 정밀도만 낮춘 양자화와는 다른 학습 경로입니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 4.7GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
DeepSeek R1Dense
DeepSeek · Distill / Llama
DeepSeek R1 · 8B LLAMA 증류 · Q4_K_M
수학·논리·코딩 추론을 위한 모델입니다. 원본과 증류 모델을 구분하세요.
쉽게 읽으면전체 약 80.3억 개 · Dense 구조 · 4bit 중심 혼합 저장
8.03B계산용 전체 파라미터
4.9GB태그 다운로드 파일
deepseek-r1:8b-llama-distill-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 8B 표기는 약 80억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 8.03B(약 80.3억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Distill · 증류 학습
- 다른 모델의 출력 등을 학습에 활용한 변형입니다. 여기의 Qwen·Llama는 바탕이 된 모델 계열을 가리킵니다. 큰 R1 원본의 파일 정밀도만 낮춘 양자화와는 다른 학습 경로입니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 4.9GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
DeepSeek R1Dense
DeepSeek · 0528 / Qwen3 8B
DeepSeek R1 · 8B-0528-QWEN3 · Q4_K_M
수학·논리·코딩 추론을 위한 모델입니다. 원본과 증류 모델을 구분하세요.
쉽게 읽으면전체 약 81.9억 개 · Dense 구조 · 4bit 중심 혼합 저장
8.19B계산용 전체 파라미터
5.2GB태그 다운로드 파일
deepseek-r1:8b-0528-qwen3-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 8B 표기는 약 80억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 8.19B(약 81.9억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- 0528 · 배포 버전
- 서로 다른 릴리스·변형을 구분하는 식별자입니다. 파라미터 수나 메모리 용량이 아닙니다. 같은 계열이라도 정확한 태그를 함께 확인하세요.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 5.2GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
DeepSeek R1Dense
DeepSeek · Distill / Qwen
DeepSeek R1 · 14B QWEN 증류 · Q4_K_M
수학·논리·코딩 추론을 위한 모델입니다. 원본과 증류 모델을 구분하세요.
쉽게 읽으면전체 약 148억 개 · Dense 구조 · 4bit 중심 혼합 저장
14.8B계산용 전체 파라미터
9GB태그 다운로드 파일
deepseek-r1:14b-qwen-distill-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 14B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 14B 표기는 약 140억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 14.8B(약 148억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Distill · 증류 학습
- 다른 모델의 출력 등을 학습에 활용한 변형입니다. 여기의 Qwen·Llama는 바탕이 된 모델 계열을 가리킵니다. 큰 R1 원본의 파일 정밀도만 낮춘 양자화와는 다른 학습 경로입니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 9GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
DeepSeek R1Dense
DeepSeek · Distill / Qwen
DeepSeek R1 · 32B QWEN 증류 · Q4_K_M
수학·논리·코딩 추론을 위한 모델입니다. 원본과 증류 모델을 구분하세요.
쉽게 읽으면전체 약 328억 개 · Dense 구조 · 4bit 중심 혼합 저장
32.8B계산용 전체 파라미터
20GB태그 다운로드 파일
deepseek-r1:32b-qwen-distill-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 32B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 32B 표기는 약 320억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 32.8B(약 328억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Distill · 증류 학습
- 다른 모델의 출력 등을 학습에 활용한 변형입니다. 여기의 Qwen·Llama는 바탕이 된 모델 계열을 가리킵니다. 큰 R1 원본의 파일 정밀도만 낮춘 양자화와는 다른 학습 경로입니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 20GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
DeepSeek R1Dense
DeepSeek · Distill / Llama
DeepSeek R1 · 70B LLAMA 증류 · Q4_K_M
수학·논리·코딩 추론을 위한 모델입니다. 원본과 증류 모델을 구분하세요.
쉽게 읽으면전체 약 706억 개 · Dense 구조 · 4bit 중심 혼합 저장
70.6B계산용 전체 파라미터
43GB태그 다운로드 파일
deepseek-r1:70b-llama-distill-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 70B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 70B 표기는 약 700억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 70.6B(약 706억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Distill · 증류 학습
- 다른 모델의 출력 등을 학습에 활용한 변형입니다. 여기의 Qwen·Llama는 바탕이 된 모델 계열을 가리킵니다. 큰 R1 원본의 파일 정밀도만 낮춘 양자화와는 다른 학습 경로입니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 43GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
DeepSeek R1MoE
DeepSeek · 0528 / 원본 MoE
DeepSeek R1 · 671B-0528 · Q4_K_M
수학·논리·코딩 추론을 위한 모델입니다. 원본과 증류 모델을 구분하세요.
쉽게 읽으면전체 약 6,710억 개 · 토큰당 활성 약 370억 개 · 4bit 중심 혼합 저장
671B계산용 전체 파라미터
404GB태그 다운로드 파일
deepseek-r1:671b-0528-q4_K_MQ4_K_M · 태그 문맥 163,840토큰
이 모델의 이름·숫자 풀어보기
- 671B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 671B 표기는 약 6,710억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 671B(약 6,710억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- MoE · 일부 전문가를 선택
- MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 37B(약 370억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- 0528 · 배포 버전
- 서로 다른 릴리스·변형을 구분하는 식별자입니다. 파라미터 수나 메모리 용량이 아닙니다. 같은 계열이라도 정확한 태그를 함께 확인하세요.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 404GB, 표시된 최대 문맥은 163,840토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 37B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Devstral Small 2Dense
Mistral AI · Instruct / 코딩 에이전트
Devstral Small 2 · 24B · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 240억 개 · Dense 구조 · 4bit 중심 혼합 저장
24B계산용 전체 파라미터
15GB태그 다운로드 파일
devstral-small-2:24b-instruct-2512-q4_K_MQ4_K_M · 태그 문맥 393,216토큰
이 모델의 이름·숫자 풀어보기
- 24B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 24B 표기는 약 240억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 24B(약 240억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 2512 · 배포 버전
- 서로 다른 릴리스·변형을 구분하는 식별자입니다. 파라미터 수나 메모리 용량이 아닙니다. 같은 계열이라도 정확한 태그를 함께 확인하세요.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 15GB, 표시된 최대 문맥은 393,216토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Gemma 3Dense
Google · Instruct / 범용
Gemma 3 · 270M · Q8_0
문서 요약과 질문 응답을 비교할 범용 후보입니다.
쉽게 읽으면전체 약 2.68억 개 · Dense 구조 · 8bit 양자화 저장
0.27B계산용 전체 파라미터
0.292GB태그 다운로드 파일
gemma3:270m-it-q8_0Q8_0 · 태그 문맥 32,768토큰
이 모델의 이름·숫자 풀어보기
- 270M · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 270M 표기는 약 2.7억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 0.268B(약 2.68억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q8_0
- Q는 양자화, 8은 가중치를 8bit 정수로 표현한다는 뜻입니다. bit는 정보의 단위입니다. _0은 양자화 형식의 식별자이며 0bit라는 뜻이 아닙니다. 묶음마다 스케일 같은 보조 정보도 저장합니다. 같은 모델의 Q4 배포본보다 일반적으로 파일이 크지만, 더 빠르거나 항상 더 좋은 답을 한다는 보장은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 0.292GB, 표시된 최대 문맥은 32,768토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Gemma 3Dense
Google · Instruct / 범용
Gemma 3 · 1B · Q4_K_M
문서 요약과 질문 응답을 비교할 범용 후보입니다.
쉽게 읽으면전체 약 10억 개 · Dense 구조 · 4bit 중심 혼합 저장
1B계산용 전체 파라미터
0.815GB태그 다운로드 파일
gemma3:1b-it-q4_K_MQ4_K_M · 태그 문맥 32,768토큰
이 모델의 이름·숫자 풀어보기
- 1B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 1B 표기는 약 10억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 1B(약 10억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 0.815GB, 표시된 최대 문맥은 32,768토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Gemma 3Dense
Google · Instruct / 이미지 이해
Gemma 3 · 4B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 43억 개 · Dense 구조 · 4bit 중심 혼합 저장
4.3B계산용 전체 파라미터
3.3GB태그 다운로드 파일
gemma3:4b-it-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 4B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 4B 표기는 약 40억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 4.3B(약 43억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 3.3GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Gemma 3Dense
Google · Instruct / 이미지 이해
Gemma 3 · 12B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 122억 개 · Dense 구조 · 4bit 중심 혼합 저장
12.2B계산용 전체 파라미터
8.1GB태그 다운로드 파일
gemma3:12b-it-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 12B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 12B 표기는 약 120억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 12.2B(약 122억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 8.1GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Gemma 3Dense
Google · Instruct / 이미지 이해
Gemma 3 · 27B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 274억 개 · Dense 구조 · 4bit 중심 혼합 저장
27.4B계산용 전체 파라미터
17GB태그 다운로드 파일
gemma3:27b-it-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 27B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 27B 표기는 약 270억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 27.4B(약 274억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 17GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Gemma 4Dense
Google · 멀티모달 / 추론
Gemma 4 · 12B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 119.524억 개 · Dense 구조 · 4bit 중심 혼합 저장
11.95B계산용 전체 파라미터
7.6GB태그 다운로드 파일
gemma4:12b-it-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 12B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 12B 표기는 약 120억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 11.952B(약 119.524억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 7.6GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다. 이미지 인코더·프로젝터가 별도 정밀도로 포함될 수 있습니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Gemma 4Dense
Google · 멀티모달 / 추론
Gemma 4 · 12B · Q8_0
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 119.524억 개 · Dense 구조 · 8bit 양자화 저장
11.95B계산용 전체 파라미터
13GB태그 다운로드 파일
gemma4:12b-it-q8_0Q8_0 · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 12B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 12B 표기는 약 120억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 11.952B(약 119.524억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q8_0
- Q는 양자화, 8은 가중치를 8bit 정수로 표현한다는 뜻입니다. bit는 정보의 단위입니다. _0은 양자화 형식의 식별자이며 0bit라는 뜻이 아닙니다. 묶음마다 스케일 같은 보조 정보도 저장합니다. 같은 모델의 Q4 배포본보다 일반적으로 파일이 크지만, 더 빠르거나 항상 더 좋은 답을 한다는 보장은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 13GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다. 이미지 인코더·프로젝터가 별도 정밀도로 포함될 수 있습니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Gemma 4Dense
Google · 원본 가중치
Gemma 4 · 12B
Qwen과 다른 계열로 같은 요약·추론 과제를 비교할 후보입니다.
쉽게 읽으면전체 약 119.597억 개 · Dense 구조 · 배포 파일 별도 선택
11.96B계산용 전체 파라미터
15.6만HF 다운로드 관측
원본 모델 카드 · 다운로드 변형은 별도 항목
이 모델의 이름·숫자 풀어보기
- 12B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 12B 표기는 약 120억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 11.96B(약 119.597억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- 원본 모델 카드 · 양자화 미지정
- 이 항목은 특정 양자화 파일이 아닌 원본 모델의 정보입니다. 양자화 태그가 없다는 이유로 모든 가중치가 16bit라고 가정하지 마세요. 실제로 내려받는 배포 파일의 형식을 따로 확인해야 합니다.
선택 전에 알아둘 점
이 페이지의 활용 분류는 탐색용 편집 기준이며 성능 인증이 아닙니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 공식 저장소의 safetensors 메타데이터이며 이미지 구성요소 등이 포함될 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
HF 다운로드 155,747회 · 좋아요 738개 · 관측 원문
Gemma 4MoE
Google · 멀티모달 / 추론
Gemma 4 · 26B-A4B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 258억 개 · 토큰당 활성 약 38억 개 · 4bit 중심 혼합 저장
25.8B계산용 전체 파라미터
18GB태그 다운로드 파일
gemma4:26b-a4b-it-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 26B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 26B 표기는 약 260억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 25.8B(약 258억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A4B · 토큰당 활성 규모
- A는 Active(활성)입니다. A4B 표기는 토큰 하나를 계산할 때 약 40억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3.8B(약 38억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 18GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 3.8B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Gemma 4Dense
Google · 멀티모달 / 추론
Gemma 4 · 31B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 313억 개 · Dense 구조 · 4bit 중심 혼합 저장
31.3B계산용 전체 파라미터
20GB태그 다운로드 파일
gemma4:31b-it-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 31B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 31B 표기는 약 310억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 31.3B(약 313억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 20GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
gpt-ossMoE
OpenAI · MoE / 추론
gpt-oss · 20B · MXFP4
추론과 도구 호출을 위한 MoE 모델입니다. 전체와 활성 크기가 다릅니다.
쉽게 읽으면전체 약 209억 개 · 토큰당 활성 약 36억 개 · 4bit 부동소수점 혼합 저장
20.9B계산용 전체 파라미터
14GB태그 다운로드 파일
gpt-oss:20bMXFP4 · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 20B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 20B 표기는 약 200억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 20.9B(약 209억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- MoE · 일부 전문가를 선택
- MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3.6B(약 36억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- MXFP4
- MX는 microscaling(작은 묶음이 스케일을 공유), FP는 floating point(부동소수점), 4는 4bit 표현을 뜻합니다. 이 gpt-oss 배포는 MoE 전문가 가중치에 MXFP4를 사용하고 다른 구성요소에는 더 높은 정밀도를 함께 사용합니다. Q4_K_M과는 다른 형식입니다. 파일 전체가 파라미터 수 × 4bit와 정확히 같지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 14GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 3.6B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
gpt-ossMoE
OpenAI · 원본 가중치
gpt-oss · 20B
MoE 구조의 공개 가중치 추론 모델로 로컬 추론을 살펴봅니다.
쉽게 읽으면전체 약 209.148억 개 · 토큰당 활성 약 36억 개 · 배포 파일 별도 선택
20.91B계산용 전체 파라미터
662.7만HF 다운로드 관측
원본 모델 카드 · 다운로드 변형은 별도 항목
이 모델의 이름·숫자 풀어보기
- 20B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 20B 표기는 약 200억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 20.915B(약 209.148억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- MoE · 일부 전문가를 선택
- MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3.6B(약 36억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- 원본 모델 카드 · 양자화 미지정
- 이 항목은 특정 양자화 파일이 아닌 원본 모델의 정보입니다. 양자화 태그가 없다는 이유로 모든 가중치가 16bit라고 가정하지 마세요. 실제로 내려받는 배포 파일의 형식을 따로 확인해야 합니다.
선택 전에 알아둘 점
MXFP4 같은 실제 형식은 단순 4bit 계산과 크기가 다릅니다. 생각 토큰도 생성 시간에 영향을 줍니다.
한 토큰 계산의 활성 규모는 약 3.6B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 공식 저장소의 safetensors 메타데이터이며 이미지 구성요소 등이 포함될 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
HF 다운로드 6,627,327회 · 좋아요 5,058개 · 관측 원문
gpt-ossMoE
OpenAI · MoE / 추론
gpt-oss · 120B · MXFP4
추론과 도구 호출을 위한 MoE 모델입니다. 전체와 활성 크기가 다릅니다.
쉽게 읽으면전체 약 1,170억 개 · 토큰당 활성 약 51억 개 · 4bit 부동소수점 혼합 저장
117B계산용 전체 파라미터
65GB태그 다운로드 파일
gpt-oss:120bMXFP4 · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 120B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 120B 표기는 약 1,200억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 117B(약 1,170억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- MoE · 일부 전문가를 선택
- MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 5.1B(약 51억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- MXFP4
- MX는 microscaling(작은 묶음이 스케일을 공유), FP는 floating point(부동소수점), 4는 4bit 표현을 뜻합니다. 이 gpt-oss 배포는 MoE 전문가 가중치에 MXFP4를 사용하고 다른 구성요소에는 더 높은 정밀도를 함께 사용합니다. Q4_K_M과는 다른 형식입니다. 파일 전체가 파라미터 수 × 4bit와 정확히 같지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 65GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 5.1B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Llama 3.2Dense
Meta · Instruct / 범용
Llama 3.2 · 1B · Q4_K_M
문서 요약과 질문 응답을 비교할 범용 후보입니다.
쉽게 읽으면전체 약 12.4억 개 · Dense 구조 · 4bit 중심 혼합 저장
1.24B계산용 전체 파라미터
0.808GB태그 다운로드 파일
llama3.2:1b-instruct-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 1B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 1B 표기는 약 10억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 1.24B(약 12.4억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 0.808GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Llama 3.2Dense
Meta · Instruct / 범용
Llama 3.2 · 3B · Q4_K_M
문서 요약과 질문 응답을 비교할 범용 후보입니다.
쉽게 읽으면전체 약 32.1억 개 · Dense 구조 · 4bit 중심 혼합 저장
3.21B계산용 전체 파라미터
2GB태그 다운로드 파일
llama3.2:3b-instruct-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 3B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 3B 표기는 약 30억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 3.21B(약 32.1억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 2GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Llama 3.2 VisionDense
Meta · Instruct / 이미지 이해
Llama 3.2 Vision · 11B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 107억 개 · Dense 구조 · 4bit 중심 혼합 저장
10.7B계산용 전체 파라미터
7.8GB태그 다운로드 파일
llama3.2-vision:11b-instruct-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 11B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 11B 표기는 약 110억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 10.7B(약 107억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 7.8GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Llama 3.3Dense
Meta · Instruct / 범용
Llama 3.3 · 70B · Q4_K_M
문서 요약과 질문 응답을 비교할 범용 후보입니다.
쉽게 읽으면전체 약 706억 개 · Dense 구조 · 4bit 중심 혼합 저장
70.6B계산용 전체 파라미터
43GB태그 다운로드 파일
llama3.3:70b-instruct-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 70B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 70B 표기는 약 700억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 70.6B(약 706억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 43GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Ministral 3Dense
Mistral AI · Instruct / 이미지 이해
Ministral 3 · 3B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 38.5억 개 · Dense 구조 · 4bit 중심 혼합 저장
3.85B계산용 전체 파라미터
3GB태그 다운로드 파일
ministral-3:3b-instruct-2512-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 3B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 3B 표기는 약 30억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 3.85B(약 38.5억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 2512 · 배포 버전
- 서로 다른 릴리스·변형을 구분하는 식별자입니다. 파라미터 수나 메모리 용량이 아닙니다. 같은 계열이라도 정확한 태그를 함께 확인하세요.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 3GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Ministral 3Dense
Mistral AI · 원본 가중치
Ministral 3 · 8B
지시에 따라 요약·정보 정리를 수행하는 다른 계열의 후보입니다.
쉽게 읽으면전체 약 89.18억 개 · Dense 구조 · 배포 파일 별도 선택
8.92B계산용 전체 파라미터
6.9만HF 다운로드 관측
원본 모델 카드 · 다운로드 변형은 별도 항목
이 모델의 이름·숫자 풀어보기
- 8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 8B 표기는 약 80억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 8.918B(약 89.18억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- 원본 모델 카드 · 양자화 미지정
- 이 항목은 특정 양자화 파일이 아닌 원본 모델의 정보입니다. 양자화 태그가 없다는 이유로 모든 가중치가 16bit라고 가정하지 마세요. 실제로 내려받는 배포 파일의 형식을 따로 확인해야 합니다.
선택 전에 알아둘 점
입력 자료를 근거로 답했는지 검토하세요. 한국어 성능은 미측정입니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 공식 저장소의 safetensors 메타데이터이며 이미지 구성요소 등이 포함될 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
HF 다운로드 68,621회 · 좋아요 202개 · 관측 원문
Ministral 3Dense
Mistral AI · Instruct / 이미지 이해
Ministral 3 · 8B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 89.2억 개 · Dense 구조 · 4bit 중심 혼합 저장
8.92B계산용 전체 파라미터
6GB태그 다운로드 파일
ministral-3:8b-instruct-2512-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 8B 표기는 약 80억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 8.92B(약 89.2억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 2512 · 배포 버전
- 서로 다른 릴리스·변형을 구분하는 식별자입니다. 파라미터 수나 메모리 용량이 아닙니다. 같은 계열이라도 정확한 태그를 함께 확인하세요.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 6GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Ministral 3Dense
Mistral AI · Instruct / 이미지 이해
Ministral 3 · 14B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 139억 개 · Dense 구조 · 4bit 중심 혼합 저장
13.9B계산용 전체 파라미터
9.1GB태그 다운로드 파일
ministral-3:14b-instruct-2512-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 14B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 14B 표기는 약 140억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 13.9B(약 139억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 2512 · 배포 버전
- 서로 다른 릴리스·변형을 구분하는 식별자입니다. 파라미터 수나 메모리 용량이 아닙니다. 같은 계열이라도 정확한 태그를 함께 확인하세요.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 9.1GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Phi-4Dense
Microsoft · Instruct / 범용
Phi-4 · 14B · Q4_K_M
메모리 규모와 단계별 문제 풀이를 비교할 Microsoft 모델입니다.
쉽게 읽으면전체 약 147억 개 · Dense 구조 · 4bit 중심 혼합 저장
14.7B계산용 전체 파라미터
9.1GB태그 다운로드 파일
phi4:14b-q4_K_MQ4_K_M · 태그 문맥 16,384토큰
이 모델의 이름·숫자 풀어보기
- 14B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 14B 표기는 약 140억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 14.7B(약 147억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 9.1GB, 표시된 최대 문맥은 16,384토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Phi-4 MiniDense
Microsoft · Instruct / 범용
Phi-4 Mini · 3.8B · Q4_K_M
메모리 규모와 단계별 문제 풀이를 비교할 Microsoft 모델입니다.
쉽게 읽으면전체 약 38.4억 개 · Dense 구조 · 4bit 중심 혼합 저장
3.84B계산용 전체 파라미터
2.5GB태그 다운로드 파일
phi4-mini:3.8b-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 3.8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 3.8B 표기는 약 38억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 3.84B(약 38.4억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 2.5GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Phi-4 Mini ReasoningDense
Microsoft · Reasoning / 수학 추론
Phi-4 Mini Reasoning · 3.8B · Q4_K_M
메모리 규모와 단계별 문제 풀이를 비교할 Microsoft 모델입니다.
쉽게 읽으면전체 약 38.4억 개 · Dense 구조 · 4bit 중심 혼합 저장
3.84B계산용 전체 파라미터
3.2GB태그 다운로드 파일
phi4-mini-reasoning:3.8b-q4_K_MQ4_K_M · 태그 문맥 131,072토큰
이 모델의 이름·숫자 풀어보기
- 3.8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 3.8B 표기는 약 38억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 3.84B(약 38.4억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Thinking / Reasoning · 추론 용도
- 문제 해결 과정의 추론을 중시하는 변형입니다. 내부 생각 토큰 때문에 첫 답변까지 더 기다리거나 생성량이 늘 수 있습니다. 생각 과정의 표시와 제어는 실행 도구·모델에 따라 다릅니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 3.2GB, 표시된 최대 문맥은 131,072토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen2.5 CoderDense
Alibaba Qwen · Coder / 코딩 특화
Qwen2.5 Coder · 0.5B · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 4.94억 개 · Dense 구조 · 4bit 중심 혼합 저장
0.49B계산용 전체 파라미터
0.398GB태그 다운로드 파일
qwen2.5-coder:0.5b-instruct-q4_K_MQ4_K_M · 태그 문맥 32,768토큰
이 모델의 이름·숫자 풀어보기
- 0.5B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 0.5B 표기는 약 5억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 0.494B(약 4.94억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 0.398GB, 표시된 최대 문맥은 32,768토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen2.5 CoderDense
Alibaba Qwen · Coder / 코딩 특화
Qwen2.5 Coder · 1.5B · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 15.4억 개 · Dense 구조 · 4bit 중심 혼합 저장
1.54B계산용 전체 파라미터
0.986GB태그 다운로드 파일
qwen2.5-coder:1.5b-instruct-q4_K_MQ4_K_M · 태그 문맥 32,768토큰
이 모델의 이름·숫자 풀어보기
- 1.5B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 1.5B 표기는 약 15억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 1.54B(약 15.4억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 0.986GB, 표시된 최대 문맥은 32,768토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen2.5 CoderDense
Alibaba Qwen · Coder / 코딩 특화
Qwen2.5 Coder · 3B · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 30.9억 개 · Dense 구조 · 4bit 중심 혼합 저장
3.09B계산용 전체 파라미터
1.9GB태그 다운로드 파일
qwen2.5-coder:3b-instruct-q4_K_MQ4_K_M · 태그 문맥 32,768토큰
이 모델의 이름·숫자 풀어보기
- 3B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 3B 표기는 약 30억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 3.09B(약 30.9억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 1.9GB, 표시된 최대 문맥은 32,768토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen2.5 CoderDense
Alibaba Qwen · Base / 코드 완성
Qwen2.5 Coder · 7B-BASE · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 76.2억 개 · Dense 구조 · 4bit 중심 혼합 저장
7.62B계산용 전체 파라미터
4.7GB태그 다운로드 파일
qwen2.5-coder:7b-base-q4_K_MQ4_K_M · 태그 문맥 32,768토큰
이 모델의 이름·숫자 풀어보기
- 7B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 7B 표기는 약 70억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 7.62B(약 76.2억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Base · 기본 사전학습 모델
- 기본 사전학습 단계의 모델입니다. 대화 지시 수행보다 이어질 글이나 코드를 완성하는 용도에 가까울 수 있으므로 채팅용 변형과 구분하세요.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 4.7GB, 표시된 최대 문맥은 32,768토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
추가 학습·코드 이어쓰기용 Base입니다. 대화용 Instruct와 목적이 다릅니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen2.5 CoderDense
Alibaba Qwen · Coder / 코딩 특화
Qwen2.5 Coder · 7B · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 76.2억 개 · Dense 구조 · 4bit 중심 혼합 저장
7.62B계산용 전체 파라미터
4.7GB태그 다운로드 파일
qwen2.5-coder:7b-instruct-q4_K_MQ4_K_M · 태그 문맥 32,768토큰
이 모델의 이름·숫자 풀어보기
- 7B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 7B 표기는 약 70억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 7.62B(약 76.2억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 4.7GB, 표시된 최대 문맥은 32,768토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen2.5 CoderDense
Alibaba Qwen · Coder / 코딩 특화
Qwen2.5 Coder · 14B · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 148억 개 · Dense 구조 · 4bit 중심 혼합 저장
14.8B계산용 전체 파라미터
9GB태그 다운로드 파일
qwen2.5-coder:14b-instruct-q4_K_MQ4_K_M · 태그 문맥 32,768토큰
이 모델의 이름·숫자 풀어보기
- 14B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 14B 표기는 약 140억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 14.8B(약 148억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 9GB, 표시된 최대 문맥은 32,768토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen2.5 CoderDense
Alibaba Qwen · Coder / 코딩 특화
Qwen2.5 Coder · 32B · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 328억 개 · Dense 구조 · 4bit 중심 혼합 저장
32.8B계산용 전체 파라미터
20GB태그 다운로드 파일
qwen2.5-coder:32b-instruct-q4_K_MQ4_K_M · 태그 문맥 32,768토큰
이 모델의 이름·숫자 풀어보기
- 32B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 32B 표기는 약 320억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 32.8B(약 328억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 20GB, 표시된 최대 문맥은 32,768토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3Dense
Alibaba Qwen · 범용 / 추론 모드
Qwen3 · 0.6B · Q4_K_M
소형부터 중형까지 파라미터와 추론 방식의 차이를 비교합니다.
쉽게 읽으면전체 약 7.52억 개 · Dense 구조 · 4bit 중심 혼합 저장
0.75B계산용 전체 파라미터
0.523GB태그 다운로드 파일
qwen3:0.6b-q4_K_MQ4_K_M · 태그 문맥 40,960토큰
이 모델의 이름·숫자 풀어보기
- 0.6B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 0.6B 표기는 약 6억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 0.752B(약 7.52억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 0.523GB, 표시된 최대 문맥은 40,960토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3Dense
Alibaba Qwen · 범용 / 추론 모드
Qwen3 · 1.7B · Q4_K_M
소형부터 중형까지 파라미터와 추론 방식의 차이를 비교합니다.
쉽게 읽으면전체 약 20.3억 개 · Dense 구조 · 4bit 중심 혼합 저장
2.03B계산용 전체 파라미터
1.4GB태그 다운로드 파일
qwen3:1.7b-q4_K_MQ4_K_M · 태그 문맥 40,960토큰
이 모델의 이름·숫자 풀어보기
- 1.7B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 1.7B 표기는 약 17억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 2.03B(약 20.3억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 1.4GB, 표시된 최대 문맥은 40,960토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3Dense
Alibaba Qwen · Instruct / 지시 수행
Qwen3 · 4B · Q4_K_M
소형부터 중형까지 파라미터와 추론 방식의 차이를 비교합니다.
쉽게 읽으면전체 약 40.2억 개 · Dense 구조 · 4bit 중심 혼합 저장
4.02B계산용 전체 파라미터
2.5GB태그 다운로드 파일
qwen3:4b-instruct-2507-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 4B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 4B 표기는 약 40억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 4.02B(약 40.2억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- 2507 · 배포 버전
- 서로 다른 릴리스·변형을 구분하는 식별자입니다. 파라미터 수나 메모리 용량이 아닙니다. 같은 계열이라도 정확한 태그를 함께 확인하세요.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 2.5GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3Dense
Alibaba Qwen · Thinking / 추론
Qwen3 · 4B-THINKING · Q4_K_M
소형부터 중형까지 파라미터와 추론 방식의 차이를 비교합니다.
쉽게 읽으면전체 약 40.2억 개 · Dense 구조 · 4bit 중심 혼합 저장
4.02B계산용 전체 파라미터
2.5GB태그 다운로드 파일
qwen3:4b-thinking-2507-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 4B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 4B 표기는 약 40억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 4.02B(약 40.2억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Thinking / Reasoning · 추론 용도
- 문제 해결 과정의 추론을 중시하는 변형입니다. 내부 생각 토큰 때문에 첫 답변까지 더 기다리거나 생성량이 늘 수 있습니다. 생각 과정의 표시와 제어는 실행 도구·모델에 따라 다릅니다.
- 2507 · 배포 버전
- 서로 다른 릴리스·변형을 구분하는 식별자입니다. 파라미터 수나 메모리 용량이 아닙니다. 같은 계열이라도 정확한 태그를 함께 확인하세요.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 2.5GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3Dense
Alibaba Qwen · 범용 / 추론 모드
Qwen3 · 8B · Q4_K_M
소형부터 중형까지 파라미터와 추론 방식의 차이를 비교합니다.
쉽게 읽으면전체 약 81.9억 개 · Dense 구조 · 4bit 중심 혼합 저장
8.19B계산용 전체 파라미터
5.2GB태그 다운로드 파일
qwen3:8b-q4_K_MQ4_K_M · 태그 문맥 40,960토큰
이 모델의 이름·숫자 풀어보기
- 8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 8B 표기는 약 80억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 8.19B(약 81.9억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 5.2GB, 표시된 최대 문맥은 40,960토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3Dense
Alibaba Qwen · 범용 / 추론 모드
Qwen3 · 14B · Q4_K_M
소형부터 중형까지 파라미터와 추론 방식의 차이를 비교합니다.
쉽게 읽으면전체 약 148억 개 · Dense 구조 · 4bit 중심 혼합 저장
14.8B계산용 전체 파라미터
9.3GB태그 다운로드 파일
qwen3:14b-q4_K_MQ4_K_M · 태그 문맥 40,960토큰
이 모델의 이름·숫자 풀어보기
- 14B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 14B 표기는 약 140억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 14.8B(약 148억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 9.3GB, 표시된 최대 문맥은 40,960토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3MoE
Alibaba Qwen · Thinking / 추론
Qwen3 · 30B-A3B-THINKING · Q4_K_M
소형부터 중형까지 파라미터와 추론 방식의 차이를 비교합니다.
쉽게 읽으면전체 약 305억 개 · 토큰당 활성 약 33억 개 · 4bit 중심 혼합 저장
30.5B계산용 전체 파라미터
19GB태그 다운로드 파일
qwen3:30b-a3b-thinking-2507-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 30B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 30B 표기는 약 300억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 30.5B(약 305억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3.3B(약 33억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Thinking / Reasoning · 추론 용도
- 문제 해결 과정의 추론을 중시하는 변형입니다. 내부 생각 토큰 때문에 첫 답변까지 더 기다리거나 생성량이 늘 수 있습니다. 생각 과정의 표시와 제어는 실행 도구·모델에 따라 다릅니다.
- 2507 · 배포 버전
- 서로 다른 릴리스·변형을 구분하는 식별자입니다. 파라미터 수나 메모리 용량이 아닙니다. 같은 계열이라도 정확한 태그를 함께 확인하세요.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 19GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 3.3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3Dense
Alibaba Qwen · 범용 / 추론 모드
Qwen3 · 32B · Q4_K_M
소형부터 중형까지 파라미터와 추론 방식의 차이를 비교합니다.
쉽게 읽으면전체 약 328억 개 · Dense 구조 · 4bit 중심 혼합 저장
32.8B계산용 전체 파라미터
20GB태그 다운로드 파일
qwen3:32b-q4_K_MQ4_K_M · 태그 문맥 40,960토큰
이 모델의 이름·숫자 풀어보기
- 32B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 32B 표기는 약 320억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 32.8B(약 328억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 20GB, 표시된 최대 문맥은 40,960토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3 CoderMoE
Alibaba Qwen · Coder / 코딩 특화
Qwen3 Coder · 30B-A3B · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 305억 개 · 토큰당 활성 약 33억 개 · 4bit 중심 혼합 저장
30.5B계산용 전체 파라미터
19GB태그 다운로드 파일
qwen3-coder:30b-a3b-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 30B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 30B 표기는 약 300억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 30.5B(약 305억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3.3B(약 33억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 19GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 3.3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3 CoderMoE
Alibaba Qwen · Coder / 코딩 특화
Qwen3 Coder · 30B-A3B · Q8_0
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 305억 개 · 토큰당 활성 약 33억 개 · 8bit 양자화 저장
30.5B계산용 전체 파라미터
32GB태그 다운로드 파일
qwen3-coder:30b-a3b-q8_0Q8_0 · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 30B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 30B 표기는 약 300억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 30.5B(약 305억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3.3B(약 33억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q8_0
- Q는 양자화, 8은 가중치를 8bit 정수로 표현한다는 뜻입니다. bit는 정보의 단위입니다. _0은 양자화 형식의 식별자이며 0bit라는 뜻이 아닙니다. 묶음마다 스케일 같은 보조 정보도 저장합니다. 같은 모델의 Q4 배포본보다 일반적으로 파일이 크지만, 더 빠르거나 항상 더 좋은 답을 한다는 보장은 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 32GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 3.3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3 Coder NextMoE
Alibaba Qwen · Coder / 코딩 특화
Qwen3 Coder Next · 80B A3B · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 797억 개 · 토큰당 활성 약 30억 개 · 4bit 중심 혼합 저장
79.7B계산용 전체 파라미터
52GB태그 다운로드 파일
qwen3-coder-next:q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 80B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 80B 표기는 약 800억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 79.7B(약 797억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3B(약 30억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 52GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3 Coder NextMoE
Alibaba Qwen · Coder / 코딩 특화
Qwen3 Coder Next · 80B A3B · Q8_0
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 797억 개 · 토큰당 활성 약 30억 개 · 8bit 양자화 저장
79.7B계산용 전체 파라미터
85GB태그 다운로드 파일
qwen3-coder-next:q8_0Q8_0 · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 80B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 80B 표기는 약 800억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 79.7B(약 797억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3B(약 30억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q8_0
- Q는 양자화, 8은 가중치를 8bit 정수로 표현한다는 뜻입니다. bit는 정보의 단위입니다. _0은 양자화 형식의 식별자이며 0bit라는 뜻이 아닙니다. 묶음마다 스케일 같은 보조 정보도 저장합니다. 같은 모델의 Q4 배포본보다 일반적으로 파일이 크지만, 더 빠르거나 항상 더 좋은 답을 한다는 보장은 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 85GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3 VLDense
Alibaba Qwen · Instruct / 이미지 이해
Qwen3 VL · 2B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 21.3억 개 · Dense 구조 · 4bit 중심 혼합 저장
2.13B계산용 전체 파라미터
1.9GB태그 다운로드 파일
qwen3-vl:2b-instruct-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 2B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 2B 표기는 약 20억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 2.13B(약 21.3억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- VL · Vision-Language
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 1.9GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3 VLDense
Alibaba Qwen · Instruct / 이미지 이해
Qwen3 VL · 4B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 44.4억 개 · Dense 구조 · 4bit 중심 혼합 저장
4.44B계산용 전체 파라미터
3.3GB태그 다운로드 파일
qwen3-vl:4b-instruct-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 4B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 4B 표기는 약 40억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 4.44B(약 44.4억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- VL · Vision-Language
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 3.3GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3 VLDense
Alibaba Qwen · Instruct / 이미지 이해
Qwen3 VL · 8B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 87.7억 개 · Dense 구조 · 4bit 중심 혼합 저장
8.77B계산용 전체 파라미터
6.1GB태그 다운로드 파일
qwen3-vl:8b-instruct-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 8B 표기는 약 80억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 8.77B(약 87.7억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- VL · Vision-Language
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 6.1GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3 VLDense
Alibaba Qwen · Thinking / 시각 추론
Qwen3 VL · 8B-THINKING · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 87.7억 개 · Dense 구조 · 4bit 중심 혼합 저장
8.77B계산용 전체 파라미터
6.1GB태그 다운로드 파일
qwen3-vl:8b-thinking-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 8B 표기는 약 80억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 8.77B(약 87.7억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Thinking / Reasoning · 추론 용도
- 문제 해결 과정의 추론을 중시하는 변형입니다. 내부 생각 토큰 때문에 첫 답변까지 더 기다리거나 생성량이 늘 수 있습니다. 생각 과정의 표시와 제어는 실행 도구·모델에 따라 다릅니다.
- VL · Vision-Language
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 6.1GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3 VLMoE
Alibaba Qwen · Instruct / 이미지 이해
Qwen3 VL · 30B-A3B · Q4_K_M
사진·문서 이미지와 텍스트를 함께 읽는 후보입니다.
쉽게 읽으면전체 약 311억 개 · 토큰당 활성 약 30억 개 · 4bit 중심 혼합 저장
31.1B계산용 전체 파라미터
20GB태그 다운로드 파일
qwen3-vl:30b-a3b-instruct-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 30B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 30B 표기는 약 300억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 31.1B(약 311억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3B(약 30억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Instruct / IT · 지시 수행
- 질문이나 지시를 따르도록 후속 학습한 변형입니다. IT는 instruction-tuned를 줄인 표기입니다. 처음 대화를 시작할 때 살펴볼 유형이며, 답의 정확성을 보증하는 표시는 아닙니다.
- VL · Vision-Language
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 20GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다. 활성3B는 A3B라는 반올림된 제품 표기 기준입니다.
한 토큰 계산의 활성 규모는 약 3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.5Dense
Alibaba Qwen · 멀티모달 / 추론
Qwen3.5 · 0.8B · Q8_0
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 8.73억 개 · Dense 구조 · 8bit 양자화 저장
0.87B계산용 전체 파라미터
1GB태그 다운로드 파일
qwen3.5:0.8b-q8_0Q8_0 · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 0.8B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 0.8B 표기는 약 8억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 0.873B(약 8.73억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q8_0
- Q는 양자화, 8은 가중치를 8bit 정수로 표현한다는 뜻입니다. bit는 정보의 단위입니다. _0은 양자화 형식의 식별자이며 0bit라는 뜻이 아닙니다. 묶음마다 스케일 같은 보조 정보도 저장합니다. 같은 모델의 Q4 배포본보다 일반적으로 파일이 크지만, 더 빠르거나 항상 더 좋은 답을 한다는 보장은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 1GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.5Dense
Alibaba Qwen · 멀티모달 / 추론
Qwen3.5 · 2B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 22.7억 개 · Dense 구조 · 4bit 중심 혼합 저장
2.27B계산용 전체 파라미터
1.9GB태그 다운로드 파일
qwen3.5:2b-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 2B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 2B 표기는 약 20억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 2.27B(약 22.7억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 1.9GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.5Dense
Alibaba Qwen · 원본 가중치
Qwen3.5 · 2B
짧은 문장 요약·정보 추출을 소형 모델로 시작하는 후보입니다.
쉽게 읽으면전체 약 22.741억 개 · Dense 구조 · 배포 파일 별도 선택
2.27B계산용 전체 파라미터
436.1만HF 다운로드 관측
원본 모델 카드 · 다운로드 변형은 별도 항목
이 모델의 이름·숫자 풀어보기
- 2B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 2B 표기는 약 20억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 2.274B(약 22.741억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- 원본 모델 카드 · 양자화 미지정
- 이 항목은 특정 양자화 파일이 아닌 원본 모델의 정보입니다. 양자화 태그가 없다는 이유로 모든 가중치가 16bit라고 가정하지 마세요. 실제로 내려받는 배포 파일의 형식을 따로 확인해야 합니다.
선택 전에 알아둘 점
작은 크기는 설치 부담을 줄이지만 한국어 품질은 같은 예제로 직접 확인하세요.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 공식 저장소의 safetensors 메타데이터이며 이미지 구성요소 등이 포함될 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
HF 다운로드 4,361,198회 · 좋아요 397개 · 관측 원문
Qwen3.5Dense
Alibaba Qwen · 원본 가중치
Qwen3.5 · 4B
문서 요약과 단계별 답변을 작은 장비에서 검토할 후보입니다.
쉽게 읽으면전체 약 46.599억 개 · Dense 구조 · 배포 파일 별도 선택
4.66B계산용 전체 파라미터
695.8만HF 다운로드 관측
원본 모델 카드 · 다운로드 변형은 별도 항목
이 모델의 이름·숫자 풀어보기
- 4B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 4B 표기는 약 40억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 4.66B(약 46.599억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- 원본 모델 카드 · 양자화 미지정
- 이 항목은 특정 양자화 파일이 아닌 원본 모델의 정보입니다. 양자화 태그가 없다는 이유로 모든 가중치가 16bit라고 가정하지 마세요. 실제로 내려받는 배포 파일의 형식을 따로 확인해야 합니다.
선택 전에 알아둘 점
이미지 입력 지원 여부는 선택한 실행 도구·변환 파일에서 다시 확인하세요.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 공식 저장소의 safetensors 메타데이터이며 이미지 구성요소 등이 포함될 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
HF 다운로드 6,957,921회 · 좋아요 927개 · 관측 원문
Qwen3.5Dense
Alibaba Qwen · 멀티모달 / 추론
Qwen3.5 · 4B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 46.6억 개 · Dense 구조 · 4bit 중심 혼합 저장
4.66B계산용 전체 파라미터
3.4GB태그 다운로드 파일
qwen3.5:4b-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 4B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 4B 표기는 약 40억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 4.66B(약 46.6억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 3.4GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.5Dense
Alibaba Qwen · 멀티모달 / 추론
Qwen3.5 · 9B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 96.5억 개 · Dense 구조 · 4bit 중심 혼합 저장
9.65B계산용 전체 파라미터
6.6GB태그 다운로드 파일
qwen3.5:9b-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 9B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 9B 표기는 약 90억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 9.65B(약 96.5억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 6.6GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.5Dense
Alibaba Qwen · 멀티모달 / 추론
Qwen3.5 · 9B · Q8_0
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 96.5억 개 · Dense 구조 · 8bit 양자화 저장
9.65B계산용 전체 파라미터
11GB태그 다운로드 파일
qwen3.5:9b-q8_0Q8_0 · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 9B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 9B 표기는 약 90억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 9.65B(약 96.5억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q8_0
- Q는 양자화, 8은 가중치를 8bit 정수로 표현한다는 뜻입니다. bit는 정보의 단위입니다. _0은 양자화 형식의 식별자이며 0bit라는 뜻이 아닙니다. 묶음마다 스케일 같은 보조 정보도 저장합니다. 같은 모델의 Q4 배포본보다 일반적으로 파일이 크지만, 더 빠르거나 항상 더 좋은 답을 한다는 보장은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 11GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.5Dense
Alibaba Qwen · 원본 가중치
Qwen3.5 · 9B
요약·코딩·추론 용도를 두루 비교해 볼 중간 크기 후보입니다.
쉽게 읽으면전체 약 96.531억 개 · Dense 구조 · 배포 파일 별도 선택
9.65B계산용 전체 파라미터
946.8만HF 다운로드 관측
원본 모델 카드 · 다운로드 변형은 별도 항목
이 모델의 이름·숫자 풀어보기
- 9B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 9B 표기는 약 90억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 9.653B(약 96.531억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- 원본 모델 카드 · 양자화 미지정
- 이 항목은 특정 양자화 파일이 아닌 원본 모델의 정보입니다. 양자화 태그가 없다는 이유로 모든 가중치가 16bit라고 가정하지 마세요. 실제로 내려받는 배포 파일의 형식을 따로 확인해야 합니다.
선택 전에 알아둘 점
한국어 업무 평가를 수행하지 않았습니다. 다운로드 수는 정확도를 뜻하지 않습니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 공식 저장소의 safetensors 메타데이터이며 이미지 구성요소 등이 포함될 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
HF 다운로드 9,468,124회 · 좋아요 1,970개 · 관측 원문
Qwen3.5Dense
Alibaba Qwen · 멀티모달 / 추론
Qwen3.5 · 27B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 278억 개 · Dense 구조 · 4bit 중심 혼합 저장
27.8B계산용 전체 파라미터
17GB태그 다운로드 파일
qwen3.5:27b-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 27B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 27B 표기는 약 270억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 27.8B(약 278억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 17GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.5MoE
Alibaba Qwen · 멀티모달 / 추론
Qwen3.5 · 35B-A3B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 360억 개 · 토큰당 활성 약 30억 개 · 4bit 중심 혼합 저장
36B계산용 전체 파라미터
24GB태그 다운로드 파일
qwen3.5:35b-a3b-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 35B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 35B 표기는 약 350억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 36B(약 360억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3B(약 30억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 24GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.6Dense
Alibaba Qwen · 멀티모달 / 추론
Qwen3.6 · 27B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 278억 개 · Dense 구조 · 4bit 중심 혼합 저장
27.8B계산용 전체 파라미터
17GB태그 다운로드 파일
qwen3.6:27b-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 27B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 27B 표기는 약 270억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 27.8B(약 278억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 17GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.6MoE
Alibaba Qwen · Coding / MTP 배포 변형
Qwen3.6 · 35B-A3B-CODING-MTP · Q4_K_M
코드 작성·수정과 저장소 작업을 비교할 코딩 후보입니다.
쉽게 읽으면전체 약 359.47억 개 · 토큰당 활성 약 30억 개 · 4bit 중심 혼합 저장
35.95B계산용 전체 파라미터
23GB태그 다운로드 파일
qwen3.6:35b-a3b-coding-mtp-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 35B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 35B 표기는 약 350억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 35.947B(약 359.47억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3B(약 30억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Coder / Coding · 코드 용도
- 코드 작성·수정 같은 과제를 겨냥한 계열 또는 배포 태그입니다. 이름만으로 구체적인 튜닝 방법이나 실행 가능한 코드를 보장하지는 않습니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- MTP · Multi-Token Prediction
- 여러 다음 토큰을 예측하는 방식을 뜻합니다. 여기서는 배포 태그의 표기이며 지원하는 실행 엔진과 설정이 필요합니다. 이름만으로 특정 학습 방법이나 속도 향상 배수를 확정할 수 없습니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 23GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다. 이미지 인코더·프로젝터가 별도 정밀도로 포함될 수 있습니다. Coding·MTP는 배포 태그 표기이며 세부 튜닝 방법의 검증을 뜻하지 않습니다.
한 토큰 계산의 활성 규모는 약 3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.6MoE
Alibaba Qwen · 원본 가중치
Qwen3.6 · 35B-A3B
전체 35B급 중 일부를 계산에 쓰는 MoE 모델입니다.
쉽게 읽으면전체 약 359.518억 개 · 토큰당 활성 약 30억 개 · 배포 파일 별도 선택
35.95B계산용 전체 파라미터
357.2만HF 다운로드 관측
원본 모델 카드 · 다운로드 변형은 별도 항목
이 모델의 이름·숫자 풀어보기
- 35B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 35B 표기는 약 350억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 35.952B(약 359.518억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3B(약 30억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- 원본 모델 카드 · 양자화 미지정
- 이 항목은 특정 양자화 파일이 아닌 원본 모델의 정보입니다. 양자화 태그가 없다는 이유로 모든 가중치가 16bit라고 가정하지 마세요. 실제로 내려받는 배포 파일의 형식을 따로 확인해야 합니다.
선택 전에 알아둘 점
활성 3B만 메모리에 올리는 것이 아닙니다. 계산기는 전체 가중치를 사용합니다.
한 토큰 계산의 활성 규모는 약 3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 공식 저장소의 safetensors 메타데이터이며 이미지 구성요소 등이 포함될 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
HF 다운로드 3,572,324회 · 좋아요 2,816개 · 관측 원문
Qwen3.6MoE
Alibaba Qwen · 멀티모달 / 추론
Qwen3.6 · 35B-A3B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 360억 개 · 토큰당 활성 약 30억 개 · 4bit 중심 혼합 저장
36B계산용 전체 파라미터
24GB태그 다운로드 파일
qwen3.6:35b-a3b-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 35B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 35B 표기는 약 350억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 36B(약 360억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- A3B · 토큰당 활성 규모
- A는 Active(활성)입니다. A3B 표기는 토큰 하나를 계산할 때 약 30억 개를 사용한다는 반올림 표기입니다. MoE는 여러 전문가 중 일부를 골라 계산하는 구조입니다. 이 항목에 기록한 활성 규모는 3B(약 30억 개)입니다. 활성 규모만큼의 메모리면 된다는 뜻은 아닙니다. 전체 가중치를 보관할 공간이 필요합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 24GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
활성 파라미터만큼만 저장하는 모델이 아닙니다. 전체 가중치를 담을 메모리가 필요합니다. 파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다.
한 토큰 계산의 활성 규모는 약 3B입니다. 전체 가중치 보관 공간은 별도로 필요합니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.8Dense
Alibaba Qwen · 멀티모달 / 추론
Qwen3.8 · 27B · Q4_K_M
텍스트·이미지 입력과 추론을 함께 비교할 후보입니다.
쉽게 읽으면전체 약 277.61억 개 · Dense 구조 · 4bit 중심 혼합 저장
27.76B계산용 전체 파라미터
18GB태그 다운로드 파일
qwen3.8:27b-q4_K_MQ4_K_M · 태그 문맥 262,144토큰
이 모델의 이름·숫자 풀어보기
- 27B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 27B 표기는 약 270억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 27.761B(약 277.61억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- Q4_K_M
- Q는 양자화(가중치 숫자의 저장 정밀도를 줄이는 방식), 4는 주로 4bit로 저장한다는 뜻입니다. bit는 정보의 단위입니다. K는 여러 가중치를 묶어 처리하는 K-quant 계열, M은 Medium 프리셋으로, 일부 텐서(숫자 배열)에 더 높은 정밀도를 섞습니다. 크기의 M(million)과는 다른 뜻입니다. 모든 값이 정확히 4bit인 것은 아니며 보조 정보도 들어갑니다. 4B 모델이나 4GB 파일이라는 뜻은 아닙니다.
- Vision / 멀티모달 · 이미지 입력
- 텍스트와 이미지를 함께 다루는 용도입니다. VL은 Vision-Language(시각·언어)를 뜻합니다. 이미지 처리용 구성요소가 별도로 포함될 수 있고, 모든 실행 도구가 같은 입력 기능을 지원하는 것은 아닙니다.
- 파일 GB / 문맥 토큰
- 이 태그의 다운로드 파일은 약 18GB, 표시된 최대 문맥은 262,144토큰입니다. 토큰은 글을 나누는 조각으로 글자 수와 같지 않습니다. 문맥에는 입력과 생성 내용이 함께 들어갑니다. 실행 시 캐시·버퍼가 추가로 필요하며 내 장비가 이 최대 문맥을 감당한다는 뜻은 아닙니다.
선택 전에 알아둘 점
파라미터는 해당 Ollama 파일의 표시값을 합산한 근삿값입니다. 파일 용량은 실행 메모리와 다릅니다. 이미지 인코더·프로젝터가 별도 정밀도로 포함될 수 있습니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 해당 Ollama 파일에 표시된 파라미터 근삿값을 합산했습니다. 모델명 규모와 차이가 날 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다. 태그 내용은 이후 바뀔 수 있으므로 원문을 다시 확인하세요.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
다운로드 관심도는 별도 미관측입니다.
Qwen3.8Dense
Alibaba Qwen · 원본 가중치
Qwen3.8 · 27B
2026년 8월 공개된 Qwen 세대로 큰 모델의 장비 부담을 비교할 후보입니다.
쉽게 읽으면전체 약 277.814억 개 · Dense 구조 · 배포 파일 별도 선택
27.78B계산용 전체 파라미터
770.3만HF 다운로드 관측
원본 모델 카드 · 다운로드 변형은 별도 항목
이 모델의 이름·숫자 풀어보기
- 27B · 이름 속 크기
- 파라미터는 학습으로 정해지는 모델 내부의 숫자입니다. B는 billion(10억), M은 million(100만)이므로 27B 표기는 약 270억 개 규모를 가리킵니다. 이름은 반올림된 규모이며 파일 용량 단위 GB와 다릅니다. 이 항목의 계산용 전체 수는 27.781B(약 277.814억 개)로, 집계 범위에 따라 이름과 다를 수 있습니다.
- Dense · 밀집 모델
- MoE처럼 토큰마다 일부 전문가를 골라 쓰지 않는 구조입니다. A 표기가 없다고 활성 파라미터가 0이라는 뜻은 아닙니다. 메모리는 전체 가중치와 실행 중 필요한 캐시 등을 함께 고려합니다.
- 원본 모델 카드 · 양자화 미지정
- 이 항목은 특정 양자화 파일이 아닌 원본 모델의 정보입니다. 양자화 태그가 없다는 이유로 모든 가중치가 16bit라고 가정하지 마세요. 실제로 내려받는 배포 파일의 형식을 따로 확인해야 합니다.
선택 전에 알아둘 점
최신 모델은 실행 도구의 지원 버전을 확인해야 합니다.
Dense는 MoE처럼 토큰별로 일부 전문가만 선택하는 구조와 다릅니다.
전체 수는 공식 저장소의 safetensors 메타데이터이며 이미지 구성요소 등이 포함될 수 있습니다.
파일 크기는 실행 메모리가 아닙니다. 태그의 문맥 길이도 내 장비의 실제 할당·속도를 보장하지 않습니다.
한국어 업무 성능·장비 실행은 자체 미검증. 활용 분류는 편집자의 탐색 제안입니다.
HF 다운로드 7,702,543회 · 좋아요 15,291개 · 관측 원문
맞는 모델이 없습니다. 검색어나 활용 목적을 바꾸거나 필터를 초기화하세요.
원본 모델과 양자화 배포본은 구분된 항목입니다. 파일 크기·태그별 문맥은 Ollama 원문 관측값이며 기본 별칭·클라우드 전용 태그는 목록에서 제외했습니다. HF 관심도는 확인일 기준 Hugging Face의 최근 30일 다운로드 관측값입니다. 사용자 수·품질 순위가 아니며 미관측 항목과 Ollama 누적 pulls를 합산하지 않습니다. 집계 방식
02 / 선택하기 · 메모리 계산
내 장비에 들어갈까요?
메모리는 모델을 펼쳐 놓는 책상입니다.
모델과 압축 정도를 바꾸며 필요한 공간을 비교하세요.
나의 구성
미리 남겨 두는 가정값입니다. 문맥이 길수록 KV 캐시 등 추가 메모리가 커질 수 있습니다. GPU 구성에서는 해당 GPU의 캐시·버퍼 여유로 해석하세요.
CPU와 GPU가 통합 메모리를 함께 씁니다. 운영체제·다른 앱의 사용량도 같은 공간에서 빠집니다. M4 Mac mini의 24GB 구성 등이 장비 예시입니다.
장비·실행 환경 원문 ↗MEMORY BUDGET이론값 · 실행 보장 아님
Qwen3.5 · 9B / 전체 약 9.65B / 4bit 가정
4.5GiB
이론 가중치
이론 가중치
이론 가중치 4.5 GiB + 추가 여유 6 GiB / 예산 24 GiB
가중치추가 여유남는 공간
설정 예산 24 GiB계산상 남는 공간 13.5 GiB
메모리상 검토 후보
가중치가 설정한 예산 안에 들어옵니다. 실제 파일 크기·문맥 길이·실행 엔진 호환을 확인하세요.
예시: Qwen3.5 · 9B의 전체 약 9.65B를 4bit로 가정했습니다. JavaScript를 켜면 모델과 예산을 바꿀 수 있습니다.
계산은 어떻게 하나요? RAM과 VRAM은 더해도 되나요?
가중치 이론 크기 = 전체 파라미터 수 × bit ÷ 8 ÷ 1,073,741,824 (GiB). 1B는 10억 개, 1 GiB는 2³⁰ 바이트입니다. 실제 GGUF·MXFP4 파일은 양자화 메타데이터와 정밀도 혼합 때문에 이 값과 다릅니다.
이 결과는 필요 메모리의 출발점입니다. 여유 값은 실제 KV 캐시 계산이 아닙니다. 프로필은 학습용 메모리 예산이며 장비 자동 진단이 아닙니다. OS가 보여주는 실제 가용량을 확인하세요.
외장 GPU의 VRAM과 시스템 RAM은 별도입니다. CPU로 일부를 나누는 오프로딩은 가능할 수 있지만 속도가 달라집니다. Apple Silicon의 통합 메모리는 공유 공간이므로 두 번 더하지 않습니다. MoE도 전체 가중치를 기준으로 계산합니다.
02 / 선택하기 · 속도 체감
한 시간에 얼마나 쓸까요?
토큰은 AI가 읽고 쓰는 글의 조각입니다.
글자 수와 같지 않아요. 먼저 속도와 기다림을 움직여 보세요.
출력 속도 계산기
천천히 · 1빠르게 · 180
직접 설정한 가정값 · 특정 장비의 실측 성능이 아닙니다.
TOKENS / HOUR단일 요청 · 계산 예시
144,000
토큰 / 시간 대기 없이 계속 생성할 때
124,541매 요청 대기 포함 · 토큰/시간
14.8초설정한 답변 한 개의 예상 시간
5초 관찰창0 토큰
같은 눈금으로 속도 비교 · 막대 전체 900토큰
입력을 읽는 시간과 생성하는 시간을 구분해 보세요.
실제 AI 호출 없이 움직임으로 설명합니다.
40 토큰/초, 준비 2초, 답변 512토큰의 예시입니다. JavaScript를 켜면 값을 바꿀 수 있습니다.
시간당 토큰은 어떻게 계산하나요?
연속 생성 = 초당 토큰 × 3,600. 답변 시간 ≈ 준비 대기 + 답변 토큰 ÷ 초당 토큰. 대기 포함 시간당 환산 ≈ 답변 토큰 ÷ 답변 시간 × 3,600.
동시 사용자 1명, 같은 길이의 요청을 쉬지 않고 반복하는 가정입니다. 큐·네트워크·휴지 시간·발열·모델 교체는 반영하지 않습니다. 추론 모델의 생각 토큰은 사용자에게 보이는 답변과 다를 수 있습니다. 토큰을 한글 글자 수나 보고서 장수로 일괄 환산하지 않습니다.
입력을 읽는 속도와 답을 쓰는 속도는 다른 측정입니다. 자세한 용어는 다음 추론 과정에서 설명합니다. 서버 전체 처리량을 개인 한 명의 속도로 표시하면 안 됩니다. 벤치마크 읽는 법
03 / 심화 · 추론 과정
읽는 시간, 생각하는 시간,
답이 나오는 시간.
프리필이 빠르다고 디코드도 같은 속도일까요?
입력과 출력을 분리해서 살펴보세요.
여기부터는 선택해서 읽는 심화 과정입니다. 첫 실행에는 아래 용어를 외울 필요가 없습니다. ‘보내기를 눌렀는데 왜 기다릴까?’를 이해하고 싶다면, 질문을 읽는 일과 답을 만드는 일을 나눠 보세요.
- 프리필 Prefill · 입력 처리
- 질문·첨부 자료·대화 기록의 토큰을 처리해 답을 만들 준비를 합니다. 책을 읽고 메모를 준비하는 단계에 가깝습니다. 새 모델을 학습시키는 과정은 아닙니다.
- 디코드 Decode · 출력 생성
- 앞선 내용을 바탕으로 다음 토큰을 반복해서 만듭니다. 답변이 조금씩 나타나는 단계입니다. 추론 모델의 생각 토큰도 여기에 포함될 수 있습니다.
- PP Prompt Processing · 입력 처리 측정
- llama-bench에서 프리필에 해당하는 시험 이름입니다.
pp512는 입력 512토큰 처리 시험입니다. 숫자 512가 초당 속도라는 뜻은 아닙니다. - TG Text Generation · 출력 생성 측정
- llama-bench에서 디코드에 해당하는 시험 이름입니다.
tg128은 128토큰 생성 시험입니다. PP와 TG의 토큰/초 수치를 서로 바꿔 읽으면 안 됩니다. - TTFT Time To First Token · 첫 토큰 대기
- 요청을 보낸 뒤 첫 출력 토큰을 받기까지 걸린 시간입니다. 단위는 초 또는 밀리초이며, 한 초에 몇 토큰을 생성하는지와 다른 지표입니다.
- 토큰/초 tokens per second · t/s, tok/s
- 1초 동안 처리하거나 생성하는 토큰 수입니다. 반드시 입력 속도인지 출력 속도인지 확인합니다. 출력 40토큰/초 가정이면 400토큰 생성에 약 10초가 들고, 입력 처리 대기는 따로 더합니다.
용어 근거: PP·TG 시험 정의 ↗ · 프리필·디코드 과정 ↗ · TTFT 지표 ↗
한 번의 질문은 이 순서로 처리됩니다.
모델을 메모리에 올리기
저장 장치에서 실행 메모리로 모델을 준비합니다. 이미 올라간 모델은 로딩이 줄어듭니다.
프리필 · 질문 읽기
질문·문서를 처리하고 이후 생성에 쓸 상태를 준비합니다. 긴 입력은 이 구간을 늘릴 수 있습니다.
디코드 · 답 만들기
앞서 생성한 토큰을 바탕으로 다음 토큰을 반복 생성합니다. 생각 토큰도 이 단계에 포함될 수 있습니다.
예를 들어 긴 문서를 붙이면 입력 단계가 길어질 수 있고, 긴 답을 요청하면 출력 단계가 길어집니다. 아래에서 상황을 고르고 진행 위치를 움직여 보세요.
상황별 가정
로딩·캐시·생각 토큰 조절
RESPONSE TIMELINE실행 없는 설명 모형
6.12초첫 토큰 대기 · TTFT 가정
12.52초첫 최종 답변 토큰
25.3초전체 생성 완료
로딩
프리필
생각 생성
답변 생성
모델 로딩
예: 로딩 2초 + 입력 4,000토큰 ÷ 프리필 1,000토큰/초 + 출력 400토큰 ÷ 디코드 40토큰/초 = 약 16초. 실제 측정이 아닌 단계별 계산 예시입니다.
TTFT·생각 토큰·입력 캐시를 읽는 방법
이 모형의 첫 토큰 ≈ 로딩 + 미캐시 입력 ÷ 프리필 속도 + 첫 디코드 1회. 생각 토큰이 있으면 첫 최종 답변까지 그 생성 시간도 더 걸립니다. 실제 TTFT에는 대기열·토큰화·통신 등이 추가될 수 있습니다. 생각 토큰을 화면에 보여 주는지는 실행 도구마다 달라 사용자가 처음 보는 내용의 시점도 달라집니다. 화면에 ‘생각 중’이 표시돼도 모든 시간이 프리필은 아닙니다.
캐시 재사용은 동일한 앞부분의 계산을 다시 쓸 수 있다는 가정입니다. 캐시 조회 비용은 생략했으며, 모든 엔진이 입력의 임의 부분을 이 비율만큼 재사용한다는 뜻이 아닙니다. 긴 문맥·동시 사용·attention 구조에 따라 KV 메모리와 속도가 달라집니다.
Ollama 성능 로그에서는 어떤 숫자를 보나요?
생성 속도 = eval_count ÷ (eval_duration / 1e9). 입력 속도는 최신 응답의 캐시 수를 제외해 (prompt_eval_count − prompt_eval_cached_count) ÷ (prompt_eval_duration / 1e9)로 읽습니다. duration 단위는 나노초입니다.
분모 0·누락·음수는 속도로 표시하지 않습니다. 100% 캐시는 ‘새 입력 평가 없음’입니다. 캐시 필드가 없는 버전은 캐시 여부 미확인으로 기록하세요. 서버 내부 집계만으로 클라이언트가 첫 토큰을 받은 시각을 알 수는 없습니다. 공식 사용량 지표 ↗
03 / 심화 · 장비와 대역폭
어떤 GPU, 어떤 Mac?
용량 너머 대역폭까지.
37개 장비 구성 · 2026-09-16 확인
제조사 사양과 계산 가정을 구분해 비교합니다.
용량(GB)은 얼마나 담는지, 대역폭(GB/s)은 1초에 얼마나 옮기는지입니다. 아래 표의 토큰/초는 가상 Dense 모델의 가중치를 읽는 비용만 계산합니다. 실제 답변 속도는 연산·문맥·실행 도구에도 영향을 받습니다.
대역폭 원리 실험
동일한 가상 Dense 모델을 각 장비에서 읽는다고 가정합니다.
가상 Dense 8B · 4bit → 이론 가중치 4 GB. 같은 가중치를 매 토큰 한 번 읽는 가정입니다.
| 장비 · 세부 구성 | 메모리 선택지 | 대역폭 | 가중치 이동 상한 | 활용률 가정 적용 |
|---|---|---|---|---|
| GeForce RTX 5090Blackwell | 32GB · 전용 VRAM | 1,792GB/s · 공식 사양 | 448토큰/초 · 이론값 | 268.8토큰/초 · 가정 |
| GeForce RTX 5080Blackwell | 16GB · 전용 VRAM | 960GB/s · 공식 사양 | 240토큰/초 · 이론값 | 144토큰/초 · 가정 |
| GeForce RTX 5070 TiBlackwell | 16GB · 전용 VRAM | 896GB/s · 공식 사양 | 224토큰/초 · 이론값 | 134.4토큰/초 · 가정 |
| GeForce RTX 5070Blackwell | 12GB · 전용 VRAM | 672GB/s · 공식 사양 | 168토큰/초 · 이론값 | 100.8토큰/초 · 가정 |
| GeForce RTX 5060 Ti 16GBBlackwell | 16GB · 전용 VRAM | 448GB/s · 공식 사양 | 112토큰/초 · 이론값 | 67.2토큰/초 · 가정 |
| GeForce RTX 5060 Ti 8GBBlackwell | 8GB · 전용 VRAM | 448GB/s · 공식 사양 | 112토큰/초 · 이론값 | 67.2토큰/초 · 가정 |
| GeForce RTX 5060Blackwell | 8GB · 전용 VRAM | 448GB/s · 공식 사양 | 112토큰/초 · 이론값 | 67.2토큰/초 · 가정 |
| GeForce RTX 5050Blackwell | 8GB · 전용 VRAM | 320GB/s · 공식 사양 | 80토큰/초 · 이론값 | 48토큰/초 · 가정 |
| GeForce RTX 4090Ada Lovelace | 24GB · 전용 VRAM | 1,008GB/s · 공식 사양 | 252토큰/초 · 이론값 | 151.2토큰/초 · 가정 |
| GeForce RTX 4070 Ti SUPERAda Lovelace | 16GB · 전용 VRAM | 672GB/s · 공식 사양 | 168토큰/초 · 이론값 | 100.8토큰/초 · 가정 |
| GeForce RTX 4070 (GDDR6X)Ada Lovelace | 12GB · 전용 VRAM | 504GB/s · 공식 사양 | 126토큰/초 · 이론값 | 75.6토큰/초 · 가정 |
| GeForce RTX 4060 Ti 16GBAda Lovelace | 16GB · 전용 VRAM | 288GB/s · 공식 사양 | 72토큰/초 · 이론값 | 43.2토큰/초 · 가정 |
| GeForce RTX 4060Ada Lovelace | 8GB · 전용 VRAM | 272GB/s · 공식 사양 | 68토큰/초 · 이론값 | 40.8토큰/초 · 가정 |
| GeForce RTX 3060 12GBAmpere | 12GB · 전용 VRAM | 360GB/s · 공식 사양 | 90토큰/초 · 이론값 | 54토큰/초 · 가정 |
| GeForce RTX 3090Ampere | 24GB · 전용 VRAM | 936GB/s · 공식 사양 | 234토큰/초 · 이론값 | 140.4토큰/초 · 가정 |
| NVIDIA RTX A6000Ampere | 48GB · 전용 VRAM | 768GB/s · 공식 사양 | 192토큰/초 · 이론값 | 115.2토큰/초 · 가정 |
| NVIDIA RTX 6000 AdaAda Lovelace | 48GB · 전용 VRAM | 960GB/s · 공식 사양 | 240토큰/초 · 이론값 | 144토큰/초 · 가정 |
| NVIDIA RTX PRO 6000 Blackwell Workstation EditionBlackwell | 96GB · 전용 VRAM | 1,792GB/s · 공식 사양 | 448토큰/초 · 이론값 | 268.8토큰/초 · 가정 |
| Radeon RX 9060 XT 16GBRDNA 4 | 16GB · 전용 VRAM | 320GB/s · 공식 사양 | 80토큰/초 · 이론값 | 48토큰/초 · 가정 |
| Radeon RX 9070 XTRDNA 4 | 16GB · 전용 VRAM | 640GB/s · 공식 사양 | 160토큰/초 · 이론값 | 96토큰/초 · 가정 |
| Radeon RX 7800 XTRDNA 3 | 16GB · 전용 VRAM | 624GB/s · 공식 사양 | 156토큰/초 · 이론값 | 93.6토큰/초 · 가정 |
| Radeon RX 7900 XTXRDNA 3 | 24GB · 전용 VRAM | 960GB/s · 공식 사양 | 240토큰/초 · 이론값 | 144토큰/초 · 가정 |
| Radeon AI PRO R9700RDNA 4 | 32GB · 전용 VRAM | 640GB/s · 공식 사양 | 160토큰/초 · 이론값 | 96토큰/초 · 가정 |
| MacBook Pro M5M5 · GPU 10코어 | 16 / 24 / 32GB · 통합 메모리 | 153GB/s · 공식 사양 | 38.3토큰/초 · 이론값 | 23토큰/초 · 가정 |
| MacBook Pro M5 Pro · GPU 16코어M5 Pro · CPU 15 / GPU 16코어 | 24 / 48GB · 통합 메모리 | 307GB/s · 공식 사양 | 76.8토큰/초 · 이론값 | 46.1토큰/초 · 가정 |
| MacBook Pro M5 Pro · GPU 20코어M5 Pro · CPU 18 / GPU 20코어 | 24 / 48 / 64GB · 통합 메모리 | 307GB/s · 공식 사양 | 76.8토큰/초 · 이론값 | 46.1토큰/초 · 가정 |
| MacBook Pro M5 Max · GPU 32코어M5 Max · CPU 18 / GPU 32코어 | 36GB · 통합 메모리 | 460GB/s · 공식 사양 | 115토큰/초 · 이론값 | 69토큰/초 · 가정 |
| MacBook Pro M5 Max · GPU 40코어M5 Max · CPU 18 / GPU 40코어 | 48 / 64 / 128GB · 통합 메모리 | 614GB/s · 공식 사양 | 153.5토큰/초 · 이론값 | 92.1토큰/초 · 가정 |
| MacBook Air M5M5 · GPU 8 또는 10코어 | 16 / 24 / 32GB · 통합 메모리 | 153GB/s · 공식 사양 | 38.3토큰/초 · 이론값 | 23토큰/초 · 가정 |
| MacBook Pro M4 (2024)M4 · GPU 10코어 | 16 / 24 / 32GB · 통합 메모리 | 120GB/s · 공식 사양 | 30토큰/초 · 이론값 | 18토큰/초 · 가정 |
| MacBook Pro M4 Pro (2024)M4 Pro · CPU 14 / GPU 20코어 | 24 / 48GB · 통합 메모리 | 273GB/s · 공식 사양 | 68.3토큰/초 · 이론값 | 41토큰/초 · 가정 |
| MacBook Pro M4 Max · GPU 32코어 (2024)M4 Max · CPU 14 / GPU 32코어 | 36GB · 통합 메모리 | 410GB/s · 공식 사양 | 102.5토큰/초 · 이론값 | 61.5토큰/초 · 가정 |
| MacBook Pro M4 Max · GPU 40코어 (2024)M4 Max · CPU 16 / GPU 40코어 | 48 / 64 / 128GB · 통합 메모리 | 546GB/s · 공식 사양 | 136.5토큰/초 · 이론값 | 81.9토큰/초 · 가정 |
| Mac Studio M5 Max · GPU 40코어M5 Max · CPU 18 / GPU 40코어 | 48 / 64 / 128GB · 통합 메모리 | 614GB/s · 공식 사양 | 153.5토큰/초 · 이론값 | 92.1토큰/초 · 가정 |
| Mac Studio M5 Ultra · GPU 64코어M5 Ultra · CPU 30 / GPU 64코어 | 96 / 256GB · 통합 메모리 | 1,200GB/s · 공식 사양 | 300토큰/초 · 이론값 | 180토큰/초 · 가정 |
| Mac Studio M5 Ultra · GPU 80코어M5 Ultra · CPU 36 / GPU 80코어 | 96 / 256 / 512GB · 통합 메모리 | 1,200GB/s · 공식 사양 | 300토큰/초 · 이론값 | 180토큰/초 · 가정 |
| NVIDIA DGX SparkGB10 Grace Blackwell | 128GB · 통합 메모리 | 273GB/s · 공식 사양 | 68.3토큰/초 · 이론값 | 41토큰/초 · 가정 |
해당 구성은 목록에 없습니다. 장비 종류나 용량 필터를 바꿔 보세요.
용량 필터는 해당 선택지를 가진 구성만 표시합니다. 기본 비교는 표의 최대 용량, 용량 선택 시에는 선택한 용량을 기준으로 가중치만 확인합니다. 표기 GB로 비교한 대략적 예산이며 실제 사용 가능 메모리·모델 호환을 보장하지 않습니다.
왜 128GB DGX Spark가 모든 GPU보다 빠르지는 않나요?
큰 용량은 큰 모델을 담을 여지를 줍니다. 작은 동시 요청의 디코드에서는 가중치·캐시를 얼마나 빨리 읽는지도 중요합니다. DGX Spark의 128GB 통합 메모리와 273GB/s는 각각 용량과 대역폭입니다. 최대 1 PFLOP(FP4·희소성 조건)는 연산 사양이며 토큰/초가 아닙니다.
표의 교육용 상한 = 대역폭 GB/s ÷ (파라미터 B × bit ÷ 8). 활용률은 사용자가 고른 임의 비율입니다. KV 캐시·양자화 부가 정보·연산·발열·커널·장치 간 이동·다중 요청은 반영하지 않습니다. 실제 속도는 아래 실측 조건과 함께 읽으세요.
이 실험은 Dense·단일 요청의 가중치 전체 읽기 가정에 한정합니다. 배치·캐시·추측 디코딩 방식이 달라져도 적용되는 절대 속도 한계는 아닙니다. MoE의 활성 파라미터를 실제 메모리 읽기 바이트로 치환하거나, 이 값을 프리필 속도로 해석하지 않습니다. Spark 공식 사양 ↗ · 추론 병목 설명 ↗
03 / 심화 · 측정 기록 읽기
실제 기록에서는
PP와 TG가 다릅니다.
공개 실측 9건 · 자체 재현 미실시
서로 다른 조건의 기록을 성능 순위로 읽지 마세요.
읽는 순서: 같은 모델·양자화·시험 길이인지 확인한 뒤, 입력 처리(PP)와 출력 생성(TG)을 각각 비교합니다. 예를 들어 PP가 1,000이고 TG가 40이면, 질문을 읽는 속도와 답을 쓰는 속도가 다르다는 뜻입니다. 아래 기록의 동일 장비 두 행은 사전 문맥 길이 등 조건이 다를 수 있습니다.
측정 조건의 d·FA·backend·build는 무엇인가요?
d(사전 문맥)는 시험 전에 미리 처리해 둔 토큰 수, 동시 시퀀스는 동시에 처리하는 대화 수입니다. FA(Flash Attention)는 이전 토큰을 참고하는 계산의 효율을 높이는 방식입니다.
backend는 GPU 등에서 계산을 실행하는 경로(CUDA·Metal 등), build는 실행 엔진의 버전·리비전입니다. microbatch는 한 번에 처리하는 작은 토큰 묶음, threads는 CPU 작업 스레드 수, GPU layers는 GPU에 배치한 모델 층 수입니다. ±는 반복 측정값의 표준편차이며, 모든 실제 요청의 오차 범위를 보장하지 않습니다.
| 측정 장비·모델 | 입력 처리 · 프리필 PP | 출력 생성 · 디코드 TG | 측정 조건·원문 |
|---|---|---|---|
| DGX Spark GB10 / 128 GB unifiedgpt-oss-20b · MXFP4 | 4,505.82± 12.9 · pp2048 | 83.43± 0.59 · tg32 | 2026-02-05 기록llama.cpp / llama-bench · 11fb327bf (7941)조건 펼치기사전 문맥 d: 0 · 동시 시퀀스 1 · CUDA · 가중치 11.27 GiB FA: 사용 · microbatch 2048 별도 pp2048/tg32 측정. 2048 입력 뒤 32 출력을 이어 측정한 요청 지연값이 아님. 자체 재현 미실시. |
| DGX Spark GB10 / 128 GB unifiedgpt-oss-20b · MXFP4 | 2,689.42± 18.89 · pp2048 | 61.65± 0.3 · tg32 | 2026-02-05 기록llama.cpp / llama-bench · 11fb327bf (7941)조건 펼치기사전 문맥 d: 32,768 · 동시 시퀀스 1 · CUDA · 가중치 11.27 GiB FA: 사용 · microbatch 2048 별도 pp2048/tg32 측정. 2048 입력 뒤 32 출력을 이어 측정한 요청 지연값이 아님. 자체 재현 미실시. |
| Mac M2 Ultra / GPU cores and RAM not reportedgpt-oss-20b · MXFP4 | 2,713.4± 3.56 · pp2048 | 129.97± 3.9 · tg32 | 2026-02-05 기록llama.cpp / llama-bench · b828e18c7 (7948)조건 펼치기사전 문맥 d: 0 · 동시 시퀀스 1 · MTL,BLAS · 가중치 11.27 GiB FA: 사용 · microbatch 2048 별도 pp2048/tg32 측정. 2048 입력 뒤 32 출력을 이어 측정한 요청 지연값이 아님. 자체 재현 미실시. |
| Mac M2 Ultra / GPU cores and RAM not reportedgpt-oss-20b · MXFP4 | 1,122.63± 1.45 · pp2048 | 98.25± 0.08 · tg32 | 2026-02-05 기록llama.cpp / llama-bench · b828e18c7 (7948)조건 펼치기사전 문맥 d: 32,768 · 동시 시퀀스 1 · MTL,BLAS · 가중치 11.27 GiB FA: 사용 · microbatch 2048 별도 pp2048/tg32 측정. 2048 입력 뒤 32 출력을 이어 측정한 요청 지연값이 아님. 자체 재현 미실시. |
| RTX 3090 / power limit 390 WLlama 2 7B · Q4_0 | 5,932.44± 10.87 · pp512 | 155.36± 0.09 · tg128 | 2025-08-02 기록llama.cpp / llama-bench · 9c35706 (6060)조건 펼치기사전 문맥 d: 미공개 · 동시 시퀀스 1 · CUDA · 가중치 3.56 GiB FA: 사용 · GPU layers 99 원작성자 공개 실측. CPU/RAM/드라이버/명시적 depth 미공개. 2025 기록이며 현재 엔진 최고 성능을 뜻하지 않음. |
| RTX 5090 / power limit 600 WLlama 2 7B · Q4_0 | 16,041.54± 85.27 · pp512 | 248.57± 0.05 · tg128 | 2025-08-02 기록llama.cpp / llama-bench · 9c35706 (6060)조건 펼치기사전 문맥 d: 미공개 · 동시 시퀀스 1 · CUDA · 가중치 3.56 GiB FA: 사용 · GPU layers 99 원작성자 공개 실측. CPU/RAM/드라이버/명시적 depth 미공개. 2025 기록이며 현재 엔진 최고 성능을 뜻하지 않음. |
| MacBook Air M5 / 10 GPU cores / 16 GB / macOS 26.6.1Llama 2 7B · Q4_0 | 722.79± 3.3 · pp512 | 31.88± 0.03 · tg128 | 2026-08-30 기록llama.cpp / llama-bench · c1d0e7a (10621)조건 펼치기사전 문맥 d: 미공개 · 동시 시퀀스 1 · MTL,BLAS · 가중치 3.53 GiB FA: 미공개 · threads 4 직접 측정자 커뮤니티 기록. FA/명시적 depth 미공개. MacBook 전체 세대의 보장 성능 아님. |
| M5 Max / 18 CPU cores / 40 GPU cores / 128 GBLlama 2 7B · Q4_0 | 3,219.99± 36.79 · pp512 | 119.92± 0.17 · tg128 | 2026-08-25 기록llama.cpp / llama-bench · c1d0e7a (10621)조건 펼치기사전 문맥 d: 미공개 · 동시 시퀀스 1 · MTL,BLAS · 가중치 3.53 GiB FA: 미공개 · threads 6 llama.cpp 유지관리자 공개 실측. 해당 댓글은 본체 제품명/화면 크기 미표기. M5 Max 칩 수치로 표시; MacBook SKU로 단정하지 않음. |
| MacBook Pro M5 Pro / 20 GPU cores / 64 GBLlama 2 7B · Q4_0 | 1,620.64± 1.16 · pp512 | 66.33± 0.05 · tg128 | 2026-08-31 기록llama.cpp / llama-bench · build 미공개조건 펼치기사전 문맥 d: 미공개 · 동시 시퀀스 1 · MTL,BLAS · 가중치 3.53 GiB FA: 미공개 · threads 6 직접 댓글에는 build 미기재; 상단 집계표는 c1d0e7a로 표시. 원댓글 누락을 보존. GPU20cores는 집계표와 교차확인. |
pp512와 tg128 등은 별도 시험입니다. ‘입력 512 → 출력 128’인 한 요청의 지연이나 TTFT 실측을 뜻하지 않습니다. llama-bench는 토큰화·샘플링 시간을 제외하므로 앱 전체 응답 속도와도 다릅니다. ±는 기록의 표준편차이며 예측 오차가 아닙니다. 사전 문맥 d, 엔진, 가중치, 전력·열 조건이 다르면 직접 비교에 한계가 있습니다.
2025년 GPU 기록과 2026년 Mac·Spark 기록이 섞여 있습니다. 확인일은 2026-09-16이며 기록일과 다릅니다. 고정 커밋의 날짜는 문서 기록 시점으로, 별도로 확인되지 않은 실제 측정 날짜를 뜻하지 않습니다. 시험 항목 읽는 법 ↗
공식 원문을 연결한 비공식 학습 가이드입니다. 실측·이론값·가정을 구분해 읽고, 실제 업무 자료를 쓰기 전에는 소속 기관의 기준과 검토 절차를 확인하세요.