AI PraktykPO POLSKU

Jaka karta graficzna do lokalnego LLM?

Tabela pokazuje, którą wersję każdego z 37 modeli do uruchomienia na własnym komputerze zmieścisz w pamięci karty graficznej. Modele od najmniejszego. Stan na 24 października 2026, lista aktualizuje się codziennie.

Liczby pochodzą ze źródeł, krótkie opisy pisze AI. Jak to działa

Otwórz kalkulator w serwisie: dłuższa rozmowa, obrazy, wszystkie wersje

Najlepsza wersja na kartę o danej pamięci

ModelParametry6 GB8 GB12 GB16 GB24 GB32 GB
Qwen2.5-0.5B-InstructQwen · ChinySłuży do interakcji w formie czatu. Ma sens do uruchomienia na laptopie lub słabszej karcie graficznej.0,6 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Qwen2.5-1.5B-InstructQwen · ChinyModel przeznaczony do konwersacji w formie czatu. Ma sens do uruchomienia na laptopie lub słabszej karcie graficznej.1,8 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Qwen2.5-Coder-1.5B-InstructQwen · ChinyKompaktowy model do czatu i wspomagania programowania. Zadziała na laptopie lub słabszej karcie.1,8 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Qwen3-0.6BQwen · ChinyModel do zadań tekstowych. Przeznaczony na laptopa lub słabszą kartę graficzną.0,6 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Qwen3-0.6B-BaseQwen · ChinyModel podstawowy odpowiedni do bazowych zadań. Może być uruchamiany na laptopie lub słabszej karcie graficznej.0,6 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Hy-MT2-1.8BTencent · ChinyLekki model do zadań tekstowych. Zadziała na zwykłym laptopie lub słabszej karcie graficznej.1,8 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Qwen2.5-3B-InstructQwen · ChinyModel przeznaczony do konwersacji w trybie tekstowym. Nadaje się do uruchomienia na laptopie lub słabszej karcie graficznej.3,4 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Qwen2.5-Coder-3B-InstructQwen · ChinyModel przeznaczony do programowania oraz czatu. Nadaje się do uruchomienia na laptopie lub słabszej karcie graficznej.3,4 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Qwen3.5-4BQwen · ChinyModel do pracy z tekstem i obrazami. Ma sens na laptopie lub słabszej karcie graficznej.4,2 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Ministral-3-3B-Instruct-2512Mistral AI_ · FrancjaSłuży do interaktywnego czatu i wykonywania poleceń tekstowych. Odpowiedni dla laptopa lub komputera ze słabszą kartą graficzną.3,4 mldQ8_0Q8_0Q8_0Q8_0Q8_0Q8_0
Qwen2.5-Coder-7B-InstructQwen · ChinyModel czatowy do programowania. Odpowiedni do uruchomienia na laptopie lub słabszej karcie graficznej.7,6 mldQ3_K_MQ6_KQ8_0Q8_0Q8_0Q8_0
Qwen2.5-7B-InstructQwen · ChinyModel przeznaczony do zastosowań konwersacyjnych i czatu. Wymaga laptopa lub słabszej karty graficznej.7,6 mldQ3_K_MQ6_KQ8_0Q8_0Q8_0Q8_0
Qwen3-4BQwen · ChinyDobry do szybkich zadań z tekstem. Ma sens na laptopie lub słabszej karcie graficznej.4,0 mldQ6_KQ8_0Q8_0Q8_0Q8_0Q8_0
Qwen3-VL-4B-InstructQwen · ChinyModel czatowy do pracy z tekstem oraz obrazami. Ma sens na laptopie lub słabszej karcie graficznej.4,0 mldQ4_K_MQ8_0Q8_0Q8_0Q8_0Q8_0
Qwen3-4B-BaseQwen · ChinyModel bazowy do ogólnych zastosowań tekstowych. Ma sens do uruchomienia na laptopie lub słabszej karcie graficznej.4,0 mldQ6_KQ8_0Q8_0Q8_0Q8_0Q8_0
gemma-4-E4B-itGoogle · USANadaje się do konwersacji i analizy obrazu. Uruchomisz go na laptopie lub słabszej karcie graficznej.7,5 mldQ3_K_MQ5_K_MQ8_0Q8_0Q8_0Q8_0
Qwen3.5-9BQwen · ChinyPrzeznaczony do tekstowych zadań ogólnych oraz pracy z obrazami. Zadziała na laptopie lub słabszej karcie graficznej.9,0 mldQ3_K_MQ5_K_MQ8_0Q8_0Q8_0Q8_0
gemma-4-12B-itGoogle · USAModel czatowy obsługujący tekst i obrazy. Przeznaczony do uruchamiania na mocniejszej karcie graficznej.11,9 mldQ2_K_XLna stykQ3_K_MQ6_KQ8_0Q8_0Q8_0
Hy-MT2-7BTencent · ChinyModel do pracy z tekstem. Przeznaczony na laptopa lub słabszą kartę graficzną.7,5 mld-Q4_K_MQ8_0Q8_0Q8_0Q8_0
Qwen3-VL-8B-InstructQwen · ChinyModel czatowy przeznaczony do analizy tekstu i obrazów. Odpowiedni na laptopa lub słabszą kartę graficzną.8,2 mld-Q4_K_MQ8_0Q8_0Q8_0Q8_0
Qwen3-8BQwen · ChinyPrzeznaczony do standardowych zadań tekstowych. Uruchomisz go na laptopie lub słabszej karcie graficznej.8,2 mld-Q4_K_MQ8_0Q8_0Q8_0Q8_0
Qwen2.5-Coder-14B-InstructQwen · ChinyPrzeznaczony do programowania oraz czatu. Do uruchomienia potrzebna jest mocniejsza karta graficzna.14,8 mld-Q2_Kna stykQ4_K_MQ6_KQ8_0Q8_0
Mellum2.1-12B-A2.5B-ThinkingJetBrains · CzechySłuży do rozumowania krok po kroku. Wymaga pamięci jak na mocniejszej karcie, ale dzięki architekturze MoE odpowiada szybciej, niż sugeruje rozmiar.12,1 mld--Q4_K_MQ8_0Q8_0Q8_0
Qwen3.8-27BQwen · ChinyModel przeznaczony do pracy z tekstem oraz obrazami. Wymaga mocniejszej karty graficznej.27,3 mld--Q2_K_XLQ3_K_XLQ5_K_MQ8_0
gemma-4-26B-A4B-itGoogle · USAStworzony do czatu i przetwarzania obrazów. Wymaga mocniejszej karty; układ MoE przyspiesza odpowiedzi, ale pamięć musi zmieścić cały model.25,2 mld--Q2_K_XLna stykQ3_K_MQ5_K_MQ8_0
gpt-oss-20bOpenAI · USAModel do ogólnych zadań tekstowych. Wymaga mocniejszej karty graficznej, a dzięki architekturze MoE odpowiada szybciej, choć zajmuje pełną pamięć.20,9 mld--Q5_K_Mna stykQ8_0Q8_0Q8_0
Qwen3-Coder-30B-A3B-InstructQwen · ChinySłuży do programowania i konwersacji. Dzięki architekturze MoE działa szybko, ale wymaga mocniejszej karty graficznej z dużą pamięcią.30,5 mld---Q2_KQ4_K_MQ6_K
Qwen3.5-35B-A3BQwen · ChinyDobry do analizy tekstu oraz grafik. Działa na mocniejszej karcie graficznej, a struktura MoE daje szybsze odpowiedzi przy pełnym zapotrzebowaniu na RAM.34,7 mld---Q2_K_XLQ4_K_MQ6_K
Qwen3.6-35B-A3BQwen · ChinySłuży do pracy z tekstem i obrazami. Wymaga mocniejszej karty; MoE zapewnia szybsze generowanie odpowiedzi, ale potrzebuje pamięci na cały model.34,7 mld---Q2_K_XLQ4_K_MQ6_K
Mellum2-12B-A2.5B-InstructJetBrains · CzechyModel czatowy dla mocniejszej karty graficznej. Architektura MoE przyspiesza generowanie odpowiedzi, lecz wymaga całości pamięci.12,1 mld---Q8_0Q8_0Q8_0
gemma-4-31B-itGoogle · USAModel czatowy do pracy z tekstem i obrazami. Wymaga mocniejszej karty graficznej.30,7 mld---Q2_K_XLQ4_K_MQ6_K
Muse-Glimmer-30BMeta Inc. · USANadaje się do generowania tekstu i interpretacji obrazów. Wymaga mocniejszej karty graficznej.27,9 mld----Q4_K_MQ4_K_M
Laguna-XS-2.1Poolside · USAModel tekstowy wymagający mocniejszej karty graficznej. Architektura MoE zapewnia szybsze odpowiedzi przy pełnym zapotrzebowaniu na pamięć.33,4 mld----Q4_K_MQ4_K_M
Qwen3-Coder-NextQwen · ChinyZaawansowany model do programowania na sprzęt serwerowy. Architektura MoE daje szybsze odpowiedzi, ale wymaga pamięci na całość.79,7 mld-----Q2_K
Qwen3.8-Flash-NextQwen · ChinyNadaje się do zadań tekstowych i analizy obrazów. Wymaga sprzętu serwerowego; architektura MoE przyspiesza odpowiedzi, lecz wymaga pamięci na całość.176,9 mld------
Laguna-S-2.1Poolside · USAModel do przetwarzania tekstu na sprzęcie serwerowym. Posiada strukturę MoE, co daje szybsze generowanie odpowiedzi, ale wymaga pamięci na całość.117,6 mld------
GLM-5.3-FlashZ.ai · ChinyModel do ogólnych zastosowań i analizy obrazu. Wymaga sprzętu serwerowego, a architektura MoE przyspiesza działanie przy zachowaniu wymogu dużej pamięci.320,8 mld------

Skąd te liczby?

W komórce jest najlepsza wersja modelu (Q8 najbliżej oryginału, Q4_K_M to najczęstszy wybór na domowe karty), po której zostaje co najmniej 10% wolnej pamięci. „Na styk” - mieści się, ale inne programy na karcie mogą przeszkodzić. „-” - nie mieści się nawet najlżejsza wersja.

Liczę wagę pliku z Hugging Face, pamięć rozmowy na 8 tys. tokenów (zwykła rozmowa, z pliku ustawień modelu) i 0,8 GB zapasu na program, który uruchamia model (np. LM Studio, Ollama). Bez pliku do rozumienia obrazów - ten dolicza kalkulator w serwisie. To szacunek z zapasem, nie gwarancja.

Na listę trafia model, którego twórca i ten, kto przygotował wersję do pobrania, są organizacjami ze znaczkiem weryfikacji Hugging Face i ponad 1 tys. obserwujących albo z ponad 10 tys. obserwujących. Sprawdzane automatycznie przy każdej aktualizacji.

Dane: Hugging Face · opisy: Gemini wyłącznie z danych modelu