
Yapay Zeka
Yerel LLM Çalıştırma: Kuantizasyon ve Donanım Rehberi
· Aziz Özdemiroğlu
Hangi model hangi donanıma sığar? Bellek hesabı, GGUF kuantizasyon türleri, token hızını belirleyen bant genişliği ve Ollama ile llama.cpp kullanımı.

· Aziz Özdemiroğlu
Hangi model hangi donanıma sığar? Bellek hesabı, GGUF kuantizasyon türleri, token hızını belirleyen bant genişliği ve Ollama ile llama.cpp kullanımı.