Popularne Lokalne Modele LLM
Odkryj najlepsze modele dla Twojej organizacji
Llama 2/3
Dowiedz się więcejParametry: 1B - 90B
Wymagana pamięć: ~10GB (11B in 4-bit)
Licencja: Llama 3 Community License
Przypadki użycia:
Wielojęzyczne dialogi, analiza dokumentów, podsumowania, aplikacje on-device
Wdrożenie:
Hugging Face Transformers, Llama.cpp, Transformers.js
Mistral AI
Dowiedz się więcejParametry: 3B - 675B
Wymagana pamięć: Varies by model
Licencja: Apache 2.0 / Mistral License
Przypadki użycia:
Zadania ogólne, kodowanie, przetwarzanie dokumentów, transkrypcja audio
Wdrożenie:
Mistral AI Studio, Cloud providers, Self-deployment
Phi (Microsoft)
Dowiedz się więcejParametry: 1.3B - 14B
Wymagana pamięć: Memory-constrained optimized
Licencja: MIT License
Przypadki użycia:
AI on-device, aplikacje real-time, generowanie kodu, reasoning matematyczny
Wdrożenie:
Azure AI Foundry, Hugging Face, Ollama
GPT4All
Dowiedz się więcejParametry: 3B - 13B
Wymagana pamięć: Consumer-grade hardware
Licencja: Various (Apache 2.0, MIT, GPL)
Przypadki użycia:
LLM na sprzęcie konsumenckim, prywatny chat AI, praca z lokalnymi dokumentami
Wdrożenie:
Desktop client (Win/Mac/Linux), Python SDK
Ollama
Dowiedz się więcejParametry: Hundreds of millions to billions
Wymagana pamięć: 8GB (7B) to 64GB (70B)
Licencja: MIT License (platform)
Przypadki użycia:
Generowanie tekstu, embeddings, kodowanie, multimodalne zrozumienie
Wdrożenie:
Instalatory dla macOS/Windows, curl dla Linux, Docker