Llama 3

Llama 3 představuje průlomovou rodinu open-source velkých jazykových modelů (LLM) od Meta AI, která demokratizuje přístup k pokročilé umělé inteligenci. S modely od 8 miliard do 405 miliard parametrů nabízí Llama 3 bezprecedentní kombinaci výkonu a dostupnosti, trénovanou na více než 15 trilionech tokenů z veřejně dostupných zdrojů. Díky otevřené licenci umožňující komerční využití se stala Llama 3 revolucí v AI světě, poskytující alternativu k proprietárním modelům jako GPT-4 nebo Claude, přičemž dosahuje srovnatelných nebo lepších výsledků v mnoha benchmarcích.

Pro koho je určený:

Llama 3 je ideální pro vývojáře, výzkumníky, AI inženýry, startupy, podniky všech velikostí a akademické instituce, které chtějí využívat nejmodernější AI technologie bez omezení proprietárních systémů. Díky různým velikostem modelů je vhodný jak pro edge computing na mobilních zařízeních (Llama 3.2 3B), tak pro nejnáročnější enterprise aplikace (Llama 3.1 405B). Využívají ho společnosti od malých startupů až po velké korporace, které potřebují kontrolu nad svými AI řešeními a možnost fine-tuningu na vlastních datech.

Autor: Meta AI (Meta Platforms, Inc.)

Vedoucí výzkumný tým: Meta Fundamental AI Research (FAIR)

První vydání: Únor 2023 (LLaMA), Duben 2024 (Llama 3)

Nejnovější verze: Llama 4 (Duben 2025), Llama 3.3 (Prosinec 2024)

Sídlo: Menlo Park, California, USA

Trénink: 16,000 NVIDIA H100 GPUs (Meta Research SuperCluster)

Uživatelé: Miliony vývojářů a výzkumníků globálně

Odkaz: https://ai.meta.com

Hugging Face: https://huggingface.co/meta-llama

Funkce a modely:

• Llama 3.1 8B – kompaktní model pro edge computing a rychlé aplikace
• Llama 3.1 70B – vybalancovaný model pro enterprise nasazení
• Llama 3.1 405B – nejlepší výkon, konkuruje GPT-4 a Claude
• Llama 3.2 Vision – multimodální modely s podporou obrázků
• Llama 4 Scout/Maverick – MoE architektura s 10M tokeny kontextu
• Code Llama – specializované modely pro programování
• Instruct verze – fine-tuned pro konverzační AI
• Llama Guard – bezpečnostní nástroje a moderace obsahu
• Podpora 30+ jazyků včetně češtiny
• Kontext až 128K tokenů (Llama 3.1), 10M tokenů (Llama 4)

Klíčové vlastnosti:

• Plně open-source s komerční licencí pro většinu použití
• State-of-the-art výkon konkurující proprietárním modelům
• Transformer architektura s pokročilými optimalizacemi
• Trénovaný na 15+ trilionech high-quality tokenů
• Možnost lokálního nasazení a fine-tuningu
• Podpora všech hlavních cloud platforem (AWS, Azure, GCP)
• Optimalizace pro inference s Grouped Query Attention
• Pokročilé bezpečnostní funkce a AI alignment
• Mixture of Experts architektura v Llama 4
• Nativní multimodalita (text, obrázky, video)

Dostupnost a ceny:

• Open-source: Zdarma – download přes Hugging Face, Meta AI
• Meta AI API: Zdarma pro základní využití
• Azure OpenAI: Pay-per-token model (od $0.0015/1K tokenů)
• AWS Bedrock: On-demand pricing dle využití
• Google Cloud: Vertex AI model pricing
• Hugging Face: Inference API od $0.0008/1K tokenů
• Lokální nasazení: Pouze náklady na hardware/hosting

Technické specifikace:

• Architektura: Decoder-only Transformer
• Tokenizer: 128,256 tokenů (Llama 3)
• Attention: Grouped Query Attention pro optimalizaci
• Tréninková data: 15T tokenů z veřejných zdrojů
• Požadavky: od 16GB RAM (8B) do 810GB VRAM (405B)
• Formáty: PyTorch, GGUF, ONNX, TensorRT

Tagy:

Large Language Model, Open source AI, Meta AI, LLM, Transformers, Generativní AI, Natural Language Processing, Komerční AI, Výzkumný model, Multimodální AI, Edge computing, Fine-tuning, Chatboty, Code generation, AI democratization

Kategorie: AI modely / Open-source LLM

Jazyk: EN (primární), 30+ jazyků včetně CZ

Cena: Open-source zdarma, API služby dle použití.