Meta Llama 4: API, Self-Hosting e Deployment

Descrizione del corso

Basato su llama.meta.com docs e GitHub meta-llama/llama-models (Community License). Llama 4 introduce architettura MoE (Mixture of Experts): Scout (17B attivi su 109B totali) per long context 10M token, Maverick (17B su 400B) per reasoning e coding. Copre: accesso via Together.ai e Groq, self-hosting con vLLM e Ollama, fine-tuning con LoRA, confronto con Claude 4 e GPT-5 per task specifici, Llama Stack per deployment standardizzato.

Cosa imparerai

• Curated from public resources. Llama 4 Scout/Maverick sono i modelli open source più capaci di Meta. Accesso via API provider (Groq, Together.ai) o self-hosting con vLLM e Ollama.

Programma del corso

1. Llama 4 via Together.ai: API, rate limits e pricing (14 min)
2. Llama 4 con Ollama: versioni quantizzate e VRAM requirements (16 min)
3. vLLM per Llama 4: tensor parallelism e continuous batching (20 min)
4. Llama Stack: standardizzare deploy multi-environment (16 min)
5. LoRA con HuggingFace Transformers per Llama 4 (20 min)
6. Dataset preparation: Alpaca format e instruction tuning (16 min)
7. Valutazione e upload su HuggingFace Hub (14 min)
8. Llama 4 vs GPT-5 vs Claude 4: benchmark MMLU, coding, multilingual (16 min)
9. Llama 4 in LangChain e LlamaIndex (14 min)

Struttura del corso

4 sezioni, 9 lezioni, 4h 0m di durata complessiva. Il corso si segue interamente online, al proprio ritmo.

Domande frequenti