Vertex AI: Deploy LLM in Production su Google Cloud

Descrizione del corso

Basato su cloud.google.com/vertex-ai/docs (documentazione pubblica Google Cloud). Vertex AI è la piattaforma MLOps di Google per deployment enterprise di Gemini e altri modelli. Copre: Model Garden, deploy endpoint Gemini, Vertex AI Search per RAG enterprise, batch prediction async, Model Monitoring per drift detection, logging e audit trail, IAM e VPC Service Controls. Include esempio completo: RAG su documenti aziendali con Vertex AI Search + Gemini.

Cosa imparerai

• Curated from public resources. Porta Gemini in produzione con Vertex AI: endpoint gestiti, RAG con Vertex AI Search, batch prediction, monitoring e cost control su Google Cloud.

Programma del corso

1. Creare progetto GCP, attivare billing e Vertex AI API (14 min)
2. Autenticazione: Service Account, ADC e Secret Manager (14 min)
3. Model Garden: Gemini, Llama, modelli open disponibili (12 min)
4. Deploy Gemini su Vertex AI endpoint dedicato (18 min)
5. Streaming prediction e auto-scaling (14 min)
6. Vertex AI Search: creare datastore e index (18 min)
7. Grounding Gemini su Vertex AI Search (16 min)
8. RAG Engine: pipeline RAG gestita su Vertex (18 min)
9. Model Monitoring: drift detection e alert (14 min)
10. Logging, tracing e audit con Cloud Logging (12 min)

Struttura del corso

4 sezioni, 10 lezioni, 5h 0m di durata complessiva. Il corso si segue interamente online, al proprio ritmo.

Domande frequenti