Vertex AI: Deploy LLM in Production su Google Cloud
«Vertex AI: Deploy LLM in Production su Google Cloud» è un corso online di Google Gemini di livello intermedio, tenuto da InsightLearn Curated AI su InsightLearn. Il percorso comprende 10 lezioni organizzate in 4 sezioni, per una durata complessiva di 5h 0m. Porta Gemini in produzione con Vertex AI: endpoint gestiti, RAG con Vertex AI Search, batch prediction, monitoring e cost control su Google Cloud.
- Docente: InsightLearn Curated AI
- Categoria: Google Gemini
- Livello: intermedio
- Durata: 5h 0m
- Accesso: gratuito in questa fase di validazione, in cambio di un feedback al termine
- Certificato: certificato di completamento verificabile online
Descrizione del corso
InsightLearn è in fase di sviluppo (work in progress): i contenuti di questa pagina sono pubblicati esclusivamente a fini di verifica e test.
Basato su cloud.google.com/vertex-ai/docs (documentazione pubblica Google Cloud). Vertex AI è la piattaforma MLOps di Google per deployment enterprise di Gemini e altri modelli. Copre: Model Garden, deploy endpoint Gemini, Vertex AI Search per RAG enterprise, batch prediction async, Model Monitoring per drift detection, logging e audit trail, IAM e VPC Service Controls. Include esempio completo: RAG su documenti aziendali con Vertex AI Search + Gemini.
Cosa imparerai
- Curated from public resources. Porta Gemini in produzione con Vertex AI: endpoint gestiti, RAG con Vertex AI Search, batch prediction, monitoring e cost control su Google Cloud.
Programma del corso
- Creare progetto GCP, attivare billing e Vertex AI API (14 min)
- Autenticazione: Service Account, ADC e Secret Manager (14 min)
- Model Garden: Gemini, Llama, modelli open disponibili (12 min)
- Deploy Gemini su Vertex AI endpoint dedicato (18 min)
- Streaming prediction e auto-scaling (14 min)
- Vertex AI Search: creare datastore e index (18 min)
- Grounding Gemini su Vertex AI Search (16 min)
- RAG Engine: pipeline RAG gestita su Vertex (18 min)
- Model Monitoring: drift detection e alert (14 min)
- Logging, tracing e audit con Cloud Logging (12 min)
Dalle lezioni
Estratto della trascrizione di «Creare progetto GCP, attivare billing e Vertex AI API»
What's up everyone it's Tin here from Tutorials Hub. Now in today's video I will show you how to enable Vertex AI API in Google Cloud so that you can use Vertex AI API within your project. So first thing you got to log in into console, Google Cloud console. And once you're here on Google Cloud console, what you want to do is you want to go to obviously you want to create a project first. So make sure you have that. Then what you want to do is you want to go to navigate menu and in the APIs and services you want to go to library here and as you can see here you will have a…
Estratto della trascrizione di «Autenticazione: Service Account, ADC e Secret Manager»
This is the final 10th part of Amazon ECAS tutorial. In this lesson, I'll show you how to integrate AWS Secrets Manager with ECAS. Secrets Manager is used to securely store credentials such as passwords, API tokens, user names and similar data. First of all, we'll create a username and a password in AWS Secrets Manager like this. By default, if you want to use this set of key value pairs and mount them to the port, you'll get a single JSON object, which is not what most applications would expect. In this video, I'll show you how to parse each value and mount them as environment variables such as my password and my username to the port inside Kubernetes.…
Estratto della trascrizione di «Model Garden: Gemini, Llama, modelli open disponibili»
Are you able to see it in the presentation mode now? Yeah. All right. Good. So welcome again. So quickly, we are going to look at the Google's latest model. They announced it around 21st of February. So it's a fairly new model. We have used it for just two weeks. None of us are experts at Gemma yet, but this session hopes to kind of really explore the models, understand what Gemma is, how to actually understand the specifications of a large language model. My goal is to not just... talk about Gemma, but whenever you read up on any new model going forward, you could actually use some of these knowledge, some of the learnings from this session…
Altri corsi di Google Gemini
Domande frequenti
Quanto dura il corso Vertex AI: Deploy LLM in Production su Google Cloud?
Il corso dura 5h 0m in totale, con 10 lezioni suddivise in 4 sezioni, da seguire online al proprio ritmo.
Serve esperienza pregressa?
Il corso è di livello intermedio e non indica requisiti specifici di ingresso.
Il corso rilascia un certificato?
Sì: al completamento del corso ricevi un certificato di completamento verificabile online.