AI Safety: Alignment, Red-Teaming, Responsible Deployment
«AI Safety: Alignment, Red-Teaming, Responsible Deployment» è un corso online di RAG e AI engineering di livello intermedio, tenuto da InsightLearn Curated AI su InsightLearn. Il percorso comprende 8 lezioni organizzate in 3 sezioni, per una durata complessiva di 9h 0m. Understand AI safety fundamentals and implement practical safety measures in production AI systems.
- Docente: InsightLearn Curated AI
- Categoria: RAG e AI engineering
- Livello: intermedio
- Durata: 9h 0m
- Accesso: gratuito in questa fase di validazione, in cambio di un feedback al termine
- Certificato: certificato di completamento verificabile online
Descrizione del corso
InsightLearn è in fase di sviluppo (work in progress): i contenuti di questa pagina sono pubblicati esclusivamente a fini di verifica e test.
A practical course on AI safety for engineers. Covers alignment fundamentals (reward hacking, specification gaming, goal misgeneralization), red-teaming techniques for LLMs (jailbreaks, prompt injections, data poisoning), input/output filtering strategies, content moderation APIs (OpenAI moderation, Anthropic guidelines), safe system design patterns, EU AI Act compliance overview, NIST AI RMF framework, bias detection and mitigation, and building internal AI safety review processes.
Cosa imparerai
- Curated from public resources. Understand AI safety fundamentals and implement practical safety measures in production AI systems.
Programma del corso
- Reward hacking, specification gaming, and goal misgeneralization (30 min)
- RLHF, Constitutional AI, and preference learning (35 min)
- LLM red-teaming: jailbreaks, injections, and extraction attacks (40 min)
- Input/output filtering: guardrails and content policies (32 min)
- Bias detection and fairness metrics for LLMs (25 min)
- EU AI Act: high-risk system classification and requirements (35 min)
- NIST AI RMF: risk management framework for AI systems (30 min)
- Building an internal AI safety review process (28 min)
Dalle lezioni
Estratto della trascrizione di «Reward hacking, specification gaming, and goal misgeneralization»
Benvenuto in questa lezione del corso pratica la ISA FETI, Alignment, Red Dehaming, and Responsible Deployment. In questa session esploveremo Reward Hacking, Specificatio Coming, and Loal Misgeneralizatio. Inizieremo con i concerti fondamentali e i principi teorici di base. Vedremo poi applicazioni pratiche e casi usoreali nel mondo dello sviluppo AI. Analiseremo se... and the best practices of the sector. At the end of this lesson, you will be able to apply the techniques of Beware Hacking, Specification Coming, and your generalization of your projects. We will start with the fundamental concepts and the theoretical principles of the base. We will then see practical applications and cases of real use in the world of development. Let's analyze them a little. and…
Estratto della trascrizione di «RLHF, Constitutional AI, and preference learning»
Benvenuto in questa lezione del corso pratica la ISA FETI. Alignment, rente-homing, and responsibile deployment. In questa session esploreremo RBLHF, constituzione la I, and preferential learning. Inizieremo con i concetti fondamentali e i principi teorici di base. Vedremo poi applicazioni pratiche e casi d'uso reali nel mondo dello sviluppo AI. Analiseremo tempi. and the best practices in the sector. At the end of this lesson, it will be possible to apply the RBLHF techniques constitutionally and preferably the learning in your projects. We will start with the fundamental concepts and the theoretical principles of the base. We will then see practical and almost universal applications in the development world. We will then analyze the concrete elements. and the best practices…
Estratto della trascrizione di «LLM red-teaming: jailbreaks, injections, and extraction attacks»
Benvenuto in questa lezione del corso practicale isa FETI, Alignment, Rent-Aming, and Responsible Deployment. In questa session esploveremo LLM Rent-Aming, Jail Breaks, Injections, and Extraction Attacks. Inizieremo con i concepti fondamentali e i principi teorici di base. Vedremo poi applicazioni pratiche e casi usoreali nel mondo dello sviluppo ai. We will analyze concrete examples and the best practices in the sector. At the end of this lesson you will be able to apply autonomously the techniques of LLMR in your projects. We will start with the fundamental concepts and the basic theoretical principles. We will then see practical applications and almost real uses in the world of development. We will analyze concrete examples and the best practices in the sector.…
Altri corsi di RAG e AI engineering
- Fine-Tuning LLMs: LoRA, QLoRA, and Full Fine-Tuning
- Function Calling & Tool Use: Multi-Model Production Patterns
- LangSmith: Tracing, Debugging, and Monitoring LLM Apps
- LLM Evals: RAGAS, DeepEval, and Automated Testing
- Local LLMs: Ollama, vLLM, and Self-Hosted AI
- Multimodal AI: Vision, Audio, and Image Generation APIs
Domande frequenti
Quanto dura il corso AI Safety: Alignment, Red-Teaming, Responsible Deployment?
Il corso dura 9h 0m in totale, con 8 lezioni suddivise in 3 sezioni, da seguire online al proprio ritmo.
Serve esperienza pregressa?
Il corso è di livello intermedio e non indica requisiti specifici di ingresso.
Il corso rilascia un certificato?
Sì: al completamento del corso ricevi un certificato di completamento verificabile online.