Vývoj a nasazení aplikací AI/ML na platformě Red Hat OpenShift AI (AI267)

Popis kurzu

Zprovozněte celý životní cyklus moderních aplikací umělé inteligence ve velkém měřítku pomocí Red Hat OpenShift AI.

Kurz Developing and Deploying AI/ML Applications on Red Hat OpenShift AI (AI267) poskytuje studentům základní znalosti pro řízení kompletního životního cyklu moderních aplikací AI. Tento kurz pomáhá studentům vybudovat si základní dovednosti pro používání Red Hat OpenShift AI k efektivnímu trénování, testování, nasazování a monitorování prediktivních i generativních modelů AI ve velkém měřítku.

Tento kurz je založen na platformě Red Hat OpenShift ^® 4.18 a Red Hat OpenShift AI 2.25.

Shrnutí obsahu kurzu

• Úvod do Red Hat OpenShift AI
• Používání pracovních panelů pro vývoj AI/ML
• Základy obsluhy modelů
• Servírování generativních a prediktivních modelů AI
• Monitorování modelů AI
• Úvod do potrubí datové vědy
• Pokročilý vývoj a experimenty s pipeline Kubeflow
• Výběr, optimalizace a vyhodnocování modelů GenAI
• Tvorba aplikací GenAI

Osnova tohoto kurzu

Úvod do Red Hat OpenShift AI
Zjistěte, jak Red Hat OpenShift AI poskytuje kompletní platformu MLOps a GenAIOps a jak ji využít ke konfiguraci projektů datové vědy pro týmovou spolupráci.

Použití pracovních panelů pro vývoj AI/ML
Využití prostředí workbench pro vývoj AI/ML a jejich propojení se zdroji a úložišti dat.

Základy obsluhy modelů
Příprava, nasazení a obsluha modelů pomocí funkcí obsluhy modelů OpenShift AI.

Servírování generativních a prediktivních modelů AI
Nasazujte a obsluhujte modely AI pomocí specifických runtime, včetně OpenVINO pro prediktivní modely a vLLM pro velké jazykové modely.

Monitorování modelů AI
Monitorujte nasazené modely z hlediska zkreslení, driftu dat a výkonu pomocí nástrojů TrustyAI a observability, abyste zajistili spolehlivý a etický výkon AI v produkci.

Úvod do potrubí datové vědy
Vytváření a správa základních datových vědeckých pipeline pomocí Elyry a Kubeflow SDK k automatizaci základních pracovních postupů AI/ML.

Pokročilý vývoj a experimenty s pipeline Kubeflow
Implementujte pokročilé funkce pipeline včetně kontejnerových komponent, správy artefaktů, konfigurace Kubernetes a systematického experimentování pro produkční pracovní postupy MLOps.

Výběr, optimalizace a vyhodnocování modelů GenAI
Systematický výběr, optimalizace a vyhodnocování rozsáhlých jazykových modelů pomocí katalogu modelů RHOAI, kompresních technik a vyhodnocovacích rámců.

Vytváření aplikací GenAI
Vytvářejte aplikace GenAI připravené k produkci pomocí průmyslových vzorů včetně RAG, agentových pracovních postupů a důvěryhodných postupů AI a přejděte od základního obsluhování modelů k dodávkám kompletních inteligentních řešení.

Cílová skupina

• Inženýři ML odpovědní za řešení provozních úkolů životního cyklu MLOps/LLMOps, jako je nasazení, automatizace a monitorování.
• Datoví vědci, kteří trénují, nasazují a sledují své vlastní modely.

Doporučené školení

• Proveďte naše bezplatné hodnocení, abyste zjistili, zda tato nabídka nejlépe odpovídá vašim dovednostem.
• Základní znalosti principů strojového učení a pracovních postupů.
• Základní znalosti generativní umělé inteligence a velkých jazykových modelů (LLM).
• Jsou vyžadovány základní zkušenosti se systémem Git
• Je vyžadována zkušenost s vývojem v jazyce Python nebo absolvování kurzu Programování v jazyce Python s Red Hat (AD141) .
• Jsou vyžadovány zkušenosti s aplikací Red Hat OpenShift nebo absolvování kurzu Red Hat OpenShift Developer II: Building and Deploying Cloud-native Applications (DO288) .
  
  

Úvahy o technologiích

• Pro virtuální studenty, studenty s vlastní výukou a studenty v učebně:
  • Je vyžadován přístup k internetu
  • Laboratoře se provádějí v online výukovém prostředí společnosti Red Hat.
  • Pro studenty v učebně může společnost Red Hat v budoucnu jako alternativu zpřístupnit lokálně nainstalované prostředí učebny.