- 課程詳情
- 學(xué)習(xí)評價(jià)(1)
- 上課校區(qū)(1)
培訓(xùn)時(shí)長：2 天（15 課時(shí)）
課程介紹：
隨著人工智能技術(shù)的飛速發(fā)展，大模型成為了推動(dòng)自然語言處理、圖像識別等眾
多領(lǐng)域創(chuàng)新的關(guān)鍵。然而，如何高效地在本地環(huán)境中部署這些大型模型，并根據(jù)
特定需求對其進(jìn)行微調(diào)，成為了企業(yè)和研究機(jī)構(gòu)面臨的重要挑戰(zhàn)。
本課程旨在為學(xué)員提供從理論到實(shí)踐的全面指導(dǎo)，幫助學(xué)員掌握大模型的本地部
署與微調(diào)技巧，從而能夠?qū)⑾冗M(jìn)的 AI 技術(shù)應(yīng)用到實(shí)際場景中。
學(xué)員基礎(chǔ)：
? 具備一定的 Python 編程經(jīng)驗(yàn)
? 對機(jī)器學(xué)習(xí)或深度學(xué)習(xí)有基本了解
? 了解常見的深度學(xué)習(xí)框架（如 TensorFlow、PyTorch）
? 已熟悉大模型相關(guān)基本概念
? 對云計(jì)算有一定認(rèn)識，了解虛擬化、容器化等概念
學(xué)后收獲：
? 理解大模型的特點(diǎn)及其對硬件資源的需求
? 掌握多種大模型如 DeepSeek 的本地部署方法
? 學(xué)會(huì)使用不同的工具和框架對大模型進(jìn)行微調(diào)
? 了解模型壓縮技術(shù)，提高模型效率
? 理解大模型的安全治理重要性及其實(shí)現(xiàn)方法
? 能夠獨(dú)立完成大模型的部署與微調(diào)項(xiàng)目
課程內(nèi)容：
模塊 主要內(nèi)容
大模型本地部署
? 本地部署基礎(chǔ)認(rèn)知
? 為什么要進(jìn)行本地部署
? 模型參數(shù)量與硬件資源
◆ 模型大小與計(jì)算資源的關(guān)系
◆ 不同規(guī)模模型的適用場景
? 環(huán)境準(zhǔn)備
? 必要的軟件和庫安裝
◆ CUDA
◆ Python 虛擬環(huán)境
◆ Docker
◆ Pytorch
◆ Git
? 開發(fā)環(huán)境配置
模塊 主要內(nèi)容
? Ollama 快速部署大模型
? Ollama 平臺介紹
? 一鍵部署流程
? 實(shí)戰(zhàn)練習(xí)：使用 Ollama 部署 DeepSeek R1 大模型
? vLLM 生產(chǎn)級部署大模型
? vLLM 框架概述
? 部署步驟解析
? 實(shí)戰(zhàn)練習(xí)：使用 vLLM 部署 DeepSeek R1 大模型
? 開源大模型應(yīng)用開發(fā)平臺 Dify 本地部署
? Dify 平臺特性
? Dify 適用場景
? 實(shí)戰(zhàn)練習(xí)：基于 Dify 集成 DeepSeek
大模型微調(diào)
? 大模型訓(xùn)練流程回顧
? 什么是模型微調(diào)
? 微調(diào)的基本概念
? 微調(diào)的重要性
模塊 主要內(nèi)容
? 微調(diào)方法
? 全參微調(diào)適用場景與風(fēng)險(xiǎn)控制
? 主流 PEFT 技術(shù)對比（LoRA/QLoRA/Adapter/P-Tuning）
? 微調(diào)工具
? 流行的微調(diào)工具介紹
◆ Transformers
◆ MS-Swift
◆ Deep-Speed
◆ LLaMA-Factory
? 工具的選擇與使用
? 數(shù)據(jù)工程體系
? 模型壓縮（量化）
? 模型蒸餾
? 模型蒸餾的基本原理
? 模型蒸餾的應(yīng)用場景
? DeepSeek 模型蒸餾的實(shí)現(xiàn)過程解析
模塊 主要內(nèi)容
? 實(shí)戰(zhàn)：DeepSeek 模型蒸餾實(shí)踐
? 大模型安全治理
? 為什么要進(jìn)行安全治理
? RLHF 技術(shù)全景（PPO/DPO/CPO）
? 微調(diào)模型評估
? 實(shí)戰(zhàn)
? 基于 Llama Factory 微調(diào)一個(gè)法律大模型
? 基于 DeepSpeed 大模型并行訓(xùn)練框架 LoRA 微調(diào)實(shí)踐
? 基于 ms-swift LoRA 微調(diào) Qwe*****1.5B 實(shí)踐
課后贈(zèng)送拓展課程（錄播）
? 《Linux 快速入門》
? 《Docker 快速入門》
? 《華為昇騰硬件部署與微調(diào)大模型》
? 《基于 ComfyUI 本地部署 DeepSeek 開源多模態(tài)模型 Janus-Pro》
-
史*輝
2024.11.29課程實(shí)用性強(qiáng)，讓我的學(xué)習(xí)收獲很大。老師講解耐心仔細(xì)，專業(yè)水平高，我對此課程非常滿意。
報(bào)名課程：紅帽RHCE認(rèn)證及實(shí)戰(zhàn)課程
報(bào)名學(xué)費(fèi)： ￥2360
-
清華校區(qū)
地址：中關(guān)村大街
電話：400-029-0976 轉(zhuǎn) **** 查看號碼
東方瑞通教育資深顧問馮老師
東方瑞通,IT職業(yè)認(rèn)證+終身學(xué)習(xí)培訓(xùn)服務(wù) 微信號：150******60
授課老師 更多
-
崔佳
計(jì)算機(jī)技術(shù)培訓(xùn)
東方瑞通高級講師幽默、生動(dòng)，層次感強(qiáng)，結(jié)構(gòu)清晰，深入淺出，語言風(fēng)格沉穩(wěn)和收斂;在PMP考前培訓(xùn)的輔導(dǎo)方面具有獨(dú)到的方法，多年的運(yùn)營商技術(shù)外包服務(wù)經(jīng)歷及央企和銀行信息化項(xiàng)目，積累了大量的授課經(jīng)驗(yàn)，授課學(xué)員一次通過PMP率高。 詳細(xì)
-
韓梅
計(jì)算機(jī)技術(shù)培訓(xùn)
東方瑞通高級講師韓梅老師十多年來一直從事IT方向的教學(xué)，同時(shí)為企業(yè)提供IT架構(gòu)解決方案，具有豐富的教學(xué)及1T服務(wù)工作經(jīng)驗(yàn)。在授課中將實(shí)際解決問題方案與理論相融合,教學(xué)風(fēng)格深入淺出，易于理解吸收。 詳細(xì)
-
李鋼
計(jì)算機(jī)技術(shù)培訓(xùn)
東方瑞通高級講師李老師有十年以上培訓(xùn)和1T服務(wù)項(xiàng)目經(jīng)驗(yàn)，資深講師。多年來一直從事培訓(xùn)、IT服務(wù)及教案開發(fā)等工作。具有豐富的理論和實(shí)戰(zhàn)經(jīng)驗(yàn)。曾為多家企業(yè)提供IT綜合解決方案，架構(gòu)規(guī)劃，并得到企業(yè)一致好評。 詳細(xì)
關(guān)于我們 詳情
? ? ? 東方瑞通教育成立于1998年，起步于IT培訓(xùn)，是中國與微軟、華為、SAP授權(quán)培訓(xùn)合作伙伴，也是信息安全、VMware、Redhat、Oracle、等授權(quán)培訓(xùn)合作伙伴，目前擁有18家國際IT原廠授權(quán)，也是國內(nèi)規(guī)模大的Prometric、VUE授權(quán)考試中心。經(jīng)過20年的成長和積累，我們的培訓(xùn)課程不僅涵蓋了IT全線產(chǎn)品，還包括眾多通用技能類培訓(xùn)課程，從公開課到企業(yè)定制培訓(xùn)，服務(wù)過的世界500強(qiáng)企業(yè)超350家，活躍學(xué)員達(dá)數(shù)100000人。? ? ?公司總部位于北京，2008年啟動(dòng)上海全資子公司，之后陸續(xù)在天津、廣州、武漢、濟(jì)南、深圳、成都、重慶等地建立分部，全國各分公司共享講師資源，擁有統(tǒng)一的教學(xué)運(yùn)營、質(zhì)量監(jiān)管平臺，確保教學(xué)質(zhì)量。并憑借此項(xiàng)優(yōu)勢，順利完成了眾多跨國企業(yè)為其在中國各地分支機(jī)構(gòu)所訂購的批量授課委托。? ? ?東方瑞通教育本著創(chuàng)新、誠信、勤奮、雙贏的經(jīng)營理念，為客戶打造了一個(gè)高品質(zhì)的強(qiáng)大技術(shù)團(tuán)隊(duì)，擁有多位專職講師，超過180位長期合作的簽約講師，所有講師均擁有廠商認(rèn)證講師資質(zhì)，IT 相關(guān)領(lǐng)域?qū)嵺`工作經(jīng)驗(yàn)平均 5 年以上，并且都具備超過 2000 課時(shí)的授課經(jīng)驗(yàn)，技術(shù)實(shí)力和授課能力均得到客戶的高度認(rèn)可。
