?課程目標(biāo):
1、掌握AI模型如何實現(xiàn)本地部署
2、掌握AI知識庫的搭建及本地部署文件導(dǎo)錄的要求及格式
3、掌握AI智能體的搭建和訓(xùn)練
4、掌握控制AI生成標(biāo)書等專業(yè)文件格式的技能
5、掌握部署工具的選擇、系統(tǒng)適配要求、本地部署流程
6、掌握AI知識庫相關(guān)的向量庫部署和嵌入模型設(shè)置
7、掌握智能體訓(xùn)練和微調(diào)方法,包括數(shù)據(jù)準(zhǔn)備、模型調(diào)優(yōu)、訓(xùn)練流程管理
8、掌握文件輸出格式定制和多場景適配方法,包括模版設(shè)計、格式適配及校驗機制等
9、掌握AI在SW等軟件上的二次開發(fā),實現(xiàn)快速建模及工程出圖
10、掌握LongWriter、DeepSeek、Qwen等主要開源大模型的部署和優(yōu)化
11、掌握GPT、Gemini等主要商用大模型的調(diào)用
12、掌握AI模型本地部署和工程落地和相關(guān)優(yōu)化
課程大綱:
|
主題 |
內(nèi)容 |
|
AI大模型本地部署 |
1、?LongWriter模型介紹 2、?模型部署環(huán)境適配 l?Ubuntu22.04容器準(zhǔn)備 l?GPU檢測 l?CUDA安裝 3、?模型下載 l?HuggingFace介紹 l?ModelScope下載 4、?模型本地部署 l?模型文件校驗 l?Xinference部署 l?vllm安裝 l?啟動模型服務(wù) 5、?WebUI部署 l?WebUI部署 l?模型配置 l?對話測試 |
|
智能體平臺部署 |
1、?Dify簡介 2、?Dify部署 l?Docker容器化部署 l?裸機虛機部署 3、?模型庫配置 l?本地模型服務(wù)化調(diào)用 l?遠(yuǎn)程模型接口調(diào)用 4、?Dify知識庫配置 l?Milvus向量庫配置 l?嵌入模型配置 l?向量庫索引優(yōu)化 l?知識庫上傳與檢索 5、?Dify工作流配置 l?工作流模版配置 l?典型工作流節(jié)點 l?工具調(diào)用配置 l?模型集成與調(diào)用 |
|
標(biāo)書生成案例(上) |
1、?傳統(tǒng)標(biāo)書制作的瓶頸 2、?智能標(biāo)書生成系統(tǒng)架構(gòu)設(shè)計 3、?標(biāo)書素材知識庫與數(shù)據(jù)集構(gòu)建 4、?標(biāo)書背景和約束意圖識別 5、?標(biāo)書大綱思維鏈生成 6、?標(biāo)書模式生成引導(dǎo) |
|
標(biāo)書生成案例(下) |
7、?標(biāo)書生成格式與內(nèi)容驗證 l?標(biāo)書生成結(jié)構(gòu)化聲明 l?標(biāo)書自動驗證與修復(fù) 8、?標(biāo)書生成約束解碼 l?SketchGCD約束解碼 l?KG知識圖譜約束解碼 9、?標(biāo)書結(jié)構(gòu)化輸出SFT微調(diào) 10、標(biāo)書生成的SRL強化學(xué)習(xí)優(yōu)化 11、標(biāo)書生成的TOS控制與工具調(diào)用 12、標(biāo)書生成質(zhì)量智能評估與版本自動迭代 |
?
以上課程可以根據(jù)客戶實際情況進(jìn)行靈活調(diào)整。