西藏四隙网络技术有限公司

AI大模型公開課

一、培訓(xùn)特色
1.理論與實(shí)踐相結(jié)合、案例分析與實(shí)驗(yàn)穿插進(jìn)行；
2.專家精彩內(nèi)容解析、學(xué)員專題討論、分組研究；
3.通過全面知識理解、專題技能掌握和安全實(shí)踐增強(qiáng)的授課方式。

二、培訓(xùn)目標(biāo)
1.整體掌握大模型理論知識；
2.了解自注意力機(jī)制、Transformer模型、BERT模型；
3.掌握GPT1、GPT2、GPT3、chatGPT原理與實(shí)戰(zhàn)；
4.了解LLM應(yīng)用程序技術(shù)棧和提示詞工程Prompt Enginerring；
5.了解國產(chǎn)大模型ChatGLM；
6.了解Sora大模型技術(shù)優(yōu)勢；
7.掌握語言理解與字幕生成及其應(yīng)用；
8.掌握圖像生成和應(yīng)用實(shí)操；
9.了解應(yīng)用場景與潛力分析；
10.了解大模型企業(yè)商用項(xiàng)目實(shí)戰(zhàn)。

三、日程安排
第一天
預(yù)備知識
第一節(jié)：大模型理論知識
1、初探大模型：起源與發(fā)展
2、GPT模型家族：從始至今
3、大模型_GPT_ChatGPT的對比介紹
4、大模型實(shí)戰(zhàn)-大模型2種學(xué)習(xí)路線的講解
5、 大模型最核心的三項(xiàng)技術(shù):模型、微調(diào)和開發(fā)框架
6、 0penAl GPT系列在線大模型技術(shù)生態(tài)
7、0penAl文本模型A、B、C、D四大模型引擎簡介
8、0penAl語音模型Whisper與圖像型DALL·E模型介紹
9、最強(qiáng)Embedding大模型text-embedding-ada模型介紹
10、全球開源大模型性能評估榜單
11、中文大模型生態(tài)介紹與GLM 130B模型介紹
12、ChatGLM模型介紹與部署門檻
13、ChatGLM開源生態(tài):微調(diào)、多模態(tài)，WebUI等項(xiàng)目簡介
預(yù)備知識
第二節(jié)：自注意力機(jī)制、Transformer模型、BERT模型RNN-LSTM-GRU等基本概念
編碼器、解碼器
自注意力機(jī)制詳解
Transformer
Mask Multi-Head Attention
位置編碼
特定于任務(wù)的輸入轉(zhuǎn)換
無監(jiān)督預(yù)訓(xùn)練、有監(jiān)督 Fine-tuning
BERT思路的理解
BERT模型下游任務(wù)的網(wǎng)絡(luò)層設(shè)計(jì)
BERT的訓(xùn)練
HuggingFace中BERT模型的推斷
基于上下文的學(xué)習(xí)
代碼和案例實(shí)踐：
基本問答系統(tǒng)的代碼實(shí)現(xiàn)
深入閱讀理解的代碼實(shí)現(xiàn)
段落相關(guān)性代碼實(shí)現(xiàn)
第一節(jié)：
GPT1、GPT2、GPT3、chatGPT原理與實(shí)戰(zhàn)監(jiān)督微調(diào)（SFT）模型、
指示學(xué)習(xí)和提示學(xué)習(xí)
簡單提示、小樣本提示、基于用戶的提示
指令微調(diào)
RLLHF技術(shù)詳解（從人類的反饋中學(xué)習(xí)）
聚合問答數(shù)據(jù)訓(xùn)練獎勵模型（RM）
強(qiáng)化學(xué)習(xí)微調(diào)、PPO、
InstructGPT遵循用戶意圖使用強(qiáng)化學(xué)習(xí)方案
Instruct Learning vs. Prompt Learning
ChatGPT增加增加了Chat屬性
AI 系統(tǒng)的新范式
GPT1-GPT2-GPT3-InstructGPT的-chatGPT的技術(shù)關(guān)系
代碼和案例實(shí)踐：
使用chatGPT打造你的私人聊天助理
演示提示詞技巧，翻譯器潤色器、JavaScript 控制臺?、Excel Sheet
網(wǎng)站定制chatgpt-web
第二節(jié)：
Embedding模型實(shí)戰(zhàn)大模型技術(shù)浪潮下的Embedding技術(shù)定位
Embedding技術(shù)入門介紹
從Ono-hot到Embedding
Embedding文本衡量與相似度計(jì)算
OpenAl Embedding模型與開源Embedding框架
兩代OpenAl Embedding模型介紹
text-embedding-ada-002模型調(diào)用方法詳解
text-embedding-ada-002模型參數(shù)詳解與優(yōu)化策略
借助Embedding進(jìn)行特征編碼
Embedding結(jié)果的可視化展示與結(jié)果分析
【實(shí)戰(zhàn)】借助Embedding特征編碼完成有監(jiān)督預(yù)測
【實(shí)戰(zhàn)】借助Embedding進(jìn)行推薦系統(tǒng)冷啟動
【實(shí)戰(zhàn)】借助Embedding進(jìn)行零樣本分類與文本搜索
Embedding模型結(jié)構(gòu)微調(diào)優(yōu)化
借助CNN進(jìn)行Embedding結(jié)果優(yōu)化
【企業(yè)級實(shí)戰(zhàn)】海量文本的Embedding高效匹配
第三節(jié)：
LLM應(yīng)用程序技術(shù)棧和提示詞工程Prompt Enginerring設(shè)計(jì)模式：上下文學(xué)習(xí)
數(shù)據(jù)預(yù)處理/嵌入
提示構(gòu)建/檢索
提示執(zhí)行/推理
數(shù)據(jù)預(yù)處理/嵌入
Weaviate、Vespa 和 Qdrant等開源系統(tǒng)
Chroma 和 Faiss 等本地向量管理庫
pgvector 等OLTP 擴(kuò)展
提示構(gòu)建/檢索
提示執(zhí)行/推理
新興的大語言（LLM）技術(shù)棧
數(shù)據(jù)預(yù)處理管道（data preprocessing pipeline）
嵌入終端（embeddings endpoint ）+向量存儲（vector store）
LLM 終端（LLM endpoints）
LLM 編程框架（LLM programming framework） 
LangChain的主要功能及模塊
Prompts: 這包括提示管理、提示優(yōu)化和提示序列化。
LLMs: 這包括所有LLMs的通用接口，以及常用的LLMs工具。
Document Loaders: 這包括加載文檔的標(biāo)準(zhǔn)接口，以及與各種文本數(shù)據(jù)源的集成。
Utils: 語言模型在與其他知識或計(jì)算源的交互
Python REPLs、嵌入、搜索引擎等
LangChain提供的常用工具
Indexes：語言模型結(jié)合自定義文本數(shù)據(jù)
Agents：動作執(zhí)行、觀測結(jié)果，
LangChain的代理標(biāo)準(zhǔn)接口、可供選擇的代理、端到端代理示例
Chat：Chat模型處理消息
代碼和案例實(shí)踐：
LLM大模型的使用
Prompts的設(shè)計(jì)和使用

第二天
第四節(jié)：LangChain的使用構(gòu)建垂直領(lǐng)域大模型的通用思路和方法
(1) 大模型+知識庫
(2) PEFT(參數(shù)高效的微調(diào))
(3) 全量微調(diào)
(4) 從預(yù)訓(xùn)練開始定制
LangChain介紹
LangChain模塊學(xué)習(xí)-LLMs 和 Prompts
LangChain之Chains模塊
LangChain之Agents模塊
LangChain之Callback模塊
Embedding嵌入
自定義知識庫
知識沖突的處理方式
向量化計(jì)算可采用的方式
文檔加載器模塊
向量數(shù)據(jù)庫問答的設(shè)計(jì)
Lanchain競品調(diào)研和分析
Dust.tt/Semantic-kernel/Fixie.ai/Cognosis/GPT-Index
LlamaIndex介紹
LlamaIndex索引
動手實(shí)現(xiàn)知識問答系統(tǒng)
代碼和案例實(shí)踐：
動手實(shí)現(xiàn)知識問答機(jī)器人
LangChain文本摘要
PDF文本閱讀問答
第五節(jié)：
國產(chǎn)大模型ChatGLM新一代GLM-4模型入門介紹
智譜Al Mass開放平臺使用方法03GLM在線大模型生態(tài)介紹
CharGLM、CogView. Embedding模型介紹
GLM在線知識庫使用及模型計(jì)費(fèi)說明
GLM模型API一KEY獲取與賬戶管理方法
GLM模型SDK調(diào)用與三種運(yùn)行方法
GLM4調(diào)用函數(shù)全參數(shù)詳解
GLM4 Message消息格式與身份設(shè)置方法
GLM4 tools外部工具調(diào)用方法
GLM4 Function calling函數(shù)封裝12GLM4接入在線知識庫retrieval流程
GLM4接入互聯(lián)網(wǎng)web_search方法
【實(shí)戰(zhàn)】基于GLM4打造自動數(shù)據(jù)分析Agent
【實(shí)戰(zhàn)】基于GLM4的自然語言編程實(shí)戰(zhàn)
【實(shí)戰(zhàn)】基于GLM4 Function call的用戶意圖識別
【實(shí)戰(zhàn)】基于GLM4的長文本讀取與優(yōu)化
第六節(jié)：
Sora大模型技術(shù)優(yōu)勢什么是Sora
Sora視頻生成能力
Sora技術(shù)獨(dú)特之處
統(tǒng)一的視覺數(shù)據(jù)表示
視頻壓縮網(wǎng)絡(luò)
擴(kuò)散型變換器模型
視頻壓縮與潛在空間
第七節(jié)：
語言理解與字幕生成及其應(yīng)用使用圖像和視頻作為提示詞
動畫DALL·E圖像
擴(kuò)展生成的視頻
視頻到視頻編輯
連接視頻
字幕生成
重字幕技術(shù)
GPT技術(shù)應(yīng)用
第三天
第八節(jié)：
圖像生成和應(yīng)用實(shí)操新興的仿真功能
長期連續(xù)性和物體持久性
角色和物體的一致性
視頻內(nèi)容的連貫性
與世界互動
簡單影響行為模擬
模擬數(shù)字世界
第九節(jié)：
應(yīng)用場景與潛力分析電影與娛樂產(chǎn)業(yè)
游戲開發(fā)
教育與培訓(xùn)
廣告與營銷
科學(xué)研究與模擬
生成數(shù)據(jù)
畢業(yè)生職位分類案例研究
提示函數(shù)
FunctionCalling
提示工程在模型上的應(yīng)用
AI聊天社交應(yīng)用
CallAnnie
NewBing
AI輔助文章創(chuàng)作
迅捷AI寫作
ChibiAI
AI辦公智能助手
GrammaAI
AI藝術(shù)領(lǐng)域創(chuàng)作
第十節(jié)：
大模型企業(yè)商用項(xiàng)目實(shí)戰(zhàn)講解使用大模型實(shí)現(xiàn)推薦系統(tǒng)（商用案例）
使用大模型實(shí)現(xiàn)汽車在線銷售系統(tǒng)
企業(yè)自然語言sql生成（企業(yè)內(nèi)部系統(tǒng)使用）

AI大模型公開課